KI für die Gefahrenbereichsüberwachung – aber wie zuverlässig?
KI-Systeme sind extrem mächtig, jedoch gibt es noch keine Methoden, um die korrekte
Funktionsweise nachzuweisen und diese Systeme für sicherheitskritische Anwendungen
einzusetzen. Weitere Forschung und auch Standardisierung auf dem Gebiet der Funktionalen
Sicherheit von KI-Systemen ist hier notwendig. Eines ist jedoch schon abzusehen: Für den
Nachweis der Funktionalität einer KI-basierten Objekterkennung werden die verwendeten
Trainingsdaten elementar sein.