SafeWahr

Umgebungswahrnehmungssysteme autonomer Fahrzeuge verwenden heutzutage umfangreiche KI-basierte Algorithmen. Etablierte Techniken und Methoden zum Nachweis der Safety stoßen hierbei an ihre Grenzen. Auch wenn viele Fahrszenarien definiert wurden und Millionen von Kilometern zum Testen abgefahren wurden, ist eine umfassende Gewährleistung der Safety während der Design Time nicht möglich. Ziel des Projekts SafeWahr ist Verstöße gegenüber sicherheitskritischen Spezifikationen und Unsicherheiten von KI-basierten Umgebungswahrnehmungssystemen von autonomen Fahrzeugen rechtzeitig zu erkennen. Im Falle einer erkannten Verletzung, setzt das autonome Fahrzeug dann seine Fahraufgabe mit eingeschränkter Funktionalität in einem sogenannten Fail-Operational-Modus fort.

Ein grundlegender Lösungsansatz zur Behandlung von Situationen, welche während der Design Time noch nicht bekannt waren, ist die teilweise Verschiebung der Absicherung in die Betriebszeit. Ultimativ möchte man so eine Art der „Betriebszeitzertifizierung“ ermöglichen. In SafeWahr wird hierzu eine Monitoring-Architektur für die Eigendiagnose entwickelt. Innerhalb dieser Monitoring-Architektur kommen drei Monitore zum Einsatz: (1) Ein Situation Monitor, welcher feststellt, ob die aktuelle Situation während der Design Time berücksichtigt wurde, (2) ein Validity Monitor, welcher feststellt, ob die Ergebnisse des KI-basierte Umgebungswahrnehmungssystems sicher gegenüber der Ergebnisse ist und (3) ein Function Monitor, welcher Verletzungen der Zielfunktion gegenüber Sicherheitsspezifikationen erkennt.