Unterprojekt 1: Normatives Entscheiden durch Maschinen
Fortschritte im Bereich des maschinellen Lernens lassen es denkbar erscheinen, dass komplexe Abwägungsprozesse in Maschinen darstellbar sind. Diese Fähigkeitssteigerung liegt in den besonderen Eigenschaften künstlicher neuronaler Netze (KNN) begründet, die auf Umweltkomplexität besser reagieren können als traditionelle Formen der Computerprogrammierung. Normative Bewertungen erlauben nicht immer klare Unterscheidungen, die durch die offene Struktur von neuronalen Netzen besser repräsentiert werden können. Im Unterprojekt „Normatives Entscheiden durch Maschinen“ werden insbesondere technische Aspekte dieser Entscheidungen untersucht. Wie können wir erreichen, dass Maschinen auf der Basis von menschlichen Werten entscheiden? Welche maschinellen Lernprozesse sind dafür erforderlich?
Ein wichtiger Aspekt des normativen Entscheidens durch Maschinen ist es auch, normative Entscheidungen unter gegebenen Umgebungsbedingungen technisch umzusetzen und Fehlleistungen zu vermeiden. Dies wirft die Frage nach angemessenen Sicherheitssystemen auf. Gemeinsam mit Viacheslav Gromov (AITAD, Offenburg), der die technische Seite des Projektes begleitet, suchen wir nach Lösungsmöglichkeiten beim Treffen von Wertentscheidungen durch Maschinen und deren hinreichende Absicherung bzw. Korrektur. Hier diskutierte Ansätze reichen von reinen Software-Lösungen bis zur Hardwareintegration von entsprechenden, redundanten Systemen, die getroffene Wertentscheidungen überwachen und im Ernstfall korrigieren können.
Die von unserem Partner zum Patent eingereichten hierarchischen KI-Hybridsysteme im Bereich des autonomen Fahrens beruhen dabei auf Abstraktion der Situationen mit Nutzung vorverarbeiteter Daten aus Sensorfusion und weiteren Sensoren (u. a. Reifenzustand, Müdigkeit usw.) sowie den Lokalisationsalgorithmen und der HD-Karte. Je nach System werden auch zusätzliche, unabhängige (Vision-)Sensoren benötigt. Dabei spielen die vorverarbeiteten Daten zwecks schnellerer Entscheidung eine wichtige Rolle (Hierarchie der Softwarelayer). Bestandteile des Systems sind unter anderem eine Einheit zur Segment- und Sicherheitseinschätzung der Umgebung sowie ein Grundszenarienkatalog. Auch explizite Herausforderungen (wie etwa Schadensminimierung) werden – unter anderem mithilfe von semantischer pixelgenauer Segmentierung durch KNNs bzw. einer IMU-gebundenen Prediction-Standardeinheit - berücksichtigt.
