Unterprojekt 3 - Staatshaftung und Autonomierisiko

Staatshaftung und Autonomierisiko

Mit der Einführung autonomer Algorithmen in Verwaltungsverfahren ist das Risiko von Verantwortungslücken verbunden, insbesondere weil die in diesem Rahmen entstehenden Fehler nicht persönlich verantwortlichen Amtsträgern, sondern der Autonomie von Algorithmen zuzurechnen sind.

Grundsätzlich gilt, dass der Staat für hoheitliches Unrecht haftet. Aus dem Rechtsstaatsprinzip als der Kehrseite des Gewaltmonopols ergibt sich, dass dem Staat als Träger der öffentlichen Gewalt eine Restitutionspflicht für den Fall ihrer rechtswidrigen Ausübung zukommt. Das auf diesen Grundgedanken basierende Staatshaftungssystem kommt jedoch an seine Grenzen, je mehr der Komplexitätsgrad der Automatisierung zunimmt.

Insbesondere lässt sich in solchen Fällen nicht mehr an eine persönliche Haftung des Amtswalters für das Ausgabeergebnis anknüpfen. Der der Amtshaftung immanente Begriff des Verschuldens erfordert eine schuldhafte Amtspflichtverletzung, das heißt ein konkret feststellbarer Amtswalter muss eine ihm vorwerfbare Fehlleistung erbracht haben. Eine solche Fehlleistung ist beim Einsatz zunehmend verselbstständigter autonomer Algorithmen nicht mehr nachvollziehbar; der Amtswalter darf sich dieser Systeme bedienen und das daraus folgende Autonomierisiko in Kauf nehmen. In der Standardkonstellation ergibt sich daher die Frage, wie mit dem Autonomierisiko umgegangen werden soll, für das der Amtswalter nicht einzustehen hat, weil eine Anknüpfung an ein ihm zur Last fallendes Fehlverhalten nicht möglich erscheint.