Digitale Transformation im demokratischen Verfassungsstaat
Forschungsfeld 1: Digitale Transformation im demokratischen Verfassungsstaat
Die digitale Transformation macht auch vor dem Verfassungsstaat nicht Halt und fordert seine Institutionen grundlegend heraus. Um Anschluss an die zunehmend digitale Lebenswelt des Bürgers halten zu können, muss auch der Staat der Digitalisierung Rechnung tragen und den technischen Wandel in sein Handeln integrieren. Dies betrifft zuvorderst die Verwaltung, deren Funktion die Erfüllung konkreter öffentlicher Aufgaben ist. Doch im Gegensatz zu privatwirtschaftlichen Unternehmen sieht sich die staatliche Aufgabenwahrnehmung der Zukunft rechtsstaatlichen und demokratietheoretischen Bedenken ausgesetzt. Wie lassen sich Verfahren automatisieren und gleichzeitig die historisch gewachsenen Anforderungen des Grundgesetzes bewahren? Die Rechtswissenschaft steht vor der Aufgabe, für die neuen Konstellationen Lösungen zu finden, die dem verfassungsmäßigen Rahmen des Grundgesetzes gerecht wird und gleichzeitig für eine größtmögliche Öffnung gegenüber neuen Technologien sorgt.
Das öffentliche Verwaltungshandeln hat verfassungsrechtlichen Prinzipien zu entsprechen. Es muss einerseits recht- und gesetzmäßig sein; gleichzeitig folgt aus dem Demokratieprinzip die Legitimationsbedürftigkeit jeglicher Ausübung öffentlicher Gewalt. Das Konstrukt personengebundener demokratischer Legitimation, das auf dem Konzept personeller Verantwortung beruht, verändert sich bei der Entscheidung durch künstliche Intelligenzen grundlegend. Entscheidungsträger ist nicht länger ein legitimierter Amtswalter, sondern ein autonomer Algorithmus. Mit Blick auf die notwendige demokratische Legitimation jeglichen Staatshandelns, stellt sich die im Unterprojekt 1 weiter erörterte Frage, unter welchen Umständen der Einsatz autonomer Algorithmen überhaupt demokratisch legitimiert und damit eine Organisationsoption darstellen kann?
Das Unterprojekt 2 behandelt die Frage, ob die mittlerweile bestehende gesellschaftliche Lebensrealität und Erwartung der Bürger nicht gar in die Richtung einer Pflicht zum Einsatz künstlicher Intelligenzen in der öffentlichen Verwaltung zeigt. Mit dem technischen Fortschritt gehen Effizienz- und Effektivitätssteigerungen einher, die ebenso eine Verantwortung des Staates zum Einsatz KI-basierter Systeme begründen könnten. Der Einsatz KI-basierter Systeme führt dazu, dass die Bürger einen vereinfachten Zugang zu den Verwaltungsbehörden und eine schnellere Entscheidung erlangen. Wird nicht also erst der Einsatz autonomer Algorithmen dem Grundsatz gerecht, dass der Staat dem Bürger zu dienen hat und in dessen Interesse besteht; mithin eine Rückkoppelung der Legitimationswirkung entsteht?
Hieran knüpft unmittelbar das Unterprojekt 3 an, das sich mit der Problematik der Staatshaftung für Fehlentscheidungen autonomer Algorithmen auseinandersetzt. Wie lösen wir entstehende Verantwortungslücken, wenn ein autonomer Algorithmus eine rechtswidrige Entscheidung fällt, die einem einzelnen Amtswalter nicht zurechenbar ist? Hier wird letztlich entscheidend sein, ob das mit dem Einsatz von selbstlernenden Algorithmen verbundene Autonomierisiko der Digitalisierung in die Risikosphäre des Staates fällt.
