Unterprojekt 2: Maschinen als moralische, politische und rechtliche Akteure

Das Unterprojekt „Maschinen als moralische, politische und rechtliche Akteure“ wird von Luise K. Müller (TU Dresden, assoziiertes Mitglied am SOCAI-Zentrum) geleitet. Das Projekt setzt mit der Frage an, wie die Effekte aggregierter — an sich effizienter und rationaler — algorithmisierter Entscheidungsprozesse und die daraus resultierenden Kosten und Nutzen fair verteilt werden können. Der gegenwärtige Fokus der Maschinenethik auf die moralische Kompetenz von künstlicher Intelligenz (KI) scheint bei solchen Effekten nur bedingt hilfreich, denn in solchen Fällen ist es weder notwendig, noch hinreichend, dass Maschinen moralische Entscheidungen im starken Sinne treffen. Gefragt ist vielmehr die regelgeleitete Handlungskoordinationen von KI zugunsten einer fairen Verteilung der Kosten und Nutzen der Effekte der aggregierten Handlungen.

Die Grundfrage lautet also: Wie muss eine politische durchsetzbare Verteilungsstruktur aussehen, die im Kontext algorithmisierter Entscheidungen die Freiheit und Gleichheit moralischer Subjekte respektiert? Der Fokus auf die Aggregation algorithmischer Entscheidungen, die für sich genommen nicht unfair, in ihrer Fülle und in ihren Mustern aber strukturelle Ungerechtigkeiten hervorbringen, ergibt sich aus der Perspektive der politischen Theorie und Philosophie. Als einen möglichen Lösungsansatz für dieses Problem soll das Projekt untersuchen, inwiefern es theoretisch sinnvoll ist, Maschinen als Träger von Gerechtigkeitspflichten zu verstehen. 

Ähnlich komplexe Fragen schließen sich in der Rechtswissenschaft an. Diese reichen von der Überlegung einer potentiellen Grundrechtsfähigkeit bis zur privatrechtlichen Betrachtung von durch Maschinen abgegebenen Vertragsangeboten. Die juristische Dogmatik stößt an ihre Grenzen, wenn Maschinen selbst Akteure gesellschaftlicher Praktiken werden. Insbesondere im Bereich rechtlicher Verantwortung sind die wesentlichen Fragen noch ungeklärt.