Workshop zur EU-Verordnung über Künstliche Intelligenz
Die “DSGVO” der KI: Von der Notwendigkeit, den Verordnungsvorschlag der EU zur Künstlichen Intelligenz als Erstes zu interpretieren
Die Datenschutzgrundverordnung – allen besser bekannt als “DSGVO” – hat sich mittlerweile zu einem Thema europäischer Tragweite entwickelt. Eine ähnlich schlagkräftige, wenn nicht langfristig sogar politisch bedeutendere, Transformation steht uns nun mit dem Verordnungsvorschlag “AI Act” der Europäischen Kommission für den Bereich der “Künstlichen Intelligenz” bevor.
Künstliche Intelligenz (KI) beschäftigt die Menschheit schon seit den 50er Jahren. In den letzten zwanzig Jahren haben automatisierte Systeme große Fortschritte gemacht und wurden Teil unseres Alltags. Wie eine Website im Internet zu finden ist, entscheidet kein Mensch, sondern ein Algorithmus. Auf den Straßen Deutschlands werden nach und nach vollautomatisierte Autos fahren. In den Wohnungen der Menschen befinden sich aufgrund des rasanten technischen Fortschritts in der Erforschung KI-basierter Modelle schon jetzt eine Vielzahl an Geräten, die auf Basis von Algorithmen Entscheidungen treffen und damit Einfluss auf unser Leben nehmen. Dies kann auch auf subtile Art und Weise geschehen, was es den meisten Menschen sehr schwer macht, KI im direkten Umgang zu erkennen.
Der Verordnungsvorschlag der Europäischen Kommission zu einem Gesetz über KI stellt den ersten Rechtsrahmen für KI weltweit dar und hat gerade deshalb für sehr viel Resonanz gesorgt. Er ist Teil der seit 2019 von der EU-Kommission gestarteten Digitalstrategie, die Rechtsakte zu digitalen Märkten, Dienstleistungen, Daten, Produkten und auch KI vorsieht. In diesen Bereichen geht es sich nicht mehr nur um Harmonisierung des europäischen Rechts, sondern um Schaffung von neuem spezifischem Recht, das auf die „neuen Rechtsbereiche“ der digitalen Welt reagieren kann.
Die EU-Regelung zur KI ist aktuell noch in der Vorbereitung und bietet somit viel Spielraum für die Interpretation und letztendlich Anwendung in der Praxis. Doch es handelt sich dabei um einen Verordnungsvorschlag, der mit einer ähnlichen Schlagkraft wie seinerzeit die DSGVO, unsere Lebenswelt beeinflussen wird. Das wird sich zunächst im Bereich der Erforschung und Entwicklung von KI bemerkbar machen, doch letztendlich werden die Auswirkungen des sog. “AI Acts” in jedem Lebensbereich spürbar sein. Spätestens dann, wenn es darum geht, ob bspw. wünschenswertes Verhalten (so wie in China) durch ein Social Scoring System in unserer Gesellschaft belohnt werden soll oder eben nicht. Der AI Act sieht hier aktuell ein Verbot vor. Spannend ist aber auch eine Regelung, die den Einsatz von Echtzeitüberwachungssystemen für die Strafverfolgung ausgestaltet. Wer bei diesen Problemfeldern die Interpretationshoheit über den Verordnungsentwurf erringt, kann entscheidende Weichen für die Zukunft stellen.
Ziel des Workshops war es, beginnend mit den Grundlagen zur KI einzelne wesentliche Punkte des Verordnungsentwurfes vorzustellen und in einer Diskussion aufzuarbeiten.
Dieser Aufgabe widmeten sich ExpertInnen aus Wissenschaft, Politik und Industrie im Rahmen des Workshops zur EU-Verordnung. Er fand am Freitag, den 01. April bis Samstag, den 02. April 2022 unter der Leitung von Prof. Dr. Dr. Eric Hilgendorf als Mitglied des von der Staatsregierung berufenen Bayerischen KI-Rats in der Alten Universität Würzburg statt. Er war international die erste wissenschaftliche Veranstaltung, die systematisch den Entwurf der EU-Kommission aufarbeitete.
Das Ziel war es zudem, kritische Fragestellungen im Plenum zu erörtern und den AI Act aus verschiedenen Perspektiven zu betrachten. Außerdem wurden die Bereiche, die von dieser Regelung künftig betreffen sein werden, etwa die Medizin oder die Justiz. Während online knapp 60 Personen teilnahmen, diskutierten vor Ort knapp 40 Personen über die aufgeworfenen Fragen. Hierzu stellten die ReferentInnen einzelne Abschnitte des Verordnungsvorschlags vor und lieferten wesentliche Punkte für spannende Diskussionen.
Prof. Dr. Dr. Eric Hilgendorf betonte in seinem Schlusswort die Wichtigkeit von Präsenzveranstaltungen und stellte fest, dass weitere Tagungen zum Verordnungsentwurf oder zum „Data Act“ nötig sein werden.
Die Ergebnisse der Tagung sollen für einen Tagungsband, der von Dr. David Roth-Isigkeit und Prof. Dr. Dr. Eric Hilgendorf herausgegeben wird, genutzt werden. Das Handbuch wird voraussichtlich im Herbst diesen Jahres veröffentlicht werden. Inhaltlich kam die Gruppe v.a. zu dem Schluss, dass der Verordnungsvorschlag der EU aktuell noch zu vage sei und an vielen Stellen konkretisiert werden solle.
Bei Fragen rund um den Bayerischen KI-Rat können Sie sich an Tamara Tomasevic, ki.rat(at)tum.de, wenden.
Der Bayerische KI-Rat veranstaltet zusammen mit der Würzburger Forschungsstelle RobotRecht, dem Würzburger Zentrum für die sozialen Implikationen Künstlicher Intelligenz (SOCAI), dem Würzburger Center for Artificial Intelligence and Data Science (CAIDAS) und dem Bayerischen Forschungsinstitut für Digitale Transformation (bidt) einen Workshop zur neuen Verordnung der EU über Künstliche Intelligenz am 01. und 02. April 2022 in der Alten Universität in Würzburg und lädt dabei alle Interessierten herzlich ein.
Künstliche Intelligenz beschäftigt die Menschheit schon seit den 50er Jahren und in den letzten zwanzig Jahren haben automatisierte Systeme große Fortschritte gemacht und wurden Teil unseres Alltags. Wie eine Website im Internet zu finden ist entscheidet kein Mensch, sondern ein Algorithmus. Auf den Straßen Deutschlands werden nach und nach vollautomatisierte Autos fahren und in den Wohnungen der Menschen befinden sich schon jetzt eine Vielzahl an Geräten, die auf Basis von Algorithmen Entscheidungen treffen und damit Einfluss auf unser Leben nehmen.
Der Verordnungsvorschlag der Europäischen Kommission zu einem Gesetz über Künstliche Intelligenz stellt den ersten Rechtsrahmen für Künstliche Intelligenz weltweit dar und hat gerade deshalb für sehr viel Resonanz gesorgt. Ziel des Workshops ist es, beginnend mit den Grundlagen zur Künstlichen Intelligenz einzelne wesentliche Punkte des Verordnungsentwurfes vorzustellen und in einer Diskussion aufzuarbeiten.
Die Veranstaltung wird hybrid stattfinden. Teilnehmer vor Ort sind herzlich willkommen. Um eine Anmeldung an Nicolas.Kutschera(at)uni-wuerzburg.de wird gebeten. Bitte beachten Sie, dass nach aktuellem Stand für Präsenzteilnehmer 3G gilt. Falls Sie Online teilnehmen möchten, können Sie sich noch bis 31.03. melden. Den Zoom-Link erhalten Sie dann per E-Mail.
Freitag, 1.4.
9.00 Begrüßung - Prof. Dr. Dr. Eric Hilgendorf und Dr. David Roth-Isigkeit
9.15 Entstehungsgeschichte und Leitwerte der KI-VO - Prof. Dr. Dr. Eric Hilgendorf, Universität Würzburg
10.00 Technische Grundlagen von KI - Prof. Dr. Andreas Hotho, Fakultät für Informatik, Universität Würzburg
10.45 Pause
11.00 Anwendungsbereich und KI-Begriff der KI-VO - Prof. Dr. Sabine Gless, Universität Basel / Prof. Dr. Ruth Janal, Universität Bayreuth
11.45 Verbotene KI-Praktiken - Prof. Dr. Dr. Frauke Rostalski/ Dr. Erik Weiss, Universität Köln
12.30: Mittagspause
14.00 Hochrisiko-KI Systeme: Risikobasierter Ansatz - Prof. Dr. Mario Martini, Deutsche Universität für Verwaltungswissenschaften Speyer
14.45 Transparenzanforderungen an Hochrisiko- und andere KI-Systeme - Jun.-Prof. Dr. Lea Kumkar, Universität Trier
15.30 Pause
15.45 Nationale KI-Aufsichtsbehörden und European AI Board - Dr. David Roth-Isigkeit, Universität Würzburg
16.30 Sanktionen - Dr. Carsten Kusche, Universität Würzburg
17.15 Ende des ersten Veranstaltungstages
Samstag, 2.4.
9.15 Innovationsfördernde Maßnahmen - Jun.-Prof. Dr. Wiebke Voß, Universität Würzburg
10.00 Zivilrechtliche Haftung - PD. Dr. Martin Zwickel, Universität Würzburg
10.45 Qualitätskontrolle, Korrekturmechanismen und Codes of Conduct - PD. Dr. Dimitrios Linardatos, Universität Mannheim
11.30 Pause
11.45 Aussprache: Gesetzgebungsperspektiven und Verbesserungsbedarf
12.30 Ende der Veranstaltung
Der Bayerische KI-Rat ist ein Expertengremium der Bayerischen Staatsregierung im Bereich der Künstlichen Intelligenz (KI) und wurde berufen von:
Assoziierte Partner
