Künstliche Intelligenz (KI) ist ein Teilgebiet der Informatik, dessen Ziel es ist, Maschinen zu befähigen menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren. Der englische Begriff lautet „Artifical Intelligence“ (abgekürzt mit „AI“).
Beim „AI-Act“ handelt es sich um ein Gesetzesvorhaben der Europäischen Kommission bezüglich des Einsatzes und der Regulierung von Künstlicher Intelligenz. Das umfangreiche Regelwerk ist weltweit die erste entstehende Gesetzesgrundlage dieser Art, weshalb sie höchstwahrscheinlich großen Einfluss auf die weitere Entwicklung von KI nehmen wird. Da es sich beim „AI-Act“ nach dessen Inkrafttreten um eine EU-weite Verordnung handelt, werden die Standards zum Umgang mit KI in jedem Mitgliedsstaat des Europäischen Wirtschaftsraums dieselben sein. Dies hat wiederum zur Folge, dass sich häufig die Standards von Drittländern, die geschäftlich mit der Europäischen Union agieren, ebenfalls an die EU-Rechtslage anpassen.
Die zentrale Betrachtungs-Grundlage der Verordnung ist dabei ein „risikobasierter Ansatz“, der anhand der potenziellen Fähigkeiten und Gefahren verschiedene Auflagen und Verbote beinhaltet. Der AI-Act betrachtet dabei bereits die Entwicklung von KI-Systemen, aber auch deren Implementierung und die anschließende Nutzung. Hierbei soll es festgelegte Risikokategorien geben, denen die Künstlichen Intelligenzen zugeordnet werden können. Je gefährlicher eine KI ist bzw. sein könnte, desto weitreichender sollen die staatlichen Auflagen sein. Dies soll z.B. im Bereich der „Hochrisiko-Systeme“ bis hin zu einem kompletten Verbot der KI gehen. In der Kategorie mit besonders hohem Risiko sind z.B. KI-Systeme anzusiedeln, die im Betrieb von kritischer Infrastruktur oder bei demokratischen Prozessen eingesetzt werden. Auch soll insbesondere das „Social Scoring“ verboten werden. Generell sollen Dienste und Anwendungen in einer Kategorie des höheren Risikos z.B. erweiterte Informations- und Transparenzpflichten gegenüber ihren Nutzern umsetzen müssen. Auch das Thema „Haftung für etwaige Schäden“ ist im EU-Parlament diskutiert worden. Hier sollen im Schadensfall auch die Entwickler der KI und nicht nur die jeweiligen Nutzer (z.B. KMU) beteiligt werden. Für Schadensfälle sind im AI-Act (ähnlich wie in der DSGVO) Sanktionsmöglichkeiten wie z.B. Bußgelder vorgesehen. Diese können bis zu 30 Millionen Euro bzw. bis zu 6% des weltweiten Jahresumsatzes betragen.
Derzeit steht im Gesetzgebungsverfahren des AI-Acts die finale Abstimmung in den Ausschüssen des Europäischen Parlaments aus. Insbesondere das stetige Aufkommen neuer Dienste und Funktionen verzögert hier das Voranschreiten des Prozesses. Zuletzt wollte das EU-Parlament Funktionalitäten neuer Chat- und Bild-KI (siehe Blog-Artikel zum Thema „ChatGPT“) stärker in die Regulierung mit aufnehmen. Ein diskutierter Punkt diesbezüglich war z.B. die Forderung, dass KI-Dienste angeben müssen, ob urheberrechtlich geschütztes Material benutzt worden ist, um diese zu trainieren.
Eine Grundsatzfrage im EU-Parlament bleibt zudem der Umgang mit dem Verhältnis von wirkungsvollen Maßnahmen gegenüber den KI-Systemen und der Gefahr der Überregulierung. Insbesondere der Bereich der polizeilichen Befugnisse wird hier derzeit noch viel diskutiert, da der Einsatz von KI im Rahmen der Gefahrenabwehr gegenüber möglichen KI-Eingriffen in die Privatsphäre von Privatpersonen im Einzelfall sehr schwierig ist.
Ähnlich verhält es sich mit dem Thema „biometrische Echtzeit-Identifizierung im öffentlichen Raum“. Hier waren sich sowohl das EU-Parlament als auch die Mitgliedsstaaten bezüglich eines grundsätzlichen Verbots einig. Insbesondere in der letzten Zeit gab es hier allerdings immer wieder Forderungen nach verschiedenen Ausnahmen.
Darüber hinaus ist auch die Liste der Hochrisiko-Anwendungen noch nicht abschließend abgestimmt.
Sobald sich das Europäische Parlament auf eine gemeinsame Position bezüglich all dieser offenen Punkte geeinigt hat, geht es in die finale Abstimmung des Gesetzestextes unter Mitwirkung des Parlaments, der EU-Kommission und der Rates der Europäischen Union in den sogenannten „Trilogverhandlungen“. Grundsätzlich könnte die Verordnung noch in diesem Jahr in Kraft treten, was nach Art. 85 der KI-Verordnung zufolge hätte, dass sie dann 24 Monate später gelten wird.
Wir sind gespannt auf die weiteren Entwicklungen in diesem Prozess und halten Sie hier auf dem Laufenden.
Quellenangaben:
– Artikel „Neues aus dem EU-Parlament zum AI Act“, abgerufen am 28.04.2023 unter: https://www.dr-datenschutz.de/neues-aus-dem-eu-parlament-zum-ai-act/– Aktuelles / Europäisches Parlament: „Was ist künstliche Intelligenz und wie wird sie genutzt?“, abgerufen am 03.05.2023 unter https://www.europarl.europa.eu/news/de/headlines/society/20200827STO85804/was-ist-kunstliche-intelligenz-und-wie-wird-sie-genutzt