Am 17. Mai 2024 hat der Europarat die KI-Konvention über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit verabschiedet. Diese Verordnung soll sicherstellen, dass die zugrundeliegenden Werte in den zuvor genannten Bereichen beim Einsatz von KI-Technologien gewahrt bleiben.
Der Europarat ist die führende Menschenrechtsorganisation Europas und nicht zu verwechseln mit dem Rat der Europäischen Union. Der Europarat ist unabhängig von der Europäischen Union und hat 46 Mitgliedstaaten, von denen 27 Mitglieder der Europäischen Union sind. Das Ziel des Europarats sind die Förderung der Demokratie sowie der Schutz der Menschenrechte und der Rechtsstaatlichkeit. Beim Rat der Europäischen Union hingegen handelt es sich um ein EU-Organ aus den Staats- und Regierungschefs der Mitgliedstaaten. Auch vom diesem Gremium gibt es Neuerungen zum Thema KI, da es am 21. Mai 2024 dem sogenannten „AI Act“ zustimmte (wir berichten hier).
KI-Technologien bieten grundsätzlich ein enormes Potential, in verschiedensten Unternehmensbereichen fortschrittlich eingesetzt zu werden. Gleichzeitig bergen die Technologien aber auch große Risiken, insbesondere für den Umgang mit Menschenrechten. Ein Beispiel dafür ist das COMPAS-System, das in einigen US-Staaten dafür genutzt wurde, zu beurteilen, ob inhaftierte Häftlinge nach Absitzen ihrer Strafe wieder straffällig werden könnten. Gemäß einer Studie, wurden Häftlinge aufgrund ihrer Hautfarbe allerdings unterschiedlich bewertet.
Um bereits bei der Entwicklung von KI-Systemen solche Fälle auszuschließen, wurde mit der KI-Konvention der erste internationale Vertrag über künstliche Intelligenz geschlossen. In der Konvention sollen dabei sowohl Aktivitäten von öffentlichen Behörden als auch von privaten Akteuren geregelt werden. Allerdings beinhaltet die KI-Konvention auch bereits Ausnahmen, die wiederum ihre beabsichtigte Wirkung schwächen. So sind vom Anwendungsbereich der Konvention beispielsweise bereits Tätigkeiten ausgenommen, die mit dem Schutz der nationalen Sicherheitsinteressen einer Vertragspartei zusammenhängen. Weiterhin gelten Ausnahmen für Forschungs- und Entwicklungstätigkeiten im Zusammenhang mit KI-Systemen.
Außerdem können aufgrund von Unterschieden zwischen den Rechtssystemen der Vertragsparteien alle Mitgliedstaaten grundsätzlich selbst entscheiden, ob sie die Normen der Konvention im Privatsektor anwenden oder eigene Maßnahmen ergreifen wollen. Dies würde bedeuten, dass den Staaten die Möglichkeit offen bliebe, private Unternehmen (z.B. auch sogenannte „Big-Tech-Unternehmen“), aus dem Anwendungsbereich der KI-Konvention auszuklammern. In den Verhandlungen soll dabei insbesondere die USA verstärkt auf die Umsetzung dieses Punktes hingewirkt haben.
Aufgrund der eben beschriebenen „Ausnahmen“ und „Sonderregelungen“ steht die KI-Konvention auch bereits wieder in der Kritik. Zahlreiche Organisationen und Einzelpersonen aus der Zivilgesellschaft haben sich in einem offenen Brief an die Mitgliedstaaten des Europarats und die EU gewandt und die Forderung geäußert, die Ausnahmen zum Schutz nationaler Interessen und für den Privatsektor abzulehnen, da der Anwendungsbereich der KI-Konvention sonst erheblich geschwächt würde.
Der Europäische Datenschutzbeauftragte bezeichnete die Konvention bereits als „eine verpasste Gelegenheit, einen robusten und wirksamen Rahmen für den Schutz der Menschenrechte bei der Entwicklung von KI zu schaffen“.
Quellenangabe:
- Artikel „KI-Konvention vom Europarat verabschiedet“, abgerufen am 31.05.2024 unter: https://www.dr-datenschutz.de/ki-konvention-vom-europarat-verabschiedet/