Europarat verhandelt Abkommen: KI für die Milliarden
Es könnte die weltweit größte Regulierung Künstlicher Intelligenz werden. Die Konvention des Europarats würde Menschen auf mindestens drei Kontinenten betreffen. Doch es gibt auch Kritik.
Auch das ist KI: interaktives System zur Unterstützung für Gebärdensprachdolmetscher:innen Foto: Sebastian Kahnert/dpa
BERLIN taz | Der Vergleich klingt erst einmal gewagt: „KI-Systeme kann man als neue Motoren der digitalen Welt betrachten“, sagte der Schweizer Ökonom Thomas Schneider jüngst bei einer Diskussion der Unesco über künstliche Intelligenz (KI).
Die Analogie: Während Motoren einst repetitive körperliche Tätigkeiten automatisierten, werde KI repetitive kognitive Abläufe automatisieren. Und ebenso wenig wie Motoren von einer einzelnen weltumspannenden Gesetzgebung oder Vereinbarung reguliert werden, werde das bei KI-Systemen passieren.
Schneider ist nicht nur Ökonom. Er war unter anderem einige Jahre in einer leitenden Position bei der ICANN, der Organisation der Internetselbstverwaltung. Und nun ist er Vorsitzender des KI-Ausschusses des Europarats – und in dieser Funktion eine der Schlüsselpersonen, wenn es um neue Regeln für die Technologie geht.
Denn die EU ist mit ihrem AI Act – zu dem sich das Europaparlament im Juni positioniert hat – nicht die einzige Instanz, die dabei ist, ein Regelwerk für KI zu erarbeiten. Auch die Mitgliedstaaten des Europarats befinden sich derzeit in Verhandlungen über ein multilaterales Rahmenabkommen, eine KI-Konvention. Und neben diesen 46 Staaten sind weitere Nationen an den Verhandlungen beteiligt, unter anderem Mexiko, Israel, Japan und die USA. Damit könnte die Konvention die KI-Regulierung werden, die die größte Zahl an Menschen betrifft.
Die Forderungen nach Regeln für künstliche Intelligenz sind in den vergangenen Wochen und Monaten immer lauter geworden. Zwar sind KI-Anwendungen schon seit Jahren im Alltag vieler Techniknutzer:innen integriert, zum Beispiel in manchen Spamfiltern für E-Mails oder in verschiedenen Apps für die Fotobearbeitung. Aber eine Ahnung des disruptiven Potenzials wurde erst durch die Veröffentlichung von Bild- und Textgeneratoren wie ChatGPT oder Midjourney Ende vergangenen Jahres deutlich.
Zahlreiche Gefahren
Seitdem reißen die Hinweise auf die Gefahren nicht ab: von der Möglichkeit, massenhaft Fake News und Propaganda zu erstellen, bis zum Problem von unausgewogenen Trainingsdaten und daraus resultierenden Verzerrungen. Regulierung soll es richten, am besten möglichst umfassend und multilateral. Aber wie genau?
Der Ansatz der KI-Konvention ist ein umarmender und distanzierender zugleich: „Es muss ein gemeinsamer Rahmen sein, den jeder einzelne Staat an sein eigenes juristisches System anpassen kann“, skizziert Schneider das Ziel.
So würden in dem Rahmen etwa Pflichten zur Folgeabschätzung der Systeme oder zu Einspruchsmöglichkeiten von Betroffenen festgelegt und Anforderungen an die Umsetzung der Konvention, beispielsweise mit Aufsichtsbehörden. Wie diese dann aber ausgestaltet werden, sei Sache der einzelnen Staaten, die den Rahmen in die Praxis übertragen. Dementsprechend werden auch Strafen für Verstöße im nationalen Recht geregelt – und somit uneinheitlich ausfallen.
Ein erstes Dokument, auf Basis dessen die beteiligten Staaten verhandeln, hatte das Sekretariat des KI-Ausschusses Anfang des Jahres veröffentlicht. Hier werden die groben Linien skizziert, die eine Konvention eines Tages ausmachen könnten. Etwa die Grundprinzipien, denen die Entwicklung und der Einsatz von KI-Systemen folgen muss. Demnach darf eine Software nicht diskriminieren, sie muss Anforderungen an Transparenz und Datenschutz erfüllen und darf keine Menschen- und Freiheitsrechte verletzen.
„Es ist ein sehr wichtiges Vorhaben, Menschenrechte, Demokratie und Rechtsstaatlichkeit, also die Werte, denen sich der Europarat verschrieben hat, mit einer KI-Konvention zu schützen“, sagt Angela Müller, KI-Expertin bei der NGO Algorithmwatch. Sie sieht die Arbeit des Europarats nicht als Konkurrenz zu der EU-Regulierung, sondern als Ergänzung. Schließlich sind mehr Staaten beteiligt. Und während die EU per Definition eine stärkere Binnenmarktfokussierung habe, habe der Europarat mit seinem wertezentrierten Ansatz eine andere Herangehensweise. Doch sie sieht auch Gefahren.
Die erste manifestierte sich schon zu Beginn des Jahres. Da beschloss der Ausschuss, dass es künftig zwei parallele Verhandlungsgruppen geben wird: Eine, in der die beteiligten Staaten an dem konkreten Papier arbeiten. Und eine zweite, in der auch zivilgesellschaftliche Organisationen vertreten sind. Das heißt umgekehrt: Diese haben keinen unmittelbaren Einfluss mehr auf den Verhandlungsprozess, sondern immer erst im Nachhinein – also etwa, wenn etwas aus den Sitzungen nach außen dringt oder ein Zwischenstand veröffentlicht wird.
Kritik von NGOs
Mehrere NGOs, darunter Algorithmwatch und das Center for AI and Digital Policy, eine nichtkommerzielle Forschungsorganisation, kritisieren das in einem Statement, das am Dienstag veröffentlicht wird. Die Aufspaltung in zwei Gruppen „untergräbt die Transparenz und Rechenschaftspflicht des Europarates und steht im Widerspruch zur gängigen Praxis“, heißt es darin. Der Europarat ließ eine Anfrage der taz zu der Kritik an dem Verfahren unbeantwortet.
Die zweite Gefahr: eine mögliche Abwägung von Rechten. „In den Verhandlungen kommen natürlich die Interessen der Nationalstaaten zum Tragen“, sagt Müller. Ihre Befürchtung: Deren Argumente von wirtschaftlichen über militärische Interessen bis hin zum Allzweckargument der Innovationsförderung könnten am Ende in einem Verhandlungstopf mit den Grundwerten landen. „Menschenrechte müssen den Rahmen für die Regulierung vorgeben und dürfen nicht zu Verhandlungsmasse werden“, fordert Müller.
Unesco: Neben der EU und dem Europarat gibt es noch mehr Regulierungsansätze: So haben die 193 Unesco-Mitgliedstaaten vor anderthalb Jahren einen Völkerrechtstext zur ethischen Entwicklung und Nutzung von KI verabschiedet. Darin werden für elf Politikfelder, unter anderem Bildung und Wissenschaft, Gesundheit sowie Umwelt, Empfehlungen für eine menschenrechtsbasierte Entwicklung von KI gegeben.
OECD: Bereits 2019 haben sich die 36 OECD-Mitgliedstaaten und 6 weitere Länder auf Grundsätze zu KI geeinigt. Auch hier geht es unter anderem um Menschenrechte, Transparenz und Investitionen in Forschung und Entwicklung. Der Text bleibt jedoch angesichts des Verabschiedungsjahrs sehr allgemein.
G7: Eine der jüngsten Initiativen kommt von den G7, also den führenden Industriestaaten. Deren Staats- und Regierungschefs einigten sich bei ihrem Treffen im Mai auf die Einrichtung eines „Hiroshima-KI-Prozesses". In dessen Rahmen sollen Standards für vertrauenswürdige KI entwickelt werden, die im Einklang mit den demokratischen Werten steht.
Die dritte Gefahr, die Müller sieht: ein Aufweichen der Regeln bei der Umsetzung in den einzelnen Staaten, die sie ratifizieren. „Es ist wichtig, dass es eine Konvention mit Zähnen wird“, sagt die Expertin daher. Ob das der Fall ist, werde sich an mehreren Faktoren zeigen: Gibt es verbindliche Transparenzregeln für den Einsatz von KI? Können sich Betroffene wirksam gegen KI-basierte Entscheidungen wehren? Können Personen für den Einsatz von KI und die mittels der Software getroffenen Entscheidungen in die Verantwortung genommen werden? Diese Fragen will Müller mit Ja beantwortet sehen.
Die nächsten Treffen der Verhandlungsgruppen sind derzeit für Herbst anberaumt. Wann die KI-Konvention tatsächlich fertig ist, dürfte vom Fortgang der Verhandlungen beim AI Act der EU abhängen. Nachdem das Parlament dazu seine Position beschlossen hat, geht es nun in die Verhandlungen mit EU-Kommission und Rat, in dem die Mitgliedstaaten vertreten sind. Eine Einigung ist bis Ende des Jahres geplant.
Doch auch hier werden die teilweise widerstreitenden Interessen der Nationalstaaten zu Konflikten führen. Absehbar ist das bereits beim Thema KI im Zusammenhang mit der inneren Sicherheit. Ein Punkt also, der auch bei der KI-Konvention noch für Diskussion sorgen könnte.
Leser*innenkommentare
JulianM
"Können Personen für den Einsatz von KI und die mittels der Software getroffenen Entscheidungen in die Verantwortung genommen werden? Diese Fragen will Müller mit Ja beantwortet sehen."
Ich halte das auch für den wichtigsten Punkt überhaupt. Das Kapital will die KI benutzen, um die herkömmlichen Prinzipien der Gefährdungshaftung auszuhebeln. Die gute Nachricht ist, dass es mit den Prinzipien der Gefährdungshaftung seit über 100 Jahren bereits das perfekte Instrument gibt, das nur auf die neuen Technologien angewendet werden muss, um sicherzustellen, dass wo immer gefährliche Technik zum Profite von Kapitalisten eingesetzt wird, diese Kapitalisten für jegliche Schäden zu haften haben, die daraus entstehen. Mal sehen, ob unsere Politiker das hinkriegen.
Pi-circle
Habe meine Algorithmen und strukturierte Datenbanken bereits in die Zweigniederlassung meiner Firma in USA ausgelagert. KI wird in Europa gerade abgewürgt.
tomás zerolo
Bitte: nicht ChatGPT unter "KI" subsummieren. Das ist Desinformation.
ChatGPT ist ein Large Language Model. Es ist dem egal, ob es lügt oder die Wahrheit sagt -- es klingt nur plausibel (das kann es ganz gut, dafür wurde es gebaut). Wozu mensch das nutzen kann... das möge jede*r für sich selbst überlegen.
Für die, die tiefer einsteigen wollen: hier [1] ein Versuch, das ganze als technische Dokumentation für ein Software- und Dokumentationsprojekt, und wie es bauchlandet.
Diese Dinger werden nicht einmal rot, wenn sie einem erklären [2], dass 3×4×5 gleich 9 ist, weil ja 3 und 4 durch 5 teilbar sind.
Ich wiederhole: die Dinger "KI" zu nennen ist eine Marketing-Lüge.
[1] MDN can now automatically lie to people seeking technical information
github.com/mdn/yari/issues/9208
[2] lwn.net/Articles/931213/