Vor finaler Abstimmung: Kann die Welt KI bändigen?

Diese Woche werden zwei entscheidende Weichen in Sachen KI gestellt. Doch NGOs und Wis­sen­schaft­le­r:in­nen sehen problematische Parallelen.

Protestaktion gegen KI-Gesichtserkennung anlässlich eines Pilotprojekts am Berliner Fernbahnhof Südkreuz Foto: Stefanie Loos

BERLIN taz | In diesen Tagen setzen sich in Straßburg die Ver­tre­te­r:in­nen des Europarats und ausgewählte Nichtmitglieder aus Staaten wie USA, Japan und Kanada zusammen, um eines der größten Abkommen zu künstlicher Intelligenz zu verhandeln: die KI-Konvention des Europarats. Im Zentrum die Frage: Wie soll und kann die Technologie verbindlich und trotzdem global möglichst breit reguliert werden?

Die Verhandlungen im Europarat standen bislang im Schatten der EU. Denn auch diese hat ein Regelwerk für KI erarbeitet. Diese Woche Mittwoch stimmt das Parlament abschließend darüber ab. Das Votum gilt als Formsache – nachdem es in den vergangenen Monaten selbst nach der offiziellen Einigung von EU-Kommission, Parlament und Mitgliedstaaten im Dezember noch eine ganze Reihe an Konflikten gab.

Im Zentrum standen dabei die Vorgaben für die Wirtschaft – hier hatte unter anderem die FDP auf den letzten Metern Bedenken angemeldet – und die Auswirkungen auf Bürgerrechte. Letztlich haben sich die EU-Mitgliedstaaten mit ihrem Interesse an Überwachungsaktivitäten durchgesetzt, zum Beispiel, was die biometrische Gesichtserkennung angeht. Die neuen EU-Regeln teilen KI-Systeme in Risikoklassen ein und sehen je nach Einstufung strengere oder mildere Vorgaben vor. Gelten sollen sie ab Frühjahr 2026 – für die Übergangszeit hofft die EU-Kommission auf freiwillige Zusagen der Unternehmen.

Während der AI Act mit den 27 EU-Mitgliedstaaten schon als bislang größtes verbindliches Regelwerk für KI gilt, könnte der Europarat es mit seiner Konvention noch toppen: Kommt es zu einer Einigung, würde sie nicht nur die 46 Staaten des Europarates betreffen, sondern auch weitere an den Verhandlungen beteiligte Länder, etwa Mexiko, Japan und die USA. Damit könnte die Konvention die KI-Regulierung werden, die die größte Zahl an Menschen betrifft.

Im Unterschied zum AI Act der EU soll die Konvention zwar Regeln vorgeben, aber weniger ins Detail gehen: Vielmehr soll sie einen Rahmen setzen, den die Staaten jeweils an ihr eigenes rechtliches System anpassen. Zum Beispiel könnten Einspruchsmöglichkeiten für Betroffene von KI-Entscheidungen festgeschrieben werden – wie diese dann umgesetzt werden und welche Strafen drohen, bliebe den Nationalstaaten überlassen.

Spielraum und Schlupflöcher

Doch zu der abschließenden Verhandlungsrunde warnen Ver­tre­te­r:in­nen der Zivilgesellschaft: Die Pläne, wie sie sich derzeit abzeichnen, würden den Staaten viel Spielraum lassen, die Technologieunternehmen milde bis gar nicht zu regulieren. „Das würde ein gefährliches Signal senden: Das erste internationale Regelwerk zu KI könnte so den Konzernen einen Freifahrtschein erteilen, KI ihren eigenen Interessen gemäß zu entwickeln und einzusetzen“, kritisiert Angela Müller von der Bürgerrechtsorganisation AlgorithmWatch.

Und auch eines der Schlupflöcher aus dem AI Act droht die Konvention zu reproduzieren: Breite Ausnahmen für die nationale Sicherheit. So stehen im Entwurf für die KI-Konvention im Abschnitt zum Thema natio­nale Sicherheit verschiedene Formulierungsoptionen. Eine davon: „Eine Vertragspartei ist nicht verpflichtet, dieses Übereinkommen auf die Ausgestaltung, die Entwicklung, die Verwendung oder die Außerbetriebnahme von Systemen der künstlichen Intelligenz zum Schutz wesentlicher nationaler Sicherheitsinteressen […] anzuwenden …“.

Auch Aktivitäten im Zusammenhang mit dem Einsatz von Geheimdiensten im Ausland und Spionageabwehr müssten möglich sein, wenn diese „im Einklang mit geltendem Völkerrecht“ durchgeführt würden. Das könnte Türen öffnen für den Einsatz von KI, etwa zur Gesichtserkennung im öffentlichen Raum oder im Zusammenhang mit Grenzschutzinteressen.

Bürgerrechtsorganisationen und zahlreiche Wis­sen­schaft­le­r:in­nen warnen daher in einem offenen Brief an die verhandelnden Staaten vor einer Verwässerung der Rechte von Bür­ge­r:in­nen und Nutzer:innen. „Eine ausgehöhlte Konvention wird nur wenig ernsthaften Schutz für Personen vor mächtigen KI-Systemen bieten, die anfällig sind für Voreingenommenheit, menschliche Manipulation und die Destabilisierung der demokratischen Institutionen“, heißt es in dem Brief, den unter anderem die Oxford-Professorin Sandra Wachter und der ehemalige Bundesdatenschutzbeauftragte Peter Schaar unterzeichnet haben.

Die Regeln müssten gleichermaßen für den öffentlichen und privaten Sektor gelten und dürften keine Schlupflöcher für Zwecke der nationalen Sicherheit oder Verteidigung zulassen.

Comments

[llorenzo]

Wer sich mit den Investitionsmengen im Bereich der KI beschäftigt, wird sehen, dass da grade Weltweit irrsinnige Milliardenbeträge investiert werden. Gepaart mit der rasanten Entwicklung von KI scheint der Versuch mit lauen Regeln einzudämmen eine Farce. Die Entscheidubgsträger wisseb das sicherlich.

[realnessuno]

Jedes Verbrechen, welches du auf den Bildern einer Überwachungskamera sehen kannst, wurde von dieser nicht verhindert!

Man kann den Wahnsinn höchstens eindämmen wenn man Kameras verbietet. Alles andere ist scheinheilig, denn im galoppierenden Überwachungskapitalismus wird das gemacht, was Gewinne bringt. Punkt

[tomás zerolo]

Das ganze in den Händen des glorreichen Zweiergestirn -- der Amok laufenden "Staatssicherheit" und des Amok laufenden Spätkapitalismus [1].

Es gibt ja ein Präzedent für diese unheilige Allianz, und das ist die rasende Explosion des Überwachungskapitalismus (Zuboff). Nur, dass jetzt beide Akteure noch zynischer, noch ruchloser und noch verzweifelter sind als in den frühen 2000ern.

What could possibly go wrong.

[sollndas]

Das größte Schlupfloch ist doch, dass jeder, der in der Lage ist, eine KI zu programmieren und trainieren, das auch tun kann. Und daran kann keine Gesetzgebung etwas ändern.

[spaltarsch]

@sollndas Nicht jeder ist in der Lage genug Rechenkapazität für ein leistungsfähiges "KI"-System zu finanzieren und die nötugen Daten zu sammeln.

[Krumbeere]

@sollndas Stimme ihnen zu. Und irgendwann setzt jemand eine KI ein, die sich verselbständigt. Schwarzeneggers Terminator könnte eines nicht allzu fernen Tages auf subtile Art Realität werden.