Ausgezogen von der KI: Apps für sexuelle Deepfakes sollen verboten werden
Nach Deepfakes von Elon Musks Chatbot Grok planen EU-Staaten ein Verbot von KI-Anwendungen, die ohne Einwilligung sexualisierte Bilder erzeugen.
afp | Die 27 EU-Länder haben sich für ein Verbot von KI-Anwendungen ausgesprochen, mit deren Hilfe sexualisierte Bilder von echten Menschen ohne deren Einwilligung hergestellt werden können. Bei einem Treffen am Freitag einigten sich die Botschafter auf eine gemeinsame Position für eine entsprechende Änderung des Gesetzes zu Künstlicher Intelligenz (KI). Damit reagiert Brüssel auf die Erstellung und Verbreitung von Millionen sexualisierter KI-Bilder von Frauen und Kindern mithilfe des Chatbots Grok von US-Milliardär Elon Musk Anfang des Jahres.
Das Verbot soll Teil einer Reihe von Veränderungen am bestehenden KI-Gesetz werden, das die EU 2024 verabschiedet hatte. Auch im EU-Parlament wird derzeit über eine Verschärfung des Gesetzes beraten. Es wird davon ausgegangen, dass die zuständigen Parlamentsausschüsse am Mittwoch über ein Verbot der KI-Anwendungen abstimmen.
Bei Grok handelt es sich um eine beim Onlinedienst X integrierte Funktion. Stein des Anstoßes war Anfang Januar der neue „Spicy Mode“ (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten – etwa mit Aufforderungen wie „entferne ihre Kleider“ oder „zieh ihr einen Bikini an“. Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.
Urin und Kot enthalten große Mengen Phosphor und Stickstoff – beides Stoffe, die die Landwirtschaft unbedingt braucht. Doch im Düngemittelrecht sind sie als Ausgangsstoff für Dünger nicht zugelassen – anders als Klärschlamm, Gülle und Bioabfall.
Das Kreislaufwirtschaftsgesetz zielt darauf ab, dass Rohstoffe und Ressourcen vielfach genutzt werden: Recycling hat Vorrang vor thermischer Verwertung. Tatsächlich aber wird ein Großteil des Klärschlamms mit hohem Energieaufwand getrocknet und dann verbrannt. Damit gehen auch Stickstoff und Phosphor verloren.
Bisher beschäftigt sich ausschließlich das Abwasserrecht mit dem Thema Fäkalien. Im Abfallrecht fehlt dafür ein Abfallschlüssel, wie er für Schlachtabfälle, Gülle, den Inhalt von Biotonnen oder Klärschlamm existiert. Für diese Stoffe ist geregelt, wie sie schadlos gesammelt, behandelt und in den Boden eingebracht werden dürfen.
Mehrere Länder leiteten Untersuchungen gegen Grok ein oder sperrten das Tool. Auch die irische Aufsichtsbehörde leitete im Auftrag der EU eine Untersuchung ein. X erklärte, es werde Maßnahmen ergreifen, um die Erstellung solcher Bilder zu stoppen.
Die Botschafter sprachen sich am Freitag auch dafür aus, die Vorschriften für risikoreiche KI erst später in Kraft treten zu lassen: Demnach sollen diese im Dezember 2027 für eigenständige risikoreiche KI-Systeme und im August 2028 für in Produkte integrierte risikoreiche KI-Systeme gelten. Der aktuelle Zeitplan sah noch ein Inkrafttreten ab August 2026 beziehungsweise August 2027 vor.
Gemeinsam für freie Presse
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Alle Artikel stellen wir frei zur Verfügung, ohne Paywall. Gerade in diesen Zeiten müssen Einordnungen und Informationen allen zugänglich sein. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass kritischer, unabhängiger Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert