Bayerischer Antrag gegen Missbrauch: KI soll keine Kinderpornos produzieren
KI-Modelle können auf vieles trainiert werden. Einige auch darauf, Missbrauchsdarstellungen zu kreieren. Bayerns Justizminister will diese nun verbieten.
Bayern will KI-Tools zur Herstellung von Kinderpornografie unter Strafe stellen. Ein entsprechender Antrag von Bayerns Justizminister Georg Eisenreich (CSU) wird an diesem Freitag auf der Justizministerkonferenz (Jumiko) in Leipzig diskutiert. Künstliche Intelligenz (KI) wird immer leistungsfähiger. Mit Hilfe sogenannter LoRAs (Low Rank Adaption) können große KI-Modelle schnell und kostengünstig auf einen spezifischen Inhalt trainiert werden. „Wir nehmen ‚LoRAs‘ in den Blick, die dem Zweck der Erstellung kinder- oder jugendpornografischer Inhalte dienen“, erklärte Minister Eisenreich vor der Jumiko.
Eisenreich verwies auf Zahlen der englischen Internet Watch Foundation, die sich gegen Kinderpornografie im Internet einsetzt. Danach hat sich die Zahl von Webseiten, auf denen im ersten Halbjahr 2025 KI-generierte Missbrauchs-Fotos gefunden gegenüber dem Vorjahreszeitraum auf 210 Webseiten vervierfacht. Bei kinderpornografischen Videos sei der Zuwachs noch viel eklatanter.
Im ersten Halbjahr 2025 wurden 1286 KI-generierte Missbrauchs-Videos gefunden, im Vergleich zu zwei Videos im Vorjahrszeitraum. Schon bisher ist es strafbar, fiktive Kinderpornografie zu verbreiten, also zum Beispiel einen kinderpornografischen Roman oder Comic. Der Besitz fiktiver Kinderpornografie ist zwar nur strafbar, wenn die Missbrauchsdarstellunng „wirklichkeitsnah“ ist. Dies dürfte den Besitz computergenerierter Missbrauchsbilder aber in der Regel erfassen.
Eisenreich will nun schon die Herstellung, Verbreitung und Zugänglichmachung der KI-Tools, mit denen fiktive Kinderpornografie hergestellt werden kann, unter Strafe stellen. Die Nutzung solcher Tools für den Eigengebrauch und die Verbreitung solcher Bilder bliebe unverändert strafbar. „Selbst wenn hinter der KI-generierten Aufnahme kein tatsächlicher Missbrauch eines Kindes steckt, bergen solche Inhalte erhebliche Gefahren“, betont Eisenreich. Der Konsum von KI-generierter Kinderpornografie könne zum Missbrauch in der realen Welt verleiten oder die Hemmschwelle senken.
Kriminalisierung umstritten
Außerdem geht es Eisenreich um eine Arbeitserleichterung für die Ermittler:innen. „Sie müssen derzeit bei jedem Bild oder Video die Echtheit prüfen, denn echte Bilder erfordern besonders schnelles Handeln, um eventuell noch andauernden Missbrauch zu beenden. Die Prüfung, ob echte oder KI-generierte Kinderpornografie vorliegt, kostet wertvolle Zeit, die fehlen kann, um laufenden Missbrauch zu stoppen“, warnt Eisenreich. Er hofft also, dass es weniger KI-generierte Missbrauchsbilder und Videos gibt, wenn die Herstellung entsprechender Tools strafbar wird.
Sollte Eisenreich in der Justizministerkonferenz eine Mehrheit erhalten, wäre dies nur ein rechtspolitischer Impuls für künftige Gesetzgebung. Die entsprechende Änderung im Strafgesetzbuch müsste vom Bundestag beschlossen werden. Die Kriminalisierung fiktiver Kinderpornografie ist umstritten, weil hier pädophilen Tätern ein Ventil versperrt wird, ihre Neigungen legal und ohne Schädigung realer Kinder auszuleben. Gegen das 2020 eingeführte strafrechtliche Verbot von „Sexpuppen mit kindlichem Erscheinungsbild“ liegen beim Bundesverfassungsgericht zwei Verfassungsbeschwerden vor, die das Gesetz für unverhältnismäßig halten.
taz lesen kann jede:r
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert