EU-Plan zu Chatkontrolle: Überwachung durch die Hintertür
Nachrichten könnten bald mit einer KI auf kriminelle Inhalte geprüft werden – um Kinder zu schützen. Doch damit steht die Freiheit aller auf dem Spiel.
C hinas Gesichtserkennung, Europas Vorratsdatenspeicherung, Berlins Kameras am Kottbusser Tor – wenn Staaten ihre Bürger:innen überwachen wollen, begründen sie das meist mit Sicherheit. So auch bei der geplanten Chatkontrolle der EU. Denn diese soll, wie Befürworter:innen sagen, die Schwächsten unserer Gesellschaft schützen: Kinder.
Am 14. Oktober will der EU-Rat über einen Plan abstimmen, demzufolge Anbieter bei Messengerdiensten wie Whatsapp, Signal und Co mitlesen und Infos gegebenenfalls an Ermittlungsbehörden weitergeben sollen. Beim sogenannten Client-Side-Scanning sollen Chatprogramme in Zukunft einen Baustein enthalten, der mithilfe von KI Nachrichten noch vor ihrer Verschlüsselung auf kriminelle Inhalte überprüft – etwa auf Darstellungen sexueller Gewalt gegen Minderjährige. Ein Verdacht wäre dafür nicht notwendig, das Programm würde pauschal alles scannen.
Aber dürfen Staaten so was? Geht es nach klassischen Vertragstheoretikern wie Thomas Hobbes, ist Sicherheit sogar der ureigene Zweck von Staaten überhaupt. Menschen schließen miteinander einen Vertrag und geben ein großes Maß an Freiheit an den Souverän, den Staat, ab, damit der für ihre Sicherheit sorgt.
Nützt die Kontrolle mehr, als sie schadet?
Auch der liberale Vordenker und Utilitarist John Stuart Mill schreibt in seinem Essay On Liberty, dass Freiheiten von Bürger:innen gegen ihren Willen eingeschränkt werden dürfen, wenn dadurch verhindert wird, dass andere zu Schaden kommen. Und sowieso: Wer nichts zu verbergen hat, hat auch nichts zu befürchten, oder?
Nicht ganz, denn ein Knackpunkt ist Verhältnismäßigkeit. Betrachtet man die Überwachungswünsche der EU aus einer utilitaristischen Perspektive – also mit dem Ziel, das größte Glück für die meisten Menschen zu erreichen –, stellt sich die Frage: Nützt Kontrolle mehr, als sie schadet?
Persönlichkeitsrechte sind nicht nur ein Nice-to-have. Wenn Menschen wissen, dass sie jederzeit überwacht werden könnten, überlegen sie sich zweimal, was sie ihren Freunden auf Signal schicken – sei es nur das Nacktbild an den Partner oder aber das Video von der Gaza-Demo, das Polizeigewalt dokumentiert. Von Diskussions- und Gedankenfreiheit kann dann keine Rede mehr sein.
Auch Mill würde sagen: Flächendeckende anlasslose Überwachung darf es nur geben, wenn sie absolut notwendig ist, also wenn gezeigt werden kann, dass mildere Maßnahmen, wie gezielte Ermittlungen bei konkretem Verdacht weniger wirkungsvoll wären, um weitere Missbrauchsfälle zu verhindern.
Panoptikum-ähnliche Zustände
Das ist aber nicht der Fall. Erkenntnisse darüber, ob das Lesen von Chats tatsächlich zu weniger Verbrechen führen würde, sind nicht bekannt. Die EU-Kommission legte einen angefragten Bericht zur Verhältnismäßigkeit schlicht nicht vor und konnte auch nicht ausräumen, dass es zu „inakzeptabel hohen Raten an Fehlalarmen und Fehldetektionen“ kommen wird, wie Wissenschaftler:innen anmahnten.
Vielmehr werden Bürger:innen hier unter Generalverdacht gestellt, um eine Hintertür für totale Überwachung zu öffnen: eine Large-Scale-Version des Foucaultschen Panoptikum, des nicht einsehbaren Gefängnisturms, der es den Herrschenden erlaubt, Gefangene rund um die Uhr zu überwachen, ohne dass die wissen, ob gerade jemand zuschaut oder nicht.
Richtig gruselig wird es da nicht erst, wenn man sich überlegt, was die schon jetzt in Europa regierenden und womöglich noch kommenden Faschist:innen mit einer solchen Hintertür anfangen könnten. George Orwell lässt grüßen.
taz lesen kann jede:r
Als Genossenschaft gehören wir unseren Leser:innen. Und unser Journalismus ist nicht nur 100 % konzernfrei, sondern auch kostenfrei zugänglich. Texte, die es nicht allen recht machen und Stimmen, die man woanders nicht hört – immer aus Überzeugung und hier auf taz.de ohne Paywall. Unsere Leser:innen müssen nichts bezahlen, wissen aber, dass guter, kritischer Journalismus nicht aus dem Nichts entsteht. Dafür sind wir sehr dankbar. Damit wir auch morgen noch unseren Journalismus machen können, brauchen wir mehr Unterstützung. Unser nächstes Ziel: 50.000 – und mit Ihrer Beteiligung können wir es schaffen. Setzen Sie ein Zeichen für die taz und für die Zukunft unseres Journalismus. Mit nur 5,- Euro sind Sie dabei! Jetzt unterstützen
meistkommentiert