Extremismus-Überwachung im Internet: Raus aus der Filterblase

Ein neuer Algorithmus soll dem Bremer Verfassungsschutz dabei helfen, extremistische Strömungen und Gruppierungen zu überwachen.

Zwei Wörter auf einem Computerbildschirm, nämlich: "#Kanaken" und "Flüchtlinge".

Oft gar nicht bewusst: extremistische Äußerungen in sozialen Medien Foto: dpa

BREMEN taz | Der Bremer Verfassungsschutz meldet sich jetzt bei Facebook an: Mittels eines neu entwickelten Algorithmus sollen nun einschlägige Communitys, offene Facebook-Gruppen und Profilseiten, etwa von Parteien, auf extremistische Strömungen hin untersucht werden. „Die Terrorpropaganda von Islamisten, fremdenfeindliche Hetze, linksextreme Mobilisierungsvideos oder Reichsbürger-Videos“ seien in den sozialen Medien allgegenwärtig, sagte der Leiter des Bremer Verfassungsschutzes Dierk Schittkowski.

„Wir müssen erkennen, dass es neue Extremismusformen gibt“, sagte Schittkowski weiter bei der Vorstellung der neuen Methodik. „Die treffen sich nicht mehr in der Kneipe, wo wir dann ein Observationsteam hinschicken und ein paar Fotos machen können.“

Extremisten seien, so die alarmierende Erkenntnis, heutzutage hauptsächlich im Internet aktiv. Dort verbreiteten sie Hassbotschaften, Facebooks Algorithmus tue dann das seine dazu, sodass die gefürchteten Filterblasen entstünden. „Jeder Like führt dazu, dass sich ein Beitrag weiter verbreitet“, sagte Schittkowski.

Der neue Algorithmus soll nun sowohl „Frühwarnsystem“ für den Verfassungsschutz selbst sein als auch als Beweismittel dienen, wenn es etwa bei bekannten Extremisten zur Strafverfolgung komme.

Wie der Algorithmus, der auf den Namen LEA hört, genau funktioniert, versuchte bei dem extra angesetzten Pressetermin in der Innenbehörde der Soziologe und Analyst Michael Adelmund zu erklären.

Dierk Schittkowski, Bremens Verfassungsschutz-Chef

„Nichts wäre schlimmer, als wenn zehn Verfassungs­schutzämter auf der selben Facebook­seite wären und sich gegenseitig Mails schrieben“

Im Rahmen seines Promotionsvorhabens an der Universität Hildesheim untersucht er, wie Radikalisierungsprozesse in sozialen Netzwerken funktionieren. Der oder die von ihm erfundene LEA nun ist ein linguistischer Algorithmus, der bestimmte Signalwortkombinationen mit Extremismusbezug erkennt und sie aus Kommentaren und Beiträgen herausfiltern kann.

Der Verfassungsschutz will die daraus gewonnenen Erkenntnisse nutzen, um auf extremistische Tendenzen aufmerksam zu machen und die BürgerInnen zu warnen. Ihnen sei es in ihrer Filterblase oft gar nicht bewusst, wie extremistisch manche Positionen und Gruppierungen in Wahrheit seien. Daher setze man auf Aufklärung: „Je extremistischer eine Organisation ist, um so mehr Anhänger verliert sie“, erklärte Schittkowski.

Der Algorithmus soll jedoch nur in offenen Communitys eingesetzt werden und nicht etwa auf privaten Profilseiten. Geschlossene Gruppen, so Schittkowski weiter, seien oftmals gar nicht so relevant: „Den Extremisten geht es ja gerade um Öffentlichkeit.“

Genug Futter also für den Verfassungsschutz, sollte man meinen. Aber dennoch: Die Leute seien vorsichtiger geworden, erklärte Schittkowski: „Hasspredigten oder auch Skinheads findet man heute eigentlich kaum noch.“

Wer verübt Anschläge auf Asylheime?

Gerade im Bereich der „Anti-Asyl-Agitation“ seien vor allem Personen auffällig geworden, über die vorher nichts einschlägiges bekannt war: „Die meisten Leute, die Anschläge auf Asylheime begangen haben, waren uns als Extremisten nicht bekannt.“ Der Einsatz des Algorithmus diene auch dazu, zu entscheiden: „Ist jemand noch Mitläufer oder schon Mitglied ex­tremistischer Communitys?“

Bremen ist damit Vorreiter. Die Frage der lokalen Abgrenzung wollte der Verfassungsschutz-Chef nicht eindeutig beantworten: „Das Internet kann man nicht lokal begrenzen“, sagte er. Um zu verhindern, dass jedes einzelne Landesamt mit seinem eigenen Algorithmus vor sich hinwurschtelt, sitze man aber sehr oft im Verfassungsschutzverbund zusammen und verteile die Aufgaben. „Nichts wäre schlimmer, als wenn zehn Verfassungs­schutzämter auf der selben Facebookseite wären und sich dann gegenseitig Mails schrieben.“

Einmal zahlen
.

Fehler auf taz.de entdeckt?

Wir freuen uns über eine Mail an fehlerhinweis@taz.de!

Inhaltliches Feedback?

Gerne als Leser*innenkommentar unter dem Text auf taz.de oder über das Kontaktformular.

Bitte registrieren Sie sich und halten Sie sich an unsere Netiquette.

Haben Sie Probleme beim Kommentieren oder Registrieren?

Dann mailen Sie uns bitte an kommune@taz.de.