Big Brother Awards verliehen: Negativpreis für Big-Tech-Konzerne

Die Big Brother Awards für Überwachung gehen dieses Jahr unter anderem an eine umstrittene Plattform – und eine neue KI-Funktion.

Kritik an Tiktok gibt es auch in Sachen Arbeitsbedingungen, wie bei dieser Demo vor dem Landesarbeitsgericht Berlin-Brandenburg Foto: picture alliance/dpa | Jennifer Kramer

Berlin taz | Tiktok und Google sind zwei der Preisträger des Big Brother Awards, dem Negativpreis für Überwachung des Bürgerrechtsvereins Digitalcourage. „Tiktok verbreitet Fake News und Hate Speech und es manipuliert Menschen“, sagte Thilo Weichert vom Netzwerk Datenschutzexpertise bei der Vorstellung der Preisträger. Frank Rosengart vom CCC kritisierte an Googles KI-Assistenten Gemini, dass dessen Installation wohl für die meisten Nut­ze­r:in­nen unbemerkt bleibe – er aber dennoch umfangreich persönliche Daten auswerte.

Digitalcourage vergibt die Negativauszeichnung Big Brother Awards jährlich. Prämiert werden dabei Unternehmen, Personen und Institutionen, die besonders negativ in Sachen Überwachung und Umgang mit persönlichen Daten auffallen. Im vergangenen Jahr traf es unter anderem die Deutsche Bahn für ihre Bestrebungen, Kun­d:in­nen immer mehr zur Nutzung ihrer digitalen Buchungs- und Ausweiswege zu drängen und analoge Alternativen wie die BahnCard als Karte abzuschaffen.

Die Kurzvideo-Plattform Tiktok, hinter der das chinesische Unternehmen Bytedance steht, ist schon länger in der Kritik. Untersuchungen, etwa der NGO Global Witness, zeigten an Hand von neutralen Accounts, dass der Algorithmus von Tiktok AfD-nahe Inhalte gegenüber denen anderer Parteien bevorzugt.

Dazu kommt, dass die unendliche Abfolge von Videos, die in algorithmisch optimierter Folge automatisch abgespielt werden, schnell eine Sogwirkung schafft. „Es handelt sich um eine Geldmaschine, die versucht, die Nutzenden abhängig zu machen“, sagt Weichert. Dabei blieben Plattform und Algorithmen komplett intransparent, selbst auf zu beantwortende Auskunftsersuchen werde nur unzureichend reagiert. Tiktok ließ eine Anfrage zu den Vorwürfen unbeantwortet.

KI mit Cloud

Als „creepy feature“ bezeichnete Frank Rosengart vom CCC Googles KI-Assistent Gemini, übersetzt etwa „gruselige Funktion“. Per Update komme es automatisiert auf die Telefone von Android-Nutzer:innen. Daten, die an Gemini gelangen, etwa durch Text- oder Spracheingabe landeten in der Cloud – und würden wiederum zum Training von Künstlicher Intelligenz verwendet.

„Die eingegebenen Daten sind nicht privat, das sagt auch Google indirekt“, sagt Rosengart. Die Daten könnten auch von menschlichen Mit­ar­bei­te­r:in­nen eingesehen werden. Gemini sei allerdings so tief im Android-System verankert, dass es auch passieren könne, den Assistenten unbeabsichtigt zu nutzen, etwa wenn er Formulierungsvorschläge für eine Nachricht macht. Ein Google-Sprecher teilte auf Anfrage mit: „Wir danken der Jury des Big Brother Awards für ihre kritische Begleitung unserer Arbeit.“ Das Unternehmen arbeite daran „die Grenzen des wissenschaftlich Machbaren zu verschieben – verantwortungsbewusst und mit dem Ziel, Technologie zum Wohle aller zu gestalten.“

Weitere Preisträger sind in diesem Jahr Bundesinnenminister Alexander Dobrindt (CSU) für das von ihm geplante „Sicherheitspaket“, das unter anderem den umfangreichen Einsatz von umstrittenen Gesichtersuchmaschinen vorsieht. Zwei deutsche Gerichte erhalten den Award für, so die Jury-Begründung „krasse Fehlurteile in Sachen Amazon“.

Das Konzept des „Bürokratieabbaus“ wird prämiert, weil in dessen Namen unter anderem Digitalgesetze auf EU-Ebene geschwächt werden sollen. Und auf Initiative der Jugend-Community Teckids gibt es unter anderem einen Negativpreis für den Einsatz von iPads an Schulen – statt auf freie und offene Software zu setzen.