Gesetzesvorhaben im Bundestag: KI soll indirekt in Asylverfahren mitentscheiden
Die Bundesregierung will KI im Asylsystem einsetzen. Expert*innen warnen: Auch wenn die Programme den Beamten nur zuarbeiten, drohen Fehlentscheidungen.
Foto: Reto Klar/Funke/imago
Es geht teils um Leben und Tod, um politische Verfolgung und um hochsensible persönliche Daten: Doch wenn künftig über Asylanträge Geflüchteter entschieden wird, dann sollen dabei auch KI-Programme zum Einsatz kommen, findet die Bundesregierung. Ein entsprechender Gesetzentwurf wird am späten Donnerstagabend erstmals im Bundestag diskutiert. Zwar beteuert die Bundesregierung, die eigentliche Entscheidung verbleibe bei Menschen. Doch Grüne, Linke und auch viele Expert*innen sind entsetzt über die Pläne, die die Asylverfahren massiv beschleunigen sollen.
Konkret sieht das Gesetz drei Einsatzgebiete für KI-Programme in Asylverfahren vor. Zunächst sollen sie genutzt werden, um abgeschlossene Asylverfahren systematisch auszuwerten. Dabei sollen Zusammenhänge identifiziert werden zwischen bestimmten Persönlichkeitsmerkmalen der Antragsteller*innen und den späteren Asylentscheiden. So deuten etwa manche Namen auf die Zugehörigkeit zu einer politisch verfolgten Minderheit hin oder sie lassen Rückschlüsse auf die Herkunft aus einer Krisenregion zu. Wenn Menschen mit diesem Namen deshalb in Deutschland besonders oft Asyl zugesprochen bekommen, dann soll die KI das Muster dahinter erkennen.
Solche Erkenntnisse über Zusammenhänge verschiedener Merkmale sollen dann den Entscheider*innen beim Bundesamt für Migration und Flüchtlinge (Bamf) zugänglich gemacht werden und so „die zukünftige Prüfungsintensität der Einzelfallentscheidungen“ beeinflussen. Soll wohl heißen: Bei Personen mit bestimmten Merkmalen wird dann nur noch oberflächlich oder aber besonders intensiv geprüft, bevor über ihren Antrag entschieden wird.
Als weiterer Einsatzzweck ist geplant, dass das Bamf-Personal zweifelhafte Aussagen von Asylantragstellenden per KI überprüfen lassen. Es sollen biometrische Daten – also meist Fotos – automatisch abgeglichen werden mit dem, was sich im Internet finden lässt, etwa Social-Media-Profile.
Mehr Vorurteile dank KI
Und dann ist da noch die Idee, Daten aus abgeschlossenen und laufenden Verfahren in KI-Programme einzuspeisen, um damit neue KI-Systeme zu trainieren und weitere Anwendungszwecke zu erschließen. Auch dies ist im Gesetzentwurf vorgesehen und zeigt, dass es schon jetzt die vage Absicht gibt, den Einsatz von KI noch über das bisher geplante auszuweiten.
Dabei ist das, was im Gesetzentwurf konkret vorgesehen ist, schon dramatisch genug. Zwar stimmt es, dass die Entscheide am Ende immer in menschlicher Hand verbleiben. Doch dass dem Bamf-Personal dafür Daten aus KI-Programmen an die Hand gegeben werden, öffnet gleich mehrere Einfallstore für Fehlentscheidungen.
So zeigen Studien, dass sich Menschen stark auf automatisierte Einschätzungen verlassen, wie sie nun die KI-Programme liefern sollen. Das gilt insbesondere in Stresssituationen. Wenn das Bamf-Personal am Ende also nur entscheidet, was die KI vorher empfohlen hat, kann man sich schon fragen, bei wem die Entscheidungsgewalt wirklich liegt.
Das ist insbesondere deshalb so alarmierend, weil KI-Programme und andere automatisierte Analyseverfahren eben kein objektives Bild liefern. Sie nehmen viel mehr die Tendenzen auf, die sich in den Datensätzen finden, mit denen sie trainiert wurden. Wenn in bisherigen Asylverfahren eine bestimmte soziale Gruppe etwa aufgrund rassistischer Vorurteile des Bamf-Personals besonders oft abgelehnt wurde, dann reproduziert die KI dies in ihren Einschätzungen. Am Ende könnten die Entscheidungen des KI-unterstützten Personals noch einseitiger zulasten der Betroffenen ausfallen.
Ähnlich fehleranfällig ist es wohl, Angaben der Asylbewerber*innen per KI überprüfen zu lassen. Wer schon einmal KI-Chatprogramme benutzt hat, weiß, dass selbst die neuesten Modelle weiterhin immer wieder Falschinformationen liefern, sogenannte Halluzinationen. Umgekehrt gilt: Wenn das Bamf-Personal jede von der KI bereitgestellte Information noch einmal händisch nachprüfen würde, so schrumpften die durch die Programme erhoffte Effizienzsteigerung wohl auf ein Minimum zusammen.
Die innenpolitische Sprecherin der Linksfraktion, Clara Bünger, sagt: „Geflüchtete werden als Versuchskaninchen für eine Technologie missbraucht, die man sich in dieser Schärfe bei deutschen Staatsbürgern noch nicht anzuwenden traut.“ Es sei bezeichnend, dass der Gesetzentwurf erst spätabends diskutiert werden solle, wenn kaum noch Abgeordnete – oder Journalist*innen – anwesend seien. „Deutlicher kann man nicht zum Ausdruck bringen, wie gering man die Grundrechte der Betroffenen schätzt.“
Der Obmann der Grünen im Innenausschuss, Lukas Benner, sagt: „Grundsätzlich ist gegen den Einsatz von KI in der Verwaltung nichts einzuwenden.“ Dafür brauche es aber klare Regeln und Transparenz. Der Gesetzentwurf der Regierung sei das Gegenteil, nämlich „ein Blankoscheck für den Einsatz beliebiger KI-Systeme“.
Und auch unabhängige Expert*innen halten die Pläne für gefährlich. So schreibt etwa die Gesellschaft für Informatik von „signifikanten Bedenken bezüglich der technischen Machbarkeit, der Vereinbarkeit mit dem Datenschutz und der Gewährleistung rechtsstaatlicher Kontrollmechanismen“.
meistkommentiert