France Travail: KI soll Arbeitslose als „verdächtig“ einstufen

France Travail arbeitet an einer KI, die Arbeitslose als „verdächtig“ einstufen soll. Das Werkzeug wurde entwickelt, um Kontrollen gezielter auszurichten.

Künstliche Intelligenz als Weg zur Entmenschlichung: France Travail entwickelt ein KI-System, das Arbeitsuchende sortieren soll. Geplant ist eine automatische Einteilung der Profile, um Kontrollen zu verstärken und menschliche „Vorannahmen“ auszuschließen. Damit würde die KI das bestehende System der Zufallskontrollen ergänzen.

La Quadrature du Net schlug Alarm und veröffentlichte ein internes Arbeitsdokument der Behörde mit dem Titel „Zielgerichtete Kontrolle der Arbeitssuche“. Darin wird das KI-Werkzeug beschrieben, das „verdächtige“ Profile erkennen soll – also jene Personen, die kontrolliert werden, und jene, die keiner Kontrolle unterzogen werden. Derzeit wird es mit registrierten Personen getestet, die eine einvernehmliche Vertragsauflösung unterschrieben haben; später könnte es auf alle ausgeweitet werden.

KI von France Travail bewertet die Mitwirkung Arbeitsuchender

Die KI soll sämtliche Akten in ihrer Datenbank anhand von 26 konkreten Kriterien prüfen. Dazu gehören etwa die angegebenen Tätigkeiten, die Sichtbarkeit des Lebenslaufs im Internet, das Ausbildungsniveau oder die Dauer der Registrierung. Anschließend werden alle Profile zwei Gruppen zugeordnet: „verdächtig“ und „nicht verdächtig“. Die „verdächtigen“ Fälle erhalten bei Kontrollen Vorrang und könnten somit gegebenenfalls aus der Registrierung gestrichen werden.

Kontrollen gab es bei France Travail bereits zuvor, doch dieses Werkzeug soll das Verfahren beschleunigen. Die Institution begründet seinen Einsatz mit der „Abschaffung von Vorannahmen“, wodurch die Kontrollen „objektiver“ werden sollten. Praktisch bedeutet das, dass eine Maschine die Akten ohne Vorurteile und ausschließlich anhand von Rohdaten auswertet – ein vollständig entmenschlichter Prozess. Laut France Travail zeigt die Methode bereits Wirkung: 79 % der vom Werkzeug ausgewählten Akten führten zu einer vertieften Prüfung, während es beim früheren, zufallsbasierten Auswahlverfahren 53 % waren. Darüber hinaus mündeten 64 % der kontrollierten Fälle in Sanktionen oder eine „Reaktivierung“.

Kritik an der automatisierten Auswahl „verdächtiger“ Profile

Auf dem Papier handelt es sich somit um eine unparteiische KI, die Daten auswertet, um als verdächtig eingestufte Registrierte sichtbar zu machen. Abgesehen von diesem umstrittenen Vorgehen kritisiert La Quadrature du Net, dass der Quellcode nicht öffentlich zugänglich ist. France Travail kann den Schwellenwert, ab dem eine Akte als verdächtig gilt, nach eigenem Ermessen verändern. Die Institution hat zudem das Risiko erkannt, dass Kontrollen verstärkt Menschen mit niedrigem Einkommen treffen könnten, und den Algorithmus entsprechend angepasst. Insgesamt wären mehr als 6 Millionen Menschen von dem neuen Werkzeug betroffen.

Ziel ist es, den menschlichen Faktor weitgehend auszuschließen und Abläufe zu automatisieren – sowohl bei Kontrollen als auch bei der Arbeitssuche. Ein vergleichbares Verfahren kommt bereits in einer anderen Institution zum Einsatz: der Nationalen Familienleistungskasse (CNAF).