Ein Datenmuster ist kein Beweis: Was beim KI-Einsatz gegen Sozialleistungsbetrug gelten muss
Ein neuer Aktionsplan sieht den Einsatz von Künstlicher Intelligenz gegen den Missbrauch von Sozialleistungen vor. Das bietet Chancen für die Verwaltung, birgt bei sensiblen Daten aber auch erhebliche Diskriminierungsrisiken. Warum schnelle Prüfungen nur mit harten Schutzplanken fair bleiben.
Die Aufdeckung von Sozialleistungsmissbrauch kann für Behörden und kommunale Jobcenter aufwendig sein, insbesondere dann, wenn Informationen aus verschiedenen Stellen zusammengeführt und geprüft werden müssen. Arbeitsministerin Bärbel Bas hat Mitte September einen Aktionsplan vorgestellt, der genau hier ansetzen soll. Ein zentraler Baustein ist der mögliche Einsatz von Künstlicher Intelligenz. Durch den gezielten Abgleich von Registern mittels Identifikationsnummern sollen Betrugsfälle künftig schneller aufgedeckt werden.
Dieser Vorstoß bringt ein hochaktuelles Thema der Verwaltungsdigitalisierung auf den Tisch. Er zeigt die enormen administrativen Chancen der Technologie, beleuchtet aber gleichzeitig die tiefgreifenden Risiken beim Umgang mit sensiblen Sozialdaten.
Muster finden, Verwaltung entlasten
Aus administrativer Sicht ist die Einbindung von Algorithmen ein verlockender Schritt. Künstliche Intelligenz kann große Datenmengen durchsuchen und Fälle zur Prüfung priorisieren. Die KI kann dabei als Analysewerkzeug dienen: Sie unterstützt dabei, Auffälligkeiten in Daten zu erkennen und Fälle für eine fachliche Prüfung zu priorisieren. Sie kann die Aufmerksamkeit der Sachbearbeitung auf Vorgänge mit auffälligen oder widersprüchlichen Angaben lenken.
Das kann Beschäftigte spürbar entlasten, wenn die Daten stimmen und die Ergebnisse kontrolliert werden. Schneller prüfen ist gut. Fair prüfen ist jedoch Pflicht.
💡 Erklär-Box: So soll KI beim Datenabgleich helfen
- Daten zusammenführen: Angaben aus verschiedenen zuständigen Registern und Behörden sollen besser abgeglichen werden. Die Identifikationsnummer kann dabei helfen, Datensätze derselben Person eindeutig zuzuordnen.
- Widersprüche erkennen: Ein System könnte etwa markieren, wenn Angaben zu Wohnort, Beschäftigung oder Leistungsbezug nicht zusammenpassen.
- Fälle zur Prüfung priorisieren: Die KI trifft keine Entscheidung. Sie erstellt eine Art Prüfliste, welche Fälle sich Mitarbeitende wegen auffälliger Daten genauer ansehen sollten.
- Mensch prüft den Einzelfall: Sachbearbeitende klären, ob ein Fehler, eine plausible Erklärung oder tatsächlich ein Missbrauchsverdacht vorliegt.
- Entscheidung bleibt überprüfbar: Leistungen dürfen nicht allein wegen eines KI-Hinweises gekürzt, verweigert oder zurückgefordert werden. Betroffene müssen nachvollziehen können, warum ihr Fall geprüft wird, und die Möglichkeit haben, sich zu wehren.
Auffällig bedeutet nicht schuldig
Wo KI nach Mustern sucht, entsteht unweigerlich das Risiko von Verzerrungen. Ein Problem entsteht nicht nur durch das Training auf einzelnen Merkmalen, sondern auch durch unausgewogene oder historisch verzerrte Daten. Ein System kann beispielsweise indirekt Wohnorte, Beschäftigungsverläufe oder frühere Prüfungen überbewerten.
Fehlerhafte oder unausgewogene Daten können dazu führen, dass Menschen häufiger als auffällig markiert werden, obwohl kein Fehlverhalten vorliegt. In der Konsequenz geraten unschuldige Bürgerinnen und Bürger unter Generalverdacht. Ein Datenmuster ist noch kein Betrugsbeweis.
Vier zwingende Regeln für die Praxis
Der Einsatz von Künstlicher Intelligenz bei Sozialdaten greift tief in die Rechte der Betroffenen ein. Deshalb braucht es klare, unumstößliche Schutzplanken. Die entscheidende Frage lautet nicht, ob KI Fälle findet, sondern wer die KI kontrolliert, bevor sie Menschen betrifft.
1. Erklärbar bleiben
Die Verwaltung muss lückenlos nachvollziehen und begründen können, warum ein Fall markiert wurde.
2. Menschliche Letztentscheidung
Es darf keine belastende Entscheidung allein durch KI getroffen werden. Das entspricht den Grundsätzen der DSGVO und schützt Betroffene vor rein automatisierten Sanktionen, Rückforderungen oder Ablehnungen.
3. Systeme regelmäßig prüfen
Daten und Ergebnisse bedürfen einer stetigen Kontrolle, um Diskriminierungsrisiken oder fehlerhafte Gewichtungen frühzeitig zu erkennen.
4. Anfechtbares Vorgehen
Betroffene brauchen verständliche Erklärungen, menschliche Ansprechpersonen und klare Beschwerdewege.
Künstliche Intelligenz kann ein wertvolles Werkzeug sein, um Hinweise zu liefern und Prüfungen gezielter vorzubereiten. Sie darf jedoch nicht entscheiden, wer Leistungen erhält, zurückzahlen muss oder sanktioniert wird. Die Verantwortung für belastende Entscheidungen bleibt bei den Fachleuten im Amt, und sie muss für Betroffene nachvollziehbar und anfechtbar sein.
