Wenn der städtische Chatbot lügt: Warum sich Behörden nicht auf kreative KI verlassen dürfen
Stell dir vor, deine Stadtverwaltung schaltet voller Stolz einen neuen KI-Chatbot auf der Website frei. Ein Bürger probiert ihn direkt aus und stellt drei alltägliche Fragen. Die Antworten kommen in Sekundenschnelle, sind freundlich formuliert und klingen absolut professionell. Das Problem: Sie sind komplett frei erfunden.
Drei bewusst erfundene Antworten könnten so aussehen:
- Hundesteuer? „Das erste Jahr ist für Sie als Neuhundehalter natürlich kostenlos!“
- Sperrmüll? „Einfach an die Straße stellen. Ein Zettel am Sofa gilt rechtlich als Anmeldung.“
- Ummelden? „Darum müssen Sie sich nicht kümmern. Das erledigt die Post automatisch mit Ihrem Nachsendeauftrag.“
Das klingt wahnsinnig praktisch. Es stimmt aber schlichtweg nicht. Solche frei erfundenen KI-Antworten nennt man in der Fachsprache Halluzinationen. Und was bei einem KI-generierten Gedicht vielleicht lustig ist, sorgt in der Verwaltung für echte Probleme. Wer sich auf eine falsche behördliche Auskunft verlässt, plant falsch, zahlt zu wenig Gebühren oder verpasst wichtige Fristen.
Warum erfindet die KI überhaupt Dinge?
Systeme wie ChatGPT sind nicht als Datenbanken gebaut, in denen man Fakten abfragt. Sie sind Sprachmodelle. Sie berechnen anhand des bisherigen Textes, welche Wörter oder Wortbestandteile als Nächstes passen könnten. Das macht sie extrem sprachgewandt und kreativ. Aber Kreativität ist bei Rechtsauskünften, Satzungen und Gebührenordnungen die absolut falsche Eigenschaft.
Wie können wir als Behörden dieses Risiko also verringern, wenn wir trotzdem einen smarten Chatbot anbieten wollen?
Die Lösung: Erst nachschlagen, dann antworten
Der technische Ansatz, um KI im Behördenkontext verlässlich zu machen, heißt RAG. Das steht für Retrieval-Augmented Generation. Lass dich von dem sperrigen englischen Begriff nicht abschrecken. Das Prinzip dahinter ist pfiffig und leicht zu verstehen.
💡 Erklär-Box: So funktioniert RAG
Stell dir einen digitalen Aktenordner vor. Darin liegen die aktuellen, geprüften Satzungen und Serviceinformationen deiner Stadt.
Stellt jetzt ein Bürger eine Frage zur Hundesteuer, passiert Folgendes:
- Das System durchsucht zuerst den digitalen Aktenordner nach Informationen zur Frage.
- Es ruft die Textstellen ab, die es als relevant einstuft.
- Erst jetzt kommt die KI ins Spiel: Sie bekommt diese Textstellen vorgelegt und formuliert daraus eine verständliche, bürgerfreundliche Antwort – idealerweise direkt mit Quellenangabe.
Die KI soll sich bei ihrer Antwort auf die bereitgestellten Dokumente stützen, statt sich allein auf ihr erlerntes Wissen zu verlassen.
Warum RAG kein Allheilmittel ist
Wer jetzt glaubt, man müsse nur ein paar PDFs in ein System laden und der perfekte städtische Chatbot sei fertig, irrt sich. Dieser digitale Aktenordner ist kein Schutzschild gegen jeden Fehler.
Das System kann bei einer Suchanfrage die falsche Textpassage aus dem Ordner fischen. Oder die KI fasst den Text zwar schön zusammen, übersieht dabei aber eine entscheidende Ausnahme in Absatz 3. RAG kann das Risiko falscher Antworten reduzieren, schließt Fehler aber nicht aus.
⚠️ Die wichtigste Grenze für städtische Chatbots
Für einen städtischen Chatbot sollte deshalb gelten: Liefern die Quellen keine eindeutige und belastbare Antwort, darf der Bot nicht raten. Er muss den Vorgang abbrechen und den Bürger an die zuständige Sachbearbeitung verweisen. Ob diese Abbruchbedingung in der Praxis funktioniert, muss vor dem Live-Gang intensiv getestet werden.
Ein Chatbot kann für Bürgerinnen und Bürger eine tolle Erleichterung sein, um schnell an Standardinformationen zu kommen. Doch am Ende gilt für den digitalen Service genau das Gleiche wie für den Schalter im Rathaus: Ein freundlicher Ton macht eine Auskunft noch nicht richtig. Verlässlichkeit bleibt die wichtigste Währung der Verwaltung.
