KI in der Verwaltung sicher nutzen: 7 Fragen vor dem ersten Prompt
KI in der Verwaltung sicher nutzen: Diese Checkliste mit 7 Fragen hilft Behörden, Datenschutzrisiken zu senken und klare Regeln für den KI-Einsatz zu schaffen.
Leitplanken statt Papierberge
In vielen Behörden wird noch daran gearbeitet, wie Künstliche Intelligenz sinnvoll und sicher eingesetzt werden kann. Der Arbeitsalltag wartet jedoch nicht. Mitarbeitende suchen nach Entlastung und stehen schnell vor der Frage, welche KI-Tools sie dienstlich nutzen dürfen.
Reine Verbote können dazu führen, dass Fragen zur KI-Nutzung ungeklärt bleiben. Klare Regeln und sichere Alternativen sind deshalb wichtiger. Ein kompakter Leitfaden kann ein umfangreicheres Konzept sinnvoll ergänzen, weil er im Arbeitsalltag schneller Orientierung bietet.
1. Ist das Tool dienstlich freigegeben?
Nicht jedes KI-Tool darf für dienstliche Aufgaben genutzt werden. Die oberste Regel lautet hier: Freigabeliste statt Grauzone. Private Accounts sollten nur dann zum Einsatz kommen, wenn die Behörde das ausdrücklich und offiziell erlaubt hat.
2. Welche Daten dürfen nie in den Prompt?
Personenbezogene Daten, Aktenzeichen, interne Vorgänge und vertrauliche Dokumente gehören nicht in öffentliche KI-Tools. Auch bei einer dienstlich freigegebenen Lösung muss vorher geprüft werden, ob die konkrete Datenverarbeitung zulässig ist. Die Reihenfolge ist simpel: Erst prüfen und gegebenenfalls anonymisieren, dann prompten.
3. Wer prüft das Ergebnis?
Bei fachlich relevanten Texten, Bewertungen und Zusammenfassungen sollte KI zunächst als Unterstützung verstanden werden. Die fachliche Prüfung bleibt beim Menschen. Ein generierter Text kann plausibel klingen und trotzdem fachlich falsch oder unvollständig sein.
4. Wann müssen wir KI-Nutzung transparent machen?
Klärt im Team vorab, welche KI-Nutzung intern dokumentiert werden muss. Prüft außerdem, wann Bürgerinnen und Bürger über den Einsatz von KI informiert werden müssen. Eine allgemeine Kennzeichnungspflicht für jeden KI-gestützten Entwurf gibt es nicht. Für bestimmte Anwendungen und Veröffentlichungen gelten jedoch Transparenzpflichten.
5. Wo endet Assistenz und wo beginnt Entscheidung?
Eine KI kann formulieren, sortieren und lange Texte zusammenfassen. Eine Entscheidung, die ausschließlich automatisiert erfolgt und rechtliche oder ähnlich erhebliche Folgen für Menschen hat, ist nach Artikel 22 DSGVO grundsätzlich nur unter engen Voraussetzungen zulässig. Menschliche Prüfung und Verantwortung bleiben deshalb zentral.
6. Sind Rechte und Risiken geklärt?
Bei generierten Bildern, Texten und Stimmen müssen Nutzungsbedingungen, Urheberrechte und Persönlichkeitsrechte vor einer Veröffentlichung zwingend geprüft werden. Generiert heißt nicht automatisch rechtssicher.
7. Wie lernen alle sicher damit zu arbeiten?
Gute und geprüfte Prompts gehören an einen gemeinsamen Ort im Intranet. Ergänzt durch kurze, auf die jeweilige Aufgabe zugeschnittene Schulungen entsteht ein echter Mehrwert. Die KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen für ausreichende KI-Kompetenz der beteiligten Mitarbeitenden zu treffen.
Ein pragmatischer Startpunkt
Diese Checkliste ersetzt natürlich keine juristische Prüfung für den ganz konkreten Anwendungsfall in der Verwaltung. Sie sorgt aber dafür, dass die richtigen Themen auf den Tisch kommen. So landen sensible Daten gar nicht erst im falschen System.
Nehmt diese sieben Fragen einfach mit in eure nächste Teambesprechung und schaut gemeinsam, wo eure Behörde aktuell steht. Welche dieser Fragen ist bei euch bereits eindeutig geregelt?
