Schatten-KI im Rathaus: Warum Verbote allein nicht reichen und sichere Alternativen nötig sind
Verbote stoppen KI-Nutzung nicht automatisch. Ohne sichere und alltagstaugliche Werkzeuge kann die Nutzung in nicht freigegebene Kanäle ausweichen. Das kann den Schutz vertraulicher und personenbezogener Daten gefährden. Behörden brauchen deshalb klare Regeln, Qualifizierung und sichere Alternativen, statt die Nutzung lediglich zu untersagen.
Schatten-KI als Organisationsproblem
KI-Nutzung gehört auch in der Verwaltung zunehmend zum Arbeitsalltag. Eine von Microsoft beauftragte Civey-Umfrage ergab: 36 Prozent der Befragten auf kommunaler Ebene nutzen bei der Arbeit KI-Tools, die ihre Organisation nicht geprüft und als sicher eingestuft hat.
Das überrascht wenig. Wenn der Arbeitsdruck hoch ist und sichere Alternativen fehlen, suchen Beschäftigte nach pragmatischen Wegen, um tägliche Aufgaben effizienter zu erledigen. Schatten-KI ist deshalb nicht automatisch individuelles Fehlverhalten. Sie ist oft auch ein Organisationsproblem.
Das Risiko für Bürgerdaten
Kritisch wird dieses Ausweichen bei vertraulichen Dokumenten und personenbezogenen Daten. Werden interne Vermerke, Personaldaten oder Inhalte aus Sozialakten in öffentliche, nicht freigegebene KI-Dienste eingegeben, verlassen sie die kontrollierte Verwaltungsumgebung.
Ein prominentes Beispiel ist die offizielle DeepSeek-Plattform. Dort können unter anderem Texteingaben, Prompts, hochgeladene Dateien und Chatverläufe verarbeitet werden. DeepSeek erklärt in seiner Datenschutzerklärung, personenbezogene Daten direkt in der Volksrepublik China zu erheben, zu verarbeiten und zu speichern. Für sensible personenbezogene Daten ist der Dienst nach eigener Aussage nicht vorgesehen.
Landen vertrauliche Behördendaten dennoch in solchen Systemen, kann ein erhebliches Datenschutz- und Vertraulichkeitsrisiko entstehen. Das gilt besonders bei Sozial-, Gesundheits- und Personaldaten.
Enablement statt Verbotskatalog
Die Lösung für die Verwaltung ist nicht der immer strengere Verbotskatalog. Reine Verbote können KI-Nutzung in nicht freigegebene Kanäle verlagern. Das gilt besonders dann, wenn sichere und praxistaugliche Alternativen fehlen.
Wer Schatten-KI wirksam reduzieren will, muss den Enablement-Gedanken verfolgen. Es braucht ein nutzbares Werkzeug, klare Regeln für zulässige und unzulässige Eingaben sowie praktische Schulungen.
KoKI, die Kommunale KI aus NRW, zeigt, wie eine kommunale Antwort aussehen kann. Die Plattform nutzt lokal gehostete Sprachmodelle auf zertifizierten Servern der kdvz. Ergänzend bietet sie Beratung, Einführungshilfe und Schulungen für den verantwortungsvollen Einsatz im Verwaltungsalltag.
Der Leitgedanke für Rathausteams und Führungskräfte muss lauten: Bieten statt nur verbieten.
