Zwischen Stadtfest und Überwachung: Wo die Verwaltung der KI Grenzen setzen muss
Wenn Künstliche Intelligenz bei der Planung von Großveranstaltungen hilft, klingt das nach sinnvoller Digitalisierung. Doch was passiert, wenn dieselbe Grundlogik später für behördliche Kontrollen genutzt wird? Ein Blick auf Datenqualität, mögliche Rückkopplungseffekte und die Verantwortung, die bei Menschen bleiben muss.
Logistik ist keine Kristallkugel
Wenn KI bei der Planung eines Stadtfests hilft, ist der Nutzen leicht nachvollziehbar. Ein Prognosemodell könnte Wetter, Wochentag, Ferienzeiten und frühere Besucherzahlen auswerten. Daraus lässt sich abschätzen, wo besonders viel Andrang zu erwarten ist.
Das kann der Verwaltung helfen, Toilettenwagen, Reinigungskräfte, Verkehrslenkung, Informationen und Personal frühzeitig dort einzuplanen, wo voraussichtlich zusätzlicher Bedarf entsteht.
Das ist keine Magie und keine sichere Vorhersage. Es ist eine Entscheidungshilfe für bessere Logistik.
Der Schritt zur Kontrolle
Die kritische Frage beginnt dort, wo dieselbe Grundlogik weitergedacht wird.
- Nicht mehr: „Wo brauchen wir mehr Infrastruktur?“
- Sondern: „Wo sollte künftig genauer kontrolliert werden?“
Die technische Logik kann ähnlich sein. In beiden Fällen werden vergangene Daten genutzt, um Hinweise für die Zukunft zu erzeugen. Zweck und Folgen unterscheiden sich jedoch grundlegend.
Bei der Veranstaltungsplanung geht es um Service, Infrastruktur und Kapazitäten. Bei Kontrollen geht es um behördliche Eingriffe und um die Frage, welche Orte oder Menschen mehr Aufmerksamkeit erhalten.
Solche ortsbezogenen Prognosen werden im polizeilichen Kontext seit Jahren unter dem Begriff Predictive Policing diskutiert und erprobt. Sollten Ordnungsbehörden vergleichbare Ansätze künftig prüfen, müssten sie besonders genau auf Zweck, Datenbasis und Folgen achten.
Die Datenfalle
Das zentrale Problem liegt nicht allein im Algorithmus. Es liegt in der Frage, welche Daten das System auswertet und was diese Daten tatsächlich aussagen.
Schaut ein Modell auf frühere Einsatzberichte, Kontrolldaten oder Beschwerden, sieht es nicht die vollständige Realität. Es sieht nur den Ausschnitt, der in der Vergangenheit dokumentiert wurde.
Wo häufiger kontrolliert wurde, können auch mehr Vorfälle erfasst worden sein. Ein System könnte daraus schließen, dass dort künftig wieder ein besonderer Kontrollbedarf besteht. Die Folge wäre eine Schleife: Mehr Kontrolle führt möglicherweise zu mehr dokumentierten Fällen. Diese Fälle fließen wieder in die Daten ein und können die nächste Empfehlung beeinflussen.
Die EU-Grundrechteagentur warnt bei Predictive Policing genau vor solchen Rückkopplungseffekten. Prognosen können die Realität beeinflussen, die anschließend wieder als Datengrundlage für neue Prognosen dient. Dadurch besteht das Risiko, frühere Verzerrungen und Kontrollschwerpunkte zu reproduzieren oder zu verstärken.
Die rote Linie für Behörden
KI kann ein gutes Werkzeug sein, um Infrastruktur und Kapazitäten vorausschauend zu planen. Beim Stadtfest kann sie helfen, dass Wege frei bleiben, Informationen rechtzeitig bereitstehen und Personal dort eingesetzt wird, wo es gebraucht wird.
Sobald KI Hinweise liefert, die Folgen für Kontrollen, Grundrechte oder die Bewertung von Menschen haben, reichen gute Absichten nicht mehr aus.
Dann braucht es eine klare Rechtsgrundlage, eine sorgfältige Prüfung der verwendeten Daten und eine nachvollziehbare menschliche Entscheidung. Ein KI-Ergebnis darf nicht einfach übernommen werden. Zuständige Mitarbeitende müssen verstehen, wie der Hinweis zustande kommt, ihn kritisch einordnen und ihm widersprechen können.
Der EU AI Act verlangt diese Form wirksamer menschlicher Aufsicht für Hochrisiko-Systeme. Menschen müssen Ergebnisse überwachen, interpretieren, überstimmen oder den Einsatz des Systems stoppen können. Außerdem verbietet der AI Act Systeme, die das Risiko einer Straftat einer Person ausschließlich aus Profiling oder Persönlichkeitsmerkmalen ableiten.
Die entscheidende Grenze lautet deshalb nicht: KI ja oder nein.
Sie lautet: KI kann helfen, Bedarfe zu planen. Sie darf nicht ohne kritische Prüfung Menschen oder Orte zu Risikoprofilen machen.
