KI in der öffentlichen Verwaltung: EU AI Act für Behörden

Öffentliche Stellen unterliegen nach EU AI Act zusätzlichen Pflichten. Registrierungspflicht: Behörden müssen nach Art. 49 Abs. 3 EU AI Act alle Hochrisiko-KI-Systeme, die sie nutzen, in der EU-KI-Datenbank registrieren – auch wenn sie nicht Anbieter, sondern nur Betreiber sind. Grundrechtsbindung: Behördliche KI-Entscheidungen müssen mit Grundrechten kompatibel sein (Gleichheitsgrundsatz, Verhältnismäßigkeit, rechtliches Gehör). Transparenzpflichten: Verwaltungsrechtliche Transparenz kann über die EU AI Act-Anforderungen hinausgehen.

Viele behördliche KI-Systeme sind per Definition Hochrisiko: KI in der Strafverfolgung (Anhang III Nr. 6), KI in der Migrations- und Asylverwaltung (Anhang III Nr. 7), KI in der Rechtspflege (Anhang III Nr. 8), KI für staatliche Leistungen und Sozialschutz (Anhang III Nr. 5), KI für den Zugang zu öffentlicher Infrastruktur und Bildung (Anhang III Nr. 3). Praktische Beispiele: Algorithmen für Sozialhilfe-Bewilligung, KI-Systeme für Steuerbetrugs-Erkennung, algorithmische Fallzuweisung in Gerichten.

Ein zentrales verwaltungsrechtliches Problem: Wo ein Ermessen besteht, muss die Behörde dieses selbst ausüben – eine KI kann das Ermessen unterstützen, aber nicht ersetzen. Art. 14 EU AI Act (menschliche Aufsicht) und das Verwaltungsrecht ergänzen sich hier. Anforderungen: KI darf bei Ermessensentscheidungen nur unterstützen, nicht allein entscheiden, die entscheidende Person muss die KI-Empfehlung inhaltlich würdigen können, im Bescheid muss erkennbar sein, dass menschliches Ermessen ausgeübt wurde. Vollautomatisierte Verwaltungsakte sind nur in engen gesetzlichen Grenzen zulässig (§ 35a VwVfG in Deutschland).

Informationsfreiheitsgesetze (IFG in Deutschland, AIG in der Schweiz, AIG/IFG in Österreich) können Bürger berechtigen, Informationen über eingesetzte KI-Algorithmen zu erhalten. Behörden sollten proaktiv: KI-Einsatz in Datenschutzerklärungen und öffentlichen Informationsangeboten offenlegen, auf Anfragen zu eingesetzten Algorithmen vorbereitet sein, eine Erklärung des KI-Einsatzes für Bürger bereithalten. In der Schweiz: Das Öffentlichkeitsprinzip des Bundes (BGÖ) gilt auch für KI-Systeme der Bundesbehörden.

Art. 57 EU AI Act ermöglicht regulatorische Sandboxes für innovative KI-Anwendungen, auch in der öffentlichen Verwaltung. Für behördliche KI-Pilotprojekte: Sandbox-Programme ermöglichen die Entwicklung und Tests unter behördlicher Aufsicht ohne vollständige Compliance-Pflichten. In Deutschland: Aktivitäten des ZenDiS und des Bundesministeriums des Innern zu GovTech-KI. In der Schweiz: Bundesrat hat KI-Strategie verabschiedet, die auch Sandbox-Ansätze vorsieht. Nutzung dieser Programme kann Compliance-Kosten reduzieren und gleichzeitig Innovation fördern.