KI revolutioniert deutsche Behörden – doch wer kontrolliert die Algorithmen?

KI revolutioniert deutsche Behörden – doch wer kontrolliert die Algorithmen?

Die deutsche Bundesregierung treibt die Pläne voran, künstliche Intelligenz (ki) in die öffentliche Verwaltung zu integrieren. Bundeskanzler Friedrich Merz bezeichnete KI als eine "disruptive" Kraft, die die Staatsführung grundlegend verändern könne – betonte jedoch, dass die menschliche Kontrolle weiterhin im Mittelpunkt stehen müsse. Der Schritt ist Teil umfassender Bestrebungen, Arbeitsabläufe zu modernisieren und die Effizienz in Bundesbehörden zu steigern.

Gemäß dem EU-KI-Gesetz muss Deutschland nun strenge Vorgaben zu Transparenz, Risikoklassifizierung und Rechenschaftspflicht bei der Nutzung von KI-Systemen umsetzen. Beamte testen bereits generative KI-Tools, um Gesetzesentwürfe zu formulieren, Dokumente zu strukturieren und politische Lösungsvorschläge zu unterbreiten – stets unter Einhaltung von Sicherheitsvorkehrungen.

Kanzler Merz erprobte kürzlich KI bei der Ausarbeitung von Änderungen am Einkommensteuergesetz, konkret bei der Formulierung zur aktiven Rentenregelung. Das System schlug präzise juristische Formulierungen vor, übersah jedoch eine wichtige Aktualisierung des Gesetzestextes. Dennoch zeigte der Test, dass KI Routineaufgaben beschleunigen, Dokumente ordnen und bei Recherchen unterstützen kann – und so Beamte für strategische Arbeit entlastet.

Die digitale Transformationsinitiative der Bundesregierung zielt darauf ab, die Verwaltung zu verschlanken und politische Entscheidungsprozesse zu verbessern. Dazu gehören sichere Testumgebungen, kontinuierliche Qualitätskontrollen und klare Beschwerdeverfahren für Betroffene von KI-gestützten Entscheidungen. Das EU-KI-Gesetz bildet das rechtliche Gerüst und sieht strenge Kontrollen für Hochrisiko-Anwendungen sowie Transparenz bei der Funktionsweise der Systeme vor. Zwar hat die Regierung noch keine konkrete Person für die Aufsicht über die KI-Testläufe benannt, doch liegt der Fokus auf einer vertrauenswürdigen Umsetzung. Klare Leitplanken und transparente Prozesse gelten als entscheidend, um das öffentliche Vertrauen in eine KI-gestützte Verwaltung zu wahren. Während Automatisierung bald repetitive Aufgaben übernehmen könnte, bleibt die letzte Verantwortung bei menschlichen Entscheidungsträgern.

Deutschlands Vorstoß, KI in der Verwaltung einzuführen, folgt den EU-Vorgaben und soll Bürokratie abbauen sowie die Servicequalität erhöhen. Die Erprobung generativer KI bei der Gesetzesformulierung markiert einen ersten Schritt hin zu einer breiteren Integration. Fürs Erste müssen Beamte Innovation mit strenger Regelkonformität in Einklang bringen – und sicherstellen, dass die Systeme zuverlässig, rechenschaftspflichtig und unter menschlicher Kontrolle bleiben.