KI in der Verwaltung: Wo kleine Kommunen jetzt anfangen sollten

Kurz gesagt: Kleine Kommunen müssen nicht auf große Landes- oder Bundesprojekte warten, um mit KI Zeit zu sparen. Der beste Einstieg sind wiederkehrende Routineaufgaben aus den Ämtern selbst: Postfächer, Protokolle, Veröffentlichungen, Dokumente. Entscheidend ist die Reihenfolge: erst die Ämter fragen, dann nach Nutzen und Machbarkeit bewerten, dann klein und ohne Personendaten starten. Personenbezogene Daten gehören dabei auf Server in Deutschland, und am Ende gibt immer ein Mensch frei.

KI-Projekte im Rathaus scheitern selten an der Technik

Die meisten KI-Projekte in Verwaltungen scheitern nicht an der Technik. Sie scheitern daran, dass niemand die Ämter fragt.

Das Muster ist oft dasselbe: Es wird ein Werkzeug angeschafft, weil es auf einer Messe überzeugt hat. Ein paar Mitarbeitende probieren es aus, dann versandet es im Alltag. Oder es entsteht der Plan für ein großes Digitalisierungsprojekt, das so lange in der Vorbereitung steckt, bis sich die Technik schon wieder verändert hat.

Als ich im September einen Auftakttag in einer Stadtverwaltung im Zollernalbkreis begleitet habe, kamen die besten Ideen nicht aus der Führungsrunde. Sie kamen aus der Sachbearbeitung, von den Menschen, die jeden Morgen das Funktionspostfach sortieren oder Veranstaltungshinweise zum vierten Mal abtippen. Genau dort sollte der Einstieg in KI beginnen.

Warum das Thema gerade jetzt drängt

Der Personalmangel im öffentlichen Dienst ist längst Alltag. Nach Angaben des dbb fehlen dem öffentlichen Dienst rund 600.000 Beschäftigte (dbb, Januar 2026), davon 108.500 in der Kommunalverwaltung (dbb, August 2025). Das sind Zahlen einer Gewerkschaft, aber die Richtung bestätigen viele Rathäuser aus eigener Erfahrung: Stellen bleiben länger unbesetzt, die Aufgaben werden nicht weniger.

Eine Studie von McKinsey kam 2024 zu dem Ergebnis, dass generative KI die Personallücke in der öffentlichen Verwaltung um bis zu 165.000 Vollzeitkräfte verkleinern könnte, rund ein Drittel der erwarteten Lücke (Tagesspiegel, Juli 2024). Man muss solche Hochrechnungen nicht wörtlich nehmen. Sie zeigen aber, worum es geht: KI ersetzt keine Verwaltung, sie nimmt ihr Routine ab, damit mehr Zeit für Bürgerinnen und Bürger bleibt.

Was andere Verwaltungen schon machen

KI in der Verwaltung ist keine Zukunftsmusik mehr. Einige Beispiele, die zeigen, wie breit das Feld ist:

Land Baden-Württemberg: Der KI-Assistent F13 wird von rund 50.000 Beschäftigten der Landesverwaltung genutzt (Staatsanzeiger, Juni 2026). Seit Juli 2025 ist F13 Open Source und auch für Kommunen gedacht (Staatsministerium BW). Den Betrieb, also Server und Hardware, müssen Kommunen allerdings selbst organisieren.
Wertheim: Die Stadt lässt Gemeinderatsprotokolle von KI vorbereiten. Ein Protokoll dauerte früher bis zu acht Stunden, heute weniger als drei (Die Gemeinde, Februar 2026). Dafür gab es das Siegel „Bewährt vor Ort“ des Deutschen Städte- und Gemeindebunds (Kommune21).
Hamburg: Der Textassistent LLMoin steht rund 40.000 Beschäftigten der Hamburger Verwaltung zur Verfügung, über 80 Prozent der Befragten sind zufrieden (Senatskanzlei Hamburg, Dezember 2025).
Heidelberg: Die Stadt hat mit der KI-Assistenz Lumi früh getestet, wie Bürgerfragen automatisch beantwortet werden können. In der Testphase bis März 2023 führte Lumi rund 4.500 Gespräche (Stadt Heidelberg).

Was auffällt: Die erfolgreichen Beispiele lösen ein klar umrissenes Problem. Kein Projekt heißt „KI-Einführung“, sondern „Protokolle schneller schreiben“ oder „Bürgerfragen rund um die Uhr beantworten“.

Vom Antworten zum Erledigen: vier Stufen

Viele denken bei KI an ChatGPT, also an ein Fenster, in das man eine Frage tippt. Der größere Hebel liegt darin, dass KI ganze Arbeitsschritte übernimmt. Am Beispiel einer Vereins-Mail, die ein Herbstkonzert ankündigt:

Assistent: Die KI liest die Mail und schlägt einen Text für das Amtsblatt vor. Sie prüfen und übernehmen.
Automatisierung: Aus derselben Mail entstehen automatisch Einträge für Amtsblatt, Homepage und Veranstaltungskalender, als Entwurf zur Freigabe.
Agent: Die KI merkt, wenn etwas fehlt, etwa die Uhrzeit oder der Eintrittspreis, und fragt beim Verein nach, bevor etwas veröffentlicht wird.
Ausblick: Posteingang, Ablage, Suche und Fachverfahren greifen ineinander.

In jeder Stufe gilt: Der Mensch entscheidet und gibt frei.

Zwei Ablaufdiagramme: oben der heutige Ablauf, in dem eine Vereinsmail in vier getrennten Handarbeitsschritten aufbereitet wird; unten der künftige Ablauf, in dem die KI die Daten ausliest, vier Entwürfe erstellt und ein Mensch sie gebündelt freigibt — Aus einem echten KI-Fahrplan: Heute wird jede Veranstaltung viermal von Hand eingetragen, künftig entstehen alle Texte aus einer Mail.

Wo Sie anfangen: in fünf Schritten

1. Fragen Sie die Ämter. Kurze Gespräche vor Ort, am besten mit der Frage: Welche Aufgabe würden Sie am liebsten nie wieder machen? Dabei geht es um Entlastung, nicht um Bewertung. Das sollte von Anfang an klar sein.

2. Sammeln Sie alles auf einer Liste. Auch Ideen, die zunächst groß oder unrealistisch wirken. In der Beispielverwaltung kamen an einem Tag 24 Anwendungsfälle zusammen.

3. Bewerten Sie nach Nutzen und Machbarkeit. Mit festen Kriterien, etwa Zeitersparnis, Breitenwirkung und Wirkung für Bürger auf der einen Seite, Schnittstellen, Datenlage und Datenschutz auf der anderen. So entsteht eine Reihenfolge, über die man sachlich sprechen kann.

Use-Case-Matrix aus einem echten KI-Fahrplan: Anwendungsfälle nach Nutzen und Machbarkeit in vier Feldern, Details unkenntlich gemacht — Die Use-Case-Matrix aus einem echten Projekt, Details unkenntlich gemacht: Oben rechts liegen die Fälle, mit denen man startet.

4. Starten Sie klein und ohne Personendaten. Drei bis vier Fälle, die ohne technische Vorarbeit funktionieren: Mail-Vorsortierung, Veranstaltungstexte, barrierefreie PDFs. Welche Fälle sich typischerweise eignen, zeige ich im Beitrag Schnelle Entlastung im Rathaus: KI-Anwendungsfälle mit hohem Nutzen und wenig Aufwand.

5. Messen Sie, dann bauen Sie aus. Nach einigen Wochen zeigt sich, was funktioniert. Erst dann kommen die größeren Vorhaben dran, zum Beispiel eine Suche über alle Akten.

Leitplanken für Datenschutz und Recht

Wer KI in der Verwaltung einsetzt, sollte vier Grundsätze von Anfang an festlegen.

Personenbezogene Daten bleiben in Deutschland. Entweder auf einem Server im Rathaus oder in einem deutschen Rechenzentrum mit Vertrag zur Auftragsverarbeitung. Der Grund für die Vorsicht bei US-Anbietern ist der US CLOUD Act: Er verpflichtet US-Unternehmen, Daten an US-Behörden herauszugeben, auch wenn die Server in Europa stehen. Für Aufgaben ohne Personenbezug, etwa das Aufbereiten öffentlicher Dokumente, ist mehr Spielraum.

Die KI gibt keine Rechtsauskunft. Sprachmodelle können Rechtsgrundlagen falsch oder veraltet wiedergeben. Die saubere Arbeitsteilung: Die Verwaltung pflegt geprüfte Vorlagen, die KI füllt sie mit den Angaben des Einzelfalls, ein Mensch prüft.

Der Mensch gibt frei. Entscheidung, Ermessen, Bürgerkontakt und Freigabe bleiben bei den Mitarbeitenden. Die KI liefert Entwürfe und Vorschläge.

Personalrat und Datenschutzbeauftragte sind von Anfang an dabei. Nicht als Pflichttermin am Ende, sondern schon beim Auftakt. Das beschleunigt am Ende mehr, als es kostet.

Welche Technik passt zu einer kleinen Kommune?

Für den Betrieb gibt es im Kern drei Wege:

Eigener KI-Server im Rathaus: Die Daten verlassen das Gebäude nicht. Dafür braucht es etwas Hardware und jemanden, der sie betreut.
Deutsches Rechenzentrum: Die Kommune nutzt KI-Modelle bei einem deutschen Anbieter mit Vertrag zur Auftragsverarbeitung. Weniger Aufwand im Haus, klare vertragliche Absicherung.
Angebote des Landes: F13 steht als Open Source zur Verfügung. Den Betrieb muss die Kommune aber selbst oder über einen Dienstleister organisieren.

Welcher Weg passt, hängt davon ab, welche Anwendungsfälle zuerst kommen. Deshalb gehört die Technikfrage ans Ende der Bewertung, nicht an den Anfang.

Typische Stolpersteine

Werkzeug ohne Aufgabe: Eine KI-Lizenz für alle, aber niemand weiß, wofür. Besser: erst den Anwendungsfall, dann das Werkzeug.
Zu groß gedacht: Das Projekt „KI-Verwaltung 2030“ bringt im nächsten Jahr keine Entlastung. Kleine Schritte mit sichtbarem Ergebnis schon.
Zu früh zu sensibel: Wer mit Bescheiden oder Personalakten anfängt, landet sofort in schwierigen Rechtsfragen. Besser mit öffentlichen oder wenig sensiblen Daten starten.
Ohne Messung: Wer nicht weiß, wie lange eine Aufgabe vorher gedauert hat, kann den Erfolg nicht zeigen.
Personalrat zu spät: Dann wird aus einem Entlastungsprojekt schnell eine Grundsatzdiskussion.

Wie ich Kommunen dabei begleite

Ich begleite Rathäuser genau auf diesem Weg: vom Auftakttag mit Gesprächen in den Ämtern über den KI-Fahrplan mit bewerteten Anwendungsfällen bis zur Umsetzung und zum Betrieb. Die Lösungen baue ich selbst. Mehr dazu auf der Seite KI für Rathäuser und Kommunen.