Nutzung von Künstlicher Intelligenz (KI) zur Optimierung von Prozessen in der Stadtverwaltung

Anfrage Gedruckt auf 100 Prozent Recyclingpapier Vorlage Nr.: 2025/0288 Eingang: 21.03.2025 Nutzung von Künstlicher Intelligenz (KI) zur Optimierung von Prozessen in der Stadtverwaltung Anfrage: FÜR Gremien Termin TOP Ö / N Zuständigkeit Gemeinderat 29.04.2025 20 Ö Kenntnisnahme 1. Welche Möglichkeiten sieht die Stadtverwaltung Karlsruhe, KI zur Verschlankung und Optimierung von Verwaltungsprozessen einzusetzen? 2. Wie geht die Stadtverwaltung mit dem bestehenden Personalmangel um, und wird der Einsatz von KI als Lösungsmöglichkeit in Betracht gezogen? 3. Gibt es bereits Überlegungen oder Projekte, in denen KI innerhalb der Stadtverwaltung Karlsruhe getestet oder eingesetzt wird? 4. In welchen Bereichen sieht die Verwaltung das größte Potenzial für den Einsatz von KI, und wo werden klare Grenzen gezogen? 5. Welche rechtlichen Bedenken sieht die Stadtverwaltung beim Einsatz von KI in sensiblen Verwaltungsprozessen? Begründung: Angesichts des zunehmenden Fachkräftemangels und unbesetzter Stellen in der Stadtverwaltung Karlsruhe wäre es von Interesse, inwiefern Künstliche Intelligenz (KI) dabei helfen kann, Prozesse zu optimieren und effizienter zu gestalten. Viele Abläufe in der Stadtverwaltung sind zeitintensiv und binden personelle Ressourcen. KI könnte dabei unterstützen, standardisierte Aufgaben zu automatisieren und so die Bearbeitungszeiten zu verkürzen. Zusätzlich ist die Stadtverwaltung auch vom Fachkräftemangel betroffen und zahlreiche Stellen bleiben unbesetzt, was zu Verzögerungen in der Bearbeitung führt. KI könnte möglicherweise als Unterstützung dienen, um Engpässe abzufedern und die Arbeit der Mitarbeiter zu erleichtern. Unterzeichnet: Friedemann Kalmbach

Stellungnahme zur Anfrage Gedruckt auf 100 Prozent Recyclingpapier Vorlage Nr.: 2025/0288 Verantwortlich: Dez. 2 Dienststelle: Amt für Informationstechnik und Digitalisierung Nutzung von Künstlicher Intelligenz (KI) zur Optimierung von Prozessen in der Stadtverwaltung Anfrage: FÜR Gremien Termin TOP Ö / N Zuständigkeit Gemeinderat 29.04.2025 20 Ö Kenntnisnahme Insgesamt kann der Einsatz von KI in der Stadtverwaltung zwar Abhilfe verschaffen im Hinblick auf den vorherrschenden Fachkräftemangel und geplante Sparmaßnahmen. Jedoch sollte KI nicht als Allheilmittel betrachtet werden, da es Bereiche gibt, in denen der Einsatz von KI nicht möglich ist, sei es aus technischer, fachlicher oder rechtlicher Hinsicht. – 2 – Zu Frage 1: Welche Möglichkeiten sieht die Stadtverwaltung Karlsruhe, KI zur Verschlankung und Optimierung von Verwaltungsprozessen einzusetzen? Die Karlsruher Stadtverwaltung kann KI gezielt einsetzen, um Prozesse zu beschleunigen, Bürgerfreundlichkeit zu erhöhen und Kosten zu senken. Wichtig ist dabei eine schrittweise Einführung mit Pilotprojekten, um Akzeptanz zu schaffen und rechtliche sowie ethische Aspekte zu berücksichtigen. KI ist vielseitig einsetzbar, daher sind diverse Szenarien denkbar wie beispielsweise: • Automatisierung von Routineaufgaben o Chatbots & virtuelle Assistenten: KI-gestützte Chatbots für Bürgeranfragen (z. B. Öffnungszeiten, Antragsstatus, Müllabfuhrtermine). o Dokumentenklassifizierung & Posteingang: Automatische Erkennung und Verteilung von eingehenden Dokumenten (z. B. im E-Posteingang). o Texterkennung & Datenextraktion: Automatische Erfassung von Formularen und Rechnungen durch OCR-Technologie. • Effizienzsteigerung in der Sachbearbeitung o KI-gestützte Entscheidungsunterstützung: Automatische Vorschläge für Bescheide, Genehmigungen oder Fördermittel anhand von Regeln und Mustern. o Priorisierung von Vorgängen: KI kann Anfragen und Anträge nach Dringlichkeit und Komplexität sortieren. o Automatisierte Wiedervorlagen: KI erkennt, wann eine Bearbeitung oder Erinnerung fällig ist. • Optimierung von Termin- und Ressourcenplanung o Terminvereinbarungssysteme: KI kann Termine für Bürgerdienste optimal verteilen, um Wartezeiten zu reduzieren. o Raum- und Fahrzeugverwaltung: Smarte Buchungssysteme für städtische Ressourcen, optimierte Zuweisung von Dienstfahrzeugen oder Besprechungsräumen. o Personaleinsatzplanung: Vorhersage von Personalbedarf in Bürgerbüros oder bei bestimmten Verwaltungsdienstleistungen. • Intelligente Datenanalyse & Prognosen o Auswertung von Bürgerfeedback & Anträgen: Erkennung von Trends und Problemfeldern durch KI-gestützte Analysen. o Bessere Haushaltsplanung: Vorhersage von Ausgaben- und Einnahmentrends für eine optimierte Finanzplanung. • Smart City & Infrastruktur-Management o Verkehrssteuerung & Parkraummanagement: KI kann Verkehrsflüsse analysieren und Vorschläge für Ampelschaltungen oder Parkplatzverfügbarkeiten liefern. o Energie- & Gebäudemanagement: KI-gestützte Steuerung von Heizungen und Beleuchtung für kommunale Gebäude zur Energieeinsparung. • Unterstützung bei rechtlichen & verwaltungsinternen Prozessen o Automatische Fristenüberwachung: KI kann sicherstellen, dass gesetzliche Fristen eingehalten werden. o Intelligente Aktenverwaltung: KI kann Dokumente und Akten nach Kontext und Bedeutung automatisch verknüpfen. o Generative KI für Textentwürfe: Unterstützung bei Bescheidtexten, E-Mails oder Bürgerinformationen. – 3 – • Verbesserte Bürgerbeteiligung & Transparenz o Analyse von Bürgeranfragen & Beschwerden: KI erkennt häufige Themen und hilft, sie gezielt zu adressieren. o KI-gestützte Online-Beteiligung: Automatische Kategorisierung und Zusammenfassung von Vorschlägen bei Bürgerbeteiligungsprozessen. o Einfache Sprache & Übersetzungen: Automatische Übersetzungen oder Umformulierung von Verwaltungstexten in leicht verständliche Sprache. Zu Frage 2: Wie geht die Stadtverwaltung mit dem bestehenden Personalmangel um, und wird der Einsatz von KI als Lösungsmöglichkeit in Betracht gezogen? Der Einsatz von KI in der Karlsruher Stadtverwaltung soll grundsätzlich mit dem Ziel erfolgen, bestehendes Personal nicht zu ersetzen, sondern die Mitarbeitenden zu entlasten und zu unterstützen. Notwendige Vorbedingung für die Einführung und den Einsatz von KI in der Stadtverwaltung sind die Ausstattung mit dafür notwendigen Finanzmitteln und Personal sowie die Verortung von Zuständigkeiten für das Thema KI. Das Amt für Informationstechnik und Digitalisierung präferiert neben der Verwendung von KI auch den Einsatz der Technologie „Robotic Process Automation (RPA)“, d. h. Prozessautomatisierung durch Software-Roboter, für die Automatisierung von Verwaltungsprozessen (insbesondere Routineaufgaben), um Mitarbeitende zu entlasten. Beide Technologien, KI und RPA, werden als geeignet angesehen, um dem Fachkräftemangel in der Karlsruher Stadtverwaltung entgegenzuwirken. Der Gesamtpersonalrat der Karlsruher Stadtverwaltung und die örtlichen Personalräte in den Dienststellen werden bei diesen Überlegungen und dem weiteren Vorgehen von Anfang an mit einbezogen. Zu Frage 3: Gibt es bereits Überlegungen oder Projekte, in denen KI innerhalb der Stadtverwaltung Karlsruhe getestet oder eingesetzt wird? Zurzeit wird die bestehende Digitalstrategie der Stadt Karlsruhe fortgeschrieben und um das Thema KI ergänzt. Hierdurch sollen Einführung und Einsatz von KI in der Stadtverwaltung strukturiert und zielgerichtet im Rahmen von Projekten erfolgen. Konkrete Planungen für KI-Projekte bestehen momentan noch nicht. Im Rahmen der strategischen Planung des KI-Einsatzes soll im Vorfeld zunächst ermittelt werden, wo dieser sinnvoll und notwendig ist. Hierfür sollen in den Dienststellen sogenannte „Schmerzpunkte“ ermittelt werden, also notwendige und dringende Handlungsbedarfe. Diese sollen dann untersucht werden (technisch und rechtlich) hinsichtlich der Möglichkeit eines KI-Einsatzes, danach erfolgt eine Priorisierung innerhalb der jeweiligen Dienststelle sowie stadtweit. Parallel hierzu muss auch das städtische Personal im Hinblick auf KI informiert und sensibilisiert werden. Hierfür steht zum einen ein dreistündiger Einführungskurs im Rahmen des Fortbildungsprogramms zur Verfügung, zum anderen sollen hierfür auch die DCAs (Digital Change Advisors) in den Dienststellen als „KI-Botschafter“ eingesetzt werden, indem sie ihre Kolleginnen und Kollegen über das Thema informieren und sensibilisieren. Generell haben Einführung und Einsatz von KI in der Stadtverwaltung immer Einfluss auf vier Bereiche: Technik, Personal, Prozesse und Organisation. Diese Bereiche müssen immer ganzheitlich betrachtet werden, wenn KI ins Spiel kommen soll. – 4 – Zu Frage 4: In welchen Bereichen sieht die Verwaltung das größte Potenzial für den Einsatz von KI, und wo werden klare Grenzen gezogen? Das größte Potenzial liegt in der Automatisierung von Routineaufgaben, der Datenanalyse und der Optimierung städtischer Ressourcen. Grenzen sollten dort gezogen werden, wo Datenschutz, Diskriminierungsrisiken oder fehlende menschliche Kontrolle problematisch sein könnten. Das Ziehen von Grenzen bezieht sich beispielsweise auf Themen wie • Rechtliche und ethische Grenzen o Automatisierte Bescheide mit Ermessensspielraum: Entscheidungen mit menschlicher Beurteilung (z. B. Sozialleistungen, Baugenehmigungen) sollten nicht vollautomatisiert getroffen werden. o Datenschutz & Grundrechte: KI-Systeme dürfen keine sensiblen personenbezogenen Daten ohne strenge Kontrolle analysieren. o Diskriminierungsgefahr: KI-Modelle können bestehende Vorurteile in Daten verstärken (z. B. bei der Kriminalitätsanalyse). • Transparenz und Nachvollziehbarkeit o KI darf nicht "Black Box" sein: Entscheidungen müssen nachvollziehbar bleiben, vor allem in rechtsrelevanten Bereichen. o Bürger dürfen nicht ausschließlich mit KI interagieren: Es muss immer eine menschliche Ansprechperson geben. Außerdem müssen Bürger*innen im Vorfeld darauf hingewiesen werden, dass sie mit einer Maschine kommunizieren. • Akzeptanz und Vertrauensbildung o Kein Ersatz für persönliche Beratung: Besonders in sensiblen Bereichen (Sozialhilfe, Bürgerbüro) sollte KI nur unterstützend wirken. o Keine Überwachung & Kontrolle durch KI: Beispielsweise darf KI nicht zur systematischen Überwachung von Mitarbeitenden genutzt werden. Zu Frage 5: Welche rechtlichen Bedenken sieht die Stadtverwaltung beim Einsatz von KI in sensiblen Verwaltungsprozessen? Beim Einsatz von KI in sensiblen Verwaltungsprozessen gibt es eine Reihe rechtlicher Bedenken, die von der Karlsruher Stadtverwaltung beachten muss. Die wichtigsten Aspekte sind: • Datenschutz & DSGVO-Konformität o Verarbeitung personenbezogener Daten: Die Datenschutz-Grundverordnung (DSGVO) schreibt vor, dass personenbezogene Daten nur mit einer klaren Rechtsgrundlage verarbeitet werden dürfen (Art. 6 DSGVO). o Datenminimierung & Zweckbindung: KI darf nicht mehr Daten verarbeiten als nötig und nur für den vorgesehenen Zweck. • Automatisierte Entscheidungen & Verwaltungsverfahrensrecht o Verbot automatisierter Einzelentscheidungen: Nach Art. 22 DSGVO dürfen Entscheidungen, die rechtliche Wirkungen für eine Person haben oder sie erheblich beeinträchtigen, nicht ausschließlich automatisiert getroffen werden. o Menschliche Überprüfung: Das Verwaltungsverfahrensgesetz (VwVfG) verlangt, dass Sachbearbeitende in Ermessensentscheidungen einbezogen werden (z. B. bei Sozialleistungen oder Baugenehmigungen). – 5 – o Begründungspflicht: Verwaltungsakte müssen nachvollziehbar begründet werden (§ 39 VwVfG), was bei Black-Box-KI-Systemen schwierig sein kann. • Diskriminierungsrisiken & Gleichbehandlungsgrundsatz o Gefahr der algorithmischen Voreingenommenheit: KI kann systematische Vorurteile aus Trainingsdaten übernehmen, was gegen den Gleichheitsgrundsatz des Grundgesetzes (Art. 3 GG) verstoßen könnte. o Bevorzugung oder Benachteiligung bestimmter Gruppen: Beispielsweise könnten KI- gestützte Sozialleistungsanalysen ungewollt diskriminierende Muster aufweisen. o Notwendigkeit einer Bias-Kontrolle: Stadtverwaltungen müssen sicherstellen, dass eingesetzte KI-Systeme regelmäßig auf Fairness überprüft werden. • Transparenz & Nachvollziehbarkeit o Erklärbarkeit der KI-Entscheidungen: Die Verwaltung muss in der Lage sein, den Bürgerinnen und Bürgern sowie Gerichten zu erklären, wie eine KI zu ihrer Entscheidung gekommen ist. o Dokumentationspflicht: Die Entscheidungskriterien und die Funktionsweise der KI müssen ausreichend dokumentiert werden, um im Streitfall Beweise zu haben. o Öffentliche Rechenschaftspflicht: Stadtverwaltungen unterliegen einer besonderen Verantwortung gegenüber der Öffentlichkeit und müssen den Einsatz von KI transparent machen. • IT-Sicherheit & Haftung o Schutz vor Manipulation: KI-Systeme dürfen nicht durch externe Angriffe oder fehlerhafte Daten beeinflusst werden. o Haftung bei Fehlentscheidungen: Falls eine KI einen fehlerhaften Verwaltungsakt auslöst, stellt sich die Frage, wer dafür haftet – die Stadtverwaltung, der Softwareanbieter oder die Fachabteilung? o Einhaltung von IT-Sicherheitsstandards: Kommunale IT-Systeme müssen den Vorgaben des Bundesamts für Sicherheit in der Informationstechnik (BSI) entsprechen. Die Karlsruher Stadtverwaltung muss bei der Nutzung von KI also besonders auf Datenschutz, Transparenz, Nichtdiskriminierung und Rechtssicherheit achten. Der Einsatz sollte gut geprüft, dokumentiert und immer mit menschlicher Kontrolle kombiniert werden.

Niederschrift 9. Plenarsitzung des Gemeinderates 29. April 2025, 15:30 Uhr öffentlich Bürgersaal, Rathaus am Marktplatz Vorsitzende: Erste Bürgermeisterin Gabriele Luczak-Schwarz Punkt 20 der Tagesordnung: Nutzung von Künstlicher Intelligenz (KI) zur Optimierung von Prozessen in der Stadtverwaltung Anfrage: FÜR Vorlage: 2025/0288 Beschluss: Kenntnisnahme von der Stellungnahme der Verwaltung Abstimmungsergebnis: Keine Abstimmung Die Vorsitzende ruft Tagesordnungspunkt 20 zur Behandlung auf und teilt mit, die Stel- lungnahme der Verwaltung liege vor, der Gemeinderat habe Kenntnis genommen (Keine Wortmeldungen). Zur Beurkundung: Die Schriftführerin: Hauptamt - Ratsangelegenheiten – 30. April 2025