Tagesordnungsantrag der Fraktionen von Bündnis 90/DIE GRÜNEN und SPD vom 06.06.2024 Sachstand: Aachener Verwaltung und Künstliche Intelligenz (KI)

FB15/0053/WP18 · Kenntnisnahme

im Ratsinformationssystem anzeigen

Beratungsergebnis:zur Kenntnis genommen

Beratung

Herr Dr. Dillmann (FB 15/000) trägt zusammen mit Frau Spiegelberg (FB 11/220) die der Niederschrift beigefügte Präsentation „Künstliche Intelligenz“ vor. Darin wird thematisiert, welche Potentiale die Stadt Aachen für den Einsatz künstlicher Intelligenz und anderer Formen der Prozessautomatisierung in der Verwaltung sieht, welche Chancen und Risiken der Einsatz von KI für die Stadt Aachen bereithält, wie mit Ängsten und Vorschlägen von Mitarbeitenden umzugehen sei und welche Möglichkeiten zu Schulungen von Mitarbeitenden bestehen.

Herr Dr. Dillmann (FB 15/000) weist unter anderem auf das besondere Potential von KI-Nutzung im Personalbereich hin. So könne möglicherweise durch den Einsatz von KI der Recruiting-Prozess zeitlich verkürzt und kostengünstiger gestaltet werden. Als Beispiel führt er an, dass etwa das Abgleichen von Lebensläufen durch eine KI sinnvoll erscheine. Er stellt klar, dass in diesem Zusammenhang nicht von der Nutzung von Chat GPT die Rede sei, sondern von gekauften Produkten. Im weiteren Verlauf der Präsentation beleuchtet Herr Dr. Dillmann (FB 15/000) auch die Richtlinien für eine KI-Nutzung und thematisiert demnach die entsprechende EU KI-Verordnung (AI-Act) und die DSGVO. Zudem merkt er an, dass sich eine entsprechende Dienstanweisung der Stadt Aachen in Vorbereitung befinde, um klarzustellen, warum KI bei der Stadt Aachen eingesetzt werden soll, wo und wie diese eingesetzt werden könne.

Ratsfrau Kurschilgen (DIE GRÜNEN) hinterfragt, wie die Inhalte der dritten Folie der Präsentation zu verstehen seien. Beispielhaft führt Herr Dr. Dillmann (FB 15/000) an, dass bei Fällen von Beurteilungs– oder Ermessenspielräumen keine Automatisierung gestattet sei. Die finale Entscheidung müsse immer ein Mensch treffen.

Ratsfrau Fohn (CDU) möchte wissen, ob Trainingsdatensätze zum sogenannten „Füttern“ der KI genutzt werden würden. Herr Dr. Dillmann verneint dies für ein Füttern der KI mit Daten der Stadt Aachen. Es werde aber darauf geachtet, welche Trainingsdaten für die KI genutzt werden würden.

Herr Hüsener (DIE GRÜNEN) hinterfragt, ob die Entwicklung eines stadteigenen Large Language Models geplant sei. Dies verneint Herr Dr. Dillmann (FB 15/000) für den Moment. Ein solches Softwaremodell, welches vereinfacht dargestellt, die Spielregeln der Datenauswertung aufstelle, sei aufgrund seiner Komplexität aktuell kein Thema für die Stadt Aachen.

Frau Spiegelberg beleuchtet nun die potentiellen Ängste von Mitarbeitenden, wie beispielsweise die Angst vor Arbeitsplatzverlust aufgrund von Ersatz der Arbeitsleistung durch KI. Sie stellt klar, dass die Mitarbeitenden der Stadt Aachen in dem Thema daher stets mitzunehmen und zu informieren seien. Dies bezieht sich vor allem auf die Fragestellung, welche Rolle der Mensch in Bezug auf die KI habe. Schulungen seien für die Nutzung von KI notwendig und dies gerade auch für Führungskräfte der Stadt Aachen. Diese sei nämlich als zentrales Steuerungselement anzusehen und könne die Nutzung von KI somit zielführend vorantreiben.

Nach Abschluss des Vortrags merkt Herr Dr. Dillmann an, dass die KI der größte technische Fortschritt in den letzten zehn Jahren darstelle. KI würde ein riesiges Potential bergen, welches die Stadt Aachen nutzen könne.

Beschluss

Der Personal- und Verwaltungsausschuss nimmt die Ausführungen der Verwaltung zur Kenntnis.

Erläuterungen

Einführung:

Das Thema „Künstliche Intelligenz“ (KI) oder auf Englisch „artificial intelligence“ (AI) ist derzeit in aller Munde, weshalb auch die Verwaltung sich fortlaufend hiermit beschäftigt. Diese Vorlage soll betrachten, welche Chancen als auch Risiken mit der Nutzung von KI verbunden sind, welche gesetzlichen Grundlagen derzeit existieren bzw. zünftig kommen werden und wie diese Technologie bei der Stadt Aachen gewinnbringend zum Einsatz gebracht werden kann.

Die Vorlage versteht sich dabei als ein erster Überblick zum Thema „KI in der Verwaltung“. Zur Beantwortung der konkreten Fragen des Tagesordnungsantrages vom 06.06.2024 wird eine Präsentation im Rahmen der Ausschusssitzung gezeigt.

Definition KI:

Der Begriff der KI ist nicht einheitlich definiert. In den verschieden Quellen finden sich unterschiedliche Ansätze.

Eine KI selbst gibt auf die Frage nach der Definition von künstlicher Intelligenz beispielsweise folgende Antwort:

ChatGPT: „Künstliche Intelligenz (KI) bezieht sich auf die Fähigkeit von Computern oder Computersystemen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern würden. Diese Aufgaben umfassen oft das Lernen aus Erfahrung, das Lösen von Problemen, das Erkennen von Mustern, das Verstehen von natürlicher Sprache und vieles mehr. KI-Algorithmen und -Techniken werden verwendet, um Computerprogramme zu entwickeln, die in der Lage sind, komplexe Aufgaben zu bewältigen und menschenähnliches Verhalten oder Denken zu zeigen.“

Letztendlich sollte jedoch sich gerade die öffentliche Verwaltung an der Definition von KI aus der KI-Verordnung (englisch AI Act) der EU, welche am 13.3.2024 vom EU-Parlament verabschiedet wurde orientieren: „"KI-System": ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und nach dem Einsatz Anpassungsfähigkeit zeigen kann, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können;“

Abgrenzung KI oder keine KI:

Bisher ist es so, dass es keine konkrete oder geprüfte Einstufung gibt, ob es sich bei einem Programm um eine KI handelt oder nicht. Viele am Markt mit dem Kennzeichen „KI“ beworbene Lösungen beinhalten nach der Definition der EU KI-Verordnung keine KI. So sind Lösungen zur automatischen Zuordnung oder Verarbeitung von Anträgen eher dem Bereich der Robot Process Automation (RPA – regelbasierte automatische Abarbeitung von Prozessen) zuzuordnen. Häufig werden auch Bot’s (z.B. Chatbots) welche auf Synonymen basieren als KI vermarktet. Auch Lösungen welche auf festen Algorithmen basieren werden oft als KI angeboten.

KI in der Stadtverwaltung Aachen:

Zum aktuellen Zeitpunkt scheint die Nutzung einer zentralen KI bei der Stadtverwaltung Aachen nicht zielführend, da es bisher keine für alle Bereiche geeignete KI auf dem Markt gibt. Ergebnisorientiert erscheint der bedarfsbezogene Einsatz dezentraler KI-unterstützter Systeme und Anwendungen.

Es gibt vielfältige Diskussionen in Medien, ob und wie KI zur automatisierten Bearbeitung von Verwaltungstätigkeiten eingesetzt werden kann. Ein vollständig automatisierter Erlass eines Verwaltungsaktes ist nach § 35a VwVfG nur dann zulässig, wenn es sich um eine gebundene Entscheidung handelt und eine ausdrückliche Ermächtigungsgrundlage besteht. Sofern die öffentliche Stelle über einen Beurteilungsspielraum verfügt oder Ermessen ausübt, scheidet der vollständig automatisierte Erlass aus. Der Einsatz von KI im Bereich des „klassischen“ Verwaltungswesens bzw. zum Erlass von Verwaltungsakten scheint vor diesem Hintergrund schwierig. Hier wäre wohl der Einsatz von Prozess-Automation in der Vorbereitung oder Unterstützung von klassischem Verwaltungshandeln zielführender.

Einsatzbereiche von analytischer KI sind derzeit für folgende Projekte im Blick bzw. bereits im Einsatz:

Bereits im Einsatz:
- Mängelmelder: Erkennung von Gesichtern und KFZ-Kennzeichen auf Bildern um diese zu verpixeln. Hier schlägt die KI lediglich vor was verpixelt werden soll. Die Entscheidung liegt letztendlich bei der Sachbearbeitung.
Ideen für künftige Einsatzfelder:
- Automatische Fertigung von Wortprotokollen im Rat. Derzeitige Systeme schaffen eine Umsetzung von ca. 97%. Somit ist hier auch immer eine manuelle Nachbearbeitung notwendig.
- Erkennung von Schlaglöchern
- KI zur Erkennung von Kollisionen von gleichzeitigen Baustellen
- KI zur Unterstützung der Rettungsleitstelle

Weitere Einsatzpotenziale von KI werden sich innerhalb konkreter Projekte als Lösungsmöglichkeit ergeben.

EU KI-Verordnung (Quelle https://artificialintelligenceact.eu/de/high-level-summary/)

Die EU KI-Verordnung ist eine europäische Verordnung über künstliche Intelligenz (KI) - die erste umfassende Verordnung über KI durch eine wichtige Regulierungsbehörde weltweit. Im Februar 2024 haben die Mitgliedstaaten der Europäischen Union im Ausschuss der Ständigen Vertreter (AStV) die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) einstimmig gebilligt.Mit der KI-Verordnung setzt die EU den Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa. Sie zielt darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert. Im April 2024 hat auch das EU-Parlament der Verordnung zugestimmt. Es wird mit einer Veröffentlichung im Amtsblatt im Sommer 2024 gerechnet. 20 Tage später tritt dann die Verordnung in Kraft und muss innerhalb von 24 Monaten in nationales Recht umgesetzt werden.

Die KI-Verordnung stuft KI nach ihrem Risiko ein:

Unannehmbare Risiken sind verboten (z. B. soziale Bewertungssysteme und manipulative KI).
Der größte Teil des Verordnungstextes befasst sich mit KI-Systemen mit hohem Risiko, die reguliert sind.
Ein kleinerer Teil befasst sich mit KI-Systemen mit begrenztem Risiko, für die geringere Transparenzpflichten gelten: Entwickler und Betreiber müssen sicherstellen, dass die Endnutzer wissen, dass sie mit KI interagieren (Chatbots und Deepfakes).
Das geringste Risiko ist unreguliert (einschließlich der meisten KI-Anwendungen, die derzeit auf dem EU-Binnenmarkt erhältlich sind, wie z. B. KI-gestützte Videospiele und Spam-Filter - zumindest im Jahr 2021; dies ändert sich mit der generativen KI in Form von ChatGPT).

Auch wenn erst voraussichtlich im Jahre 2026 die EU KI-Verordnung in nationales Recht umgesetzt wird, wird sich die Stadt Aachen bereits bei vorher anstehenden Projekten an dieser Verordnung orientieren.

KI und Datenschutz

Natürlich gelten auch bei dem Einsatz von KI die Regeln der DSGVO. Somit ist auch im KI-Umfeld auf den Umgang mit personenbezogenen Daten zu achten. Hierzu hat die Datenschutzkonferenz am 6. Mai 2024 eine Orientierungshilfe herausgegeben (https://www.datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf). Diese bietet einen Überblick über datenschutzrechtliche Kriterien, die für die datenschutzkonforme Nutzung von KI‐Anwendungen zu berücksichtigen sind. In Projekten, in welchen KI zum Einsatz kommen wird, wird wie auch bisher üblich, der Datenschutz auch in Hinblick von Nutzung von KI im Zuge des Projektprozesses mitgedacht.

Generative KI (z.B. ChatGPT) in der Stadt Aachen

Generative KI wie ChatGPT, Claude.AI oder Lösungen von Google oder Microsoft Copilot sind heute im Internet frei verfügbar und werden innerhalb der Verwaltung im Einzelfall derzeit beispielsweise zur Unterstützung bei der Erstellung von Grußworten und anderen Schriftstücken ohne rechtserheblichen Charakter genutzt. Um hier eine Nutzungs- und Rechtssicherheit herzustellen erstellt die Verwaltung aktuell eine entsprechende Dienstanweisung. Diese soll darstellen, wann und wie generative KI genutzt werden darf und welche Regeln zu beachten sind.

Zusammenfassung

Auch bei der Stadtverwaltung Aachen kommt KI zum Einsatz. Da KI viele Chancen bietet, Prozesse zu beschleunigen, Mitarbeitende zu entlasten oder die Interaktion zwischen Bürger*innen und Verwaltung zu verbessern, wird FB 15 bei allen künftigen Projekten prüfen, ob der Einsatz von KI sinnvoll und nützlich sein kann. Bei der Durchführung von Projekten, bei denen KI zum Einsatz kommen wird, wird die bewährte Vorgehensweise zum Projektmanagement von FB 15 genutzt. Dies wird dazu führen, dass sowohl die Regeln der EU KI-Verordnung bzw. wenn verfügbar nationalem Recht eingehalten werden, als auch dass die Umsetzung DSGVO-konform erfolgt. Die Vorgehensweise schließt auch die Beteiligung der Personalvertretungen ein.