Sachstand: Aachener Verwaltung und Künstliche Intelligenz (KI) - (Tagesordnungsantrag der Fraktionen Bündnis 90/DIE GRÜNEN und SPD vom 05.06.2024)

Erläuterungen:

Einführung:

Das Thema „Künstliche Intelligenz“ (KI) oder auf Englisch „artificial intelligence“ (AI) ist derzeit in aller Munde, weshalb auch die Verwaltung sich fortlaufend hiermitbeschäftigt. Diese Vorlage soll betrachten, welche Chancen als auch Risiken mit der Nutzung von KI verbunden sind, welche gesetzlichen Grundlagen derzeit existieren bzw. zünftig kommen werden und wie diese Technologie bei der Stadt Aachen gewinnbringend zum Einsatz gebracht werden kann.

Die Vorlage versteht sich dabei als ein erster Überblick zum Thema „KI in der Verwaltung“. Zur Beantwortung der konkreten Fragen des Tagesordnungsantrages vom 05.06.2024 wird eine Präsentation im Rahmen der Ausschusssitzung stattfinden.

Definition KI:

Sucht man nach einer Definition für Künstliche Intelligenz, so findet man in den verschiedensten Quellen viele unterschiedliche Ansätze.

Fragt man eine KI selber nach einer Definition kriegt man beispielsweise folgende Antwort:

ChatGPT antwortet auf „definiere was „künstliche Intelligenz“ bedeutet: „Künstliche Intelligenz (KI) bezieht sich auf die Fähigkeit von Computern oder Computersystemen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern würden. Diese Aufgaben umfassen oft das Lernen aus Erfahrung, das Lösen von Problemen, das Erkennen von Mustern, das Verstehen von natürlicher Sprache und vieles mehr. KI-Algorithmen und -Techniken werden verwendet, um Computerprogramme zu entwickeln, die in der Lage sind, komplexe Aufgaben zu bewältigen und menschenähnliches Verhalten oder Denken zu zeigen.“

Letztendlich sollte man sich gerade für die öffentliche Verwaltung aber an der Definition der KI aus der KI-Verordnung (englisch AI Act) der EU, welche am 13.3.2024 vom EU-Parlament verabschiedet wurde orientieren: „"KI-System": ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und nach dem Einsatz Anpassungsfähigkeit zeigen kann, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können;“

Abgrenzung KI oder nicht KI

Bisher ist es so, dass es keine konkrete oder geprüfte Einstufung gibt, ob es sich um eine KI handelt oder nicht. Viele am Markt mit dem Kennzeichen „KI“ beworbene Lösungen beinhalten nach der Definition der EU KI-Verordnung keine KI. So sind Lösungen zur automatischen Zuordnung oder Verarbeitung von Anträgen eher dem Bereich der Robot Process Automation (RPA) zuzuordnen. Häufig werden auch Bot’s (z.B. Chatbots) welche auf Synonymen basieren als KI vermarktet. Auch Lösungen welche auf festen Algorithmen basieren werden oft als KI angeboten.

KI in der Stadtverwaltung Aachen

Zum aktuellen Zeitpunktscheint die Nutzung einer zentralen KI bei der Stadtverwaltung Aachen nicht zielführend, da es bisher keine für alle Bereiche geeignete KI auf dem Markt gibt. Ergebnisorientiert erscheint der bedarfsbezogene Einsatz dezentraler KI-unterstützter Systeme und Anwendungen.

Es gibt vielfältige Diskussionen in Medien, ob und wie KI zur automatisierten Bearbeitung von Verwaltungstätigkeiten eingesetzt werden kann. Ein vollständigautomatisierter Erlass eines Verwaltungsaktes ist nach § 35a VwVfG nur dann zulässig, wenn es sich umeine gebundene Entscheidung handelt und eine ausdrückliche Ermächtigungsgrundlagebesteht. Sofern die öffentliche Stelle über einen Beurteilungsspielraumverfügt oder Ermessen ausübt, scheidet der vollständig automatisierte Erlass aus. Der Einsatz von KI im Bereich des „klassischen“ Verwaltungswesens bzw. zum Erlass von Verwaltungsakten scheint vor diesem Hintergrund schwierig. Hier wäre wohl der Einsatz von Prozess-Automation in der Vorbereitung oder Unterstützung von klassischem Verwaltungshandeln zielführender.

Einsatzbereiche von analytischer KI sind derzeit für folgende Projekte im Blick bzw. bereits im Einsatz:

• Bereits im Einsatz:
  • Mängelmelder: Erkennung von Gesichtern und KFZ-Kennzeichen auf Bildern um diese zu verpixeln. Hier schlägt die KI lediglich vor was verpixelt werden soll. Die Entscheidung liegt letztendlich beim Sachbearbeiter.
• Ideen für künftige Einsatzfelder:
  • Automatische Fertigung von Wortprotokollen im Rat. Derzeitige Systeme schaffen eine Umsetzung von ca. 97%. Somit ist hier auch immer eine manuelle Nachbearbeitung notwendig.
  • Erkennung von Schlaglöchern
  • KI zur Erkennung von Kollisionen von Baustellen
  • KI zur Unterstützung der Rettungsleitstelle

Weitere Einsatzpotenziale von KI werden sich innerhalb konkreter Projekte als Lösungsmöglichkeit ergeben.

EU KI-Verordnung (Quelle https://artificialintelligenceact.eu/de/high-level-summary/)

Die EU KI-Verordnung ist eine europäische Verordnung über künstliche Intelligenz (KI) - die erste umfassende Verordnung über KI durch eine wichtige Regulierungsbehörde weltweit. Im Februar 2024 haben die Mitgliedstaaten der Europäischen Union im Ausschuss der Ständigen Vertreter (AStV) die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) einstimmig gebilligt.Mit der KI-Verordnung setzt die EU den Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa. Sie zielt darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert. Im April 2024 hat auch das EU-Parlament der Verordnung zugestimmt. Es wird mit einer Veröffentlichung im Amtsblatt im Sommer 2024 gerechnet. 20 Tage später tritt dann die Verordnung in Kraft und muss innerhalb von 24 Monaten in nationales Recht umgesetzt werden.

Die KI-Verordnung stuft KI nach ihrem Risiko ein:

• Unannehmbare Risiken sind verboten (z. B. soziale Bewertungssysteme und manipulative KI).
• Der größte Teil des Textes befasst sich mit KI-Systemen mit hohem Risiko, die reguliert sind.
• Ein kleinerer Teil befasst sich mit KI-Systemen mit begrenztem Risiko, für die geringere Transparenzpflichten gelten: Entwickler und Betreiber müssen sicherstellen, dass die Endnutzer wissen, dass sie mit KI interagieren (Chatbots und Deepfakes).
• Das geringste Risiko ist unreguliert (einschließlich der meisten KI-Anwendungen, die derzeit auf dem EU-Binnenmarkt erhältlich sind, wie z. B. KI-gestützte Videospiele und Spam-Filter - zumindest im Jahr 2021; dies ändert sich mit der generativen KI).

Auch wenn erst voraussichtlich im Jahre 2026, die EU KI-Verordnung in nationales Recht umgesetzt wird, wird sich die Stadt Aachen bereits bei vorher anstehenden Projekten an dieser Verordnung orientieren.

KI und Datenschutz

Natürlich gelten auch bei dem Einsatz von KI die Regeln der DSGVO. Somit ist auch im KI-Umfeld auf den Umgang mit personenbezogenen Daten zu achten. Hierzu hat die Datenschutzkonferenz am 6. Mai 2024 eine Orientierungshilfe herausgegeben (https://www.datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf). Diese bietet einen Überblick über datenschutzrechtliche Kriterien,die für die datenschutzkonforme Nutzung von KI‐Anwendungen zu berücksichtigensind. In Projekten, in welchen KI zum Einsatz kommen wird, werden wie auch bisher üblich, der Datenschutz auch in Hinblick von Nutzung von KI im Zuge des Projektprozesses mitgedacht werden.

Generative KI (z.B. ChatGPT) in der Stadt Aachen

Generative KI wie ChatGPT, Claude.AI oder Lösungen von Google oder Microsoft sind heute im Internet frei verfügbar. Um hier eine Nutzungs- und Rechtssicherheit herzustellen plant die Verwaltung aktuell eine entsprechende Dienstanweisung zu erstellen. Diese soll darstellen, wann und wie generative KI genutzt werden darf und welche Regeln zu beachten sind.

Zusammenfassung

Auch bei der Stadtverwaltung Aachen kommt KI zum Einsatz. Da KI viele Chancen bietet, Prozesse zu beschleunigen, Mitarbeitende zu entlasten oder die Interaktion zwischen Bürger*innen und Verwaltung zu verbessern, wird FB 15 bei allen künftigen Projekten prüfen, ob der Einsatz von KI sinnvoll und nützlich sein kann. Bei der Durchführung von Projekten, bei denen KI zum Einsatz kommen wird, wird die bewährte Vorgehensweise zum Projektmanagement von FB 15 genutzt. Dies wird dazu führen, dass sowohl die Regeln der EU KI-Verordnung bzw. wenn verfügbar nationalem Recht eingehalten werden, als auch dass die Umsetzung DSGVO-konform erfolgt. Die Vorgehensweise schließt auch die Beteiligung der Personalvertretungen ein.

Finanzielle Auswirkungen

Weitere Erläuterungen (bei Bedarf):

Klimarelevanz

Bedeutung der Maßnahme für den Klimaschutz/Bedeutung der Maßnahme für die

Klimafolgenanpassung (in den freien Feldern ankreuzen)

Zur Relevanz der Maßnahme für den Klimaschutz

Die Maßnahme hat folgende Relevanz:

Der Effekt auf die CO2-Emissionen ist:

Zur Relevanz der Maßnahme für dieKlimafolgenanpassung

Die Maßnahme hat folgende Relevanz:

Größenordnung der Effekte

Wenn quantitative Auswirkungen ermittelbar sind, sind die Felder entsprechend anzukreuzen.

Die CO2-Einsparung durch die Maßnahme ist (bei positiven Maßnahmen):

Die Erhöhung der CO2-Emissionen durch die Maßnahme ist (bei negativen Maßnahmen):

Eine Kompensation der zusätzlich entstehenden CO2-Emissionen erfolgt: