Digitale Stadt

1. Chancen und Potenziale nutzen

Wir sehen den großen Nutzen und die vielfältigen Chancen für die Stärkung des Wirtschafts- und Wissenschaftsstandorts sowie die Leistungsfähigkeit der öffentlichen Verwaltung, die sich für die Freie und Hansestadt Hamburg durch KI ergeben. Wenn sich die Stadt Hamburg auch zukünftig den stärker werdenden Herausforderungen von Zusammenhalt, Vielfältigkeit, Innovationskraft und dem demografischen Wandel (bspw. Fachkräftemangel) nach innen (interne Verwaltung) wie außen (Bürgerservices) stellen will, wird es unabdingbar sein, KI-Technologien möglichst weitreichend in allen Bereichen der Verwaltung nutzbar zu machen. Der Einsatz von KI ist in dem von der Europäischen Union (EU), dem Bund und der Stadt Hamburg gesetzten Rahmen zu fördern. So werden wir auch zukünftig die führende Position Hamburgs als digitale Stadt und innovative Verwaltung weiter ausbauen und die Wettbewerbsfähigkeit, den Wohlstand, die nachhaltige Entwicklung, die Teilhabe und den gesellschaftlichen Zusammenhalt in unserer Stadt sicherstellen und stärken

2. Gemeinwohlorientierte KI

Für uns stehen bei KI-Anwendungen in der Verwaltung der Mensch und das Gemeinwohl im Vordergrund. Der Einsatz von KI in der öffentlichen Verwaltung soll für Bürgerinnen und Bürger, die ansässigen Unternehmen und die Beschäftigten einen Mehrwert bieten und darf kein Selbstzweck sein. Wir unterstützen die Bestrebungen in Wirtschaft, Wissenschaft und Stadtgesellschaft, auch bei privaten KI-Anwendungen diese Gemeinwohlorientierung entsprechend umzusetzen.

3. Risiken begegnen

Der Einsatz von KI kann je nach Kontext der Anwendung Risiken bergen, die wir uns einerseits im Vorfeld bewusst machen, die wir andererseits beständig evaluieren und denen wir durch geeignete Maßnahmen effektiv begegnen wollen. Ebenso adressieren wir das Risiko, dass auch regelkonform entwickelte KI-Anwendungen in anderen Nutzungsszenarien potenziell missbräuchlich eingesetzt werden könnten. Wir nehmen auch die Bedenken gegen den Einsatz von KI ernst und wollen diese konstruktiv und ergebnisoffen im Lichte dieser Leitlinien diskutieren sowie bei der Entscheidungsfindung adäquat berücksichtigen.

4. Vor Diskriminierung schützen

Beim Einsatz von KI-Systemen sind Nicht-Diskriminierung sowie gleichberechtigte Einbeziehung bzw. Teilhabe unabhängig von Zuschreibungen oder vermuteter zugeschriebener ethnischer Herkunft, Geschlecht, Religion oder Weltanschauung, Behinderung, Alter oder sexueller Identität im Sinne von Art. 3 Abs. 2 und 3 Grundgesetz zu gewährleisten (u. a. durch die Auswahl von diskriminierungsfreien Trainingsdaten). Dies impliziert beispielsweise neben Monitoring und Evaluation von automatisierten Entscheidungssystemen, in deren Kontext eine Diskriminierung erwartet werden kann (z. B. in Bewerbungsverfahren), die Beteiligung von Stakeholdern aus den Bereichen Gleichstellung, Schwerbehindertenvertretung und Antidiskriminierung.

5. Rechtskonformität sicherstellen

Die Anwendung von KI bzw. die Nutzung von KI-basierten Anwendungen muss in einer transparenten und nachvollziehbaren Weise erfolgen, wobei sicherheitsbehördliche Erfordernisse zu berücksichtigen sind. Der Einsatz von KI in Verwaltungsverfahren hat stets den gesetzlichen Anforderungen und politischen Vorgaben der Stadt Hamburg, des Bundes sowie der EU zu genügen und das Rechtsstaatsprinzip sowie den Schutz derRechte Dritter zu beachten; hierzu gehören etwa die gerichtliche Nachprüfbarkeit, datenschutzrechtliche Bestimmungen, die Informationssicherheit und die Diskriminierungsfreiheit der KI. Eine menschliche Eingriffs- und Überprüfungsmöglichkeit bei KI-gestützten Prozessen und Anwendungen muss zu jeder Zeit gegeben und realisierbar sein.

6.  „Vertrauenswürdige KI by Design“

Wir setzen uns dafür ein, dass bei der Konzeption und Entwicklung von KI-Anwendungen von Anfang an nach dem Grundsatz „Rechtskonformität, Ethik, Datenschutz und Sicherheit by Design" verfahren wird. Wir konzeptionieren und entwickeln KI-Anwendungen dabei unter anderem in Anlehnung an die Ethik-Leitlinien der High-level Expert Group  der EU. Zugleich wollen wir geeignete Mechanismen und Governance-Strukturen entwickeln und nutzen, um diesbezügliche Konformität von KI-Anwendungen sicherzustellen und im laufenden Betrieb kontinuierlich zu gewährleisten.

7. Datenbasis schaffen

Für das Training und den intendierten Betrieb einer jeden KI-Anwendung ist die Verfügbarkeit und Verwendung einer repräsentativen Datenbasis unbedingte Voraussetzung. Um den hohen Anforderungen an die Entwicklung und den Betrieb von KI-Anwendungen genügen zu können, müssen die hierfür benötigten Daten (sowohl Testdaten als auch Echtdaten) in einer hinreichenden Qualität und Quantität zur Verfügung stehen. Dazu zählt auch, die Datenbasis so zu gestalten, dass sie Vielfalt abbildet und systematische Verzerrungen so klein wie möglich gehalten werden. Die Stadt Hamburg wird dies anhand der Entwicklung und Anwendung einer verantwortungsvollen „Data Governance“ unterstützen.

8. Digitale Souveränität und Datensouveränität gewährleisten

Wir schätzen digitale Souveränität als hohes Gut und fördern sie über rechtliche Erfordernisse hinaus überall dort, wo es sinnvoll möglich ist und ohne, dass dadurch notwendige Handlungsfähigkeit eingeschränkt wird. Die Verwaltung hat dabei die Souveränität über das eigene digitale Handeln zu wahren, diesbezügliche Transparenz herzustellen und so das Vertrauen sowie die Nachvollziehbarkeit zu stärken. Den Aufbau einer unabhängigen Dateninfrastruktur (z. B. der Urban Data Platform Hamburg) und dazugehöriger Dienstleistungen unterstützen wir. Die Beteiligung der Stadt Hamburg am öffentlichen IT-Dienstleister Dataport, damit einhergehende Mitbestimmungs- und Kontrollrechte sowie die Unterstützung europäischer Vorhaben sind wichtige Bausteine für die Sicherstellung der Hoheit über unsere Daten.

9. Digitale Kompetenzen und Partizipation fördern

KI-Anwendungen werden in den kommenden Jahren bei vielen Arbeitsprozessen und in unterschiedlichen Bereichen des täglichen Lebens eine immer stärkere Rolle spielen. Um die Chancen und Risiken solcher Anwendungen einschätzen und deren volles Potenzial ausschöpfen zu können, soll das Verständnis der Hamburgerinnen und Hamburger für die Funktionsweise und die Besonderheiten von KI- & datengetriebenen Anwendungen gefördert werden. Dies betrifft sowohl die Beschäftigten der Stadt Hamburg und der Institutionen, die KI-Systeme einsetzen, als auch Bürgerinnen und Bürger, denen solche Anwendungen im beruflichen oder privaten Alltag zunehmend begegnen. In Kooperation mit den Hamburger Bildungsinstitutionen und Unternehmen möchten wir hierfür ein Aus- und Weiterbildungsangebot zum Thema KI mit initiieren und stetig weiter ausbauen. Über das reine Fachwissen hinaus soll zudem die Fähigkeit vermittelt werden, die Risiken und Potenziale des Einsatzes von KI- und datengetriebenen Anwendungen kritisch zu reflektieren und die Gelegenheit gegeben werden, diesen Einsatz in unserer Stadt aktiv mitzugestalten.

10. KI-Entwicklung gemeinsam vorantreiben

Um den Chancen und Herausforderungen, die der Einsatz von KI & Daten mit sich bringt, angemessen zu begegnen, sind Offenheit für Impulse von außen sowie Kooperation über die Hamburger Stadt- und Verwaltungsgrenzen sinnvoll und notwendig. Die Bestrebungen des Bundes und der EU werden aufmerksam verfolgt und, wo möglich, in unserem Sinne unterstützt. Zudem ist die Kooperation mit anderen Bundesländern, nationalen und internationalen Vorreitern des KI-Einsatzes in Verwaltung sowie Akteuren der Wissenschaft und Privatwirtschaft vielversprechend und zielführend. Innovative Vorhaben und Start-ups gilt es zu fördern. Durch gezielte Vernetzung, gemeinsame Projekte und einen beständigen Austausch, insbesondere in der Metropolregion und in Norddeutschland, können neue Entwicklungen und Erkenntnisse geteilt und gemeinsame Ziele verfolgt werden. Für die öffentliche Verwaltung soll die Zusammenarbeit im Dataport-Trägerverbund inkl. der länderübergreifenden Nutzung von KI-Infrastrukturen Synergien schaffen und den Rahmen für gemeinsame Vorhaben sowie das Erreichen gemeinsamer Ziele bieten.