Executive Summary — Musterklauseln KI-Einsatz in Freien Städten -

Zweck. Klarer, vertragsrechtlich verankerter Rahmen für den Einsatz von KI in Freien Städten. Ziel: Nutzen der Technologie ohne Verlust von Selbstbestimmung, Würde und Sicherheit der Menschen.

Kernprinzipien

Mensch in der Schleife (Human-in-the-Loop): Alle rechtlich, finanziell oder sicherheitsrelevant wirkenden Entscheidungen der KI bedürfen der schriftlichen Freigabe einer benannten natürlichen Entscheidungsperson. Autonome Entscheide sind ausgeschlossen.
Einsatzkatalog: Zulässige und unzulässige KI-Funktionen sind vertraglich festzuhalten (Anhang A). Änderungen nur mit qualifizierter Mehrheit der Bewohnervertretung.
Transparenz & Revisionsfähigkeit: Zweck, Datenquellen, Modellversionen und Protokolle müssen offengelegt und revisionssicher (WORM) geführt werden. Protokollaufbewahrungspflicht empfohlen: mindestens 7 Jahre.
Algorithmic Impact Assessment (AIA): Vor Live-Betrieb jeder neuen Funktion ist ein AIA zu erstellen (Risiken, Bias, Grundrechtsprüfung). Öffentlich zugängliche, redigierte Fassung.
Audit & Kontrolle: Jährliche Standard-Audits; Sonder-Audits bei begründetem Verdacht; Prüfrechte für Bewohnervertretung; Kostenregelungen vertraglich zu regeln.
Notfall-Architektur: Menschlich steuerbarer Kill-Switch + getestete Fallback-Prozeduren. Regelmäßige Tests und Protokollierung.
Datenschutz & Minimierung: Verarbeitung nur auf klarer Rechtsgrundlage; sensible Daten nur mit ausdrücklicher Einwilligung; Datenlokalität vertraglich regeln. (DSGVO-Konformität beachten.)
Haftung & Versicherung: Betreiber haftet für Schäden aus KI-Betrieb; angemessene Betriebs-/Produkthaftpflicht vorzuhalten; Haftungsausschlüsse für Vorsatz/grobe Fahrlässigkeit unzulässig.
Exit & Portabilität: Vor Vertragsschluss ist ein Exit-/Migrationsplan zu vereinbaren (Datenexport, Serviceübernahme). Datenportabilität ist sicherzustellen.
Streitbeilegung: Schlichtung + Schiedsverfahren als primärer Mechanismus möglich; dringende Vorkehrungsmaßnahmen sind zulässig und anfechtbar.

Umsetzungs-Kurzliste (sofort):

Bewohnervertretung & Gremienregeln festlegen.
Anhang A (Einsatzkatalog) priorisieren.
AIA-Template adaptieren.
Auditplan und Auditoren-qualifikation definieren.
Kill-Switch & Fallback dokumentieren und testen.
Versicherungsdeckung nachweisen.

Version: 2026-01-03_v1

PDF