ki-folgenabschaetzung

/ki-folgenabschätzung – KI-Folgenabschätzung

Zweck

Die KI-Folgenabschätzung ist eine dokumentierte Entscheidung, kein Formular. Sie beantwortet: Was tut dieses KI-System, wie gelangt es zu seinen Ergebnissen, wen betrifft es bei Fehlern, welche Aufsicht besteht, und ist der Einsatz vertretbar?

Dieses Skill kombiniert zwei rechtlich eigenständige Instrumente:

• FRIA (Fundamental Rights Impact Assessment) nach Art. 27 KI-VO – für Betreiber

hochriskanter KI-Systeme, insbesondere öffentliche Stellen sowie private Stellen, die öffentlich finanzierte Dienste erbringen oder Kreditwürdigkeitsbewertungen bzw. Lebens-/Krankenversicherungs-Risikobewertungen vornehmen.

• DSFA (Datenschutz-Folgenabschätzung) nach Art. 35 DSGVO – bei KI-Systemen, die

personenbezogene Daten verarbeiten und ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen begründen können.

Eine DSFA ist keine FRIA, und eine FRIA ist keine DSFA. Sie überschneiden sich häufig und müssen parallel durchgeführt werden. Dieses Skill deckt beide ab und kennzeichnet explizit, welche Abschnitte welchem Instrument zugehören.

Eingaben

• Konfiguration aus ~/.claude/plugins/config/claude-fuer-deutsches-recht/ki-governance/CLAUDE.md

(Hausformat Folgenabschätzung, Use-Case-Register, regulatorischer Fußabdruck)

• Systembeschreibung oder Triage-Ergebnis
• Seed-Folgenabschätzung (sofern im Setup übergeben)

Rechtlicher Rahmen

Kernvorschriften

• Art. 27 KI-VO (VO 2024/1689) — Folgenabschätzung für Grundrechte (FRIA): Betreiber hochriskanter KI-Systeme, insbesondere öffentliche Stellen sowie private Stellen, die öffentlich finanzierte Dienste erbringen oder Kreditwürdigkeitsbewertungen vornehmen, sind zur Durchführung verpflichtet.
• Art. 35 DSGVO — Datenschutz-Folgenabschätzung (DSFA): Pflicht bei hohem Risiko für Rechte und Freiheiten natürlicher Personen, insbesondere bei automatisierten Entscheidungen (Art. 22 DSGVO), Profiling oder Verarbeitung besonderer Datenkategorien (Art. 9 DSGVO).
• Art. 22 DSGVO — Automatisierte Einzelentscheidungen mit Rechtswirkung oder erheblicher Beeinträchtigung; nur bei Vorliegen einer Rechtsgrundlage nach Abs. 2 lit. a–c zulässig.
• Art. 26, Art. 6 i.V.m. Anhang III KI-VO — Betreiberpflichten bei Hochrisiko-KI; Klassifikation nach Anhang III bestimmt Pflichtumfang.
• § 26 BDSG — Beschäftigtendatenschutz; bei KI-Systemen zur Mitarbeiterüberwachung oder -bewertung einschlägig.
• § 44b UrhG, Art. 4 DSM-RL — Text- und Data-Mining-Schranke; Opt-out-Mechanismus bei Trainingsdaten.
• § 203 StGB — Berufsgeheimnis; KI-Einsatz in der Kanzlei muss mit Mandantenvertraulichkeit vereinbar sein.

Leitentscheidungen

• Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.

Kommentare

• Keine Kommentar-, Handbuch- oder Aufsatzfundstellen aus Modellwissen zitieren. Literatur nur nutzen, wenn der Nutzer die Quelle bereitstellt oder ein lizenzierter Live-Zugriff sie verifiziert.
• Wendehorst/Grinzinger, in: Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 27 Rn. 3 (FRIA-Anforderungen für Betreiber).

Ablauf

1. Praxisprofil lesen; Hausformat Folgenabschätzung bestätigen.
2. Risikotrack bestimmen (vereinfacht oder vollständig) anhand Governance-Stufe und

Systemeigenschaften.

1. Aufnahme führen – gesprächig, kein Formular.
2. Regulierungsklassifizierung für jeden einschlägigen Rechtsakt im Fußabdruck – Risikoklasse,

Verbots-Exposition, anwendbare Pflichten; Primärquellen zitieren.

1. Abschätzung im Hausformat schreiben.
2. Richtlinien-Diff gegen KI-Governance-Commitments in CLAUDE.md.
3. Ausgabe: Abschätzungsdokument + Bedingungsliste + Übergabe-Flags (Datenschutz DSFA,

Vendor-Review bei Bedarf).

Mandate-Kontext

Mandate-Workspaces-Einstellung aus CLAUDE.md prüfen. Bei aktivierten Workspaces und fehlendem aktivem Mandat fragen: "Für welches Mandat? Oder Praxisebene?" Ausgaben in den Mandatsordner schreiben.

Schritt 0: Ist eine Folgenabschätzung erforderlich?

Auslöserkriterien aus CLAUDE.md prüfen.

Unabhängig davon stets prüfen:

• Trifft die KI eine oder beeinflusst sie wesentlich eine Entscheidung, die eine Person

betrifft (Beschäftigung, Kredit, Zugang, Preisgestaltung, Content-Moderation)?

• Verarbeitet die KI personenbezogene Daten von Personen?
• Handelt es sich um ein kundenseitiges KI-System und nicht rein intern?
• Nutzt die KI ein Drittanbieter-Modell, bei dem das Unternehmen Betreiber ist?
• Liegt der Anwendungsfall in der Erhöhten oder Hohen Governance-Stufe?
• Ist das System nach Art. 6 KI-VO i.V.m. Anhang III als hochriskant eingestuft?

Wenn nichts zutrifft und der Hausauslöser nicht greift:

"Eine vollständige Folgenabschätzung scheint nicht erforderlich. Hier ein Absatz für die

Akte, der erklärt warum – für den Fall, dass jemand fragt."

Schritt 1: Risikotrack

Vor der Aufnahme Track bestimmen. Tier-Definitionen aus CLAUDE.md (## Use-Case-Register und ## Governance-Stufen), nicht aus einem fest codierten Rahmen.

Vereinfachter Track – Standard-Governance-Stufe, kein EU-Nexus, keine Hochrisiko-Klasse, kein Art. 35 DSGVO-Auslöser.

Vollständige Abschätzung – Erhöhte oder Hohe Governance-Stufe, EU-Nexus, Hochrisiko-Klasse nach KI-VO oder Art. 35-Auslöser.

Im Zweifel vollständige Abschätzung. Ein vereinfachter Track, der sich als falsch erweist, ist schlechter als eine gründliche Abschätzung für etwas mit niedrigem Risiko.

Schritt 2: Aufnahme

Vor dem Schreiben Antworten auf folgende Fragen einholen. Gesprächig – kein Formular.

Das System

• Was tut die KI? In Alltagssprache, nicht Marketingtext.
• Welches Modell oder welcher Anbieter treibt es an? Fine-tuned oder off-the-shelf?
• Wo sitzt es im Arbeitsablauf – assistierend (Mensch prüft Ausgabe), augmentierend (Mensch kann

übersteuern, tut es aber meist nicht) oder automatisiert (kein Mensch im Ablauf)?

• Was ist die Ausgabe – generierter Text, ein Score, eine Klassifizierung, eine Empfehlung,

eine Aktion?

Betroffene Personen

• Wen betreffen die Ausgaben der KI – Mitarbeiter, Kunden, Dritte?
• Wenn die KI einen Fehler macht (False Positive, False Negative, Halluzination), wen

trifft der Schaden und was ist der schlimmste realistische Fall?

• Sind schutzbedürftige Gruppen unverhältnismäßig betroffen – Minderjährige, Bewerber,

Personen in finanzieller Not, Patienten?

Eingaben und Daten

• Welche Daten verarbeitet die KI?
• Verarbeitet sie personenbezogene Daten? Von wem? (Art. 4 Nr. 1 DSGVO)
• Wurde das Modell auf Unternehmensdaten trainiert oder ist es ein Foundation Model ohne

unternehmensspezifisches Training?

• Wohin gehen Eingabedaten – verlassen sie den Perimeter an eine Drittanbieter-Modell-API?

(Auftragsverarbeitung Art. 28 DSGVO prüfen)

• Trainingsdaten-Transparenz: Falls eigene Daten zum Training verwendet wurden, UrhG-Prüfung

(§ 44b UrhG, Art. 4 DSM-RL Text- und Data-Mining-Schranke) und GeschGehG-Prüfung.

Entscheidungsfindung und Aufsicht

• Löst die KI-Ausgabe automatisch eine Aktion aus, oder entscheidet ein Mensch?

(Automatisierte Entscheidungsfindung Art. 22 DSGVO prüfen)

• Falls menschliche Prüfung: Wie oft ändert der Mensch tatsächlich die Ausgabe der KI?

(Wenn "selten" – der Mensch prüft nicht wirklich; er stempelt ab.)

• Gibt es ein Widerspruchs- oder Korrekturverfahren für betroffene Personen? (Art. 22 Abs. 3

DSGVO; Art. 26 Abs. 6 KI-VO)

• Wer ist für die Ausgaben des KI-Systems verantwortlich – gibt es einen benannten Eigentümer?

Genauigkeit und Fehler

• Was ist die bekannte oder geschätzte Fehlerrate? Welche Tests wurden durchgeführt?
• Was passiert, wenn die KI falsch liegt – wird der Fehler angezeigt, protokolliert, korrigiert?
• Wurden Bias-Tests durchgeführt? Gegenüber welchen demografischen Gruppen?

Einsatzstufe und Umfang

• Stufe: Gepl