ki-verordnung-compliance

KI-Verordnung — Compliance-Prüfung

Zweck

Die EU-KI-Verordnung (VO EU 2024/1689, "AI Act") ist seit 1.8.2024 in Kraft, gestaffelt anwendbar. Dieses Skill prüft Anwendbarkeit, Risiko-Klasse und Pflichten für deutsche Unternehmen.

Eingaben

• Beschreibung des KI-Systems oder Modells (Zweck Funktion Daten Output)
• Rolle des Mandanten (Anbieter Betreiber Importeur Händler Bevollmächtigter)
• Einsatz-Bereich (öffentlich privat beruflich)
• Datenbasis (Trainingsdaten Quellen)
• Marktbezug (EU-Markt Bereitstellung)

Schritt 1 — Anwendungsbereich Art. 2 KI-VO

Sachlich

• KI-System Art. 3 Nr. 1 KI-VO — maschinengestütztes System mit autonomem Verhalten, Anpassung, Ausgabe-Erzeugung (Vorhersage Empfehlung Entscheidung)
• General Purpose AI Model Art. 3 Nr. 63 — universelles Modell (LLM Foundation Model)

Persönlich (Art. 2 Abs. 1)

• Anbieter mit Sitz / Niederlassung in Drittland, das KI in EU bereitstellt
• Betreiber mit Sitz / Aufenthalt in EU
• Drittländer-Anbieter wenn Output in EU verwendet
• Importeur Händler Bevollmächtigter mit EU-Bezug

Ausnahmen Art. 2 Abs. 3-12

• Reine Forschung
• Reine Privatnutzung
• Open-Source-Modelle mit Auflagen
• Nationale Sicherheit / Verteidigung
• Strafverfolgung mit Sonder-Regelungen

Schritt 2 — Rollen-Bestimmung Art. 3 Nrn. 3-7

| Rolle | Definition | Hauptpflicht | |---|---|---| | Anbieter | Entwickelt KI oder lässt entwickeln und bringt in Verkehr | Vollständige KI-VO-Compliance | | Betreiber | Verwendet KI unter eigener Aufsicht | Begrenzte Pflichten Transparenz Aufsicht | | Importeur | EU-Niederlassung mit Import aus Drittland | Konformitätsprüfung | | Händler | Lieferkette ohne Importeurs-Funktion | Sicherstellung Konformität | | Bevollmächtigter | Repräsentant Drittland-Anbieter | Vertretung |

Bei Modifikation Art. 25 KI-VO

• Wesentliche Änderung macht Betreiber zum Anbieter
• Fine-Tuning eines GPAI über Ausgangs-Zweck hinaus
• Re-Training

Schritt 3 — Risiko-Klassifikation

Stufe 1 — Verbotene Praktiken Art. 5 KI-VO

Geltungsbeginn 2.2.2025 — bereits aktiv.

Verbote (Auswahl):

• Subliminale Manipulation zum Schaden
• Ausnutzung Schwachstellen (Alter Behinderung soziale Lage)
• Social Scoring durch staatliche oder private Akteure
• Prädiktive Polizeiarbeit zur Profilierung
• Emotions-Erkennung am Arbeitsplatz und in Bildung (Ausnahmen medizinisch)
• Biometrische Kategorisierung nach sensitiven Merkmalen
• Real-Time-Biometrie im öffentlichen Raum durch Strafverfolgung (mit eng-bezeichneten Ausnahmen)
• Untargeted Scraping für Gesichtserkennungs-Datenbanken

Sanktion: bis EUR 35 Mio oder 7 Prozent Konzern-Jahresumsatz (höherer Betrag) Art. 99 Abs. 3

Stufe 2 — Hochrisiko-System Art. 6 + Anhang III

Geltungsbeginn 2.8.2026 (Anhang III), 2.8.2027 (Anhang I).

Bereiche Anhang III:

1. Biometrie (außer eindeutige Identitäts-Überprüfung)
2. Kritische Infrastruktur
3. Bildung und Berufsausbildung
4. Beschäftigung und Personalverwaltung (z.B. Auswahl-Tools)
5. Zugang zu wesentlichen privaten/öffentlichen Diensten und Leistungen (Kredit-Scoring Sozialhilfe Notfall-Triage)
6. Strafverfolgung
7. Migration und Grenzkontrolle
8. Justiz und demokratische Prozesse

Pflichten Anbieter Hochrisiko:

• Risikomanagementsystem Art. 9
• Daten-Governance Art. 10
• Technische Dokumentation Art. 11
• Aufzeichnungs-Pflichten Art. 12
• Transparenz und Informations-Bereitstellung Art. 13
• Menschliche Aufsicht Art. 14
• Genauigkeit Robustheit Cybersicherheit Art. 15
• Konformitätsbewertungs-Verfahren Art. 43
• CE-Kennzeichnung
• Registrierung in EU-Datenbank Art. 71

Pflichten Betreiber Hochrisiko Art. 26:

• Verwendung gemäß Anweisung
• Menschliche Aufsicht durch geschultes Personal
• Eingangs-Daten relevant und repräsentativ
• Protokollierung
• Information Betroffener bei Entscheidungen
• DSFA-Pflicht Art. 27

Stufe 3 — Transparenz-System Art. 50 KI-VO

Geltungsbeginn 2.8.2026.

• Chatbots: Information dass Nutzer mit KI interagiert
• Synthetische Audio/Video/Bild/Text: Kennzeichnung als KI-erzeugt
• Deepfakes: Klarstellung
• Emotions-/Kategorisierungs-Systeme: Information Betroffener

Stufe 4 — Minimales Risiko

• Keine spezifischen Verpflichtungen
• Freiwillige Codes-of-Conduct

Schritt 4 — GPAI-Modelle Art. 51 ff. KI-VO

Geltungsbeginn 2.8.2025.

Standard-GPAI-Anbieter-Pflichten Art. 53

• Technische Dokumentation
• Information für nachgelagerte Anbieter
• Urheberrechts-Politik
• Zusammenfassung Trainingsdaten

GPAI mit systemischem Risiko Art. 55

• Schwelle: Trainings-Compute > 10^25 FLOPs oder Kommissions-Designation
• Zusätzliche Pflichten:
• Modell-Bewertungen
• Risiko-Bewertung und -Minderung
• Schwerwiegende Vorfälle melden
• Cybersicherheit

Schritt 5 — Zeitlicher Anwendungs-Plan

| Datum | Anwendbar | |---|---| | 1.8.2024 | KI-VO in Kraft | | 2.2.2025 | Kapitel I (Allgemein), Kapitel II (Verbotene Praktiken) | | 2.8.2025 | GPAI-Modelle, Governance-Struktur, Sanktionen | | 2.8.2026 | Hochrisiko Anhang III, Transparenz Art. 50, Reallabore | | 2.8.2027 | Hochrisiko Anhang I (Produktsicherheits-Bezug) |

Schritt 6 — Schnittstelle zur DSGVO

DSFA bei KI-Hochrisiko Art. 27 KI-VO iVm Art. 35 DSGVO

• Pflicht zur Grundrechte-Folgenabschätzung bei Betreibern bestimmter Hochrisiko-Systeme
• Bei personenbezogenen Daten zusätzlich DSGVO-DSFA
• Häufig kombinierbar als integrierte Bewertung

Automatisierte Entscheidungen Art. 22 DSGVO

• Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.
• Wenn KI-System automatisierte Entscheidung trifft mit rechtlicher / ähnlich erheblicher Wirkung → DSGVO-Verbot + Ausnahmen
• KI-VO und DSGVO parallel anwendbar

Datenschutz beim Training Art. 10 KI-VO

• Trainingsdaten-Governance — Verhältnis zu Art. 5 DSGVO (Datenminimierung Zweckbindung)

Schritt 7 — Konformitätsbewertungs-Verfahren Hochrisiko Art. 43

Selbst-Bewertung

• Mehrheit der Anhang-III-Systeme
• Anbieter dokumentiert Konformität intern

Benannte Stelle

• Für Biometrie sowie bei Abweichung von harmonisierten Normen
• TÜV / VdS / sonstige akkreditierte Stelle

CE-Kennzeichnung

• Nach erfolgreicher Konformitätsbewertung
• Anbringung am System

Registrierung Art. 71

• EU-Datenbank Hochrisiko-Systeme
• Öffentlich einsehbar (mit Ausnahmen)

Schritt 8 — Aufsicht und Sanktionen in Deutschland

Marktüberwachungs-Behörden

• BNetzA koordiniert (KI-Aufsichts-Stelle)
• BfDI für Hochrisiko in datenschutz-sensiblen Bereichen
• BaFin Finanz-KI
• Bundeskartellamt wettbewerbs-relevante KI

Sanktionen Art. 99 KI-VO

| Verstoß | Höchst-Strafe | |---|---| | Verbotene Praktiken Art. 5 | EUR 35 Mio oder 7 % Konzernumsatz | | Verstoß gegen Hochrisiko-Pflichten | EUR 15 Mio oder 3 % Konzernumsatz | | Falsche Informationen an Behörden | EUR 7,5 Mio oder 1 % Konzernumsatz |

Verbandsklage

• Konsumenten-Schutzverbände
• Aufsichtsbehörden-Klage

Schritt 9 — Konkrete Prüfungs-Sequenz

1. Anwendungsbereich — Ist KI-System / GPAI vorliegend?
2. Rolle — Anbieter Betreiber Importeur Händler?
3. Verbotene Praktiken — Art. 5 prüfen → ggf. Stopp
4. Hochrisiko — Anhang III Tatbestand erfüllt?
5. Transparenz — Art. 50 Pflicht?
6. GPAI — Modell mit systemischem Risiko?
7. Compliance-Plan mit Fristen
8. DSGVO-Kompatibilität parallel

Schritt 10 — Compliance-Programm-Bausteine

Governance

• KI-Compliance-Officer
• KI-Risiko-Kataster
• Lieferanten-Pflichten (KI-Klauseln in Verträgen)

Dokumentation

• Technische Dokumentation pro System
• Aufzeichnungen Operations
• Vorfalls-Register

Schulung

• Personal das Hochrisiko-KI betreibt
• AI Literacy Art. 4 KI-VO

Schritt 11 — Verz