KI-Anbieterprüfung
Zweck
KI-Anbieterverträge sind der Ort, an dem Governance-Positionen tatsächlich auf die Probe gestellt werden. Das Erstgespräch erfasst, was das Unternehmen will. Diese Skill prüft, was es vereinbart hat.
Blickwinkel: Wir sind Betreiber/Käufer. Kein Rollenwechsel.
AI Act Art. 25 KI-VO: Verantwortlichkeitsverteilung in der Lieferkette; Betreiber können per Vereinbarung bestimmte Anbieter-Pflichten übernehmen (Art. 25 Abs. 1 KI-VO). Art. 26 KI-VO verpflichtet Betreiber, nur geeignete Systeme einzusetzen und die Bedienungsanleitung zu befolgen. Beide Punkte müssen im Vertrag explizit geregelt sein.
Drei häufige Vertragstypen: eigenständige KI-Vereinbarung/KI-Annex (am strukturiertesten); AGB mit eingebetteten KI-Klauseln (oft versteckt); Nutzungsrichtlinie allein (zeigt nur, was wir nicht dürfen — nicht, was der Anbieter mit unseren Daten macht).
Eingaben
- KI-Vertrag, KI-Annex oder AGB-KI-Abschnitt (Datei oder eingefügter Text)
- Praxisprofil aus
CLAUDE.md(Anbieter-Governance-Positionen, KI-Richtlinien-
Verpflichtungen, Anwendungsfall-Register)
- Anbieter-Name und Verwendungszweck
Rechtlicher Rahmen
Kernvorschriften
- AI Act Art. 3 Nr. 3/4 KI-VO: Definitionen Anbieter/Betreiber; maßgeblich
für Pflichtenzuordnung.
- AI Act Art. 25 KI-VO: Verantwortlichkeiten in der Lieferkette; vertragliche
Pflichten-Übertragung; Betreiber darf keine Art. 5-Verbote veranlassen (Art. 25 Abs. 2 KI-VO).
- AI Act Art. 26/29 KI-VO: Betreiberpflichten (Eignung prüfen, Anleitung
befolgen, menschliche Aufsicht sicherstellen, Protokollierung).
- DSGVO Art. 28: AVV-Pflichten bei KI-Auftragsverarbeitung; Prüfungsrecht
Art. 28 Abs. 3 lit. h DSGVO.
- GeschGehG §§ 2, 4: Eingabe vertraulicher Daten in externe KI kann
Geheimnisschutz gefährden, wenn Anbieter für Training nutzt.
- BGB §§ 305 ff. (§ 307): AGB-Kontrolle; unangemessene
Haftungsbeschränkungen können unwirksam sein.
- Produkthaftungs-RL 2024/2853/EU: KI-Systeme als Produkte; relevant bei
Haftungsklauseln im Anbietervertrag.
- UrhG § 44b: Text-und-Data-Mining-Schranke; relevant bei Training auf
lizenzierten Inhalten.
Leitentscheidungen
- Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.
Vertragsgestaltung muss DSGVO Art. 22 Widerspruchs- und Prüfungsrechte operationalisieren.
- Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.
von Haftungsausschlüssen bei komplexen IT-Systemen; Maßstab für KI- Anbieter-Haftungsklauseln.
- Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.
Anforderungen an Vertragsgestaltung zum Schutz von Geschäftsgeheimnissen.
- Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.
Datenübermittlung an externe Dienstleister; übertragbar auf KI-AVV.
Kommentare
- Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 25 Rn. 5
(Verantwortlichkeitsverteilung; vertragliche Pflichten-Übertragung; Doppelautoren-Kommentar).
- Hoffmann, in: Spindler/Schuster, Recht der elektronischen Medien, 4. Aufl. 2024,
Teil IV Rn. 120 (Vertragsgestaltung bei KI-Diensten).
- Quellenregel: Literatur nur mit Nutzerquelle oder lizenziertem Live-Zugriff; keine Kommentar-, Handbuch- oder Aufsatzfundstellen aus Modellwissen.
bei IT-/Softwareverträgen; KI-Haftungsklauseln).
- Bertermann, in: Ehmann/Selmayr, DS-GVO, 3. Aufl. 2024, Art. 28 Rn. 30.
Hinweis: Dieser Skill ersetzt keine anwaltliche Beratung im Einzelfall.
Ablauf
Schritt 1 — Playbook und Stack klären
CLAUDE.md → ## KI-Anbieter-Governance und ## KI-Richtlinien-Verpflichtungen.
KI-Stack kartieren vor Klausel-Prüfung:
- End-User-SaaS (z. B. Legal-Tech-Tool)
- API-Gateway/Orchestrierung (z. B. Azure OpenAI, AWS Bedrock, Vertex)
- Modellanbieter (z. B. Anthropic, OpenAI, Google)
- Wissensbasis/RAG-Quelle
- Weitere Unterauftragnehmer
Bei gestapelten Anbietern: beide Vertragswerke prüfen. Eine Zusage auf Ebene 1 ist wertlos, wenn Ebene 3 das Gegenteil regelt und Ebene 1 die Zusage nicht weitergegeben hat.
Schritt 2 — Klausel-für-Klausel-Prüfung
| Klausel | Anbieter sagt | Unsere Position | Lücke | Schweregrad | |---|---|---|---|---| | Training auf unseren Daten | | | | | | Vertraulichkeit der Eingaben | | | | | | Modelländerungen | | | | | | Ausgabe-IP / Rücklizenz | | | | | | Haftung für Ausgaben (§ 307 BGB) | | | | | | Vorfallbenachrichtigung | | | | | | Menschliche Überprüfungsrechte | | | | | | Nutzungsbeschränkungen | | | | | | Prüfrechte / SOC 2 (Art. 28 Abs. 3 lit. h DSGVO) | | | | | | Unterauftragnehmer / Modellanbieter | | | | | | Datenspeicherort / Drittlandübertragung | | | | | | Art. 25 KI-VO — Pflichten-Zuordnung | | | | |
Schweregrad (gegen CLAUDE.md-Positionen):
- ✅ Aligned — Standard oder besser
- ⚠️ Hinweis — innerhalb Fallback, schlechter als Standard
- 🟠 Erheblich — außerhalb Standard, innerhalb Fallback; Redline nötig
- ❌ Kritisch — außerhalb Fallback; Eskalation; kein Einsatz ohne Klärung
Weitergabetest bei gestapelten Anbietern: Vertrag auf Flow-Down-Klauseln prüfen. Bei fehlender Weitergabe: konkrete Redline produzieren:
"Ergänzen in § [X]: Anbieter stellt sicher, dass Unterauftragnehmer
Pflichten zu [Datennutzung/Training/Vertraulichkeit] eingehen, die nicht
weniger schützend sind als diese Vereinbarung."
Schritt 3 — KI-Annex-Lückenprüfung
AVV vorhanden, aber kein KI-Annex → kennzeichnen: bei Standard-Tier tolerierbar; bei erhöhter/hoher Stufe ein ❌-Blocker (keine Regelung zu Training, Modelländerungen, Art. 25 KI-VO, Haftung).
Keine KI-Klauseln überhaupt → ❌ für jeden erhöhten/hohen Anwendungsfall.
Schritt 4 — KI-Richtlinien-Konsistenzprüfung
Häufige Konflikte: Unsere Richtlinie verbietet Training → Anbieter erlaubt es standardmäßig; unsere Richtlinie verlangt Human-Review → Anbieter- Ausgaben sind final; Anbieter nicht auf Freigabeliste; DSGVO Art. 22 Widerspruchsrecht nicht operationalisiert. Jeden Widerspruch kennzeichnen.
Schritt 5 — Redline-Granularität
So klein wie möglich. Wort → Phrase → Unterklausel → Satz → Klausel. Chirurgische Redlines signalisieren: wir haben sorgfältig gelesen.
Ausgabeformat
# KI-Anbieterprüfung: [Anbietername]
Geprüftes Dokument: [Typ] | Datum: [heute]
Anwendungsfall(e): [Zweck] | Governance-Stufe: [Standard/Erhöht/Hoch]
## Ergebnis
[2 Sätze: Können wir einsetzen? Was muss sich zuerst ändern?]
Befunde: [N]❌ [N]🟠 [N]⚠️ [N]✅
## Klausel-für-Klausel [Tabelle gem. Schritt 2]
## KI-Annex-Status [Vorhanden/Fehlend + Konsequenz]
## KI-Richtlinien-Konsistenz [✅/⚠️ Liste]
## Empfohlene Redlines [konsolidiert; vor Übermittlung mit Anwalt abstimmen]
## Wenn der Anbieter nicht nachgibt [Fallback oder Eskalation je Punkt]Bei Nicht-Jurist-Rolle vor Unterzeichnungsempfehlung: anwaltliche Prüfung abfragen; 1-seitigen Kurzüberblick generieren.
Beispiel
Anfrage: "OpenAI Enterprise für interne Rechtsrecherche prüfen." Vorgehen: Stack: OpenAI ist Modell- und SaaS-Ebene in einem. Training: OpenAI Enterprise sieht kein Training auf Eingaben vor — bestätigen; GeschGehG prüfen. Haftung: AGB-Ausschluss → § 307 BGB prüfen. Art. 25 KI-VO: bei Nicht-Hochrisiko-Einsatz weniger kritisch, aber Betreiberpflichten Art. 26/29 dokumentieren. AVV: DSGVO Art. 28 prüfen.
Risiken und typische Fehler
- Training-auf-Daten-Klausel ist die am häufigsten übersehene: nie aus
Reputation annehmen; in Schrift