Executive Summary#
Der Einsatz von KI-Tools wie ChatGPT, Claude oder Midjourney im Unternehmen birgt erhebliche DSGVO-Risiken. Bußgelder bis zu €20 Millionen oder 4% des weltweiten Jahresumsatzes drohen bei Verstößen.
Kritische Punkte:
- Die meisten KI-Tools haben US-Server (CLOUD Act-Problematik)
- Datenverarbeitung oft intransparent
- AVV (Auftragsverarbeitungsvertrag) fehlt bei vielen Anbietern
- Mitarbeiter nutzen Tools ohne IT/Legal-Freigabe
Dieser Guide zeigt:
- Welche rechtlichen Anforderungen gelten
- Wie Sie Risiken bewerten
- Welche Tools DSGVO-konform nutzbar sind
- Checklisten für IT & Legal
Rechtliche Grundlagen#
Was ist die DSGVO?#
Die Datenschutz-Grundverordnung (DSGVO/GDPR) ist seit Mai 2018 in der gesamten EU gültig und regelt die Verarbeitung personenbezogener Daten.
Wichtigste Prinzipien:
- Rechtmäßigkeit: Datenverarbeitung braucht Rechtsgrundlage
- Zweckbindung: Daten nur für definierten Zweck nutzen
- Datenminimierung: Nur nötige Daten erheben
- Transparenz: Betroffene informieren
- Integrität: Daten schützen vor Missbrauch
Personenbezogene Daten – Was fällt darunter?#
Definition (Art. 4 DSGVO):
Alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen.
Beispiele:
- Name, E-Mail, Telefonnummer ✅
- IP-Adressen ✅
- Cookies ✅
- Mitarbeiter-IDs ✅
- Kundennummern (wenn zuordenbar) ✅
- Anonymisierte Statistiken ❌
Wichtig: Auch interne Daten (Mitarbeiter, Bewerber) unterliegen der DSGVO!
Sonderfall: Besondere Kategorien (Art. 9 DSGVO)#
Erhöhter Schutz für:
- Gesundheitsdaten
- Biometrische Daten
- Genetische Daten
- Politische Meinungen
- Religionszugehörigkeit
- Gewerkschaftszugehörigkeit
- Sexuelle Orientierung
Konsequenz: Diese Daten dürfen Sie NIEMALS in KI-Tools eingeben (außer mit expliziter Einwilligung + DPA).
KI-Tools und DSGVO: Die Probleme#
Problem 1: US-Server und CLOUD Act#
Situation:
- ChatGPT (OpenAI): Server in USA
- Claude (Anthropic): Server in USA
- Gemini (Google): Server in USA + EU (wählbar)
- Midjourney: Server in USA
Rechtslage: Der US CLOUD Act ermöglicht US-Behörden Zugriff auf Daten, auch wenn sie auf EU-Servern liegen (solange US-Unternehmen).
Schrems II-Urteil (2020): Der EuGH erklärte das Privacy Shield für ungültig. Standard Contractual Clauses (SCCs) sind erlaubt, aber Unternehmen müssen zusätzliche Schutzmaßnahmen treffen.
Was bedeutet das praktisch?
❌ Nicht DSGVO-konform:
User gibt ein: "Kunde Max Mustermann, max@example.com,
kaufte Produkt X für €500"✅ DSGVO-konform:
User gibt ein: "Kunde [ANON-ID-12345] kaufte Produkt X für €500"Problem 2: Fehlende AVV/DPA#
Was ist ein AVV (Auftragsverarbeitungsvertrag)?
Nach Art. 28 DSGVO muss jeder Auftragsverarbeiter (= Tool-Anbieter) einen AVV mit Ihnen abschließen.
Inhalt:
- Zweck und Dauer der Verarbeitung
- Art der Daten
- Pflichten des Verarbeiters
- Technische und organisatorische Maßnahmen (TOMs)
- Meldepflicht bei Datenpannen
Welche Anbieter bieten AVV?
| Anbieter | AVV verfügbar? | Ab welchem Plan? |
|---|---|---|
| OpenAI | ✅ Ja | Enterprise ($60+/User) |
| Anthropic | ✅ Ja | Teams ($30+/User) |
| Google Gemini | ✅ Ja | Google Workspace |
| Microsoft Copilot | ✅ Ja | Microsoft 365 E3+ |
| Midjourney | ❌ Nein | Nicht verfügbar |
| Jasper AI | ✅ Ja | Business-Plan |
Problem 3: Training mit Kundendaten#
Früher (vor 2023): OpenAI trainierte GPT-Modelle mit API-Daten von Kunden.
Heute: Die meisten Anbieter haben “No-Training”-Policies:
- OpenAI: API-Daten werden NICHT mehr für Training verwendet (seit März 2023)
- Anthropic: Strikte No-Training-Policy
- Google: Workspace-Daten werden nicht für Training genutzt (Consumer-Gemini schon!)
Aber: Vertrauen allein reicht nicht – AVV muss es schriftlich festhalten!
Problem 4: Shadow IT#
Das Problem: Mitarbeiter nutzen ChatGPT privat für Firmen-Aufgaben:
Mitarbeiter: "Schreibe eine E-Mail an unseren Kunden ABC GmbH
über das Projekt XYZ, Ansprechpartner ist Herr Müller..."Risiko:
- Firmendaten landen auf US-Servern
- Keine AVV
- Keine IT-Kontrolle
- DSGVO-Verstoß
Lösung: Enterprise-Lizenzen zentral bereitstellen + Policy durchsetzen
Risiko-Bewertung: Welche Daten darf ich eingeben?#
Ampel-System#
🟢 Grün: Unkritisch (ohne AVV ok)#
- Öffentliche Informationen
- Anonymisierte Daten
- Synthetische Testdaten
- Code ohne Kommentare/Namen
- Wissenschaftliche Papers
Beispiel:
Prompt: "Erkläre das Konzept von Machine Learning"
→ Keine personenbezogenen Daten → OK🟡 Gelb: Bedenklich (nur mit AVV)#
- Aggregierte Statistiken (ohne Einzelzuordnung)
- Pseudonymisierte Daten
- Interne Dokumente ohne Namen
- Code mit Firmen-spezifischen Variablen
Beispiel:
Prompt: "Analysiere diese anonymisierten Verkaufszahlen:
Region A: 1000 Einheiten, Region B: 1500 Einheiten"
→ Keine Personenbezug → Grenzfall, besser mit AVV🔴 Rot: Verboten (selbst mit AVV kritisch)#
- Namen, E-Mails, Telefonnummern
- Kundenverträge
- Mitarbeiterdaten (Gehälter, Bewerbungen)
- Gesundheitsdaten
- Finanzielle Transaktionen mit Personenbezug
Beispiel:
Prompt: "Schreibe eine Rechnung an Max Mustermann, Musterstr. 1..."
→ KLARER DSGVO-VERSTONN → NIEMALS!Tool-by-Tool-Bewertung#
ChatGPT (OpenAI)#
Free/Plus ($20/Monat):
- ❌ Kein AVV
- ❌ Chat-Verlauf wird gespeichert
- ❌ Daten gehen an US-Server
- Bewertung: Nicht für Firmendaten geeignet
Enterprise ($60+/User):
- ✅ AVV verfügbar
- ✅ No-Training-Policy
- ✅ Admin-Console für Kontrolle
- ✅ SSO + Audit Logs
- ❌ Aber: Weiterhin US-Server
- Bewertung: Akzeptabel mit Risiko-Abwägung
Empfehlung für deutsche Unternehmen: Nutzen Sie Enterprise + pseudonymisieren Sie Daten + dokumentieren Sie TOM
Claude (Anthropic)#
Free/Pro ($20/Monat):
- ❌ Kein AVV
- ✅ No-Training-Policy (aber nicht vertraglich zugesichert)
- ❌ US-Server
- Bewertung: Nicht für Firmendaten
Teams/Enterprise ($30-40/User):
- ✅ AVV verfügbar
- ✅ Strikte No-Training-Policy
- ✅ Admin-Console
- ❌ US-Server (EU-Server Q2/2025 geplant)
- Bewertung: Besser als OpenAI für Privacy-sensitive Firmen
Besonderheit: Anthropic ist kein Werbe-Unternehmen (im Gegensatz zu Google) → weniger Interessenskonflikte
Google Gemini#
Consumer (Free/Advanced $20):
- ❌ Kein AVV
- ❌ Daten werden für Training verwendet!
- ❌ Verknüpfung mit Google-Account
- Bewertung: NICHT für Firmendaten!
Workspace AI ($30/User):
- ✅ AVV verfügbar
- ✅ No-Training für Workspace-Daten
- ✅ EU-Server wählbar
- ✅ DSGVO-Dashboard
- Bewertung: Beste Option für DSGVO-Compliance
Wichtig: Gemini Consumer ≠ Gemini Workspace! Nicht verwechseln!
Microsoft Copilot#
Copilot (Free/Pro $20):
- ❌ Kein AVV
- ❌ Consumer-Produkt
- Bewertung: Nicht für Firmendaten
Copilot für Microsoft 365 ($30/User):
- ✅ AVV automatisch (Teil von Microsoft 365 Vertrag)
- ✅ EU Data Boundary verfügbar
- ✅ No-Training-Policy
- ✅ Compliance-Zertifikate (ISO 27001, SOC 2)
- Bewertung: Exzellent für Enterprise
Besonderheit: Daten verlassen Microsoft 365-Umgebung nicht → höchste Sicherheit
Praxis-Checkliste für IT & Legal#
Vor Tool-Einführung#
Legal prüft:
- AVV vorhanden und unterzeichnet?
- Serverstandort (EU vs. USA)?
- SCCs vorhanden bei USA-Transfer?
- No-Training-Policy schriftlich?
- DSGVO-Verpflichtung des Anbieters?
- Subunternehmer offengelegt?
IT prüft:
- Verschlüsselung (in transit + at rest)?
- Zugriffskontrollen (SSO, MFA)?
- Audit Logs verfügbar?
- Data Retention Policy?
- Löschkonzept bei Vertragsende?
Datenschutzbeauftragter:
- DSFA (Datenschutz-Folgenabschätzung) durchgeführt?
- Verzeichnis von Verarbeitungstätigkeiten aktualisiert?
- Mitarbeiter geschult?
Während des Betriebs#
Monatlich:
- Zugriffsrechte überprüfen (Wer hat Zugang?)
- Logs auf Anomalien prüfen
- Kosten-Monitoring (ungewöhnliche Nutzung = Risiko)
Quartalsweise:
- Mitarbeiter-Schulung wiederholen
- Policy-Compliance prüfen (werden Regeln eingehalten?)
- Anbieter-Updates prüfen (neue Privacy-Features?)
Jährlich:
- DSFA aktualisieren
- AVV-Review (ist Vertrag noch aktuell?)
- Alternative Anbieter evaluieren
Mitarbeiter-Richtlinie (Vorlage)#
=== KI-Tool-Nutzungsrichtlinie ===
1. ERLAUBTE TOOLS
- Microsoft Copilot (nur mit Firmen-Account)
- Google Workspace AI (nur mit Firmen-Account)
- [Weitere genehmigte Tools]
2. VERBOTEN
- ChatGPT Free/Plus (privater Account)
- Claude Free/Pro (privater Account)
- Jedes Tool ohne IT-Freigabe
3. DATEN-REGELN
✅ Erlaubt:
- Öffentliche Informationen
- Anonymisierte Daten
- Eigene Code-Snippets ohne Firmendaten
❌ Verboten:
- Kundennamen, E-Mails, Adressen
- Mitarbeiterdaten
- Vertragsinhalte
- Geschäftsgeheimnisse
- Quellcode mit Credentials
4. BEI VERSTOBEN
- 1. Verstoß: Verwarnung
- 2. Verstoß: Schriftliche Abmahnung
- 3. Verstoß: Kündigung
5. MELDEPFLICHT
Wenn Sie versehentlich sensible Daten eingegeben haben:
→ Sofort IT-Security informieren: security@firma.de
Unterschrift: __________________ Datum: __________FAQ: Häufige Fragen#
Darf ich ChatGPT Plus für Firmen-E-Mails nutzen?#
Nein. ChatGPT Plus ist ein Consumer-Produkt ohne AVV. E-Mails enthalten fast immer personenbezogene Daten (Namen, Adressen).
Alternative: ChatGPT Enterprise oder Microsoft Copilot
Darf ich Code mit Firmendaten in GitHub Copilot eingeben?#
Kommt drauf an:
- ✅ Code ohne Credentials, Namen, Kommentare mit PII → OK
- ❌ Code mit Datenbankdumps, API-Keys, E-Mails → NICHT OK
Empfehlung: GitHub Copilot Enterprise mit Policy-Enforcement nutzen
Was passiert bei DSGVO-Verstoß?#
Bußgelder:
- Bis zu €20 Millionen ODER
- 4% des weltweiten Jahresumsatzes (das Höhere)
Beispiele:
- Amazon: €746 Millionen (2021, Cookie-Banner)
- Google: €50 Millionen (2019, intransparente Datennutzung)
- H&M: €35 Millionen (2020, Mitarbeiter-Überwachung)
Zusätzlich:
- Reputationsschaden
- Schadensersatzforderungen von Betroffenen
- Unterlassungsklagen
Reicht ein AVV aus?#
Nein, nicht automatisch. Sie müssen zusätzlich:
- Risikobewertung: DSFA durchführen
- TOMs prüfen: Sind Schutzmaßnahmen des Anbieters ausreichend?
- SCCs + Zusatzgarantien: Bei USA-Übermittlung
- Mitarbeiter schulen: Policy durchsetzen
- Dokumentation: Alles schriftlich festhalten
Handlungsempfehlung nach Unternehmensgröße#
Startups (<10 Mitarbeiter)#
Empfehlung:
- Nutzen Sie Google Workspace AI oder Microsoft Copilot
- Vermeiden Sie Consumer-Tools komplett
- Budget: ~€300-500/Monat für 10 User
KMU (10-250 Mitarbeiter)#
Empfehlung:
- Microsoft Copilot (wenn bereits Microsoft 365)
- ChatGPT Enterprise + strenge Policy
- Datenschutzbeauftragten bestellen (ab 20 Mitarbeitern Pflicht in DE)
- Budget: €3.000-15.000/Monat
Enterprise (250+ Mitarbeiter)#
Empfehlung:
- Multi-Tool-Strategie (Microsoft Copilot + Claude Enterprise)
- Dedicated Legal/Compliance-Team
- Regelmäßige Audits
- Custom DPA mit Anbietern
- Budget: €50.000-200.000/Monat
Ausblick: EU AI Act 2025#
Ab August 2025 tritt der EU AI Act in Kraft:
Wichtigste Änderungen:
- Risikoklassifizierung: KI-Systeme werden in Risikostufen eingeteilt
- Transparenzpflicht: Nutzer müssen wissen, dass sie mit KI interagieren
- Verbot bestimmter KI: Social Scoring, Massenüberwachung
- CE-Kennzeichnung: Hochrisiko-KI braucht Zertifizierung
Was bedeutet das für KI-Tools?
- Anbieter müssen Risikoanalysen veröffentlichen
- Transparenz über Training-Daten
- Höhere Haftung bei Schäden
Empfehlung: Bleiben Sie am Ball – Anforderungen werden steigen
Fazit#
Kernaussagen:
- ✅ KI-Tools können DSGVO-konform genutzt werden
- ❌ Consumer-Versionen (ChatGPT Plus, Claude Pro) sind NICHT ausreichend
- ✅ Enterprise-Lizenzen mit AVV sind Pflicht
- ⚠️ US-Server sind rechtlich problematisch, aber mit SCCs + DSFA vertretbar
- 🛡️ Microsoft Copilot und Google Workspace AI sind sicherste Optionen
Wichtigste Maßnahmen:
- Enterprise-Lizenzen beschaffen
- AVV abschließen
- Mitarbeiter schulen
- Policy durchsetzen
- Regelmäßig überprüfen
Letzte Aktualisierung: Februar 2025 | Keine Rechtsberatung – konsultieren Sie einen Anwalt!
