Wer im Unternehmen KI einsetzt, hört oft: „Die DSGVO ist bei KI doch noch gar nicht richtig angekommen." Das stimmt nicht mehr. Seit 2022 haben europäische Datenschutzbehörden gegen KI-Anbieter Bußgelder in dreistelliger Millionenhöhe verhängt, Verarbeitungen untersagt und Apps aus den Stores gemeldet. Deutsche Behörden gehen bisher eher mit Anordnungen als mit Bußgeldern vor — aber die Maßstäbe, die dabei gesetzt werden, treffen jeden Betrieb, der Kundendaten in ein KI-Tool tippt. Dieser Beitrag zeigt die belegten Fälle und die sieben Fehler, die in der Praxis am häufigsten Geld kosten.
Der Rahmen: Was die DSGVO maximal kostet
Art. 83 DSGVO kennt zwei Stufen. Für Verstöße etwa gegen Dokumentations- oder Auftragsverarbeitungspflichten drohen bis zu 10 Mio. Euro oder 2 % des weltweiten Jahresumsatzes; für Verstöße gegen Grundsätze, Rechtsgrundlagen, Betroffenenrechte oder Drittlandtransfers bis zu 20 Mio. Euro oder 4 % des Umsatzes — jeweils der höhere Betrag. Hinzu kommt seit August 2025 der Bußgeldrahmen des AI Act, der für verbotene Praktiken bis zu 35 Mio. Euro oder 7 % vorsieht. Beide Regelwerke gelten nebeneinander.
Diese KI-Fälle gab es bereits
| Behörde | Unternehmen | Betrag / Maßnahme | Jahr | Kernvorwurf |
|---|---|---|---|---|
| Garante (Italien) | Clearview AI | 20 Mio. € | 2022 | Gesichtserkennungs-Datenbank aus gescrapten Fotos ohne Rechtsgrundlage |
| Hellenic DPA (Griechenland) | Clearview AI | 20 Mio. € | 2022 | Biometrische Daten (Art. 9), verweigertes Auskunftsrecht |
| CNIL (Frankreich) | Clearview AI | 20 Mio. € | 2022 | Unrechtmäßige Verarbeitung, Betroffenenrechte |
| Autoriteit Persoonsgegevens (NL) | Clearview AI | 30,5 Mio. € | 2024 | Biometrie ohne Rechtsgrundlage, keine Transparenz, ignorierte Auskunftsanfragen |
| Garante (Italien) | OpenAI (ChatGPT) | 15 Mio. € — 2026 gerichtlich aufgehoben | 2024 | Training ohne Rechtsgrundlage, Transparenz, Altersprüfung |
| Garante (Italien) | DeepSeek | Verarbeitungsverbot für italienische Nutzer | 2025 | Auskunftsersuchen zu Datenarten, Zwecken, Rechtsgrundlage und Serverstandort nur „völlig unzureichend" beantwortet |
| Garante (Italien) | Luka Inc. (Replika) | 5 Mio. € | 2025 | Keine Rechtsgrundlage, mangelhafte Datenschutzerklärung, keine Altersverifikation |
| Berliner Datenschutzbeauftragte | DeepSeek | Meldung als rechtswidriger Inhalt an Apple/Google | 2025 | Datenübermittlung nach China ohne Garantien (Art. 46 DSGVO) |
Clearview AI: Vier Behörden, über 90 Millionen Euro
Der Gesichtserkennungsanbieter Clearview AI hatte Milliarden Fotos aus dem Netz gesammelt und zu biometrischen Profilen verarbeitet. Italien, Griechenland und Frankreich verhängten 2022 jeweils 20 Mio. Euro, die niederländische Behörde 2024 weitere 30,5 Mio. Euro — verbunden mit Zwangsgeldandrohungen bei fortgesetzter Nichtbefolgung. Die Lehre für Unternehmen: „Öffentlich verfügbar" ist keine Rechtsgrundlage, und biometrische Daten unterliegen dem strengen Art. 9 DSGVO.
OpenAI: 15 Millionen — und eine Aufhebung mit Ansage
Im Dezember 2024 gab die italienische Garante ein Bußgeld von 15 Mio. Euro gegen OpenAI bekannt (Bescheid vom 2. November 2024): Training von ChatGPT ohne angemessene Rechtsgrundlage, Verstöße gegen Transparenzpflichten, fehlende Altersprüfung für Nutzer unter 13 Jahren, dazu die Auflage einer sechsmonatigen Informationskampagne. OpenAI nannte den Betrag „unverhältnismäßig" und klagte. Am 18. März 2026 hob das Tribunale di Roma die Sanktion auf — allerdings nicht in der Sache, sondern aus Zuständigkeitsgründen: Mit der irischen Niederlassung war die Federführung am 15. Februar 2024 an die irische DPC übergegangen, bevor die Garante ihren Bescheid im November 2024 erließ. Die inhaltlichen Fragen fallen damit grundsätzlich in die Zuständigkeit der irischen DPC; ob und wann Irland sie weiterverfolgt, ist offen. Die vollständige Urteilsbegründung wurde erst Ende Mai 2026 veröffentlicht. Für Betreiber ändert das nichts an den inhaltlichen Vorwürfen.
Replika: 5 Millionen für einen Chatbot
Am 19. Mai 2025 traf es Luka Inc., Betreiber des Companion-Chatbots Replika: 5 Mio. Euro wegen fehlender Rechtsgrundlage (Art. 6), unzureichender Datenschutzerklärung (Art. 12, 13) und fehlender Altersverifikation trotz teils sexueller Inhalte. Zusätzlich eröffnete die Behörde eine eigene Untersuchung zu den Trainingsmethoden.
DeepSeek: Sperre in Italien, Store-Meldung in Berlin
Gegen DeepSeek ordnete die Garante am 30. Januar 2025 die sofortige Beschränkung der Verarbeitung für italienische Nutzer an — die chinesischen Betreiber hatten erklärt, europäisches Recht gelte für sie nicht. Die Berliner Datenschutzbeauftragte forderte das Unternehmen am 6. Mai 2025 auf, die Apps zu entfernen oder den Datentransfer nach China zu beenden, und meldete die Apps am 27. Juni 2025 nach Art. 16 DSA bei Apple und Google als rechtswidrig. Begründung: Übermittlung von Eingaben, Chatverläufen und Standortdaten nach China ohne Angemessenheitsbeschluss und ohne geeignete Garantien nach Art. 46 DSGVO.
Meta: Kein Bußgeld — aber ein Präzedenzfall fürs Training
Nicht jedes Verfahren endet mit Sanktion. Das OLG Köln wies am 23. Mai 2025 (Az. 15 UKl 2/25) den Eilantrag der Verbraucherzentrale NRW gegen Metas KI-Training mit öffentlichen Facebook- und Instagram-Beiträgen zurück; das berechtigte Interesse nach Art. 6 Abs. 1 lit. f DSGVO sei tragfähig, ein Widerspruch war bis 26. Mai möglich. Die irische DPC kündigte an, im Oktober einen Bericht von Meta zu den Maßnahmen zu prüfen. Entscheidend für Unternehmen: Meta kam nur durch, weil Zweck, Widerspruchsmöglichkeit und Datenminimierung vorher dokumentiert und kommuniziert waren.
SCHUFA-Urteil: Der EuGH nimmt Art. 22 ernst
Der EuGH entschied am 7. Dezember 2023 (C-634/21), dass bereits die automatisierte Erstellung eines Scorewerts eine „automatisierte Entscheidung" nach Art. 22 DSGVO ist, wenn dieser Wert maßgeblich über einen Vertragsschluss bestimmt. Das gilt für jedes KI-Scoring in Bewerbungen, Kreditvergabe oder Kundenbewertung.
Die 7 Fehler, die deutsche Unternehmen jetzt Geld kosten
1. Mitarbeiter geben Kundendaten in ChatGPT & Co. ein — ohne Freigabe
Warum teuer: Sobald personenbezogene Daten im Prompt landen, ist das Unternehmen Verantwortlicher — ohne Rechtsgrundlage, ohne Vertrag, ohne Kontrolle. Kostenlose Consumer-Konten sehen zudem Training mit Eingaben vor. Was tun: KI-Richtlinie mit Freigabeliste erlaubter Tools, Schulung nach Art. 4 AI Act (KI-Kompetenz gilt seit Februar 2025), Business-Tarife statt Privatkonten, technische Sperre für ungenehmigte Dienste.
2. Kein Auftragsverarbeitungsvertrag mit dem KI-Anbieter
Warum teuer: Art. 28 DSGVO verlangt einen AV-Vertrag; Verstöße dagegen fallen in die 10-Millionen-Stufe. Wie ernst Behörden das nehmen, zeigt das bislang höchste Bußgeld der Bundesdatenschutzbeauftragten: 45 Mio. Euro gegen Vodafone (Juni 2025), davon 15 Mio. Euro allein, weil Partneragenturen als Auftragsverarbeiter nicht ausreichend geprüft und überwacht wurden (Art. 28 Abs. 1 DSGVO). Was tun: Nur Anbieter mit unterschriebenem AVV nutzen, Subunternehmer-Liste prüfen, Trainingsausschluss vertraglich fixieren.
3. US-Transfer ohne Rechtsgrundlage
Warum teuer: Drittlandtransfers ohne Garantien sind ein 20-Millionen-Tatbestand — die DeepSeek-Fälle zeigen, wie schnell Behörden hier eingreifen. Das EU-US Data Privacy Framework hat das EuG am 3. September 2025 bestätigt (Rs. T-553/23); das Rechtsmittel Latombe (C-703/25 P) ist seit 31. Oktober 2025 beim EuGH anhängig. Bis zu einer Entscheidung gilt der Angemessenheitsbeschluss, aber ein „Schrems III"-Risiko bleibt. Was tun: DPF-Zertifizierung des Anbieters prüfen, zusätzlich Standardvertragsklauseln vereinbaren, EU-Hosting bevorzugen, Anbieter außerhalb EU/DPF (etwa China) meiden.
4. Keine Datenschutz-Folgenabschätzung
Warum teuer: Art. 35 DSGVO verlangt eine DSFA, wenn eine Verarbeitung voraussichtlich ein hohes Risiko birgt — beim Einsatz von KI-Anwendungen werde das „vielfach der Fall sein", so die DSK-Orientierungshilfe vom 6. Mai 2024, etwa bei Profiling oder umfangreicher Verarbeitung sensibler Daten. Fehlt sie, ist das ein eigenständiger Verstoß und im Streitfall der erste Beweis für fehlende Sorgfalt. Was tun: DSFA vor Produktivstart, DSK-Orientierungshilfen (2024 allgemein, Juni 2025 zu TOMs bei KI-Systemen, Oktober 2025 zu RAG) als Checkliste nutzen.
5. Automatisierte Entscheidungen ohne menschliche Prüfung
Warum teuer: Nach dem SCHUFA-Urteil reicht es, wenn ein KI-Score die Entscheidung maßgeblich prägt. Bewerber-Screening, Bonitätsprüfung oder Kündigungsvorschläge ohne echte menschliche Prüfung verstoßen gegen Art. 22 — und fallen beim AI Act häufig in die Hochrisiko-Klasse. Was tun: Mensch entscheidet nachweisbar, Betroffene erhalten Erklärung und Widerspruchsweg, Entscheidungslogik dokumentieren.
6. Training oder Feintuning mit Personendaten ohne Rechtsgrundlage
Warum teuer: Genau dieser Vorwurf steht hinter Clearview, OpenAI und Replika. Wer Support-Tickets, E-Mails oder CRM-Daten in ein eigenes Modell trainiert, braucht eine Rechtsgrundlage, Zweckbindung und ein Widerspruchsrecht — das OLG Köln akzeptierte Metas berechtigtes Interesse nur mit Opt-out und Datenminimierung. Was tun: Anonymisieren oder pseudonymisieren, Interessenabwägung schriftlich, Widerspruch vor Trainingsbeginn ermöglichen.
7. Betroffene nicht informiert, keine Löschmöglichkeit
Warum teuer: Transparenz (Art. 12–14) und Auskunft/Löschung (Art. 15, 17) sind 20-Millionen-Tatbestände; ignorierte Auskunftsanfragen waren bei Clearview ausdrücklich Teil der Begründung. Was tun: Datenschutzerklärung um KI-Verarbeitung ergänzen, Prozess für Auskunft und Löschung auch beim Anbieter sicherstellen, Speicherfristen für Prompts und Logs festlegen.
Fazit: Wo keine Daten abfließen, entfallen die meisten Risiken
Fünf der sieben Fehler drehen sich um dasselbe Problem: Personenbezogene Daten verlassen das Unternehmen in Richtung eines Anbieters, dessen Verarbeitung man nicht kontrolliert. Lokal betriebene KI-Modelle auf eigener Hardware vermeiden diesen Abfluss strukturell — kein AVV, kein Drittlandtransfer, kein Fremdtraining. Rechtsgrundlage, DSFA, Art. 22 und Betroffenenrechte bleiben trotzdem Pflicht. Wie wir Cloud-Tools nach Serverstandort, AVV und Trainingsausschluss bewerten, erklärt unsere DSGVO-Ampel in der Methodik; die Grundlagen zum DSGVO-konformen KI-Einsatz und den Praxis-Guide für Unternehmen haben wir bereits ausführlich behandelt.
Quellen
- Dutch Supervisory Authority imposes a fine on Clearview — EDPB
- Italy's privacy watchdog fines OpenAI €15 million — Euronews
- Tribunale Roma annulla multa da 15 milioni del Garante Privacy a OpenAI — ANSA
- Italian court kills OpenAI's €15M fine — PPC Land
- BfDI verhängt Geldbußen gegen Vodafone — BfDI
- Greek DPA imposes 20M euro fine on Clearview AI — IAPP
- Italien: 5 Mio. € Bußgeld für KI-Chatbot Replika — Datenschutzticker
- Intelligenza artificiale: il Garante privacy blocca DeepSeek — Garante
- Berliner Datenschutzbeauftragte meldet DeepSeek bei Apple und Google — BlnBDI
- OLG Köln erlaubt Meta Datennutzung für KI-Training — LTO
- Orientierungshilfen der DSK (KI und Datenschutz, KI-Systeme, RAG) — Datenschutzkonferenz