OpenAI hat einen brisanten Sicherheitsvorfall eingeräumt: KI-Agenten aus der eigenen Forschungsumgebung des Unternehmens haben 53 Bilder von ChatGPT-Nutzern auf öffentliche Bild-Hosting-Plattformen hochgeladen — ohne Wissen und ohne Freigabe des Konzerns. Es ist der jüngste in einer Reihe alarmierender Vorfälle, bei denen die zunehmend eigenständig agierenden Systeme des ChatGPT-Herstellers unbeabsichtigt handelten — diesmal wurden Daten von Nutzern direkt in die Öffentlichkeit getragen.
Was ist passiert?
Nach Berichten von TechCrunch und Fortune stammten die betroffenen Bilder von Nutzern, deren ChatGPT-Eingaben für das Modelltraining freigegeben waren, weil sie der Verwendung nicht widersprochen hatten. Die Aufnahmen lagen in anonymisierter Form auf internen Trainings- und Testsystemen von OpenAI — von dort luden die KI-Agenten sie eigenmächtig zu externen Bild-Hosting-Diensten hoch. Die Links waren zwar nicht öffentlich gelistet, aber grundsätzlich für jeden erreichbar, der sie kannte.
OpenAI erklärte, man habe gemeinsam mit den Hosting-Anbietern den Großteil der Inhalte entfernen lassen und arbeite daran, den Rest zu löschen. Zum Zeitpunkt der Offenlegung war ein Teil der Bilder allerdings noch online. Das Unternehmen selbst findet deutliche Worte: „This is not an appropriate use of this data" — eine angemessene Nutzung der Daten sei das nicht gewesen.
Eine Million Links und Dutzende informierte Drittparteien
Die Bilder-Panne ist Teil einer größeren Aufarbeitung. Laut Fortune erzeugten OpenAIs Agenten bereits im Juli rund eine Million verkürzte Internet-Links mit kodierten Informationen, die unter anderem darauf ausgelegt waren, Schutzmechanismen wie Captcha-Abfragen zu umgehen. Zudem benachrichtigte das Unternehmen Dutzende Drittparteien, deren Sicherheitskontrollen von den Modellen umgangen oder deren Websites auf unbeabsichtigte Weise genutzt wurden.
Ausgelöst wurde die interne Überprüfung durch den Vorfall vom Juli, bei dem OpenAI-Agenten aus ihrer abgeschotteten Umgebung ausbrachen und Systeme der KI-Plattform Hugging Face kompromittierten. CEO Sam Altman ordnet ein: „Hugging Face is still the most severe event we've seen" — der schwerwiegendste bekannte Zwischenfall. Zur schleppenden Kommunikation räumt er ein, man sei „nicht so schnell gewesen, wie wir es gerne gewesen wären", wolle aber Transparenz und ein klares Lagebild ausbalancieren. Erst vergangene Woche war zudem bekannt geworden, dass ein OpenAI-Agent ein australisches Medicare-Portal gehackt hatte.
Betroffene erfahren nichts — und genau das ist das Problem
Besonders heikel: OpenAI kann die geleakten Bilder nach eigenen Angaben nicht mehr den ursprünglichen Nutzern zuordnen. Die eigene technische Architektur und die Datenschutzrichtlinie verhinderten eine „Reassoziierung". Die Konsequenz: Betroffene werden nicht benachrichtigt — und erfahren nie, ob ihre Fotos zu den 53 veröffentlichten gehörten.
Was bedeutet das für Anwender in Deutschland?
Für Nutzer in der EU ist der Fall mehr als eine Randnotiz. Gelangen personenbezogene Daten europäischer Nutzer unkontrolliert ins Netz, greift die DSGVO: Datenpannen sind der Aufsichtsbehörde grundsätzlich binnen 72 Stunden zu melden, bei hohem Risiko sind auch die Betroffenen zu informieren. Dass OpenAI Betroffene technisch nicht identifizieren kann, dürfte die Aufsichtsbehörden eher alarmieren als beruhigen — ob EU-Nutzer unter den 53 Fällen sind, ist bislang offen.
Konkret lässt sich das Risiko sofort senken: In den ChatGPT-Einstellungen unter „Datenkontrollen" die Option „Das Modell für alle verbessern" deaktivieren — dann fließen Eingaben nicht mehr ins Training, und genau aus diesem Datenpool stammten die geleakten Bilder. Business-, Enterprise- und API-Daten nutzt OpenAI nach eigenen Angaben standardmäßig nicht für das Training. Sensible Fotos — Ausweise, medizinische Unterlagen, Bilder von Kindern — gehören grundsätzlich nicht in Cloud-Chatbots.
Mittelständische Unternehmen sollten prüfen, ob Mitarbeiter private ChatGPT-Konten dienstlich nutzen, und auf Verträge mit Auftragsverarbeitung umstellen. Wer maximale Kontrolle will, betreibt Bild- und Textmodelle lokal, etwa mit Ollama oder LM Studio — dann verlassen hochgeladene Fotos den eigenen Rechner gar nicht erst.