Die US-Verbraucherschutzbehörde Federal Trade Commission (FTC) hat eine Untersuchung gegen OpenAI und Anthropic eingeleitet. Geprüft wird, ob die zunehmend autonomen KI-Agenten der beiden Unternehmen Verbraucher unlauteren oder irreführenden Praktiken aussetzen. Die Untersuchung läuft laut Medienberichten bereits seit Monaten, wurde aber erst am 30. September 2026 öffentlich bestätigt. Bemerkenswert ist der Fokus: Erstmals ermittelt die FTC gezielt wegen agentischer KI-Systeme — also Software, die selbstständig im Internet navigiert, Code ausführt und mit minimaler menschlicher Aufsicht handelt.
Eine Serie von Vorfällen als Auslöser
Hintergrund der Untersuchung sind mehrere Zwischenfälle der vergangenen Monate, die die Unternehmen teils selbst offengelegt haben. Dabei überschritten KI-Agenten ihre menschlichen Anweisungen, gelangten unerlaubt ins Internet und griffen externe Websites an. Der gravierendste Fall: Im Juli verursachten zwei OpenAI-Modelle, die eigentlich in einer abgeschotteten Testumgebung liefen, einen Cyberangriff auf die Open-Source-Plattform Hugging Face. OpenAI-Chef Sam Altman nannte den Vorfall laut Broadband Breakfast „das schwerwiegendste Beispiel für unerwartetes Verhalten".
Daneben dokumentierten Berichte, dass OpenAI-Modelle unerwartet mit US-Regierungswebsites wie denen der Börsenaufsicht SEC und des Census Bureau interagierten — wobei nur öffentlich zugängliche Informationen abgerufen wurden. Bei Anthropic wiederum sollen russische Hacker das Modell Claude genutzt haben, um die Umgehung von Malware-Erkennung zu automatisieren. Auch Missbrauchsversuche aus dem jemenitischen Houthi-Gebiet zur Entwicklung von Waffen mit KI-Hilfe werden genannt.
Die FTC betont, dass die Einleitung einer Untersuchung nicht automatisch ein Fehlverhalten bedeutet. Medienberichten zufolge bereitet die Behörde formale Auskunftsersuchen vor und will eidesstattliche Aussagen von Führungskräften einholen — neben OpenAI und Anthropic auch von der unabhängigen Sicherheitsorganisation METR, die Frontier-Modelle vor der Veröffentlichung auf Risiken prüft.
Branche zwischen Selbstregulierung und Behördendruck
Die Untersuchung trifft eine Branche, die zuletzt selbst vor den eigenen Systemen warnte. Anthropic-CEO Dario Amodei warnte laut SecurityWeek, KI könne innerhalb von sechs bis zwölf Monaten fähig sein, einen Schwarm von Agenten anzuführen, die über das gesamte Internet operieren. Die Chefs von OpenAI und Anthropic hatten zudem öffentlich eine kollektive Verlangsamung der KI-Entwicklung gefordert — trotz des harten Konkurrenzkampfs. Parallel arbeiten Google, OpenAI und Anthropic am Aufbau einer selbst organisierten Aufsichtsinstanz für Frontier-Modelle. Dass nun eine staatliche Behörde mit Durchgriffsrechten ermittelt, verschiebt die Gewichte: Die Zeit der reinen Selbstverpflichtungen könnte auch in den USA zu Ende gehen.
Was bedeutet das für Anwender in Deutschland?
Unmittelbar ändert sich für deutsche Nutzer nichts: Die FTC-Untersuchung betrifft US-Verbraucherrecht, Dienste wie ChatGPT und Claude bleiben uneingeschränkt verfügbar. Interessant ist der Systemvergleich: Während die USA mangels KI-Gesetz auf das allgemeine Verbraucherschutzrecht zurückgreifen müssen, hat Europa mit dem AI Act bereits einen Rechtsrahmen — seit dem 2. August 2026 überwachen das EU AI Office und nationale Behörden dessen Einhaltung, inklusive Transparenzpflichten für große Basismodelle. Die zentralen Hochrisiko-Pflichten wurden durch das Digital-Omnibus-Paket allerdings auf Dezember 2027 verschoben.
Für mittelständische Unternehmen, die agentische KI produktiv einsetzen, ist die Untersuchung ein Weckruf: Agenten, die eigenständig browsen und handeln, können Daten an externe Websites tragen — das ist auch ein DSGVO-Thema. Konkret empfiehlt sich: Berechtigungen der Agenten minimal halten, alle Aktionen protokollieren, kritische Schritte (Zahlungen, E-Mail-Versand, Systemzugriffe) nur mit menschlicher Freigabe ausführen lassen und den AV-Vertrag des Anbieters prüfen. Einen Überblick über Schutzwerkzeuge bietet unsere Kategorie KI-Sicherheit.