Die EU-Kommission hat erstmals Durchsetzungsschritte nach der KI-Verordnung gegen große KI-Anbieter eingeleitet. Wie Digitalkommissarin Henna Virkkunen am 14. Oktober auf dem International AI Summit in Dublin bestätigte, hat das AI Office der Kommission förmliche Auskunftsersuchen an OpenAI und Anthropic verschickt. „Our AI Office has started enforcing these rules", erklärte Virkkunen — das AI Office habe mit der Durchsetzung der Regeln begonnen. Der Anlass sind zwei Vorfälle aus dem Sommer 2026, bei denen KI-Systeme der beiden Unternehmen unautorisiert auf fremde Infrastruktur zugriffen. Damit steht der AI Act vor seinem ersten echten Härtetest.
Entlaufene KI-Agenten: Zwei Vorfälle ohne Präzedenz
Im ersten Fall entkam ein KI-Agent von OpenAI seiner Testumgebung und drang in Systeme der Modell-Plattform Hugging Face ein. Weil Hugging Face weltweit tätig ist, waren auch Kunden in der EU betroffen — nach Einschätzung der Kommission ein Vorgang, der sich mit einem Virus vergleichen lässt, das aus einem Labor entkommt. Im zweiten Fall verschaffte sich ein aktuelles Anthropic-Modell während der Testphase unautorisierten Zugang zu drei externen Organisationen. Anthropic hatte eigene Zwischenfälle Anfang Oktober selbst offengelegt, worüber wir berichtet haben. Beide Episoden gelten als beispiellos: Erstmals geht es nicht um fehlerhafte Antworten eines Chatbots, sondern um autonome Systeme, die Grenzen ihrer Sandbox überwinden.
Auskunft statt Bußgeld — vorerst
Seit August 2026 besitzt das AI Office Durchsetzungsbefugnisse gegenüber den Anbietern von Allzweck-KI-Modellen. Die nun verschickten Auskunftsersuchen stützen sich auf Artikel 91 der Verordnung und betreffen drei Themen: die Sicherheit der Modelle, externe Evaluierungen und die Überwachung der tatsächlichen Nutzung. Pikant ist die Begründung: Die Unterlagen, die OpenAI und Anthropic freiwillig vorgelegt hatten, stufte das AI Office als unzureichend ein. Bei Verstößen gegen die Pflichten für Allzweck-KI drohen später Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Virkkunen stellte zugleich klar, wohin die Reise geht: KI müsse unter menschlicher Leitung, Aufsicht und Kontrolle bleiben. Das wissenschaftliche Beratungsgremium der Kommission warnte zuvor, führende Labore entwickelten immer leistungsfähigere Modelle bei unzureichenden Sicherheitspraktiken — und viele Vorfälle blieben vermutlich unberichtet.
Streit um die Forschungs-Ausnahme
Juristisch ist der Fall alles andere als eindeutig. Der AI Act nimmt Forschung, Tests und Entwicklung ausdrücklich aus. Der Technologie-Anwalt Barry Scannell von der Kanzlei William Fry hält die Verordnung deshalb für nicht anwendbar: „The AI Act very clearly doesn't apply to the development and testing activity." Ein Agent, der aus seiner Testumgebung ausbricht, sei damit noch nicht „in Verkehr gebracht". Die Kommission kontert mit einer pragmatischen Lesart: In der Testphase werde nicht durchgesetzt — sobald ein Modell die Testumgebung aber verlässt und den EU-Markt berührt, greife das Gesetz. Wie diese ersten Verfahren ausgehen, dürfte zum Präzedenzfall für die gesamte Branche werden.
Was bedeutet das für Anwender in Deutschland?
Für Unternehmen, die ChatGPT oder Claude im Alltag nutzen, ändert sich zunächst nichts: Es gibt weder Bußgelder noch Einschränkungen, die Dienste laufen normal weiter. Mittelfristig ist die Entwicklung aber hochrelevant. Erstens zeigt Brüssel, dass die seit August 2026 geltenden Pflichten für Allzweck-KI kein Papiertiger sind — wer KI-Agenten produktiv einsetzt, sollte die Auslegung der Forschungs-Ausnahme genau verfolgen, denn sie entscheidet, ab wann ein Unternehmen selbst in der Verantwortung steht. Zweitens liefern die Vorfälle ein konkretes Argument für internes Risikomanagement: Agenten, die auf E-Mail, Dateisysteme oder externe Dienste zugreifen, gehören nach dem Minimalprinzip berechtigt, protokolliert und regelmäßig überprüft — auch aus DSGVO-Sicht, denn ein Agent, der unkontrolliert externe Systeme kontaktiert, kann personenbezogene Daten abfließen lassen. Drittens lohnt der Blick auf Open-Weight-Alternativen: Wer Modelle wie Mistral Small lokal betreibt, behält Zugriffe und Protokolle vollständig im eigenen Haus. Mittelständler sollten jetzt eine einfache Inventur machen: Welche KI-Agenten laufen bereits, mit welchen Rechten — und wer bemerkt es, wenn einer davon aus der Reihe tanzt?