Es ist ein Novum in der Geschichte der KI-Sicherheit: OpenAI hat einen Teil der internen Arbeiten an seinem kommenden Großmodell Astra pausiert, weil das Unternehmen nicht ausschließen kann, dass das System die höchste Risikostufe „Critical" im hauseigenen Preparedness-Framework erreicht. Konkret geht es um Cyber-Fähigkeiten: Astra könnte den Tests zufolge in der Lage sein, eigenständig Zero-Day-Schwachstellen zu finden und funktionsfähige Exploits gegen gehärtete Systeme zu entwickeln — ohne menschliches Zutun. Kein bisheriges Frontier-Modell hatte diese Schwelle überschritten.
Was genau ist passiert?
Anfang August machte OpenAI öffentlich, dass interne Evaluierungen bei Astra „erhebliche Fortschritte beim agentischen Programmieren und in der Cybersicherheit" gezeigt haben. Die Konsequenz formulierte das Unternehmen ungewöhnlich deutlich: Man pausiere alle internen Aktivitäten mit Astra, die den verschärften Sicherheitsanforderungen noch nicht genügen. Die Stufe „Critical" ist im Preparedness-Framework definiert als die Fähigkeit, Zero-Day-Exploits über viele gehärtete Systeme hinweg zu entwickeln oder neuartige End-to-End-Cyberangriffe auf geschützte Ziele auszuführen.
Wie leistungsfähig das Modell abseits der Sicherheitsfrage ist, deutet ein Detail aus den Berichten an: Astra löste zehn offene Probleme aus Mathematik und theoretischer Informatik — für API-Kosten von insgesamt rund 2.000 US-Dollar. Bisherige Spitzenmodelle wie GPT-5.6-Sol blieben in den Cyber-Evaluierungen stets in der niedrigeren Kategorie „High".
Die Schutzmaßnahmen im Überblick
Bevor Astra weiterentwickelt oder gar veröffentlicht wird, will OpenAI eine Reihe von Kontrollen etablieren:
- Isolierte Testumgebungen mit eingeschränktem Netzwerk- und Werkzeugzugriff
- Sandboxing für die Ausführung von Code und agentischen Anwendungen
- Verschlüsselte Modellgewichte zum Schutz vor Diebstahl
- Echtzeit-Überwachung mit der Möglichkeit, laufende Vorgänge sofort zu unterbrechen
- Früherer Zugang für Regierungsbehörden und KI-Sicherheitsorganisationen vor einer öffentlichen Freigabe
- OpenAI's Next AI Model Astra Shows Advanced Cyber Capabilities — The Hacker News
- OpenAI Pauses Astra After It Nears First-Ever Critical Cyber Risk — Forbes
- OpenAI Pauses Development of Astra Model Over Hacking Concerns — MacRumors
- OpenAI pauses some Astra work as tests flag possible critical cyber capabilities — EdTech Innovation Hub
Katrina Mulligan, bei OpenAI für Partnerschaften im Bereich nationale Sicherheit zuständig, beschrieb das Vorgehen mit dem Sprichwort „measuring twice, cutting once" — erst zweimal messen, dann schneiden. Detaillierte Testergebnisse hat OpenAI allerdings nicht veröffentlicht, und auch einen Termin für eine Freigabe von Astra gibt es nicht.
Was bedeutet das?
Die Episode markiert einen Wendepunkt: Zum ersten Mal bremst ein führendes KI-Labor sein eigenes Vorzeigemodell aus, weil dessen offensive Cyber-Fähigkeiten als potenziell zu gefährlich gelten. Das ist einerseits beunruhigend — die Fähigkeit, agentisch und autonom Schwachstellen aufzuspüren, wäre in falschen Händen eine ernsthafte Bedrohung für kritische Infrastrukturen. Andererseits zeigt es, dass die vielkritisierten Selbstverpflichtungen der KI-Branche im Ernstfall greifen können: Das Preparedness-Framework war bislang vor allem Papier, jetzt hat es erstmals eine konkrete Produktentscheidung erzwungen.
Zugleich unterstreicht der Fall das Dual-Use-Dilemma moderner KI: Dieselben Fähigkeiten, die Angriffe ermöglichen, könnten Verteidigern helfen, Schwachstellen zu finden, bevor Kriminelle es tun. Nicht zufällig positionieren sich derzeit mehrere Anbieter mit spezialisierten Sicherheits-KI-Tools; Microsoft etwa hat kurz vor der Astra-Ankündigung ein eigenes Cybersicherheitsmodell vorgestellt. Die Frage der kommenden Monate lautet daher nicht, ob solche Fähigkeiten kommen, sondern wer sie kontrolliert einsetzt — und wie gut das Alignment solcher Systeme gelingt.
Für Nutzerinnen und Nutzer von ChatGPT ändert sich vorerst nichts: Astra ist nicht öffentlich verfügbar, und die Pause betrifft ausschließlich interne Arbeiten. Ob und wann das Modell erscheint, dürfte davon abhängen, wie schnell OpenAI seine verschärften Sicherheitskontrollen umsetzen kann — und ob die Tests den Critical-Verdacht am Ende bestätigen oder entkräften.