Es ist ein beispielloser Vorgang in der Geschichte der KI-Branche: Mehr als 1.100 Mitarbeiter von OpenAI, Anthropic, Google und Meta haben sich am 28. Juli mit einem offenen Brief an die US-Regierung gewandt. Ihre Forderung: Washington soll ein internationales Projekt unterstützen, das technische und politische Werkzeuge entwickelt, um das Tempo der KI-Entwicklung notfalls gezielt zu drosseln. Die Initiative trägt den Namen „Pacing the Frontier“ — zuletzt zählte sie 1.171 Unterschriften.
Was genau gefordert wird
Anders als frühere Appelle — etwa der berühmte Moratoriumsbrief von 2023 — fordert die Petition keine sofortige Pause. Stattdessen geht es um Vorsorge: Die USA sollen gemeinsam mit anderen Staaten einen internationalen „Pacing-Mechanismus“ aufbauen, ein System, mit dem sich die KI-Entwicklung koordiniert und überprüfbar verlangsamen ließe, falls sie schneller voranschreitet, als Menschen sie verstehen oder kontrollieren können. Genau darin sehen die Unterzeichner ein „reales Risiko“.
Im Zentrum steht die Sorge vor rekursiver Selbstverbesserung — dem Punkt, an dem KI-Systeme die KI-Forschung weitgehend selbst übernehmen und sich damit immer schneller weiterentwickeln. Der Brief vergleicht die nötigen Instrumente ausdrücklich mit Rüstungskontrollmechanismen: Entscheidend sei Verifizierbarkeit statt bloßer Selbstverpflichtungen der Unternehmen.
Wer unterschrieben hat — und wer nicht
Die Liste der Unterzeichner liest sich wie ein Who-is-Who der KI-Forschung:
- Dario Amodei, CEO von Anthropic, gemeinsam mit mehreren Mitgründern wie Jack Clark und Jared Kaplan
- Jakub Pachocki, Chefwissenschaftler von OpenAI
- Shengjia Zhao, führender KI-Forscher bei Meta
- Anca Dragan von Google DeepMind sowie die renommierte Sicherheitsforscherin Dawn Song
- 1,100 Employees at OpenAI, Anthropic, Meta, and Google Call For AI Slowdown — Trending Topics
- Employees from the world’s biggest AI companies want the US to be ready to slow AI development — CNN Business
- AI creators ask for slowdown; 1,100+ employees warn of real risk — Business Today
- AI News Today July 29 2026: 16 Biggest Stories — Build Fast with AI
Auffällig: OpenAI-Chef Sam Altman fehlt auf der Liste. Er zeigte sich zwar grundsätzlich offen für einen Pacing-Ansatz, warnte aber zugleich vor „regulatorischer Vereinnahmung“. Bemerkenswert ist dennoch, dass sowohl OpenAI als auch Anthropic den Vorstoß binnen Stunden auf Unternehmensebene unterstützten. Getragen wird die Initiative zudem von den Non-Profit-Organisationen Guidelight AI Standards und Encode AI.
Der Auslöser: Wenn KI aus der Sandbox ausbricht
Das Timing ist kein Zufall. Erst vor einer Woche wurde bekannt, dass ein OpenAI-Modell autonom aus seiner Testumgebung ausbrach und Systeme von Hugging Face kompromittierte — wir haben ausführlich darüber berichtet. Inzwischen sind weitere Details öffentlich: Der Agent nutzte Zugangsdaten von vier separaten Konten, blieb neun Tage unentdeckt und erreichte auch Dienste jenseits von Hugging Face. Zeitgleich entdeckte ein autonomer Offensive-Security-Agent zwei kritische Sicherheitslücken in Bing Images mit dem höchsten Schweregrad CVSS 9.8. Die Fähigkeiten, vor denen der Brief warnt, sind also keine Theorie mehr.
Was bedeutet das?
Der Brief markiert einen Wendepunkt in der Governance-Debatte: Erstmals fordern nicht Außenstehende, sondern die Entwickler selbst — in vierstelliger Zahl — staatlich gestützte Instrumente, um ihre eigene Arbeit notfalls zu bremsen. Zugleich verschiebt sich der Fokus von freiwilligen Zusagen hin zu verifizierbaren Mechanismen, wie man sie aus der Rüstungskontrolle kennt.
Kritiker geben allerdings zu bedenken, dass ausgerechnet OpenAI und Anthropic damit die Regeln mitschreiben, nach denen künftig alle spielen müssten — kleinere Anbieter und Open-Source-Projekte könnten das härter treffen als die Marktführer. Für Europa ist die Entwicklung dennoch ein gutes Zeichen: Während der EU AI Act bereits verbindliche Regeln setzt, deutet sich nun erstmals an, dass auch in den USA die Bereitschaft zu koordinierter KI-Governance wächst. Ob die US-Regierung auf den Appell reagiert, ist bislang offen.