Die drei größten KI-Labore der USA wollen sich künftig selbst beaufsichtigen: Wie das US-Magazin The Information am 24. September berichtet, arbeiten Google, OpenAI und Anthropic an einer gemeinsamen Aufsichtsorganisation für Frontier-KI-Modelle. Der Arbeitstitel schwankt in den Berichten zwischen „Frontier AI Standards Agency" und „Standards Authority for Frontier AI" — starten soll die Organisation Ende 2026 oder Anfang 2027, ganz ohne staatliche Aufsicht.
Ein Regulierer nach Wall-Street-Vorbild
Als Blaupause dient die FINRA, die Selbstregulierungsbehörde der US-Finanzbranche. Die geplante KI-Organisation soll als unabhängige dritte Instanz Frontier-Modelle bewerten und dafür konkrete Werkzeuge aufbauen: Sicherheitstests durch externe Prüfer vor der Veröffentlichung neuer Modelle, gemeinsame Benchmarks und Meldepflichten für Vorfälle. Die Idee geht auf einen Essay von Google-DeepMind-Chef Demis Hassabis vom 14. Juli zurück, der ein solches Rahmenwerk vorgeschlagen hatte.
Sriram Krishnan als Wunschkandidat für die Spitze
Pikant ist die Personalie an der Spitze: Die drei Unternehmen haben laut dem Bericht Sriram Krishnan als Chef der neuen Organisation angefragt — jenen Mann, der von Januar 2025 bis Juni 2026 als KI-Politikberater im Weißen Haus arbeitete und sein Amt mit den Worten verließ, es werde „keine FDA für KI" geben. Ausgerechnet der prominenteste Gegner einer zentralen staatlichen KI-Behörde soll nun die private Alternative dazu führen. Neben Krishnan wurden für die Spitze weitere Namen kontaktiert, darunter die frühere Biden-Technologieberaterin Arati Prabhakar, Ex-Außenministerin Condoleezza Rice und Investor David Friedberg; als wissenschaftliche Berater sind Metr-Gründerin Beth Barnes und der Alignment-Forscher Paul Christiano im Gespräch. Wer sich mit dem Begriff Alignment vertraut machen will, findet in unserem Glossar eine Einführung.
Kritik: „Ein Kartell unter anderem Namen"
Widerspruch kommt aus der Branche selbst: Cohere-Chef Aidan Gomez nannte den Vorschlag „a cartel by any other name" — ein Kartell unter anderem Namen. Die Sorge: Wenn die drei mächtigsten Labore die Prüfstandards definieren, könnten kleinere Anbieter und Open-Source-Projekte an Hürden scheitern, die die Großen selbst entworfen haben. Zudem bleibt offen, welche Durchsetzungskraft eine freiwillige Organisation ohne gesetzliche Grundlage überhaupt hätte — die FINRA funktioniert nur, weil hinter ihr die Börsenaufsicht SEC steht.
Was bedeutet das für Anwender in Deutschland?
Für deutsche und europäische Unternehmen ändert die geplante US-Selbstregulierung rechtlich zunächst nichts: Der EU AI Act ist verbindliches Gesetz, seine Pflichten für Anbieter und Betreiber gelten unabhängig davon, welche freiwilligen Standards sich amerikanische Labore geben. Wer KI-Systeme im Unternehmen einsetzt, muss Transparenz-, Dokumentations- und Risikopflichten weiterhin nach EU-Recht erfüllen — ein Prüfsiegel einer künftigen US-Branchenorganisation ersetzt keine AI-Act-Konformität und keinen DSGVO-konformen Auftragsverarbeitungsvertrag.
Mittelfristig kann die Initiative EU-Anwendern trotzdem nützen: Einheitliche Benchmarks, externe Sicherheitstests vor dem Release und öffentliche Vorfallsmeldungen würden die Anbieterauswahl transparenter machen — heute muss man sich weitgehend auf die Eigenangaben der Hersteller verlassen. Gleichzeitig droht eine regulatorische Zweiteilung: strenge, einklagbare Regeln in Europa, freiwillige Selbstkontrolle in den USA. Mittelständler sollten sich davon nicht verunsichern lassen und ihre Compliance-Planung ausschließlich am EU AI Act ausrichten. Wer sensible Daten verarbeitet und unabhängig von US-Anbietern bleiben will, kann zusätzlich offene Modelle im eigenen Rechenzentrum prüfen — passende Werkzeuge für Absicherung und Datenschutz sammeln wir in der Kategorie KI-Sicherheit.