Wie sicher entwickeln die großen KI-Labore ihre Modelle? Das Future of Life Institute hat zum zweiten Mal seinen AI Safety Index veröffentlicht — und das Ergebnis ist ernüchternd: Kein einziges Unternehmen erreicht ein A oder B. Die Bestnote ist ein C+ für Anthropic. Die KI-Branche fällt beim Sicherheitstest durch.
Die Noten im Überblick
Ein unabhängiges Expertengremium von sieben Wissenschaftlern der Universitäten Montreal, Berkeley und Oxford hat sechs Kategorien bewertet: Risikoanalyse, aktuelle Schäden, Sicherheits-Frameworks, existenzielle Sicherheit, Governance und Transparenz. Die Ergebnisse:
- C+ — Anthropic (Bestnote, führt in 5 von 6 Kategorien)
- C — OpenAI und Google DeepMind
- F — xAI (SpaceXAI), DeepSeek und Mistral
Besonders alarmierend: xAI, das mit Grok 4.5 gerade ein Frontier-Modell auf den Markt gebracht hat, erhält die schlechteste Note aller bewerteten Labore.
Sicherheitsversprechen still und leise aufgeweicht
Der Bericht dokumentiert einen beunruhigenden Trend: Anthropic, OpenAI, Google DeepMind und Meta hatten alle Safety-Policies veröffentlicht, in denen sie versprachen, die Entwicklung zu stoppen oder Releases einzuschränken, wenn bestimmte Risikoschwellen erreicht werden. Doch zwischen 2024 und 2026 haben alle vier Unternehmen diese Zusagen leise abgeschwächt oder ganz aufgegeben.
Noch gravierender: Alle genannten Firmen, die ursprünglich militärische Anwendungen ausschlossen, haben diese Position inzwischen revidiert und suchen aktiv nach Verteidigungsaufträgen. Was als ethische Selbstverpflichtung begann, ist dem Wettbewerbsdruck gewichen.
Anthropics Vorsprung — und seine Grenzen
Anthropic führt das Ranking dank vergleichsweise starker Transparenz, einem etablierten Sicherheits-Framework und laufender technischer Forschung an. Doch selbst die Autoren des Berichts betonen: Ein C+ ist keine gute Note. Es bedeutet lediglich, dass Anthropic weniger schlecht abschneidet als die Konkurrenz — nicht, dass die Sicherheitsmaßnahmen dem Tempo der Fähigkeitsentwicklung angemessen wären.
Fazit: Die Branche reguliert sich nicht selbst
Der AI Safety Index 2026 liefert die bisher deutlichste Evidenz, dass freiwillige Selbstverpflichtungen in der KI-Branche nicht funktionieren. Wenn selbst der Branchenprimus nur ein C+ erreicht und die Hälfte der Frontier-Labore durchfällt, ist die Frage nicht mehr ob, sondern wie schnell verbindliche Regulierung kommen muss.