Der US-Bundesstaat Florida hat Klage gegen OpenAI eingereicht — wegen mangelndem Schutz minderjähriger Nutzer. Der Vorwurf: ChatGPT sei für Kinder und Jugendliche zu leicht zugänglich und produziere auf Anfrage unangemessene Inhalte, ohne das Alter der Nutzer effektiv zu verifizieren.
Es ist die erste Klage eines US-Bundesstaates direkt gegen einen KI-Anbieter wegen Kinderschutz — und sie könnte die gesamte Branche verändern.
Was Florida OpenAI vorwirft
Die Klage listet mehrere konkrete Punkte auf:
- Keine wirksame Altersverifikation: ChatGPT fragt zwar nach dem Geburtsdatum, aber jedes Kind kann ein falsches eingeben.
- Unangemessene Inhalte: Minderjährige konnten ChatGPT dazu bringen, explizite oder gewalttätige Inhalte zu generieren.
- Suchtmechanismen: Die App sei so gestaltet, dass sie maximale Nutzungszeit fördert — auch bei Minderjährigen.
- Fehlende elterliche Kontrolle: Kein Eltern-Dashboard, keine Nutzungsbeschränkungen, keine Inhaltsfilter speziell für Minderjährige.
- DSGVO: Kinder unter 16 Jahren dürfen in Deutschland nur mit Einwilligung der Eltern personenbezogene Daten verarbeiten lassen. Ob ChatGPT das durchsetzt, ist fraglich. In unserem DSGVO-Sicherheitsindex bewerten wir den Datenschutzstatus aller Tools.
- EU AI Act: Ab August 2026 gelten verschärfte Transparenzpflichten für KI-Systeme — inklusive Vorgaben zum Schutz vulnerabler Gruppen (Kinder, ältere Menschen).
- Jugendmedienschutz: Der deutsche Jugendmedienschutz-Staatsvertrag (JMStV) könnte auf KI-Chatbots angewendet werden — dann müssten alle Chatbot-Anbieter Altersverifikation einführen.
- Pflicht-Altersverifikation bei allen KI-Chatbots
- Spezielle Kinder-Modi mit eingeschränktem Funktionsumfang
- Eltern-Dashboards mit Nutzungsberichten und Zeitlimits
- Haftung der Anbieter für schädliche Inhalte, die an Minderjährige ausgegeben werden
- Wissen, was Ihr Kind nutzt: ChatGPT, Character.AI, Snapchat My AI — KI-Chatbots sind unter Jugendlichen extrem beliebt.
- Gemeinsam ausprobieren: Nutzen Sie KI-Tools zusammen mit Ihrem Kind. In unserem Katalog mit über 1.700 Tools finden Sie Alternativen mit besseren Schutzfunktionen.
- Auf DSGVO-Status achten: Tools mit Serverstandort EU und klarer Datenschutzerklärung sind für Familien sicherer. Unser Sicherheitsindex hilft bei der Einschätzung.
OpenAIs Reaktion
OpenAI hat bereits reagiert und verweist auf bestehende Schutzmaßnahmen: Content-Filter, die „Lockdown Mode" genannte Schutzfunktion gegen Prompt-Injection, und geplante Verbesserungen bei der Altersverifikation. Kritiker sehen das als zu wenig, zu spät.
Das Timing ist brisant: OpenAI bereitet gleichzeitig seinen Börsengang (IPO) vor, der das Unternehmen mit über 300 Milliarden Dollar bewerten soll. Eine Kinderschutz-Klage ist das Letzte, was Investoren sehen wollen.
Warum das für Deutschland relevant ist
Deutschland und die EU haben beim Kinderschutz im digitalen Raum deutlich strengere Regeln als die USA:
Die Kettenreaktion
Florida ist erst der Anfang. Mindestens 12 weitere US-Bundesstaaten prüfen ähnliche Klagen — nicht nur gegen OpenAI, sondern auch gegen Google (Gemini), Anthropic (Claude) und Meta AI.
Das könnte zu einer Branchenumwälzung führen:
Für Eltern: Was Sie jetzt tun können
Bis die Regulierung greift, sind Eltern auf sich selbst gestellt:
Die Florida-Klage ist ein Weckruf. KI-Tools sind mächtig, faszinierend — und für Kinder potenziell problematisch. Die Frage ist nicht, ob Regulierung kommt, sondern wie streng sie ausfällt.
Quellen: Reuters, New York Times