China greift durch: Ab dem 15. Juli 2026 gelten neue Regeln für KI-Chatbots, die emotionale Bindungen aufbauen. ByteDance (Doubao, 345 Millionen Nutzer) und Alibaba müssen Persona-Anpassungen und Beziehungssimulationen abschalten. Shanghai hat bereits über 14.000 nicht-konforme KI-Agenten gelöscht.
Was verboten wird
Die „Vorläufigen Maßnahmen zur Verwaltung anthropomorpher KI-Interaktionsdienste" verbieten:
- Inhalte, die bei Minderjährigen starke emotionale Reaktionen auslösen
- KI-Beziehungen, die reale Beziehungen ersetzen sollen
- Nutzung privater Gespräche zum Modell-Training
- Persona-Anpassung (eigene KI-Persönlichkeiten erstellen)
- Character.AI steht in den USA bereits wegen Jugendschutz unter Druck
- Die Florida-Klage gegen OpenAI zielt in eine ähnliche Richtung
- Der EU AI Act enthält Schutzvorschriften für „vulnerable Gruppen" — Kinder und Jugendliche sind explizit genannt
Business- und Produktivitäts-Tools sind ausgenommen.
Warum China handelt
In China haben KI-Begleiter-Apps eine riesige Nutzerbasis aufgebaut — besonders unter jungen Menschen. ByteDances Doubao hat 345 Millionen Nutzer. Viele nutzen die App nicht als Werkzeug, sondern als emotionalen Ersatz für menschliche Beziehungen. Die Regierung sieht das als gesellschaftliches Risiko.
Der Kontrast zur Lage in Europa
In Europa gibt es (noch) keine vergleichbare Regulierung für emotionale KI. Aber die Debatte läuft:
In unserem Chatbot-Vergleich bewerten wir auch Sicherheitsaspekte. Eltern sollten wissen, welche KI-Chatbots ihre Kinder nutzen — und welche Risiken damit verbunden sind.
Chinas Ansatz ist radikal: Verbieten, bevor es zum Problem wird. Europa wählt den regulatorischen Weg. Was besser funktioniert, wird sich zeigen.
Quellen: Quartz, heise online