China greift durch: Ab dem 15. Juli 2026 gelten neue Regeln für KI-Chatbots, die emotionale Bindungen aufbauen. ByteDance (Doubao, 300 Millionen Nutzer) und Alibaba müssen Persona-Anpassungen und Beziehungssimulationen abschalten. Shanghai hat bereits über 14.000 nicht-konforme KI-Agenten gelöscht.
Was verboten wird
Die „Vorläufigen Maßnahmen zur Verwaltung anthropomorpher KI-Interaktionsdienste" verbieten:
- Inhalte, die bei Minderjährigen starke emotionale Reaktionen auslösen
- KI-Beziehungen, die reale Beziehungen ersetzen sollen
- Nutzung privater Gespräche zum Modell-Training
- Persona-Anpassung (eigene KI-Persönlichkeiten erstellen)
- Character.AI steht in den USA bereits wegen Jugendschutz unter Druck
- Der EU AI Act enthält Schutzvorschriften für „vulnerable Gruppen" — Kinder und Jugendliche sind explizit genannt
- Bloomberg: ByteDance, Alibaba Pull AI Companions as Beijing Tightens Rules
- The Next Web: China's AI companion rules force Doubao, Qwen shutdowns
- Business Punk: KI-Girlfriends, Personas, Companion-Bots: China macht Schluss mit KI-Begleitern
- China regulates emotional AI: ByteDance and Alibaba disable app features — heise online
- China's First AI Companion Rules to Curb Addiction, Protect Minors — Caixin Global
- China AI Rules Force ByteDance, Alibaba To Cut Companion Features — Yahoo Finance
Business- und Produktivitäts-Tools sind ausgenommen.
Warum China handelt
In China haben KI-Begleiter-Apps eine riesige Nutzerbasis aufgebaut — besonders unter jungen Menschen. ByteDances Doubao hat 300 Millionen Nutzer. Viele nutzen die App nicht als Werkzeug, sondern als emotionalen Ersatz für menschliche Beziehungen. Die Regierung sieht das als gesellschaftliches Risiko.
Der Kontrast zur Lage in Europa
In Europa gibt es (noch) keine vergleichbare Regulierung für emotionale KI. Aber die Debatte läuft:
In unserem Chatbot-Vergleich bewerten wir auch Sicherheitsaspekte. Eltern sollten wissen, welche KI-Chatbots ihre Kinder nutzen — und welche Risiken damit verbunden sind.
Chinas Ansatz ist radikal: Verbieten, bevor es zum Problem wird. Europa wählt den regulatorischen Weg. Was besser funktioniert, wird sich zeigen.
Quellen: Quartz, heise online