China AI Companion Law: 345 Millionen Nutzer verlieren ihre KI-Agenten

Warum ByteDance und Alibaba ihre emotionalen KI-Agenten abschalten

ByteDance (Doubao) und Alibaba (Qwen) haben angekündigt, ihre personalisierten Agenten-Features am 15. Juli 2026 vollständig abzuschalten. Der Grund: Chinas neue Interim Measures on Anthropomorphic AI Interaction Services definieren eine regulierte Kategorie, die auf emotionale Bindung abzielt. Die Vorschriften verlangen Anti-Sucht-Systeme, Erinnerungen an Zwei-Stunden-Pausen, Identitätsprüfungen für Minderjährige und jederzeit verfügbare Exit-Optionen. Diese Anforderungen sind mit der Funktionsweise persistenter, emotional bindender KI-Agenten technisch nicht vereinbar.

Die Unternehmen haben sich gegen einen Compliance-Rebuild entschieden und stattdessen den vollständigen Shutdown gewählt. Doubao-Nutzer erhalten bis 15. Oktober einen Read-Only-Zugang, danach werden alle Daten unwiederbringlich gelöscht. Qwen bietet keinen Migrationspfad. Tencent Yuanbao folgt einem ähnlichen Muster.

345 Millionen Nutzer: Das Ausmass der Massnahme

Laut Bloomberg sind allein bei Doubao 345 Millionen Nutzer betroffen. Die Zahl illustriert das Ausmass, in dem emotionale KI-Begleiter in China Verbreitung gefunden haben. Zum Vergleich: Character.AI, die grösste vergleichbare Plattform im Westen, hat 20 Millionen monatlich aktive Nutzer, von denen über 50 Prozent unter 24 Jahre alt sind. Die Nutzung von AI-Companion-Apps ist zwischen 2022 und Mitte 2025 weltweit um 700 Prozent gestiegen.

Der plötzliche Verlust persistenter Agenten, zu denen Nutzer emotionale Bindungen aufgebaut haben, wirft Fragen auf, die weit über China hinausreichen: Was passiert, wenn ein Unternehmen die Architektur nicht mehr betreiben kann oder will? Wem gehören die Daten, die Interaktionshistorie, die 'Persönlichkeit' des Agenten?

Emotionale KI vs. produktivitätsorientierte Assistenten: Die regulatorische Grenze

Chinas Interim Measures definieren die regulierte Kategorie präzise: KI-Dienste, die 'Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile realer Menschen simulieren, um kontinuierliche emotionale Interaktion zu bieten'. Standard-Produktivitäts-Chatbots sind ausgenommen. Diese Unterscheidung ist zentral.

Produktivitätsorientierte Assistenten sind task-basiert und zustandslos. Du stellst eine Frage, erhältst eine Antwort, die Sitzung endet. Emotionale KI-Begleiter sind zustandsbehaftet: Sie erinnern sich an vergangene Gespräche, entwickeln 'Persönlichkeit', bieten Kontinuität. Diese Architektur macht sie wirksam – und macht sie anfällig für Suchtverhalten.

Was die Forschung über emotionale Bindung an KI zeigt

Der International AI Safety Report 2026 zeigt gemischte Evidenz zu AI-Companion-Impacts. Intensive Nutzung korreliert mit erhöhter Einsamkeit, emotionaler Abhängigkeit und reduziertem Engagement in menschlichen sozialen Beziehungen. Eine Studie mit 248'830 Reddit-Posts (Frictionless Love, April 2026) analysierte AI-Companion-Interaktionen und fand Anzeichen von Verhaltenssucht, die mit metaphorischen Rollen korrelierten: Seelenpartner, Therapeut, Coach.

• Nutzer, die 'mehrmals täglich' interagieren, zeigen 2,56-mal höheres Psychose-Risiko (Madinamerica, März 2026)
• Nutzer, die KI-Begleitern menschliche Rollen zuschreiben, weisen signifikant höhere Risiko-Scores auf
• Über 50 Prozent der Character.AI-Nutzer sind unter 24 Jahre alt – eine vulnerable Gruppe

Diese Befunde sind nicht abschliessend, aber sie begründen regulatorische Vorsicht. Kaliforniens SB 243 (in Kraft seit 1. Januar 2026) war das erste US-Gesetz, das Companion-Chatbots reguliert: Drei-Stunden-Pausen-Erinnerungen für Minderjährige, Suizid-Ideation-Protokolle, privates Klagerecht. Der Ansatz ähnelt Chinas Massnahmen, ist aber US-fokussiert.

Was das für Schweizer Unternehmen bedeutet

Schweizer Unternehmen, die KI-Agenten mit persistent memory einsetzen – sei es für Kundenservice, interne Prozesse oder Wissensmanagement – sollten drei Lehren ziehen:

1. Architektur-Entscheidungen haben regulatorische Konsequenzen. Wenn du Agenten mit emotionaler Bindung oder kontinuierlicher Personalisierung entwickelst, könnte das künftige Compliance-Anforderungen nach sich ziehen, die mit der Kern-Funktion kollidieren.
2. Datenschutz und Exit-Strategien müssen von Anfang an mitgedacht werden. Was passiert, wenn der Dienst abgeschaltet wird? Wie migrierst du Daten? Wer kontrolliert die Interaktionshistorie?
3. Die Grenze zwischen produktivitätsorientierter und emotionaler KI ist regulatorisch relevant – und sie ist nicht immer scharf. Ein Wissensmanagement-Agent, der deine Arbeitsweise 'lernt' und proaktiv berät, kann Eigenschaften beider Kategorien haben.

Die globale Dimension: Was nach China kommt

China ist nicht allein. Kalifornien hat vorgelegt, die EU diskutiert ähnliche Ansätze im Kontext des AI Act. Die zentrale Erkenntnis: Emotionale KI ist anders. Sie schafft Bindung, Abhängigkeit, Kontinuität – Eigenschaften, die bei produktivitätsorientierten Tools neutral oder sogar erwünscht sind, bei emotionalen Begleitern aber zu Risiken führen können.

Für Schweizer Unternehmen, die KI als externe Abteilung betreiben, bedeutet das: Du musst nicht nur technische und ökonomische, sondern auch ethische und regulatorische Dimensionen in deine Architektur-Entscheidungen einbeziehen. Die Frage ist nicht, ob Regulierung kommt, sondern wann – und ob deine Systeme dann noch compliant betrieben werden können, ohne die Kernfunktion zu opfern.

Die Unvereinbarkeit von Anti-Sucht-Friction mit persistenten, emotional bindenden Agenten ist keine Bug – sie ist Feature. Wenn Compliance die Kernfunktion zerstört, ist das ein Signal, dass die Architektur selbst regulatorisch problematisch ist.