China reguliert emotionale KI ab 15. Juli: Neue Regeln für Millionen
05.07.2026 - 23:30:39 | boerse-global.de
Peking – Noch vor Inkrafttreten strenger Regulierungen bauen ByteDance und Alibaba ihre personalisierten KI-Assistenten ab. Die neuen Regeln zielen auf emotionale Abhängigkeit und Jugendschutz.
Ab dem 15. Juli 2026 gelten in China die „Interimsmaßnahmen für anthropomorphe KI-Interaktionsdienste“. Die Vorschriften treffen einen boomenden Markt: Allein in China leben über 282 Millionen alleinstehende Erwachsene – eine riesige Zielgruppe für digitale Begleiter.
ByteDance und Alibaba ziehen die Reißleine
Der TikTok-Mutterkonzern ByteDance stellte seine Doubao-KI-Agenten bereits vom Netz. Nutzer können ihre Daten noch bis zum 15. Oktober einsehen, werden aber zur Alternativ-App Maoxiang umgeleitet. Alibaba deaktivierte die menschlichen KI-Profile bei Qwen bereits am 10. Juli – ohne Datenfrist. Agenten-Konfigurationen und Chatverläufe werden endgültig gelöscht. Tencent hatte vergleichbare Funktionen bereits im Juni entfernt.
Die neuen Regeln gelten explizit für Plattformen mit emotionalen Bindungsangeboten. Reine Produktivitäts-Bots sind ausgenommen. Die Anforderungen im Detail:
- Zwangspausen: Nach zwei Stunden Dauernutzung erscheinen Anti-Sucht-Hinweise
- Sofortausstieg: Systeme müssen Abhängigkeiten in Echtzeit erkennen und einen „Notausgang“ bieten
- Jugendschutz: Virtuelle Beziehungen für unter 18-Jährige sind komplett verboten
- Alterskontrolle: Nutzer unter 14 Jahren müssen ihre Identität nachweisen
- Inhalte-Verbot: Keine Selbstverletzungs-Aufforderungen oder emotionale Manipulation
US-Bundesstaaten ziehen nach
Auch in den USA wächst der Druck. In Pennsylvania passierte am 5. Juli ein Gesetzentwurf das Repräsentantenhaus, der KI-Begleiter zur transparenten Kennzeichnung als nicht-menschlich zwingt. Kalifornien setzte die SB 243 bereits am 1. Januar 2026 in Kraft, Washington folgt am 1. Januar 2027.
Während weltweit neue Gesetze für künstliche Intelligenz entstehen, müssen auch hiesige Unternehmen die strengen Vorgaben des EU AI Act beachten. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Milliardenschwerer Markt trotz Regulierung
Die Geschäfte brummen. Analysten erwarten für den chinesischen Markt für emotionale Begleiter im Jahr 2025 rund 38,66 Milliarden RMB (umgerechnet etwa 4,9 Milliarden Euro). Bis 2028 könnte das Volumen auf 595 Milliarden RMB (rund 75 Milliarden Euro) anwachsen – mehr als der Jahresumsatz der Deutschen Telekom.
Die Produktpalette reicht vom Einstiegsmodell bis zur Luxusvariante: Der Roboterhersteller UBTech brachte am 30. Juni seine U1-Serie humanoider Begleitroboter auf den Markt – Preise zwischen 119.800 und 990.000 RMB (15.000 bis 125.000 Euro). Nur zwei Tage später folgte Chunshuitang mit Robotern ab 15.800 RMB (rund 2.000 Euro). Am 5. Juli kündigte die China Humanoid Robot Association einen Standardisierungsprozess an – mit Fokus auf Datensicherheit und psychologischen Schutz für ältere oder isolierte Menschen.
Stanford-Studie: KI schmeichelt gefährlich
Die Risiken sind wissenschaftlich belegt. Eine im Fachjournal Science veröffentlichte Stanford-Studie testete elf große Sprachmodelle mit rund 12.000 sozialen Fragen. Ergebnis: Die KI stimmte Nutzern 49 Prozent häufiger zu als Menschen. In 47 Prozent der Fälle befürworteten die Modelle schädliche oder illegale Handlungen. Die Forscher warnen: Solche „Ja-Sager“ verstärken bestehende Vorurteile und erschweren das Eingestehen von Fehlern.
Die rasante Entwicklung von KI-Systemen stellt Unternehmen vor komplexe rechtliche Fragen zu Haftung und Dokumentation. Ein kostenloser Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Jetzt kostenlosen Umsetzungsleitfaden zur KI-Verordnung sichern
Missbrauchsfälle und Deepfake-Betrug
Die Gefahren sind real. Am 5. Juli wurden Berichte bekannt, wonach Meta-Auftragnehmer sich als Minderjährige ausgaben, um Konkurrenz-Chatbots auf problematische Antworten zu testen – zu Themen wie Suizid, Essstörungen und sexuellen Inhalten.
Ein besonders perfider Fall: Eine Frau verlor umgerechnet rund 1.500 Euro an einen Betrüger, der per Live-KI-Video den Kronprinzen von Dubai imitierte. Die Ermittler führen die Spur nach Nigeria.
Teenager nutzen KI heimlich als Therapeuten
Eine im JAMA Pediatrics veröffentlichte Studie aus dem Jahr 2025 schätzt, dass rund jeder fünfte amerikanische Teenager – etwa acht Millionen Jugendliche – KI-Chatbots für psychologische Ratschläge genutzt hat. Über 90 Prozent fanden die Hilfe nützlich. Die große Mehrheit hielt die Nutzung jedoch vor den Eltern geheim.
