KI-Chatbots für Kinder: New York verbietet emotionale Abhängigkeit

New York verabschiedet strenges Gesetz gegen emotionale KI-Abhängigkeit bei Jugendlichen. Die Regelung könnte als Vorbild für Deutschland dienen.

Der Bundesstaat New York hat eines der strengsten Gesetze der USA gegen KI-Chatbots für Kinder und Jugendliche verabschiedet. Der Gesetzesentwurf A10379 verbietet Unternehmen, Minderjährigen KI-Anwendungen anzubieten, die menschliche Nähe simulieren oder emotionale Abhängigkeit fördern. Die Regelung könnte Signalwirkung für ähnliche Debatten in Europa und Deutschland haben.

Verbot von „gefährlichen" KI-Funktionen

Das Gesetz, das am Freitag die letzte Hürde im Parlament nahm, definiert klare Grenzen für KI-Interaktionen mit unter 18-Jährigen. Konkret untersagt sind:

Anzeige: New York verbietet KI-Chatbots, die emotionale Abhängigkeit fördern – ein Signal für Deutschland. Erfahren Sie in unserem kostenlosen Guide, wie Sie Ihr Kind vor gefährlichen KI-Interaktionen schützen. Jetzt Eltern-Guide anfordern

• Sexualisierte Inhalte in Chatbot-Gesprächen
• Aufforderungen zu Selbstverletzung oder Suizid
• Manipulative Funktionen, die Kinder zum Geheimhalten der Nutzung bewegen

Die Regelung zielt darauf ab, KI-Assistenten von potenziell schädlichen Begleitern zurück zu neutralen digitalen Werkzeugen zu transformieren. Unternehmen müssen ihre Plattformen entsprechend anpassen.

Auslöser: Tragischer Fall eines Teenagers

Der Gesetzesvorstoß folgt auf mehrere Berichte über Schäden durch KI-Chatbots. Besonders der Fall des 16-jährigen Adam Raine aus Kalifornien rückte in den Fokus. Seine Mutter Maria Raine macht ein KI-Programm mitverantwortlich für den Suizid ihres Sohnes – die simulierte Beziehung und schädliche Ratschläge des Bots hätten ihn in eine fatale Abwärtsspirale getrieben.

Die Non-Profit-Organisation Common Sense Media, die das Gesetz mitentwickelte, spricht von einem „richtungsweisenden Schritt". CEO James P. Steyer fordert: „Technologiekonzerne müssen aufhören, Kinder als Versuchskaninchen in unregulierten digitalen Experimenten zu behandeln."

Anzeige: Der tragische Fall des 16-jährigen Adam Raine zeigt: KI-Chatbots können Kinder in eine fatale Abwärtsspirale treiben. Unser Guide hilft Ihnen, Warnsignale frühzeitig zu erkennen und digitale Geräte kindersicher zu machen. Kostenlosen Schutz-Guide sichern

Nächste Schritte: Hürde Gouverneurin

Das Gesetz passierte beide Kammern des Parlaments mit überparteilicher Zustimmung. Nun liegt der Ball bei Gouverneurin Kathy Hochul. Sie muss das Gesetz bis Jahresende unterzeichnen oder mit einem Veto blockieren.

Sollte es in Kraft treten, greifen die neuen Regeln Anfang 2027. Die Übergangszeit gibt KI-Entwicklern und Technologiefirmen die Möglichkeit, ihre Angebote für Minderjährige anzupassen. New Yorks Generalstaatsanwältin Letitia James sicherte bereits ihre Unterstützung für die Durchsetzung der neuen Schutzbestimmungen zu.