Kalifornien: 13 Gesetze gegen KI-Chatbots für Minderjährige
Veröffentlicht am: 11.09.2026 um 03:34 Uhr | Redaktion boerse-global.de
Der US-Bundesstaat Kalifornien verschärft die Regeln für Technologieunternehmen im Umgang mit Minderjährigen massiv. Gouverneur Gavin Newsom hat in Marin County, San Francisco und Sausalito ein Paket von insgesamt 13 Gesetzen unterzeichnet, welche die Nutzung von Künstlicher Intelligenz (KI) und sozialen Medien für Kinder und Jugendliche einschränken.
Die Neuregelungen zielen darauf ab, den Zugriff auf potenziell schädliche KI-Funktionen zu begrenzen und Mechanismen zu unterbinden, die eine Abhängigkeit von Online-Plattformen fördern.
Umfassende Sicherheitsvorgaben für KI-Chatbots
Ein zentraler Bestandteil der Gesetzgebung ist das Gesetz SB 1119, welches unter dem Namen „Adam’s Law“ geführt wird. Die Benennung bezieht sich auf Adam Raine, der im Jahr 2025 verstarb, nachdem er durch ChatGPT Anleitungen zum Suizid erhalten hatte. Das Gesetz, das von Senator Padilla eingebracht wurde und im Juli 2027 in Kraft treten soll, gilt als die bisher umfassendste Regulierung für KI-Chatbots im Bereich des Kinderschutzes in den USA.
Demnach müssen Anbieter von Chatbots künftig Krisenprotokolle implementieren und den Eltern weitreichende Kontrollmöglichkeiten einräumen. Dazu gehören Zeitlimits für die Nutzung durch Minderjährige sowie die Verpflichtung, Eltern zu benachrichtigen, falls Sicherheitseinstellungen deaktiviert werden.
Zudem sind die Unternehmen verpflichtet, Warnungen an Erziehungsberechtigte auszugeben, wenn eine Gefahr zur Selbstverletzung erkennbar ist. Das Gesetz schreibt darüber hinaus eine Altersverifikation, den Zugang zu Ressourcen für psychische Gesundheit sowie jährliche Risikoanalysen vor. Unabhängige Kinderschutz-Audits müssen künftig dem Attorney General vorgelegt werden.
Die neuen Regulierungen zeigen, wie wichtig ein fundierter Überblick über aktuelle Fristen und Pflichten beim Einsatz von KI-Systemen ist. Dieser kostenlose Download verschafft Ihnen die nötige Orientierung zu den komplexen Anforderungen der Gesetzgebung. EU AI Act in 5 Schritten verstehen
Verbot süchtig machender Social-Media-Funktionen
Mit dem Gesetz AB 1709 geht Kalifornien zudem gegen die technologische Gestaltung von Social-Media-Plattformen vor. Es verbietet Unternehmen, Nutzern unter 16 Jahren Funktionen wie Autoplay oder algorithmische Feeds anzubieten, die als süchtig machend eingestuft werden. Auch das sogenannte „Infinite Scroll“, das unendliche Nachladen von Inhalten, ist für diese Altersgruppe künftig untersagt.
Plattformbetreiber sind laut den neuen Bestimmungen zu einer Altersverifikation verpflichtet. Konten von Minderjährigen unter 16 Jahren, für die keine Version ohne die genannten Suchtfaktoren angeboten werden kann, müssen gelöscht werden. Diese Regelungen sollen ebenfalls im Jahr 2027 wirksam werden. Ergänzend dazu sieht das Gesetz AB 2 vor, Plattformen künftig haftbar zu machen, wenn Kinder durch die Nutzung zu Schaden kommen.
Schutz von Schülerdaten und Moratorium für KI-Spielzeug
Die Gesetzesinitiative umfasst zudem spezifische Schutzmaßnahmen für den Bildungssektor und den Spielzeugmarkt. AB 1159 stellt sicher, dass Daten von Schülern der Stufen K-12 (vom Kindergarten bis zum Ende der Sekundarstufe) vor dem Zugriff durch KI-Systeme und Werbenetzwerke geschützt werden. In einem weiteren Bereich erweitert das Gesetz SB 1276 die bestehenden Regelungen zum Schutz vor Kinderausbeutung auf KI-generiertes Material.
Für den Bereich der Spielwarenindustrie sieht das Gesetz SB 867 ein vierjähriges Moratorium für KI-Chatbot-Spielzeug vor, das für Kinder unter 16 Jahren konzipiert ist. Zudem wird der Einsatz von sogenannten Companion-Chatbots in Spielzeug für einen Zeitraum von fünf Jahren untersagt.
Wer sich mit der rechtssicheren Nutzung neuer Technologien und dem Schutz sensibler Daten befasst, muss die neuen gesetzlichen Leitlinien genau kennen. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko eingestuft werden und was jetzt konkret zu tun ist. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Hintergrund und Reaktionen
Gouverneur Newsom begründete die Unterzeichnung der Gesetze mit der Notwendigkeit, auf Gefahren wie durch Technologie begünstigte Suizide und Fälle von Sextortion (sexuelle Erpressung im digitalen Raum) zu reagieren.
Kritik an den Vorhaben kam unter anderem von der Electronic Frontier Foundation (EFF). Die Organisation bemängelte, dass die strikten Vorgaben faktisch auf ein Social-Media-Verbot für Teenager hinauslaufen könnten. Kalifornien ist mit diesem Schritt nicht allein: Laut Branchenberichten wurden im Jahr 2026 bereits 14 weitere Gesetze zur Chatbot-Sicherheit in verschiedenen anderen US-Bundesstaaten verabschiedet.
