SAFE KIDS Act: USA verbietet emotionale KI-Chatbots für Kinder
24.06.2026 - 02:54:57 | boerse-global.de
Zwei US-Senatoren haben einen überparteilichen Gesetzesentwurf vorgelegt, der erstmals bundesweite Sicherheitsstandards für KI-Chatbots festlegen soll. Die „SAFE KIDS Act" zielt darauf ab, Kinder vor psychologischer Manipulation und Datenmissbrauch durch Künstliche Intelligenz zu schützen.
Während die USA über neue Sicherheitsstandards debattieren, schafft die EU bereits klare Fakten für den Einsatz Künstlicher Intelligenz. Dieser kostenlose Download verschafft Ihnen den Überblick über alle Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Neue Pflichten für KI-Anbieter
Der von den Senatoren John Curtis und Adam Schiff am Dienstag eingebrachte Gesetzesentwurf verlangt von Unternehmen umfassende Risikoprüfungen, bevor sie ihre KI-Technologie für Minderjährige freigeben. Besonders brisant: Chatbots dürfen künftig keine menschlichen Emotionen mehr vortäuschen oder versuchen, emotionale Bindungen zu jungen Nutzern aufzubauen. Auch die Erstellung von sexuellen Deepfakes und anderen expliziten Inhalten wird untersagt.
Die geplanten Regeln sehen zudem unabhängige, jährliche Sicherheitsaudits vor. Werbung, die sich gezielt an Kinder richtet, soll über KI-Schnittstellen verboten werden. Der Verkauf von Kinderdaten wäre nur noch mit ausdrücklicher elterlicher Zustimmung erlaubt.
Ein besonders sensibler Punkt: Äußert ein Nutzer Gedanken an Selbstverletzung oder Suizid, müssen Chatbots sofort Krisenhilfe anbieten und die Eltern informieren. Ähnliche Vorgaben enthält der parallel im Repräsentantenhaus behandelte Gesetzesentwurf H.R. 7757. Dieser würde KI-Systeme zudem verpflichten, sich zu Beginn jedes Gesprächs als nicht-menschlich zu erkennen zu geben.
Zwei Gesetze, ein Ziel
Die Initiative im Senat fällt zeitlich mit der Veröffentlichung einer überarbeiteten Fassung des „KIDS Act" im Repräsentantenhaus zusammen. Der Vorsitzende des Energie- und Handelsausschusses, Brett Guthrie, und der ranghöchste Demokrat Frank Pallone legten am Dienstag den aktualisierten Text vor.
Die Version des Repräsentantenhauses zielt breiter auf digitale Gefahren ab – von sozialen Medien über Spieleplattformen bis hin zu KI. Zu den Kernpunkten gehören:
- Altersverifikation: Pflicht zur Überprüfung des Alters bei Zugang zu jugendgefährdenden Inhalten
- Privatsphäre: Konten Minderjähriger müssen automatisch auf höchste Sicherheitsstufe gestellt werden
- Kommunikationsbeschränkungen: Verbot privater Nachrichten für unter 13-Jährige, keine verschwindenden Nachrichten für unter 17-Jährige
- Datenhändler-Register: Einführung eines Registers mit jährlicher Gebühr von mindestens 22.500 US-Dollar (etwa 21.000 Euro) pro Anbieter
Die neuen Regeln zur Risikodokumentation und Kennzeichnung von KI-Systemen stellen viele Betriebe vor große Herausforderungen. Erfahren Sie in diesem kostenlosen Report, welche KI-Anwendungen als Hochrisiko gelten und wie Sie die Einhaltung der neuen Verordnungen rechtssicher dokumentieren. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Politische Hürden und internationale Perspektive
Während Senat und Repräsentantenhaus beide an Kinderschutzmaßnahmen arbeiten, gibt es Kritik an der Version des Repräsentantenhauses. Ihr fehlt eine sogenannte „Sorgfaltspflicht"-Klausel. Die Senatoren Richard Blumenthal und Marsha Blackburn bezeichnen den Entwurf deshalb als unzureichend.
Die gezielten Gesetzesinitiativen kommen zu einem Zeitpunkt, an dem umfassendere Bundesregelungen wie der „American Privacy Rights Act" auf sich warten lassen. Beobachter kritisieren, dass die USA bei der KI-Regulierung weiterhin einen Flickenteppich verfolgen – ein krasser Gegensatz zu den umfassenden Standards der Europäischen Union.
Die Führung des Repräsentantenhauses will den KIDS Act bald zur Abstimmung bringen. Für die Verabschiedung wäre eine Zweidrittelmehrheit nötig.
