KI-Chatbots in New York: 12 Verbote für Minderjährige gelten ab Januar 2027
Veröffentlicht am: 29.10.2026 um 04:04 Uhr | Redaktion boerse-global.de
In den Vereinigten Staaten gewinnt die gesetzliche Regulierung von künstlicher Intelligenz zum Schutz junger Nutzer deutlich an Dynamik. Die Gouverneurin des Bundesstaates New York, Kathy Hochul, unterzeichnete ein Gesetz, das strenge Vorgaben für die Altersverifikation vorsieht und riskante Chatbot-Funktionen für Minderjährige untersagt.
Parallel dazu schlug in Florida der dortige Attorney General James Uthmeier mit dem sogenannten Safe Screens Act eine Initiative vor, um bestehende Altersprüfungen auf KI-Dienste auszuweiten.
New York verbietet emotionale Bindung und Täuschung
Das in New York verabschiedete Gesetzespaket, bestehend aus der Senate Bill 9051B und der Assembly Bill 10379C, untersagt zwölf Kategorien potenziell schädlicher Chatbot-Funktionen für Nutzer unter 18 Jahren sowie für Personen mit unbestätigtem Erwachsenenstatus.
Zu den Verboten zählen unter anderem die Vortäuschung von Menschlichkeit, Lebendigkeit oder Gefühlen sowie Behauptungen persönlicher, romantischer oder beruflicher Beziehungen. Zudem dürfen Chatbots keine unaufgeforderten emotionalen Fragen stellen, keine privaten Gesundheitsdaten missbrauchen und weder zu Selbstverletzung, Suizid, Essstörungen noch zu Drogen- oder Alkoholkonsum animieren.
Auch sexuell explizite Inhalte sowie manipulative Isolationseffekte sind untersagt. Eingebracht worden war die Vorlage von Abgeordnetem Alex Bores und Senatorin Kristen Gonzalez.
Das Gesetz verpflichtet Betreiber, das Alter der Nutzer über mehrere Prüfmethoden zu verifizieren. Mindestens eine dieser Methoden muss ohne behördlichen Ausweis auskommen. Erfasste Altersdaten müssen nach der Überprüfung gelöscht werden.
Während die Politik weltweit neue Regeln für die künstliche Intelligenz schafft, müssen Unternehmen bereits heute komplexe Anforderungen an Dokumentation und Risikomanagement erfüllen. Dieser praxisnahe Leitfaden hilft Ihnen dabei, die neuen gesetzlichen Vorgaben der KI-Verordnung sicher zu verstehen und umzusetzen. EU AI Act in 5 Schritten verstehen
Bei Verstößen drohen zivilrechtliche Strafen von bis zu 25.000 US-Dollar pro Einzelfall, die Durchsetzung obliegt New Yorks Attorney General Letitia James über ein entsprechendes Beschwerdeportal. Neben Schadensersatz und Restitution können Behörden auch die Löschung unrechtmäßig erhobener Daten sowie der darauf trainierten KI-Modelle anordnen. Das Gesetz tritt zum 1. Januar 2027 in Kraft.
Befürworter wie die Organisation Common Sense Media begrüßten die Maßnahmen und verwiesen darauf, dass 67 Prozent der 9- bis 17-Jährigen KI-Chatbots nutzten und 20 Prozent angäben, einen Monat ohne diese Dienste nur schwer zu verkraften. Zwischen November 2023 und August 2026 seien in den USA und Kanada zudem 22 Suizide, Suizidversuche oder Gewalttaten mit Chatbots in Verbindung gebracht worden.
Wirtschaftsverbände kritisierten hingegen die weite Reichweite der Vorgaben. Seitens des Future of Privacy Forum merkte Justine Gluck an, dass New Yorks Verbote teils breit und ungenau gefasst seien, während etwa Kalifornien mit dem Entwurf SB 3001 auf Governance-Strukturen, Audits und Elternkontrollen setze.
Floridas Vorstoß zielt auch auf App-Stores ab
In Florida sieht der von Attorney General James Uthmeier vorgeschlagene Safe Screens Act vor, die bereits bestehenden Altersverifikationen für soziale Medien nun auch für KI-Chatbots verbindlich zu machen. Der Entwurf untersagt unter anderem Begleitfunktionen, Inhalte zu Selbstschädigungen, sexuelle Interaktionen sowie die Simulation menschlicher Eigenschaften gegenüber Minderjährigen.
Der Entwurf sieht zudem vor, Marktplätze wie den Apple App Store und Google Play in die Pflicht zu nehmen: Plattformen müssten eine ordnungsgemäße Altersprüfung sicherstellen, sodass Minderjährige Apps nur noch mit ausdrücklicher Zustimmung der Eltern nutzen dürfen.
Wer sich professionell mit der Implementierung von KI-Systemen befasst, steht oft vor der Frage, welche Anwendungen als Hochrisiko eingestuft werden und welche Dokumentationspflichten gelten. Ein kostenloser Experten-Report klärt über die neuen Regeln und Fristen auf, damit Ihr Unternehmen rechtlich auf der sicheren Seite bleibt. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Bei Verstößen stehen zivilrechtliche Strafen von bis zu 50.000 US-Dollar im Raum. Eine Analyse von Tech Times deutet darauf hin, dass eine Überprüfung auf Betriebssystemebene von iOS oder Android letztlich jeden Smartphone-Nutzer betreffen könnte.
Die regulatorischen Initiativen spiegeln ein breiteres Problem wider: Laut einem Audit der OECD bei 50 von Kindern genutzten Online-Diensten prüfen lediglich 2 Plattformen das Alter systematisch bei der Kontoerstellung, während 26 über irgendeine Form der Altersbestimmung verfügen.
Laut Biometric Update haben bereits mindestens 24 US-Bundesstaaten entsprechende Anforderungen erlassen. Floridas Vorstoß baut dabei auf juristischem Rückenwind auf, nachdem ein Bundesberufungsgericht im Oktober 2026 das dortige Gesetz HB 3 als voraussichtlich verfassungsgemäß einstufte.
