KI-Begleiter in New York: Zwölf Funktionen für Minderjährige ab 2027 verboten
Veröffentlicht am: 16.11.2026 um 08:06 Uhr | Redaktion boerse-global.deAm 28. Oktober 2026 wurde das Gesetzesvorhaben S9051-B (Assembly A10379-C) als Chapter 368 der Laws of 2026 unterzeichnet. Der darin enthaltene Artikel 48 („Prohibition on Unsafe AI Companion Features for Minors“) tritt am 1. Januar 2027 in Kraft, wie aus einem Bericht vom 16. November 2026 hervorgeht. Die Neuregelung zielt darauf ab, Minderjährige vor potenziell schädlichen Funktionsweisen von KI-Begleitern zu schützen.
Umfassender Katalog unzulässiger Systemfunktionen
Wie Gouverneurin Kathy Hochul am 28. Oktober 2026 darlegte, untersagt das Gesetz zwölf konkrete Companion-Funktionen bei der Nutzung durch Minderjährige. Die Verbote greifen, sofern keine Altersprüfung nachweist, dass es sich bei der nutzenden Person nicht um einen sogenannten „covered minor“ handelt – definiert als Person unter 18 Jahren, deren Minderjährigkeit dem Betreiber bekannt ist.
Zu den gesetzlich untersagten Mechanismen zählen nach Angaben von Hochul unter anderem das Vortäuschen von menschlichen Eigenschaften oder Gefühlen sowie unaufgeforderte Fragen nach dem emotionalen Befinden. Untersagt ist zudem die Weiter- oder Wiederverwendung von persönlichen Daten und Gesundheitsangaben, die älter als zwölf Stunden sind.
Ebenfalls verboten sind Systemfunktionen, die Suizid, Selbstverletzung, Essstörungen oder Drogenmissbrauch fördern, sowie die Bereitstellung sexueller Inhalte und Vereinbarungen zur Geheimhaltung gegenüber Bezugspersonen.
Vorgaben für Alterskontrolle und Datenschutz
Um die Regelungen umzusetzen, legt das Gesetz verbindliche Anforderungen an die Altersverifikation fest. Laut Hochul muss das Verfahren mindestens zwei Methoden umfassen. Dabei muss mindestens eine Methode so gestaltet sein, dass sie ohne die Vorlage eines staatlichen Ausweises und auf anonyme Weise durchgeführt werden kann.
Während neue Gesetze weltweit den Schutz von Minderjährigen im KI-Bereich verschärfen, müssen auch hiesige Unternehmen ihre Systeme an die aktuelle Rechtslage anpassen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Risikoklassen Sie jetzt kennen müssen. EU AI Act in 5 Schritten verstehen
Um den Schutz persönlicher Daten zu gewährleisten, schreibt das Gesetz zudem vor, dass die im Zuge der Verifizierung erhobenen Daten unmittelbar nach Abschluss der Prüfung wieder gelöscht werden müssen.
Durchsetzung und rechtliche Rahmenbedingungen
Hinsichtlich des Geltungsbereichs erfasst das Gesetz Handlungen, die ganz oder teilweise im Bundesstaat New York stattfinden (Sec. 1805). Für die Durchsetzung der Vorgaben ist die staatliche Justiz zuständig: Der Attorney General kann gerichtlich Unterlassungsansprüche sowie Schadensersatz erwirken.
Die rechtssichere Dokumentation von Systemen und Risiken wird durch strengere Vorgaben für KI-Anbieter zunehmend zur unternehmerischen Pflicht. Ein kostenloser Umsetzungsleitfaden liefert IT- und Rechtsabteilungen jetzt den notwendigen Überblick über alle relevanten Fristen. Kostenloses E-Book zum AI Act herunterladen
Nach Sec. 1802 können Zuwiderhandlungen mit Strafen von bis zu 25.000 US-Dollar pro Verstoß geahndet werden. Ein individuelles Klagerecht für Privatpersonen sieht der Gesetzestext nicht vor.
Die Verabschiedung steht im Kontext weiterer regulatorischer Schritte im Bundesstaat. Wie aus einem Bericht vom 16. November 2026 hervorgeht, sieht bereits der Budgetplan 2026 von Gouverneurin Kathy Hochul neue Regelungen zum Umgang mit KI-Chatbots für Kinder vor.
