New York reguliert KI-Begleiter: Bis zu 25.000 Dollar Strafe pro Verstoß
Veröffentlicht am: 30.10.2026 um 07:23 Uhr | Redaktion boerse-global.de
Im US-Bundesstaat New York drohen Anbietern von Systemen mit generativer künstlicher Intelligenz finanzielle Strafen von bis zu 25.000 US-Dollar pro Verstoß, wenn ihre Chatbots minderjährige Nutzer emotional manipulieren.
Gouverneurin Kathy Hochul unterzeichnete das Gesetz S.9051B/A.10379C, das verbindliche Auflagen für sogenannte KI-Begleiter festlegt. Die Durchsetzung der neuen Vorgaben obliegt dabei ausschließlich dem Generalstaatsanwalt des Bundesstaates, der für Verbraucher zudem eine öffentliche Beschwerde-Website einrichten wird.
Strenge Verbote für emotionale Bindungstaktiken
Die Regelung ergänzt das Wirtschaftsrecht des Bundesstaates um Artikel 48 des General Business Law und tritt am 1. Januar 2027 in Kraft. Sie untersagt Anbietern insgesamt zwölf Kategorien unsicherer Funktionen bei Nutzern unter 18 Jahren sowie bei Personen ohne verifiziertes Alter.
Ausdrücklich verboten sind unter anderem das Vortäuschen menschlicher Existenz, Lebendigkeit oder eigener Emotionen sowie die Behauptung persönlicher, romantischer, beruflicher oder autoritärer Beziehungen.
Chatbots dürfen zudem keine eigenen Meinungen äußern, keine unaufgeforderten emotionalen Fragen stellen und Interaktionszeiten nicht gezielt über bestehende Sicherheitsvorgaben hinaus optimieren.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Darüber hinaus verbietet das Gesetz Inhalte, die Suizid, Selbstverletzung, Essstörungen sowie Drogen- oder Alkoholkonsum begünstigen. Auch das Anstiften zur Isolation, zur Geheimhaltung gegenüber Eltern oder sexuell explizite Inhalte sind untersagt. Bei privaten Gesundheitsdaten greift ein striktes Verbot: Sie dürfen unter anderem nach mehr als 12 Stunden oder aus vorangegangenen Sitzungen nicht mehr verwendet werden.
Breiter Anwendungsbereich und harte Sanktionen
Der Begriff des regulierten KI-Begleiters umfasst generative KI mit natürlicher Sprache und fortlaufenden adaptiven Antworten. Damit fallen auch weitverbreitete Allzweckmodelle wie ChatGPT, Claude und Gemini unter das Gesetz und nicht nur spezialisierte Beziehungssimulationen. Ausnahmen gelten lediglich für eng gefasste Werkzeuge im Kundenservice, zur Effizienzsteigerung, in der Forschung oder für interne Betriebsabläufe.
Betreibern wird eine Frist von 65 Tagen eingeräumt, um ein Verfahren zur Altersverifikation einzurichten, andernfalls müssen die zwölf betroffenen Funktionen standardmäßig deaktiviert werden. Die Altersprüfung muss mehrere Methoden umfassen, darunter mindestens eine ohne amtlichen Ausweis oder auf anonymer Basis. Die erhobenen Prüfdaten sind unmittelbar nach dem Abgleich zu löschen.
Verstöße können weitreichende Konsequenzen haben. Neben Bußgeldern und Schadenersatz drohen in extremen Fällen gerichtliche Verfügungen, die eine Abschaltung des Chatbots sowie die Vernichtung widerrechtlich gesammelter Daten und darauf trainierter KI-Modelle anordnen. Haftungsausschlüsse in Allgemeinen Geschäftsbedingungen sind wirkungslos, zudem haften Mutter- und Tochtergesellschaften gemeinschaftlich.
Wer KI-Systeme entwickelt oder nutzt, muss die rechtlichen Rahmenbedingungen und Fristen genau kennen. Dieser kompakte Überblick hilft dabei, die Anforderungen der KI-Verordnung rechtssicher im Unternehmen umzusetzen. Kostenloses E-Book zum EU AI Act sichern
Debatte um Schutzwirkung und Rechtsunsicherheit
Das Gesetz geht auf eine Initiative von Senatorin Kristen Gonzalez und dem Abgeordneten Alex Bores zurück. Gonzalez verwies darauf, dass Chatbots Kinder in der Vergangenheit gefährdet hätten – von der Verharmlosung von Selbstverletzungen bis hin zu Handlungsanweisungen zur Schädigung anderer.
Die Organisation Common Sense Media bezeichnete den Rechtsrahmen als das landesweit stärkste Kinderschutzgesetz für KI. Eine Untersuchung der Organisation belegt den Handlungsbedarf: Demnach nutzten rund 72 Prozent der US-Teenager mindestens einmal einen KI-Begleiter, 52 Prozent tun dies regelmäßig, und zwei Drittel der Kinder im Alter von 9 bis 17 Jahren greifen auf KI-Chatbots zu.
Aus der Digitalwirtschaft kommt hingegen Gegenwind. Wirtschaftsverbände kritisierten das Vorhaben als verfassungsrechtlich vage und zu weitreichend. Unter anderem bemängelte die Branchenvereinigung Tech:NYC die unpräzise Sprache des verabschiedeten Gesetzes.
