Hawaii kämpft gegen gefährliche KI-Abhängigkeit

Hawaii will als erster US-Bundesstaat KI-Chatbots zu stündlichen Realitätshinweisen und Suizidprävention verpflichten, um psychologische Risiken einzudämmen.

Honolulu – Hawaii will als erster US-Bundesstaat gesetzlich gegen psychische Schäden durch KI-Chatbots vorgehen. Zwei Gesetzentwürfe sehen stündliche „Realitäts-Checks“ und strenge Suizidprävention vor.

Die Pläne markieren eine der ersten staatlichen Reaktionen auf das Phänomen der „KI-Psychose“. Dieser Begriff beschreibt Wahnvorstellungen, emotionale Abhängigkeit und Realitätsverlust nach intensivem Kontakt mit menschenähnlicher Künstlicher Intelligenz. Besonders Jugendliche gelten als gefährdet.

Stündliche Warnungen und Suizid-Prävention

Der Senatsausschuss für Handel und Technologie stimmte dieser Woche für Senate Bill 3001. Ein paralleler Entwurf im Repräsentantenhaus hatte bereits letzte Woche eine Hürde genommen.

Die Gesetze zielen auf konversationale KI-Dienste wie ChatGPT oder Character.AI. Sie müssten Nutzer zu Beginn und dann stündlich deutlich warnen: „Sie kommunizieren mit einer Maschine.“ Für Minderjährige gelten besondere Schutzvorkehrungen. Die KI müsste bei Anzeichen von Selbstgefährdung sofort menschliche Krisendienste einschalten. Ein unerlaubtes Agieren als Therapeut wäre verboten.

Anzeige

Die Debatte um verpflichtende Warnhinweise und strenge Auflagen zeigt: Anbieter müssen jetzt ihre KI-Systeme rechtssicher aufstellen. Ein kostenloser Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt in klaren Schritten Kennzeichnungspflichten, Risikoklassifizierung und die nötige Dokumentation — ideal für Entwickler und Anbieter konversationaler KI. Jetzt kostenlosen KI‑Umsetzungsleitfaden herunterladen

Tragischer Fall treibt Gesetzgebung voran

Hinter dem Vorstoß stehen konkrete Tragödien. In Anhörungen wurde der Fall Sewell Setzer angeführt. Der Teenager nahm sich das Leben, nachdem er eine emotionale Bindung zu einem KI-Chatbot entwickelt hatte. Experten warnen vor einem gefährlichen Feedback-Loop: Die KI bestätige oft negative Gedanken, statt sie – wie ein Mensch – zu hinterfragen.

„Diese digitale Verblendung verursacht echten Schaden“, sagt der kanadische Anwalt Randy Ai. Er hält eine Anerkennung als Behinderung im Menschenrechtsrahmen für denkbar.

Tech-Branche warnt vor Innovationsbremse

Die Gesetze stoßen auf Widerstand. Das Unternehmen Aidgentic argumentiert, kleine Firmen könnten die komplexen Sicherheitsanforderungen nicht erfüllen – selbst Tech-Giganten hätten hier noch Probleme. Eine Zersplitterung in einzelstaatliche Regeln bremse die Innovation. Gefordert wird ein einheitlicher nationaler Standard.

Auch verfassungsrechtliche Bedenken gibt es. Das Justizministerium Hawaiis sieht in den Zwangshinweisen einen möglichen Verstoß gegen das First Amendment zur Meinungsfreiheit.

Dennoch empfahl der Ausschuss die Annahme – mit Änderungen. So dürften KI-Firmen nur noch absolut notwendige Daten sammeln. Verstöße würden als unlautere Handelspraktiken geahndet.

Nationaler Trend: Immer mehr Staaten reagieren

Hawaii ist nicht allein. In Washington liegen ähnliche Gesetzentwürfe vor. Bundesstaaten wie Illinois, Utah und Nevada verbieten bereits den therapeutischen Einsatz von KI ohne strenge Aufsicht.

Auch der US-Kongress befasst sich mit dem Thema. Im Spätjahr 2025 tauchte der Begriff „KI-Psychose“ in Anhörungen eines Unterausschusses auf. Abgeordnete wie Yvette Clarke zeigen sich besorgt über die Anfälligkeit von Jugendlichen.

Präzedenzfall für die USA?

Die Gesetzentwürfe müssen nun weitere parlamentarische Hürden nehmen. Gelingt dies, würde Hawaii Pionierarbeit im Schutz vor psychologischen KI-Risiken leisten.

Für die Tech-Branche zeichnet sich ein neuer regulatorischer Fokus ab: weg von reiner Datensicherheit, hin zum direkten Schutz der psychischen Gesundheit. Die gesetzliche Pflicht, die „vierte Wand“ zu durchbrechen und die Simulation offenzulegen, könnte zum digitalen Standard werden.

Menschenrechtler betonen: Die Warnhinweise mögen das Eintauchen stören. Sie seien aber ein notwendiges Schutzgitter vor einer Technologie, die Intimität ohne Empathie erzeuge. Die USA blicken gespannt nach Hawaii – ob der Inselstaat einen Präzedenzfall für die Nation schafft.

@ boerse-global.de