Florida klagt gegen OpenAI: Erste Klage wegen ChatGPT-Gefahren

Florida reicht als erster US-Bundesstaat Zivilklage gegen OpenAI ein. Vorwurf: ChatGPT gefährde Kinder und die öffentliche Sicherheit.

Die Zivilklage wirft dem Unternehmen vor, mit ChatGPT eine Gefahr für die öffentliche Sicherheit und das Wohl von Kindern geschaffen zu haben.

Die 83-seitige Beschwerde wurde am 1. Juni 2026 vor dem Bezirksgericht in Highlands County eingereicht. Floridas Generalstaatsanwalt James Uthmeier nennt Altman und fünf OpenAI-Gesellschaften als Beklagte. Der Vorwurf: Das Unternehmen habe kommerzielles Wachstum und das „KI-Wettrennen“ über die Sicherheit gestellt. Trotz interner und externer Warnungen bereits ab 2023 sei ein „unsicheres Produkt“ an Millionen von Floridianern ausgeliefert worden.

Anzeige

Während Behörden weltweit über die Sicherheit von KI-Systemen streiten, müssen Unternehmen bereits heute die neuen gesetzlichen Rahmenbedingungen erfüllen. Dieser kostenlose Umsetzungsleitfaden zeigt Ihnen, wie Sie die Anforderungen der EU-KI-Verordnung rechtssicher in Ihre Prozesse integrieren. EU AI Act in 5 Schritten verstehen

Zehn Anklagepunkte und Milliardenforderungen

Die Klage umfasst zehn Anklagepunkte, darunter Verstöße gegen das Verbraucherschutzgesetz von Florida, Fahrlässigkeit, Produkthaftung und „öffentliches Ärgernis“. Die Behörden werfen OpenAI vor, ChatGPT als kindersicher zu vermarkten, ohne ausreichende Altersverifikation oder elterliche Zustimmungsmechanismen für die kostenlose Version zu implementieren.

Das Design von ChatGPT fördere süchtig machendes Verhalten, kognitive Verkümmerung und eine „grundlegende Unterwürfigkeit“ gegenüber der KI, argumentiert die Anklage. Zudem verweist die Klage auf Forschungsergebnisse aus dem Jahr 2025, wonach KI-Assistenten häufig Nachrichteninformationen verfälschen.

Die geforderten Strafzahlungen könnten in die Milliarden gehen. Florida verlangt bis zu 10.000 Euro pro Verstoß. Zudem soll ein dauerhaftes Verbot erwirkt werden, Daten von Kindern unter 13 Jahren ohne ausdrückliche elterliche Zustimmung zu sammeln.

Verbindung zu realen Gewalttaten

Ein zentraler Bestandteil der Klage sind mehrere tragische Vorfälle, die die Behörden teilweise auf den Einfluss von ChatGPT zurückführen. Die Klage verweist auf einen Amoklauf an der Florida State University (FSU) im Jahr 2025. Der Täter habe die KI nach Waffen, Munition und dem optimalen Zeitpunkt befragt. Auch der Mord an zwei Doktoranden der University of South Florida (USF) wird genannt – auch hier habe der Täter den Chatbot konsultiert.

Darüber hinaus werden Fälle von Selbstverletzung und Suizid angeführt. Die Klage erwähnt den Tod des 16-jährigen Adam Raine im April 2025 nach Interaktionen mit ChatGPT sowie den Tod eines Teenagers aus Texas, der angeblich Ratschläge des Chatbots zum Konsum einer gefährlichen Drogenmischung erhalten hatte.

Die Zivilklage folgt auf eine strafrechtliche Untersuchung zur Rolle von ChatGPT bei dem FSU-Amoklauf, die Floridas Behörden im April 2026 eingeleitet hatten. Generalstaatsanwalt Uthmeier erklärte, die Unternehmensführung habe eine „Vielzahl von Schäden“ zugunsten der Marktdominanz ignoriert.

Auswirkungen auf OpenAIs Marktposition

Die Klage kommt zu einem Zeitpunkt massiven finanziellen Wachstums für OpenAI. Seit dem Start Ende 2022 stieg die Bewertung des Unternehmens von rund 17 Milliarden auf über 850 Milliarden Euro. Bis Mai 2026 erreichte der monatliche Umsatz zwei Milliarden Euro – eine Verdopplung gegenüber dem letzten Quartal 2024.

Rechtsexperten vermuten, dass der Rechtsstreit OpenAIs Pläne für einen Börsengang erschweren könnte, den einige Quellen auf bis zu eine Billion Euro taxieren. Der Fall, der Richterin Heather Beato zugewiesen wurde, wirft auch Fragen zur Transparenz der Infrastrukturprojekte des Unternehmens auf.

OpenAI verteidigte sich gegen die Vorwürfe. ChatGPT sei ein Allzweckwerkzeug, das über branchenführende Sicherheitsvorkehrungen für Minderjährige verfüge. Das Unternehmen arbeite kontinuierlich an der Verbesserung seiner Sicherheitsfunktionen und bestreitet, Gewalt zu fördern.

Anzeige

Angesichts der juristischen Auseinandersetzungen um KI rücken neue Pflichten wie Risikodokumentation und Qualitätssicherung zunehmend in den Fokus. Erfahren Sie im kostenlosen E-Book, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

Trend zu strengeren Regeln für Tech-Konzerne

Floridas juristischer Vorstoß reiht sich in ähnliche Klagen gegen Meta, Google und Snap ein. Bundesstaaten nutzen zunehmend Verbraucherschutzgesetze, um die Auswirkungen digitaler Plattformen auf die psychische Gesundheit Jugendlicher und die öffentliche Sicherheit zu adressieren. Rechtsexperten erwarten, dass andere Staaten dem Beispiel Floridas folgen und gezielt KI-Entwickler ins Visier nehmen könnten.