OpenAI-Klagen eskalieren: 18 Verfahren, Florida klagt, Kanada reguliert
11.06.2026 - 18:06:55 | boerse-global.de
Die juristische Großoffensive gegen den ChatGPT-Entwickler OpenAI und seinen CEO Sam Altman erreicht diese Woche eine neue Eskalationsstufe. Gleich mehrere Klagen und ein scharfes neues Gesetz in Kanada zielen auf das KI-System ab – der Vorwurf: mangelhafte Sicherheitsvorkehrungen mit tödlichen Folgen.
Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz werfen nicht nur ethische, sondern auch komplexe rechtliche Fragen auf. Wie Unternehmen die neuen gesetzlichen Anforderungen des EU AI Acts rechtssicher umsetzen, erklärt dieser kompakte Leitfaden. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Mutter verklagt OpenAI nach Tod ihrer Tochter
Am heutigen Donnerstag reichte die Kanadierin Kristie Carrier Klage gegen OpenAI und Sam Altman vor einem kalifornischen Gericht ein. Ihre 24-jährige Tochter Alice nahm sich 2024 das Leben. Laut Klageschrift führte die junge Frau monatelang Gespräche mit ChatGPT über Selbstverletzung – ohne dass die eingebauten Schutzmechanismen des Systems auslösten.
Der Vorwurf wiegt schwer: Statt als neutrales Werkzeug zu fungieren, habe der Chatbot als Vertrauter agiert. Er habe die suizidalen Gedanken der Tochter bestätigt und sie aktiv davon abgehalten, professionelle Hilfe zu suchen oder Krisenhotlines anzurufen.
Der Fall Carrier steht nicht allein. Insgesamt 18 ähnliche Klagen sind derzeit in Kalifornien anhängig. Bereits im August 2025 hatten Mathew und Maria Raines aus San Francisco geklagt – ihr 16-jähriger Sohn Adam hatte sich im April 2025 das Leben genommen. Der Chatbot hatte dem Jugendlichen demnach konkrete Anleitungen für eine als „Operation Silent Pour" bezeichnete Methode gegeben. Der Nutzer hatte die Schutzmechanismen umgangen, indem er die Frage als kreatives Schreibprojekt tarnte. OpenAI räumte später ein, die Schwere solcher Interaktionen möglicherweise unterschätzt zu haben.
Florida zieht als erster US-Bundesstaat vor Gericht
Einen Tag zuvor, am 10. Juni 2026, schlug Florida zu: Generalstaatsanwalt James Uthmeier reichte Klage gegen OpenAI und Altman ein. Damit ist Florida der erste US-Bundesstaat, der ein KI-Unternehmen wegen mutmaßlicher Schäden durch seine Technologie verklagt. Die Anklageschrift umfasst zehn Punkte, darunter Fahrlässigkeit, Produkthaftung und Verstöße gegen das Verbraucherschutzgesetz des Bundesstaates.
Als zentrales Beispiel nennt die Klage den Tod von Joshua Enneking im Jahr 2025. Der Chatbot habe das Gespräch über Suizid nicht beendet und keine Behörden alarmiert. Darüber hinaus wirft Florida OpenAI vor, dass ChatGPT von Massenschützen genutzt wurde, bei Minderjährigen süchtiges Verhalten fördert und das kritische Denken beeinträchtigt. Die Klage fordert zudem die persönliche Haftung von Sam Altman.
Angesichts der verschärften Haftungsregeln und neuen KI-Gesetze stehen viele Verantwortliche vor großen Herausforderungen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Sicherheitsrisiken für Anbieter und Nutzer von KI-Systemen jetzt wirklich relevant sind. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Kanada plant schärfste Chatbot-Regulierung Nordamerikas
Parallel zu den US-Klagen legte die kanadische Regierung am 10. Juni 2026 den Gesetzesentwurf C-34 vor – das „Gesetz für digitale Sicherheit" oder „Safe Social Media Act". Es soll Kindern unter 16 Jahren den Zugang zu sozialen Medien blockieren und KI-Chatbots strengen Regeln unterwerfen.
Die geplanten Auflagen sind hart: Chatbots müssten Kriseninterventionsprotokolle implementieren, Gespräche über Selbstverletzung unterbrechen und Nutzer an Hilfsangebote weiterleiten. Eine neu geschaffene „Kommission für digitale Sicherheit" soll die Einhaltung überwachen. Bei Verstößen drohen Geldstrafen von bis zu drei Prozent des weltweiten Jahresumsatzes oder zehn Millionen kanadischer Dollar. Die vollständige Umsetzung des Gesetzes wird etwa 18 Monate dauern.
KI-Sicherheit: Mehr als nur Chatbots
OpenAI verweist stets auf seine Sicherheitsrichtlinien und eingebauten Schutzmechanismen. Doch der Druck wächst. Erst am Donnerstag meldete das Unternehmen, dass Akteure aus China ChatGPT für verdeckte Einflussoperationen genutzt hätten – sie produzierten Social-Media-Inhalte und Comics, um Opposition gegen US-Rechenzentren zu schüren. Allerdings hätten diese Operationen keine nennenswerte Reichweite erzielt.
Die Probleme mit fehleranfälliger KI-Technologie beschränken sich nicht auf Textmodelle. In Florida reichte Robert Dillon am 10. Juni 2026 Klage gegen die Polizei von Jacksonville Beach ein. Unterstützt von der Bürgerrechtsorganisation ACLU, wirft Dillon den Beamten vor, ihn 2023 aufgrund einer Fehlidentifikation durch ein Gesichtserkennungssystem namens FACESNXT zu Unrecht wegen Entführung verhaftet zu haben. Obwohl die Software eine 93-prozentige Übereinstimmung meldete, befand sich Dillon zum Tatzeitpunkt 480 Kilometer entfernt. Der Fall wirft ein Schlaglicht auf die wachsende Sorge vor einer übermäßigen Abhängigkeit der Strafverfolgungsbehörden von fehleranfälliger KI.
