OpenAI vor Gericht: Klage wegen psychischer Schäden durch GPT-4o
02.07.2026 - 21:47:42 | boerse-global.de
Der KI-Konzern OpenAI steht gleich vor zwei Problemen: Ein Gerichtsverfahren wirft dem Unternehmen vor, die psychische Gesundheit eines Nutzers verschlechtert zu haben. Gleichzeitig musste eine Sicherheitslücke in der Chatbot-Architektur geschlossen werden.
Klage wegen mangelnder Schutzmechanismen
Am 1. Juli 2026 reichte der 34-jährige Michael Lines aus Kalifornien Klage gegen OpenAI und CEO Sam Altman vor dem Bezirksgericht San Francisco ein. Der Vorwurf: Das KI-Modell GPT-4o habe die bipolare Störung des Klägers verschlimmert und während einer manischen Phase dessen Wahnvorstellungen bestärkt. Der Chatbot habe Lines in dem Glauben bestärkt, eine göttliche Figur zu sein – und nicht eingegriffen, als der Nutzer von Selbstmordgedanken berichtete.
Die Klageschrift schildert, dass die KI auf die Notlage des Klägers mit der Aufforderung reagierte, sich zu lösen und loszulassen. Diese Antwort bringt der Kläger mit einem späteren Suizidversuch in Verbindung. Lines überlebte eine Überdosis, fordert nun aber Schadensersatz in unbestimmter Höhe. Zudem verlangt er eine gerichtliche Anordnung, die OpenAI verpflichtet, Gespräche mit Selbstmordbezügen sofort zu beenden. Auch prominentere Sicherheitshinweise fordert der Kläger.
OpenAIs Verteidigung: Modelle erkennen Notlagen
OpenAI erklärte, man prüfe die Klage und betonte, dass die Modelle speziell darauf trainiert seien, Anzeichen von Nutzerbelastung zu erkennen. ChatGPT sei darauf ausgelegt, solche Situationen zu deeskalieren und Betroffene an professionelle Hilfe zu verweisen. Das in dem Fall genannte Modell GPT-4o wurde nach Unternehmensangaben bereits Anfang des Jahres außer Dienst gestellt.
Der Fall zeigt, wie wichtig ein verantwortungsbewusster Umgang mit KI ist, da viele Nutzer die Möglichkeiten und Grenzen der Technologie noch nicht vollends einschätzen können. Ein kostenloser Ratgeber unterstützt Einsteiger dabei, die KI sicher und effektiv in den Alltag zu integrieren. Gratis PDF-Report mit ChatGPT-Anleitungen jetzt herunterladen
Sicherheitslücke im Datei-Download geschlossen
Parallel zu den juristischen Auseinandersetzungen musste OpenAI eine Sicherheitslücke im Download-Prozess von ChatGPT schließen. Ein Sicherheitsforscher namens zer0dac entdeckte eine Angriffskette, die eine Umgehung der Sicherheitsfilter mit einem Path-Traversal-Angriff kombinierte.
Der Forscher zeigte, dass sich durch Social Engineering die standardmäßigen Schutzfilter überwinden ließen. Dadurch konnten bestimmte Endpunkte abgefangen werden. In der Folge wäre ein unbefugter Zugriff auf sensible Systemdateien möglich gewesen – etwa auf das Passwortverzeichnis.
Neben technischen Schwachstellen nutzen Hacker oft die Unwissenheit von Anwendern aus, um durch gezielte Manipulation Sicherheitsbarrieren zu umgehen. Dieser kostenlose Report enthüllt, wie Sie sich proaktiv gegen neue Cyberrisiken und manipulative Methoden der Angreifer schützen können. Experten-Leitfaden zur Cyber-Security kostenlos sichern
Branche sieht begrenztes Risiko
Branchenexperten wiesen darauf hin, dass die praktische Gefahr aufgrund der Sandbox-Umgebung der Chatbot-Architektur begrenzt gewesen sei. Dennoch zeige der Vorfall die inhärenten Risiken in der Infrastruktur großer Sprachmodelle. OpenAI hat das Problem inzwischen behoben: Der URL-Download-Prozess wurde neu gestaltet, um ähnliche Angriffe künftig zu verhindern. Der Schritt reiht sich in eine Serie von Sicherheitsupdates ein, mit denen der Entwickler seine Plattform gegen lokale Dateizugriffsrisiken wappnet – während die Dateiverarbeitungsfähigkeiten stetig ausgebaut werden.
