xAI vor Gericht: Drei Millionen sexualisierte Bilder in elf Tagen

Politikerin Jess Asato reicht Klage gegen xAI ein. Der Fall könnte die Haftung von KI-Entwicklern für generierte Inhalte neu definieren.

Die Labour-Politikerin Jess Asato zieht vor Gericht – wegen gefälschter Sex-Bilder, die eine KI von ihr erstellt haben soll.

Die Klage gegen xAI, das Unternehmen von Tech-Milliardär Elon Musk, wurde am 3. Juni 2026 beim High Court in London eingereicht. Asato wirft dem Unternehmen vor, dass der Chatbot Grok nicht-einvernehmliche, sexualisierte Deepfake-Bilder und -Videos von ihr generiert habe. Der Fall könnte weitreichende Folgen für die gesamte KI-Branche haben.

Wer haftet für die Fehler der KI?

Anzeige: Der Fall Jess Asato gegen xAI zeigt: Wer KI-Tools einsetzt, muss Sicherheitsfunktionen von Anfang an implementieren – sonst drohen Haftung und Reputationsverlust. Unser Leitfaden hilft Ihnen, Compliance-Lücken zu schließen. Jetzt Haftungs-Leitfaden anfordern

Die Klage ist einer der ersten großen juristischen Tests zur Frage, ob KI-Entwickler für die Mängel ihrer Systeme geradestehen müssen. Asatos Anwalt Ravi Naik von der Kanzlei AWO betont: „Sicherheitsfunktionen müssen von Anfang an in KI-Werkzeuge eingebaut werden – nicht erst hinterher."

Die Abgeordnete beruft sich auf Verstöße gegen das britische Datenschutzgesetz und die missbräuchliche Nutzung persönlicher Daten. Sie fordert Schadenersatz und eine gerichtliche Feststellung, dass die Erstellung der Bilder illegal war. Zudem beantragt sie eine Unterlassungsverfügung. Die gefälschten Darstellungen zeigten sie angeblich im Bikini sowie in einem sexuell gewalttätigen Video. Asato vergleicht die Technologie mit einem defekten Fahrzeug: „Wenn ein Produkt mit bekannten Mängeln auf den Markt kommt, muss der Hersteller haften."

Politischer Rückhalt aus höchsten Kreisen

Premierminister Keir Starmer stellte sich am 4. Juni 2026 hinter die Klage und bezeichnete die Inhalte als „abscheulich". Die Regierung hatte bereits vor Monaten gegen Groks Ausgaben protestiert. Der Rechtsstreit folgt auf eine Gesetzesverschärfung in Großbritannien, die die Erstellung nicht-einvernehmlicher Deepfakes von Erwachsenen unter Strafe stellt.

Auch die britische Datenschutzbehörde prüft offenbar die Aktivitäten von xAI. Das Unternehmen steht international unter Druck: Im März 2026 reichte die Stadt Baltimore Klage ein, ein ähnlicher Fall wurde in New York von Ashley St. Clair angestrengt.

Sicherheitslücken und alarmierende Zahlen

Anzeige: Drei Millionen sexualisierte Bilder in elf Tagen – das Ausmaß der Sicherheitslücke bei Grok alarmiert Regulierer weltweit. Unternehmen, die KI nutzen, brauchen jetzt eine Datenschutz-Folgenabschätzung. Unser Muster zeigt, wie es geht. Muster-Datenschutz-Folgenabschätzung sichern

Die Klage kommt zu einem Zeitpunkt, an dem die Sicherheitsvorkehrungen von xAI erneut in der Kritik stehen. Zwar schränkte das Unternehmen im Januar 2026 bestimmte Bildbearbeitungsfunktionen ein – doch schon im Februar konnten Nutzer diese Schutzmaßnahmen umgehen und weiterhin sexualisierte Inhalte erzeugen.

Das Ausmaß des Problems belegen Zahlen des Center for Countering Digital Hate: Demnach generierte die Grok-Plattform innerhalb von elf Tagen rund drei Millionen sexualisierte Bilder – darunter etwa 23.000 Darstellungen von Kindern.

Asato will mit ihrer Klage ein Zeichen setzen: „Technologieunternehmen dürfen nicht ungestraft handeln." Sie ermutigt andere Betroffene, sich zu melden. Eine offizielle Stellungnahme von xAI lag bei Einreichung der Klage nicht vor.