EU erhöht Druck auf Musks X wegen KI-Bildern von Kindern

Die EU geht nach sexualisierten KI-Bildern von Kindern auf der Online-Plattform X einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Elon Musk.

Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zur künstlichen Intelligenz Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob das Unternehmen sich an europäische Digitalgesetze halte.

Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der Aufforderung nach.

Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.

EU verhängte im Dezember Strafe gegen X - weitere könnten folgen

Der EU-Kommissionssprecher betonte: "Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel." Die EU-Kommission hatte von X Ende 2025 Auskünfte zu Grok verlangt und nach eigenen Angaben über die Feiertage eine Antwort erhalten. Diese werde nun analysiert.

Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel. "Wir sind nicht hier, um den Bürgern zu sagen, welche Plattform sicherer oder besser zu verwenden ist", sagte der Sprecher.

Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun.

EU-Digitalgesetze sorgen für Spannungen mit den USA

In Anbetracht der seit Jahren andauernden Ermittlungen halten Kritiker der EU seit Längerem vor, ihre Digitalregeln nicht konsequent genug durchzusetzen. Gleichzeitig behauptet die US-Regierung von Präsident Donald Trump, Brüssel betreibe Zensur.

Washington verhängte kurz vor Weihnachten als Reaktion auf europäische Maßnahmen Einreiseverbote gegen den früheren EU-Kommissar Thierry Breton und andere Europäer. Breton ist ein Architekt der EU-Digitalgesetze. Auch die Geschäftsführerinnen der gegen Internet-Hetze eintretenden deutschen Beratungsstelle HateAid sind betroffen.

Die Sanktionen könnten auch als Warnung an die EU-Kommission von Ursula von der Leyen verstanden werden, die europäischen Digitalgesetze weiter gegen US-Unternehmen anzuwenden. Die Brüsseler Behörde drohte nach den Einreiseverboten wiederum mit Vergeltungsmaßnahmen. Man verurteile die Entscheidung der Vereinigten Staaten aufs Schärfste, hieß es.

Ermittlungen auch in Frankreich

Laut Medienberichten ermittelt inzwischen auch die Pariser Staatsanwaltschaft gegen X. Demnach hatten zwei französische Abgeordnete sich an die Staatsanwaltschaft gewandt, nachdem Tausende sogenannte Deepfakes von Grok erstellt worden waren. Deepfakes sind mit Hilfe von KI erstellte Videos, Bilder oder Audio-Dateien, die täuschend echt wirken, es aber nicht sind.

In Deutschland gibt es bisher keine vergleichbaren Ermittlungen gegen Grok. Die Bundesnetzagentur verwies nach dpa-Anfrage auf die Zuständigkeiten. Für X seien die Aufsichtsperson am Sitz des Anbieters in der EU - im Fall von X also Irland - und die EU-Kommission zuständig. Dorthin würden Hinweise zu rechtswidrigen Inhalten weitergeleitet, hieß es.

EU-Kommission rechtfertigt eigene Präsenz auf X

Die Spitzenvertreter der EU posten selbst regelmäßig auf X. Die EU-Kommission rechtfertigte die eigenen Aktivitäten: "Natürlich beobachten wir auch, wo unsere Zielgruppe selbst am aktivsten ist. Es ist wichtig für uns, unsere Botschaften an unser Zielpublikum zu vermitteln", hieß es von der Behörde. Gleichzeitig versuche die Kommission, den Online-Auftritt zu diversifizieren und auch in anderen sozialen Netzwerken zu posten.

Viele deutsche Organisationen, darunter das Bundeskriminalamt, das Verteidigungsministerium sowie viele Hochschulen, hatten sich in der Vergangenheit aufgrund der Entwicklungen von der Online-Plattform zurückgezogen.