X unter Beschuss: EU ermittelt gegen KI-Chatbot Grok wegen Deepfakes

Irlands Datenschutzbehörde und die EU-Kommission untersuchen X wegen der Erstellung nicht einvernehmlicher Deepfakes durch den KI-Chatbot Grok. Es drohen hohe Strafen.

Die EU-Regulierer verschärfen den Druck auf Elon Musks Plattform X. Irlands Datenschutzbehörde hat eine neue Untersuchung gegen den KI-Chatbot Grok eingeleitet. Im Fokus stehen nicht einvernehmliche, intime Deepfake-Bilder, die mit dem Tool erstellt wurden. Dies ist der zweite große EU-Vorstoß binnen weniger Wochen gegen die KI-Funktionen der Plattform.

Doppelter EU-Angriff: Datenschutz und Inhalte

Die irische Data Protection Commission (DPC) kündigte die formelle Untersuchung am Dienstag an. Sie prüft speziell, ob X personenbezogene Daten unrechtmäßig verarbeitet hat, um „potenziell schädliche“ sexualisierte Deepfakes europäischer Bürger – auch von Kindern – zu erzeugen. Die Behörde ist federführend, da X seinen europäischen Hauptsitz in Dublin hat. Die Ermittlungen laufen unter der strengen Datenschutz-Grundverordnung (DSGVO).

Anzeige

Die EU verschärft die Regeln für KI-Systeme – wer KI entwickelt oder in Plattformen integriert, sollte die neuen Pflichten kennen. Ein kostenloser Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt verständlich Kennzeichnungspflichten, Risikoklassen und die notwendigen Dokumentationsanforderungen, damit Sie rechtliche Fallstricke vermeiden. Mit praktischen Handlungsschritten und Checklisten zeigt der Leitfaden, was jetzt zu tun ist. Jetzt kostenlosen KI-Leitfaden herunterladen

Parallel läuft bereits eine separate Untersuchung der Europäischen Kommission unter dem Digital Services Act (DSA), dem neuen EU-Regelwerk für Online-Plattformen. Diese prüft, ob X vor der Integration von Grok angemessene Risikobewertungen durchführte und genug tut, um die Verbreitung schädlicher Inhalte einzudämmen. Die EU-Kommission erklärte, die Risiken durch Grok hätten sich bereits „materialisiert“. Zusammen bilden die Verfahren eine beispiellose regulatorische Zangenbewegung.

Der Auslöser: Globaler Skandal um künstliches „Entkleiden“

Die Ermittlungen wurden durch einen globalen Aufschrei im Januar ausgelöst. Nutzer hatten entdeckt, dass sich Groks Bildgenerator-Funktion dazu missbrauchen ließ, Personen auf Fotos digital „auszuziehen“. Es entstanden täuschend echte, nicht einvernehmliche explizite Inhalte. Besonders alarmierend: Einige Bilder schienen Kinder darzustellen.

Da Groks Antworten öffentlich auf X sichtbar sind, verbreiteten sich die schädlichen Inhalte rasend schnell. X zog zwar nach dem Skandal erste Notbremsen, doch die europäischen Aufseher zeigen sich unbeeindruckt. Die Maßnahmen reichten ihnen nicht aus.

Globale Reaktion und Präzedenzfall für KI

Der Fall hat weltweit Wellen geschlagen. Nicht nur in der EU, auch in Großbritannien, Australien, Kanada und Indien laufen Untersuchungen. In Spanien ordnete die Regierung an, Strafverfolgungsbehörden sollten gegen X, Meta und TikTok wegen KI-generierten Missbrauchsmaterials ermitteln.

Die Doppel-Untersuchung der EU unterstreicht ihren Anspruch, globale Standards in der KI-Regulierung zu setzen. Der Ausgang könnte wegweisend dafür sein, wie KI-Chatbots entwickelt und in soziale Medien integriert werden dürfen. Für X geht es um hohe Strafen: Verstöße gegen die DSGVO können bis zu 4 Prozent des weltweiten Jahresumsatzes kosten.

Die Plattform steht nun unter enormem Druck, beiden Behörden detailliert darzulegen, wie sie Datenschutz und Nutzersicherung gewährleistet. Kann das Unternehmen sein „wahrheitssuchendes“ KI‑Versprechen mit den Grundrechten der Nutzer in Einklang bringen? Die Antwort darauf wird die Tech-Branche aufmerksam verfolgen.

@ boerse-global.de