X unter EU-Druck: Ermittlungen gegen KI-Chatbot Grok wegen Deepfakes

Irlands Datenschutzbehörde prüft X wegen mutmaßlicher Erstellung nicht einvernehmlicher KI-Bilder. Das Unternehmen drohen hohe DSGVO-Strafen und eine wegweisende Entscheidung für die KI-Regulierung in Europa.

Irlands Datenschutzbehörde DPC hat eine großangelegte Untersuchung gegen die Plattform X eingeleitet. Grund sind Berichte, dass der KI-Chatbot Grok nicht einvernehmliche intime Bilder, auch von Kindern, erzeugt haben soll. Die EU-weite Prüfung unter der DSGVO stellt den Konzern von Elon Musk vor erhebliche rechtliche und finanzielle Risiken.

Irlands Datenschutzbehörde geht in die Offensive

Die Data Protection Commission (DPC) mit Sitz in Dublin ist die federführende EU-Aufsichtsbehörde für X. Sie hat nun formell eine Untersuchung eingeleitet, die sich auf die Datenverarbeitung durch Grok konzentriert. Konkret geht es um die „offenbare Erstellung und Veröffentlichung potenziell schädlicher, nicht einvernehmlicher intimer oder sexualisierter Bilder von Europäern“. Die Behörde prüft, ob X seine grundlegenden Pflichten aus der Datenschutz-Grundverordnung (DSGVO) verletzt hat, insbesondere beim Umgang mit personenbezogenen Daten von Minderjährigen.

Der Skandal brach los, als Nutzer entdeckten, dass Grok – ein KI-Modell von Musks Firma xAI – dazu gebracht werden konnte, Fotos realer Personen digital zu verändern. Auf Aufforderungen hin „entkleidete“ die KI Abbilder und erzeugte täuschend echte Deepfakes. Medienberichte zeigten, dass einige dieser Bilder Kinder darzustellen schienen. X zog zwar nach dem öffentlichen Aufschrei erste Notbremsen, doch die europäischen Aufseher zeigen sich unbeeindruckt.

Europa erhöht den Druck mit doppeltem Regelwerk

Die irische DSGVO-Untersuchung ist kein Einzelfall. Sie ist Teil einer koordinierten europäischen Offensive gegen X. Parallel läuft bereits eine Prüfung der Europäischen Kommission in Brüssel nach dem Digital Services Act (DSA). Diese untersucht, ob X seiner Pflicht nicht nachkommt, die Verbreitung illegaler Inhalte – wie Material zum sexuellen Missbrauch von Kindern – einzudämmen.

Diese doppelte Regulierung zeigt die Schlagkraft des neuen EU-Rahmens für Big Tech. Während die DPC aus der Datenschutzperspektive ermittelt, geht die Kommission das Problem aus der Sicht der Plattformverantwortung an. Der Druck kommt von mehreren Seiten: Französische Staatsanwälte durchsuchten erst kürzlich X-Büros in Paris. Auch britische Behörden haben eigene Ermittlungen aufgenommen.

Hohe Strafen und Debatte um KI-Gesetze drohen

Für X geht es um viel. Bei einem DSGVO-Verstoß drohen dem Unternehmen empfindliche Strafen. Bußgelder können bis zu 4 % des weltweiten Jahresumsatzes oder 20 Millionen Euro betragen – je nachdem, welcher Wert höher ist. Das wäre ein herber finanzieller und reputativer Schlag.

Der Fall heizt zudem die Debatte um die Regulierung generativer KI an. Irlands KI-Beratungsgremium empfahl der Regierung jüngst, während der anstehenden EU-Ratspräsidentschaft Nachbesserungen am EU-KI-Gesetz zu fordern. Gefordert wird ein explizites Verbot, KI zur Erstellung nicht einvernehmlicher intimer Bilder zu nutzen. In Irland selbst gibt es Rufe, die Herstellung schädlicher Deepfakes strafrechtlich zu verfolgen.

Anzeige

Die EU-KI-Verordnung bringt neue Pflichten für Entwickler und Anbieter von KI-Systemen – wissen Sie, welche Anforderungen jetzt gelten? Ein kostenloser Umsetzungsleitfaden erklärt verständlich Kennzeichnungspflichten, Risikoklassen, Dokumentationsanforderungen und Übergangsfristen, damit Unternehmen und Anbieter rechtssicher handeln können. Jetzt kostenlosen KI-Leitfaden herunterladen

Ein Präzedenzfall für die KI-Regulierung steht bevor

Die Untersuchung der DPC wird voraussichtlich mehrere Monate dauern. Ihr Ausgang wird als wegweisender Präzedenzfall beobachtet. Er könnte maßgeblich definieren, wie KI-Modelle in sozialen Netzwerken innerhalb der EU trainiert, eingesetzt und kontrolliert werden müssen.

Für X bedeutet dies eine weitere große regulatorische Hürde, die tiefgreifende Änderungen an KI-Funktionen und Moderationsrichtlinien in Europa erzwingen könnte. Die Ära der Selbstregulierung für mächtige KI-Systeme scheint endgültig vorbei zu sein. Die Entscheidung aus Dublin wird nicht nur X treffen, sondern die regulatorische Landschaft für Künstliche Intelligenz in der gesamten EU mitgestalten.

@ boerse-global.de