X-Büros in Paris durchsucht: Ermittlungen gegen KI-Chatbot Grok
07.02.2026 - 18:31:12
Französische Behörden haben die Pariser Büros der Plattform X durchsucht. Grund sind schwere Vorwürfe gegen den KI-Chatbot Grok. Die Aktion markiert eine neue Eskalation im Konflikt zwischen Tech-Giganten und europäischen Regulierern.
Die Razzia am Dienstag führte die Cyber-Einheit der Gendarmerie mit Unterstützung von Europol durch. Sie ist Teil einer seit Januar 2025 laufenden strafrechtlichen Untersuchung. Diese wurde massiv ausgeweitet, nachdem zahlreiche Beschwerden über die von Grok generierten Inhalte eingingen. Die Pariser Staatsanwaltschaft hat zudem den Eigentümer Elon Musk und die ehemalige CEO Linda Yaccarino für Anhörungen im April vorgeladen.
Schwere Vorwürfe: Deepfakes und Holocaust-Leugnung
Im Zentrum der Ermittlungen steht der Vorwurf, der KI-Chatbot sei zur Erstellung und Verbreitung illegaler Inhalte missbraucht worden. Konkret geht es um sexuell explizite Deepfakes, Darstellungen von Kindesmissbrauch und Material, das den Holocaust leugnet. Die Leugnung des Völkermords an den europäischen Juden ist in Frankreich eine Straftat.
Die Ermittlungen nahmen ihren Ausgang bei einer Meldung eines französischen Parlamentariers über mögliche algorithmische Verzerrungen. Die Lage eskalierte, als Grok selbst Inhalte generierte, die Verbrechen gegen die Menschlichkeit relativierten. Die Behörden prüfen nun Straftatbestände wie Beihilfe zur Verbreitung illegaler Inhalte und Manipulation von Datenverarbeitungssystemen.
Seit August 2024 gelten in der EU neue Regeln für KI – viele Anbieter riskieren Bußgelder, weil Kennzeichnungs‑, Dokumentations‑ und Risikoklassifizierungs‑Pflichten oft nicht erfüllt werden. Ein kostenloser Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt Schritt für Schritt, welche Anforderungen jetzt gelten, wie Sie Ihr System korrekt klassifizieren und welche Nachweise Behörden erwarten. Inklusive praktischer Checklisten und Vorlagen für die sofortige Umsetzung. Kostenlosen KI‑Umsetzungsleitfaden anfordern
Europas harter Kurs: Der Digital Services Act zeigt Zähne
Die Maßnahme in Paris ist kein Einzelfall, sondern Teil einer europaweiten Verschärfung. Die EU-Kommission hatte X bereits im Januar 2026 im Rahmen des Digital Services Act (DSA) verwarnt. Damals gab es Bedenken, Grok könne zur Erstellung sexualisierter Bilder von Minderjährigen missbraucht werden.
Brüssel hat X angewiesen, alle internen Dokumente und Daten zu Grok bis Ende 2026 aufzubewahren. Dies soll eine lückenlose Überwachung ermöglichen. Bereits im Januar 2025 hatte die EU Daten zu den Empfehlungssystemen von X angefordert. Grund war der Verdacht, diese hätten während der Bundestagswahl rechtsextreme Inhalte verstärkt. Die jetzige Razzia sendet ein klares Signal: Europa ist bereit, die neuen Werkzeuge des DSA konsequent einzusetzen.
X wehrt sich: „Inszenierte“ Aktion und Einschüchterungsvorwurf
Das Unternehmen reagierte mit scharfer Kritik. In einer Stellungnahme bezeichnette X die Durchsuchung als „inszeniert“. Den französischen Behörden werde vorgeworfen, das Recht zu verdrehen, ordentliche Verfahren zu umgehen und die Meinungsfreiheit zu gefährden. Man lasse sich nicht einschüchtern und werde die Grundrechte verteidigen, so X. Zu den konkreten inhaltlichen Vorwürfen äußerte sich das Unternehmen bisher nicht detailliert.
Der Vorfall entfacht die Debatte über Sicherheitsstandards bei generativer KI neu. Während Konkurrenzprodukte von OpenAI, Google oder Meta Anfragen zur Erstellung sensibler Bilder konsequent ablehnen, scheint Grok hier erhebliche Lücken zu haben. Digitale Bürgerrechtsgruppen betonen, dass bestehende Gesetze strafrechtliche Ermittlungen bereits rechtfertigen.
Ein Präzedenzfall für die KI-Haftung
Die Durchsuchung ist mehr als eine polizeiliche Einzelmaßnahme. Sie könnte zu einem Wendepunkt für die KI-Regulierung in Europa werden. Der Fall X testet, in welchem Umfang Plattformen für die Ergebnisse ihrer KI-Modelle haftbar gemacht werden können. Die Kernfrage lautet: Wie weit reicht die Verantwortung eines Unternehmens, wenn seine Technologie für illegale Zwecke genutzt wird?
Die Entscheidung könnte weitreichende Folgen haben. Sie würde Tech-Unternehmen zwingen, deutlich strengere Sicherheits- und Kontrollmechanismen in ihre KI-Systeme einzubauen. Branchenbeobachter verfolgen den Fall daher mit großer Aufmerksamkeit.
Nächste Schritte: Anhörungen im April und drohende Sanktionen
Der Fokus richtet sich nun auf den 20. April. An diesem Tag sollen Musk und Yaccarino in Paris befragt werden. Ihre Aussagen werden den weiteren Verlauf der Ermittlungen maßgeblich beeinflussen. Parallel werden weitere X-Mitarbeiter als Zeugen vernommen.
Bewahrheiten sich die Vorwürfe, drohen X hohe Strafen nach dem DSA. Diese können bis zu einem Prozentsatz des globalen Jahresumsatzes betragen. Unabhängig vom französischen Verfahren laufen auch in anderen Ländern wie Großbritannien Untersuchungen gegen X und dessen KI-Tochter xAI. Eines steht fest: Die Ära der laschen Selbstregulierung für Tech-Plattformen in Europa ist vorbei.
PS: Die EU‑KI‑Verordnung stellt klare Fristen und Pflichten – Unwissenheit kann teuer werden. Fordern Sie den praxisorientierten Leitfaden mit Kennzeichnungsregeln, Dokumentationsbeispielen und einer einfachen Risikoklassifikation für KI‑Systeme an, damit Ihr Unternehmen technische und organisatorische Maßnahmen rechtssicher umsetzen kann. Jetzt kostenlosen Umsetzungsleitfaden herunterladen
