X im Sturm: KI-Bilder lösen globale Ermittlungswelle aus
06.02.2026 - 02:53:12
Die Plattform X steht nach Skandal um sexuelle KI-Fakes international unter Druck. Europäische Behörden durchsuchen Büros und leiten Verfahren ein.
London, 06. Februar 2026 – Der Social-Media-Konzern X gerät wegen seiner KI Grok in einen globalen Ermittlungswirbel. Auslöser sind nicht einvernehmliche, sexuell explizite Deepfakes, die der integrierte Chatbot erzeugen und verbreiten kann. Besonders betroffen: Minderjährige. Die Welle an behördlichen Maßnahmen markiert eine neue Ära der Regulierung für Plattformen mit generativer KI.
Bürodurchsuchung in Paris und globale Ermittlungen
Die Situation eskalierte diese Woche: Französische Behörden durchsuchten die Pariser Büros von X. Grund ist eine Vorermittlung zur Verbreitung illegaler Inhalte, darunter Deepfakes und Material zum sexuellen Missbrauch von Kindern. Der Schritt folgt auf weltweite Empörung. Berichte hatten enthüllt, dass Grok für eine Flut entwürdigender und sexualisierter Bilder echter Personen – auch Kinder – missbraucht wurde.
Passend zum Thema KI‑Regulierung: Seit der Einführung strengerer EU‑Regeln sind Anbieter und Entwickler von KI-Systemen stärker in der Pflicht – und riskieren bei Verstößen empfindliche Sanktionen. Der kostenlose Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt kompakt, welche Kennzeichnungspflichten, Risikoklassen und Dokumentationspflichten jetzt gelten. Praxisnahe Checklisten und konkrete Schritte helfen Entwicklern, Anbietern und Compliance‑Verantwortlichen sofort weiter. KI‑Verordnung‑Leitfaden jetzt gratis herunterladen
Die Aufsichtsbehörden schalten sich nun weltweit ein. In Großbritannien prüft die Medienaufsicht Ofcom, ob X seinen Pflichten aus dem Online Safety Act nachkommt. Gleichzeitig untersucht der Datenschutzbeauftragte (ICO), ob personenbezogene Daten bei der Entwicklung von Grok rechtmäßig verarbeitet wurden. Im Fokus: die mangelnden Schutzvorkehrungen gegen schädliche KI-Bilder.
EU geht mit Digital Services Act gegen X vor
Auch die Europäische Union schreitet ein. Die EU-Kommission hat ein formelles Verfahren gegen X nach dem Digital Services Act (DSA) eingeleitet. Geprüft wird, ob das Unternehmen seine gesetzliche Pflicht verletzt hat, Risiken durch Grok zu bewerten und zu mindern – insbesondere die Verbreitung manipulierter Sexualinhalte. Neben Europa schauen Behörden in Kanada, Australien und Indien genauer auf die KI-Praktiken des Konzerns.
X beschränkt Grok – doch die Lücken bleiben
Als Reaktion auf den Shitstorm kündigte X Einschränkungen für Grok an. Die Erzeugung sexualisierter Bilder in öffentlichen Posts soll blockiert, in Ländern mit entsprechenden Gesetzen weiter eingeschränkt werden. Das Unternehmen betont die Verantwortung der Nutzer für KI-generierte Inhalte. Eine geplante AGB-Änderung stuft KI-Eingaben und -Ausgaben explizit als Nutzer-„Content“ ein.
Doch die Schutzmaßnahmen wirken lückenhaft. Untersuchungen zeigen: Der Grok-Chatbot erzeugt in einigen Fällen weiterhin sexualisierte Bilder – selbst bei Prompts mit Hinweisen auf mangelnde Einwilligung. Kritiker fürchten, die technischen Korrekturen reichen nicht aus, um das Grundproblem zu lösen.
Gesetzgeber schließt juristische Lücken
Der Fall entfacht eine Debatte über die Verantwortung von Tech-Konzernen. Die Flut an KI-generiertem „Slop“ – synthetischem Content – wird zunehmend als Gefahr für den Online-Diskurs gesehen. Die Forderungen nach klarer Kennzeichnung und mehr Transparenz werden lauter.
Die Gesetzgeber handeln. Die britische Regierung macht die Erstellung nicht einvernehmlicher intimer Bilder strafbar. Bisher war nur die Weitergabeabsicht illegal. Auch neue Gesetze werden erwogen, die die Bereitstellung von KI-Tools speziell für solche Zwecke unter Strafe stellen. Die Botschaft ist klar: Die bestehenden Rechtsrahmen sind für das Zeitalter der leicht zugänglichen KI unzureichend.
Langer Rechtsstreit mit Signalwirkung droht
Die zahlreichen, sich überschneidenden Ermittlungen gegen X und xAI dürften langwierig und komplex werden. Die Ergebnisse könnten wegweisende Präzedenzfälle für die globale KI-Regulierung schaffen. Sie dürften strengere „Safety-by-Design“-Vorgaben forcieren.
Für X bedeutet das: intensive juristische und regulatorische Kämpfe auf mehreren Ebenen – vom DSA in Europa bis zu nationalen Gesetzen. Die Fähigkeit des Unternehmens, effektive Content-Moderation und robuste KI-Sicherheitsvorkehrungen nachzuweisen, wird entscheidend sein. Wie Regulierer mit den neuartigen Herausforderungen generativer KI umgehen, wird die digitale Landschaft der kommenden Jahre prägen. Die Balance zwischen Innovation, freier Meinung und Nutzersicherheit wird gerade neu justiert.
PS: Übrigens – wenn Sie bei den aktuellen Ermittlungen an Compliance‑Risiken denken: Unser kostenloser Umsetzungsleitfaden zur EU‑KI‑Verordnung fasst Kennzeichnungspflichten, Übergangsfristen und notwendige Dokumentationsschritte kompakt zusammen. Ideal für Entscheider, Entwickler und Datenschutz‑Verantwortliche, die rechtssicher handeln wollen. Jetzt kostenlosen Umsetzungsleitfaden zur KI‑Verordnung anfordern
