Irische Polizei ermittelt in 200 Fällen mit KI-generiertem Missbrauchsmaterial
15.01.2026 - 12:06:12
Die irische Polizei untersucht rund 200 Fälle von mutmaßlich künstlich erzeugtem Kindesmissbrauchsmaterial durch den KI-Chatbot Grok. Die Ermittlungen zeigen die wachsende Herausforderung für Strafverfolgungsbehörden durch generative KI-Technologien.
Parlamentsausschuss erfährt von Ermittlungswelle
In einer Anhörung des Medienausschusses des irischen Parlaments am Mittwoch legten hochrangige Polizeibeamte das Ausmaß der Vorfälle offen. Detective Chief Superintendent Barry Walsh vom Nationalen Cybercrime-Büro der Garda bestätigte die aktiven Ermittlungen zu Inhalten auf der Plattform X (ehemals Twitter). Es handle sich um bestätigtes oder stark verdächtiges Missbrauchsmaterial, das spezifisch mit Grok erstellt worden sei.
Walsh beschrieb den komplexen Ermittlungsprozess: Zuerst müsse die Strafbarkeit des Materials bewertet werden, bevor die Urheber identifiziert werden könnten. Die digitalen Spuren stellten eine besondere Herausforderung dar, doch die Verfolgung der Täter habe Priorität. Die Ermittlungen könnten in Durchsuchungen und Strafverfolgung münden.
Die Fälle aus Irland machen deutlich, wie schnell generative KI in rechtliche Grauzonen rutschen kann und welche Pflichten Betreiber und Entwickler jetzt haben. Der kostenlose Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt kompakt, wie Sie KI‑Systeme korrekt klassifizieren, Risiken dokumentieren und Kennzeichnungspflichten erfüllen – inklusive Checklisten und praxisnaher Schritte für Entwickler, Compliance‑Teams und Plattformbetreiber. So vermeiden Sie Bußgelder und Reputationsschäden. Kostenlosen KI‑Umsetzungsleitfaden herunterladen
Auslöser der Ermittlungen waren Berichte über eine angebliche „digitale Entkleidungs“-Funktion bei Grok. Diese soll es Nutzern ermöglicht haben, Bilder realer Personen, darunter Minderjährige, zu manipulieren, um sie nackt oder in sexualisierten Kontexten darzustellen.
„Coco‘s Law“ gilt auch für KI-generierte Inhalte
Ein zentrales Thema der Anhörung war die rechtliche Einordnung. Detective Superintendent Michael Mullen stellte klar, dass das irische Gesetz gegen Belästigung und schädliche Kommunikation (2020) – bekannt als „Coco‘s Law“ – auch für KI-generiertes Material uneingeschränkt gelte.
„Die verwendete Technologie macht rechtlich keinen Unterschied“, betonte Mullen. Werde Missbrauch oder nicht einvernehmliche Intimität dargestellt, liege eine Straftat vor. Diese Klarstellung schließt potenzielle Schlupflöcher, in denen Täter mit dem Argument „gefälschter“ Bilder entkommen könnten.
Die Zahl der Meldungen zu digitalem Missbrauch schnellt indes hoch. Die Beamten berichteten von 13.300 Hinweisen im Jahr 2024, primär vom US-amerikanischen National Center for Missing & Exploited Children (NCMEC). Für 2025 werde mit fast einer Verdopplung auf rund 25.000 Fälle gerechnet. Der einfache, massenhafte Erzeugung illegaler Inhalte durch KI-Tools treibe diese Entwicklung.
Regulierungsdruck auf X und xAI wächst
Die Enthüllungen erhöhen den Druck auf den Plattformbetreiber X und seine KI-Tochter xAI erheblich. Der irische Medienregulator Coimisiún na Meán bestätigte, sich mit der EU-Kommission über die Einhaltung des Digital Services Act (DSA) durch Grok auszutauschen. Das Teilen nicht-einvernehmlicher intimer Bilder und die Erzeugung von Missbrauchsmaterial seien illegal. Plattformen müssten die Risiken mindern, sonst drohten hohe Strafen.
Die politische Reaktion in Dublin ist scharf. Ministerpräsident Micheál Martin verurteilte den Einsatz von KI für solche Zwecke als inakzeptabel und betonte den Schutz der Bürger, besonders von Kindern. Die Regierung hole weitere rechtliche Beratung ein, um die staatliche Reaktion zu stärken. Berichten zufolge werden hochrangige Treffen mit dem Generalstaatsanwalt einberufen, um zusätzliche gesetzliche Maßnahmen zu prüfen.
Kritiker wie der Irish Council for Civil Liberties (ICCL) fordern die Polizei auf, ihre Vollmachten voll auszuschöpfen und X als juristische Person zu untersuchen, da das Unternehmen die Erstellung illegalen Materials ermöglicht habe.
Technische Gegenmaßnahmen und EU-weite Implikationen
Unter dem öffentlichen und regulatorischen Druck hat xAI nach eigenen Angaben neue technische Schutzvorkehrungen implementiert. Das Unternehmen blockiere nun Prompts, die auf ein „Entkleiden“ von Personen abzielen, und habe die Erzeugung sexualisierter Inhalte auf zahlende Abonnenten beschränkt. Cybersicherheitsexperten entgegneten im Ausschuss jedoch, dass solche Maßnahmen oft zu spät kämen, nachdem der Schaden bereits entstanden sei.
Die Ermittlungen in Irland könnten Signalwirkung für den Umgang mit KI-Unternehmen in der Europäischen Union haben. Als EU-Hauptsitz vieler Tech-Firmen kommt den irischen Behörden eine Schlüsselrolle bei der Durchsetzung des DSA zu. Können Plattformen nachgewiesen werden, die Risiken ihrer KI-Tools nicht angemessen bewertet und gemindert zu haben, drohen ihnen Geldstrafen in Höhe eines Prozentsatzes ihres globalen Umsatzes.
Der Fokus liegt derweil auf den 200 laufenden Fällen. Die Garda warnte, die Identifizierung anonymer Nutzer hinter KI-Inhalten sei technisch anspruchsvoll. Das Nationale Cybercrime-Büro setze aber alle verfügbaren Ressourcen ein und arbeite eng mit internationalen Partnern zusammen, um die digitalen Spuren der Täter zu verfolgen.
PS: Regulierungsdruck und Ermittlungen zeigen: Handeln Sie jetzt. Dieses Gratis‑E‑Book zur EU‑KI‑Verordnung fasst alle Übergangsfristen, Kennzeichnungspflichten und Dokumentationsanforderungen zusammen und liefert klare Umsetzungs‑Checks für Unternehmen und Entwickler. In wenigen Minuten prüfen Sie, ob Ihre Prozesse den neuen Vorgaben genügen – und welche Sofortmaßnahmen notwendig sind, um rechtliche Risiken zu minimieren. Jetzt KI‑Leitfaden downloaden
