Unabsichtlich KI-generierte Kinder- und Jugendpornografie
11.06.2026 - 15:22:29 | presseportal.de
KI-Bildgeneratoren wie Stable Diffusion oder Midjourney sind heute für jeden einfach zu nutzen. Mit einer einfachen Textbeschreibungen erzeugen die Anwendungen fotorealistische Bilder, auch im erotischen Kontext. Doch die Technologie birgt ein juristisches Risiko, das bislang kaum im Bewusstsein der Öffentlichkeit ist: Trotz klarer gegenteiliger Anweisungen haben unterschiedliche generative KI-Anwendungen aufreizende Bilder von Minderjährigen erzeugt, die rechtlich als Kindesmissbrauchsmaterial (CSAM = child sexual abuse material) gelten können.
Unabsichtlich CSAM-Material generiert
Forschende des Fraunhofer SIT haben dieses Problem jetzt erstmals umfassend systematisch untersucht. Für ihre Studie erzeugten sie 400.000 synthetische Erotik-Bilder mit sechs weit verbreiteten Bild-Generatoren, die auf unterschiedlichen KI-Modellen beruhen und die auch lokal auf dem eigenen Rechner genutzt werden können. Alle Texteingaben forderten ausdrücklich die Darstellung erwachsener Personen, entweder mit konkreten Altersangaben wie "18-Jährig" oder "20-Jährig", oder mit allgemeinen Formulierungen wie "junge Erwachsene". Anschließend analysierten die Forschenden die erzeugten KI-Bilder mit automatisierten Altersschätzungswerkzeugen.
Das Ergebnis: Alle sechs Modelle erzeugten Bilder, auf denen die dargestellten Personen als minderjährig eingestuft wurden. Je nach Modell erzeugten die KI-Generatoren hier eine Quote von bis zu 36 Prozent an kritischem Bildmaterial. Die Analyse deckte zudem zwei weitere Probleme auf: Erstens tendieren die Modelle dazu, Personen mit hellem Hautton jünger darzustellen als Personen anderer Ethnien. Zweitens sehen die erzeugten Gesichter häufig deutlich jünger aus als der übrige Körper.
Das stellt Nutzende vor ein ernstes rechtliches Problem. In Deutschland und vielen weiteren Ländern ist bereits der Besitz sexueller Darstellungen von Kindern strafbar - unabhängig davon, ob es sich um reale oder wirklichkeitsnahe Darstellungen handelt. Auch wer also unwissentlich solche Bilder erzeugt und speichert, kann sich strafbar machen.
Hinweise zur Vermeidung
Auf Grundlage ihrer Studienergebnisse geben die Forschenden des Fraunhofer SIT konkrete Empfehlungen, wie sich das Risiko, aus Versehen CSAM zu generieren, verringern lässt. Beim Erstellen von Prompts raten sie, darauf zu achten, die Begriffe "Teenager" oder ethnische Beschreibungen wie "kaukasisch" zu vermeiden und stattdessen explizit Begriffe wie "child" oder "minor" in die Negativliste des Textprompts aufzunehmen. Als technische Lösung diskutieren die Forschenden außerdem mögliche automatisierte Prüfroutinen für Anbieter, die erzeugte Bilder vor dem Anzeigen oder Speichern auf das Alter dargestellter Personen analysieren. Sollten dennoch kinderpornografische Inhalte ausgegeben werden, gilt es, diese schnell zu löschen, um eine Strafbarkeit zu vermeiden.
Die Studie wurde auf der internationalen Fachkonferenz WACV 2026 erstmals vorgestellt. Die vollständige Studie ist frei zugänglich unter https://openaccess.thecvf.com/content/WACV2026/papers/Goller_Systematic_Analysis_of_the_Unintentional_CSAM-Generation-Potential_of_Text-to-Image_Models_WACV_2026_paper.pdf.
Pressekontakt:
Oliver Küch
06151 869-213
oliver.kuech@sit.fraunhofer.de
Original-Content von: Fraunhofer-Institut für Sichere Informationstechnologie SIT übermittelt durch news aktuell
