KI-Bildtests: ChatGPT, Grok und Gemini entfernen Hijabs auf Aufforderung
Veröffentlicht am: 02.10.2026 um 16:02 Uhr | Redaktion boerse-global.de
Mehrere führende KI-Systeme haben in journalistischen Tests auf Anweisung religiöse Kopfbedeckungen aus Porträts entfernt. Wie ein Bericht der britischen Zeitung The Guardian aufzeigte, modifizierten ChatGPT des Anbieters OpenAI sowie das System Grok des Unternehmens xAI auf entsprechende Aufforderung hin ein künstlich generiertes Bild einer Muslimin und entfernten dabei deren Hijab.
Claude von Anthropic verweigerte diesen Vorgang, da die Anwendung über keine Bildbearbeitungsfunktion verfügt. Googles Gemini lehnte den Befehl zunächst mit dem Verweis ab, Kleidung oder Kopfbedeckungen nicht ohne Einwilligung zu entfernen.
Auf die nachfolgende Anweisung, die abgebildete Frau westlicher wirken zu lassen, erzeugte Gemini jedoch ebenfalls eine Darstellung ohne Hijab. Eigene Tests des Nachrichtenportals Arab News bestätigten dieses Verhalten für ChatGPT, Grok und Gemini.
Uneinheitliche Sicherheitsfilter bei Kleidung und Symbolen
Auslöser der Überprüfungen war ein Beitrag von Julien Odoul, Politiker der französischen Partei Rassemblement National. Dieser hatte auf der Plattform X ein bearbeitetes Bild einer Muslimin ohne Kopftuch und ohne langärmeliges Kleid geteilt und mit den Worten der französischen Freiheit betitelt. Welche Software bei dieser Bearbeitung zum Einsatz kam, blieb unklar.
In den anschließenden Modelltests zeigten sich erhebliche Unterschiede bei den Schutzmechanismen der Systeme. Während Grok den Hijab als relativ einfache Kleidungs- oder Haaränderung einstufte und entfernte, lehnte das System das vollständige Entfernen des Kleides ab. Allerdings offerierte Grok später eine Umwandlung in Unterwäsche oder eine teilweise Enthüllung der Person.
Die unvorhersehbare Arbeitsweise von KI-Systemen stellt Unternehmen vor neue regulatorische Herausforderungen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko? – Jetzt Report kostenlos sichern
ChatGPT verweigerte das Entfernen des Kleides mit der Begründung, dies würde die dargestellte Person entblößen. Gleichzeitig räumte das System ein, dass die Beseitigung eines Hijabs die Privatsphäre, Würde oder religiöse Grenzen verletzen könne.
Bei weiteren Überprüfungen entfernte ChatGPT zudem die Tracht einer katholischen Ordensfrau sowie den Turban eines Sikhs. Auch Googles Gemini eliminierte einen Turban, nachdem die Eingabe verlangte, die abgebildete Person westlicher aussehen zu lassen.
Warnungen vor Diskriminierung und gezielter Entblößung
Bürgerrechtsorganisationen beobachten diese Entwicklungen mit wachsender Sorge. Eine Untersuchung des Center for the Study of Organized Hate (CSOH) ergab, dass generative Künstliche Intelligenz in Indien zunehmend eingesetzt wird, um Musliminnen zu sexualisieren oder Angehörige des Islams herabzusetzen.
Den Beobachtungen zufolge generierten sexualisierte Darstellungen auf entsprechenden Netzwerken das höchste Nutzer-Engagement. Im Jahr 2024 registrierte das India Hate Lab, ein Projekt des CSOH, in Indien 1.165 Hassrede-Vorfälle gegen religiöse Minderheiten. Dies entsprach einem Anstieg von 74,4 Prozent gegenüber dem Vorjahr, wobei Muslime allein oder gemeinsam mit Christen in 98,5 Prozent der erfassten Fälle betroffen waren.
Wer sich mit dem rechtssicheren Einsatz von Algorithmen befasst, muss die neuen gesetzlichen Rahmenbedingungen genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen – Kostenloser E-Book Download
Darüber hinaus dokumentierte das CSOH gelagerte Fälle von KI-basiertem Online-Hass gegen die US-Politikerinnen Ilhan Omar und Rashida Tlaib. Eviane Leidig vom CSOH wies darauf hin, dass das digitale Enthüllen muslimischer Frauen zwar womöglich nicht eindeutig gegen bestehende Plattformregeln verstoße, dennoch aber schädlich sei. Sie verwies in diesem Kontext auch auf eine gelockerte Durchsetzung von Richtlinien auf der Plattform X.
Die betroffenen Entwicklerunternehmen OpenAI, Google, xAI und Anthropic lehnten Stellungnahmen zu den konkreten Testergebnissen ab.
