Indonesien und Malaysia sperren xAIs Chatbot Grok
17.01.2026 - 23:21:12
Indonesien und Malaysia haben als erste Staaten den KI-Chatbot Grok gesperrt. Grund sind nicht-einvernehmliche Deepfake-Pornografie und unzureichende Schutzmaßnahmen des Unternehmens.
Die Entscheidungen markieren eine neue, aggressive Phase in der globalen KI-Regulierung. Sie signalisieren wachsende Ungeduld von Staaten gegenüber Tech-Giganten, die aus ihrer Sicht zu wenig für die Sicherheit ihrer Nutzer tun. Die temporären Sperren richten sich gegen die Bildgenerierungsfunktion von Grok, die für das Erstellen sexualisierter Deepfakes missbraucht wurde – auch von Minderjährigen.
Die Begründungen aus Jakarta und Kuala Lumpur sind scharf. Indonesiens Kommunikationsministerin Meutya Hafid nannte die Erstellung nicht-einvernehmlicher Deepfakes eine schwere Verletzung von Menschenrechten, persönlicher Würde und digitaler Sicherheit. Das Ministerium will die Öffentlichkeit, besonders Frauen und Kinder, schützen. Eine erste Untersuchung ergab, dass Grok keine wirksamen Barrieren gegen die Generierung pornografischen Materials mit Fotos realer Personen habe.
Seitdem unterliegen KI-Systeme neuen Regeln – und viele Anbieter riskieren bei Verstößen empfindliche Sanktionen. Ein kostenloser, praxisnaher Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt, wie Sie KI‑Systeme richtig klassifizieren, welche Dokumentation erforderlich ist und welche Übergangsfristen zu beachten sind. Ideal für Entwickler, Plattformbetreiber und Compliance‑Verantwortliche, die jetzt schnell rechtssicher handeln müssen. Jetzt kostenlosen KI‑Leitfaden herunterladen
Auch die malaysische Aufsichtsbehörde MCMC verweist auf „wiederholten Missbrauch“ zur Erstellung obszöner und nicht-einvernehmlicher Bilder. Die Nutzung des Tools für Inhalte mit Frauen und Minderjährigen verstoße gegen nationales Recht. Beide mehrheitlich muslimischen Länder haben strenge Anti-Pornografie-Gesetze, die eine schnelle Regulierung ermöglichten.
Unzureichende Schutzvorkehrungen als Auslöser
Die Sperren sind vorläufig. Sie sollen so lange gelten, bis xAI wirksame Schutzmaßnahmen implementiert. Die Behörden hatten zuvor formelle Aufforderungen an X und xAI geschickt, stärkere Vorkehrungen gegen Missbrauch zu treffen. Die Antworten der Unternehmen wurden als ungenügend bewertet.
Malaysias Regulierer kritisierte, die vorgeschlagenen Lösungen verließen sich zu stark auf Meldungen durch Nutzer. Das reichte nicht aus, um Schaden zu verhindern oder Rechtstreue zu gewährleisten. Die MCMC kündigte nun rechtliche Schritte gegen X und xAI an. Die Sperre sei eine „präventive und verhältnismäßige Maßnahme“, bis diese Verfahren abgeschlossen seien.
Globale Gegenreaktion auf unkontrollierte KI
Die Schritte in Südostasien sind Teil einer weltweiten Welle des Protests. Der Skandal entzündete sich an einem viralen „Entkleidungs“-Trend, bei dem Fotos realer Personen ohne deren Einwilligung manipuliert wurden. Dass auch Bilder von Minderjährigen betroffen waren, verstärkte den internationalen Aufschrei.
Die Reaktionen sind vielfältig:
* Die EU-Kommission hat X angewiesen, alle Dokumente zum Chatbot aufzubewahren – ein Hinweis auf mögliche rechtliche Schritte.
* Die britische Medienaufsicht Ofcom hat eine formelle Untersuchung wegen „zutiefst besorgniserregender“ Berichte eingeleitet.
* Indiens IT-Ministerium forderte X auf, explizite Inhalte zu entfernen und binnen 72 Stunden über Korrekturmaßnahmen zu berichten.
* Auch Behörden in Frankreich, Deutschland und Australien haben den Missbrauch verurteilt und Prüfungen eingeleitet.
xAIs Versuch, die Bildgenerierung auf zahlende X-Nutzer zu beschränken, konnte die Kritik nicht besänftigen.
Blaupause für die globale KI-Regulierung?
Die Zukunft von Grok in diesen Regionen hängt nun davon ab, ob xAI und X die Forderungen der Regulierer erfüllen können. Die Unternehmen müssen proaktive, robuste Sicherheitsprotokolle entwickeln, die über reaktive Nutzermeldungen hinausgehen.
Dieser Vorfall könnte einen Dominoeffekt auslösen. Die entschlossenen Maßnahmen Indonesiens und Malaysias könnten anderen Staaten, besonders kleineren, als Blaupause dienen, wie sie KI-Plattformen regulieren können, die außerhalb ihrer Grenzen entwickelt und betrieben werden. Die Kontroverse markiert eine Wende im KI-Zeitalter: Technologische Innovation darf nicht auf Kosten der Nutzersicherheit und fundamentaler Menschenrechte gehen. Die Entwickler werden zunehmend für die Fähigkeiten ihrer Kreationen verantwortlich gemacht.
PS: Wenn Sie als Entwickler, Betreiber oder Compliance‑Verantwortlicher wissen wollen, wie sich die neue EU‑KI‑Verordnung konkret auf Ihre Produkte und Prozesse auswirkt, lohnt sich ein Blick in den kostenlosen Umsetzungsleitfaden. Er fasst Kennzeichnungspflichten, Risikoklassen und Dokumentationsanforderungen kompakt zusammen – damit Sie die richtigen Maßnahmen rechtzeitig planen. Kostenlosen Umsetzungsleitfaden zur KI‑Verordnung sichern
