EU verbietet KI-Systeme für nicht-einvernehmliche Nacktbilder

Das Europäische Parlament hat mit großer Mehrheit ein gezieltes Verbot von KI-Werkzeugen beschlossen, die zur Erzeugung digitaler geschlechtsspezifischer Gewalt genutzt werden. Die Regelung ist Teil eines umfassenden KI-Omnibus-Pakets mit neuen Fristen.

Das Europäische Parlament hat den Weg für ein umfassendes Verbot von KI-Systemen freigemacht, die nicht-einvernehmliche Nacktbilder erzeugen. Die Entscheidung markiert eine neue Stufe im Kampf gegen digitale geschlechtsspezifische Gewalt und verschiebt den regulatorischen Fokus auf eine Sicherheit durch Design-Pflicht für Entwickler.

Überwältigende Mehrheit für gezieltes Verbot

Mit 569 zu 45 Stimmen beschloss das Parlament Ende März 2026 das Verbot sogenannter Nudifier-Apps. Diese Anwendungen nutzen Deep-Learning-Algorithmen, um Personen auf Fotos virtuell zu entkleiden – ohne deren Einwilligung. Kern der neuen Regelung ist ein Verbot von KI-Systemen, deren Hauptzweck die Erzeugung oder Manipulation sexuell expliziter Bilder identifizierbarer Personen ist.

Anzeige

Die neuen EU-Regularien stellen Unternehmen vor komplexe Herausforderungen bei der Entwicklung und Nutzung von KI-Systemen. Dieser kostenlose Leitfaden bietet Ihnen einen kompakten Überblick über alle neuen Pflichten, Risikoklassen und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Jetzt kostenloses E-Book sichern

„Dies ist kein generelles Verbot generativer KI, sondern ein gezielter Schlag gegen Werkzeuge, die für Missbrauch optimiert sind“, betonen die Gesetzgeber. Systeme mit wirksamen technischen Schutzvorkehrungen bleiben erlaubt. Die Verantwortung liegt damit direkt bei den Entwicklern: Sie müssen sicherstellen, dass ihre Modelle nicht leicht als Waffe eingesetzt werden können.

Grok-Skandal beschleunigte Gesetzgebung

Den entscheidenden Anstoß für das schnelle Handeln lieferte ein massiver Skandal um den KI-Assistenten Grok auf der Plattform X. Ende 2025 und Anfang 2026 wurde bekannt, dass dessen Bildgenerierungsfunktion zur Erzeugung millionenfacher sexuell expliziter Bilder realer Personen – auch Minderjähriger – missbraucht wurde. Allein in einem Zeitraum von elf Tagen entstanden über drei Millionen solcher Bilder, bevor schärfere Filter eingeführt wurden.

Der Vorfall führte zu einer Untersuchung der EU-Kommission nach dem Digital Services Act (DSA) und offenbarte eine Lücke im ursprünglichen KI-Gesetz von 2024. Dieses regelte zwar Hochrisiko-Systeme in Bereichen wie Gesundheitswesen, hatte aber keine spezifischen Verbote für KI-Werkzeuge zur sexuellen Belästigung. Die Abstimmung im März 2026 schließt diese Lücke nun.

Neue Fristen im KI-Omnibus-Gesetz

Das Verbot der Nudifier-Apps ist Teil des umfassenderen KI-Omnibus-Pakets, das auch überarbeitete Fristen für das KI-Gesetz festlegt. Wegen der technischen Komplexität wurden mehrere Deadlines verschoben:

• 2. November 2026: Verpflichtende Kennzeichnung (Watermarking) KI-generierter Audio-, Video- und Textinhalte für alle Unternehmen.
• 2. Dezember 2027: Anwendungsbeginn für Hochrisiko-KI-Systeme in kritischer Infrastruktur, Biometrie und Bildung.
• 2. August 2028: Frist für KI in bereits regulierten Produkten wie Medizingeräten oder Spielzeug.

Die Verschiebungen sollen Rechtssicherheit schaffen und ermöglichen, dass technische Standards und Aufsichtsbehörden voll funktionsfähig sind.

Anzeige

Neben den neuen KI-Gesetzen nehmen auch gezielte Cyberrisiken für Unternehmen stetig zu, was proaktive Sicherheitsmaßnahmen unverzichtbar macht. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um ihre IT-Infrastruktur langfristig abzusichern. Gratis-E-Book: Cyber-Sicherheit und neue KI-Gesetze im Überblick

Schutz für Opfer, Herausforderungen für Industrie

Menschenrechtsorganisationen begrüßen das Verbot als entscheidenden Schritt. Fast 30 Prozent der EU-Politikerinnen waren bereits Opfer von Cybergewalt, oft mit manipulierten Bildern. Das Verbot der Erstellungswerkzeuge soll Erpressung, Stalking und Einschüchterung im Netz eindämmen.

Für die Tech-Branche bedeuten die neuen Regeln erhebliche Compliance-Herausforderungen. Entwickler müssen in Filtertechnologien und robuste Sicherheitstests investieren. Unklar bleibt, wie viel Haftung ein Entwickler trägt, wenn ein versierter Nutzer integrierte Filter umgeht. Bei Verstößen drohen jedoch hohe Strafen: bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Umsatzes.

Nächste Schritte: Trilog und nationale Umsetzung

Im April 2026 beginnt die Trilog-Phase zwischen Parlament, Rat und Kommission zur Finalisierung des Verbots. Angesichts breiter Unterstützung – auch aus Deutschland und Frankreich – wird eine Einigung bis Sommer 2026 erwartet. Anschließend haben die Mitgliedstaaten etwa ein Jahr Zeit, die Vorgaben in nationales Recht umzusetzen. Dies beinhaltet die Aktualisierung von Strafgesetzbüchern und die Stärkung digitaler Aufsichtsbehörden.

Für Tech-Unternehmen beginnen nun kritische Monate der Überprüfung ihrer KI-Angebote. Für Opfer digitaler Gewalt signalisiert die Gesetzgebung ein längst überfälliges Ende der Ära unregulierter „Nudification“ im europäischen Digitalraum. Der Erfolg hängt maßgeblich von der Wirksamkeit der Watermarking-Standards ab und davon, ob die Regulatoren mit der rasanten Entwicklung generativer Algorithmen Schritt halten können.