EU will KI-Regeln verschieben, verbietet aber Sex-Deepfakes

Die EU-Staaten wollen strenge KI-Vorschriften für Hochrisiko-Anwendungen verschieben, gleichzeitig aber ein scharfes Verbot von KI-generierten sexualisierten Deepfakes einführen.

Die EU-Staaten wollen strenge KI-Vorschriften für Hochrisiko-Systeme um bis zu zwei Jahre aufschieben. Gleichzeitig einigten sie sich auf ein scharfes Verbot sexualisierter KI-Deepfakes. Die ursprünglichen Fristen gelten aber weiter.

Die Botschafter der Mitgliedstaaten beschlossen am Freitag eine gemeinsame Verhandlungsposition. Sie sieht vor, die Fristen für die Anwendung der Hochrisiko-Regeln im KI-Gesetz zu verschieben. Zugleich unterstützen sie einen umfassenden Verbotstatbestand für KI-generierte sexualisierte Deepfakes. Beide Maßnahmen sind Teil des geplanten Digital-Omnibus-Gesetzespakets, das das bestehende KI-Regelwerk nachschärfen soll.

Anzeige

Während die Politik über Fristverschiebungen debattiert, ist die EU-KI-Verordnung seit August 2024 bereits geltendes Recht und fordert von Unternehmen schnelles Handeln. Dieser kostenlose Leitfaden erklärt Ihnen kompakt die wichtigsten Kennzeichnungspflichten und Risikoklassen für eine sofortige Umsetzung. EU-KI-Verordnung kompakt: Jetzt Gratis-E-Book sichern

Verschiebung der Hochrisiko-Regeln geplant

Der Kompromiss der Mitgliedstaaten sieht eine gestaffelte Verschiebung vor. Für eigenständige Hochrisiko-KI-Systeme, etwa in der Personalauswahl oder im Kreditwesen, soll die Frist auf Dezember 2027 verlängert werden. Sind die KI-Systeme in andere regulierte Produkte eingebettet, etwa in Medizingeräte, wäre erst August 2028 der Stichtag.

Doch Vorsicht: Diese Timeline ist noch nicht in Kraft. Es handelt sich um den Standpunkt der Mitgliedstaaten zu einem Gesetzesvorschlag. Solange das Parlament den Digital Omnibus nicht verabschiedet, bleibt die ursprüngliche Deadline bindend: 2. August 2026. Unternehmen müssen sich also weiter auf dieses Datum vorbereiten.

„Die vereinbarte Verschiebung ist lediglich eine Verhandlungsbasis“, betonen Rechtsexperten. „Erst wenn Parlament und Rat den finalen Text beschließen, tritt die neue Frist in Kraft.“

Scharfe Linie gegen sexualisierte Deepfakes

Parallel zur Fristen-Diskussion zogen die Staaten bei einem anderen Thema an einem Strang: Sie unterstützen ein klares Verbot von KI-generierten sexualisierten Deepfakes. Konkret sollen KI-Systeme, die nicht einvernehmliche intime Inhalte oder Kinderpornografie erzeugen können, verboten werden.

Der Vorstoß ist eine direkte Reaktion auf einen Skandal Anfang des Jahres. Der KI-Chatbot Grok auf der Plattform X hatte massenhaft nicht einvernehmliche pornografische Bilder generiert, darunter auch von Minderjährigen. Bürgerrechtsgruppen forderten daraufhin sofort schärfere Schutzvorkehrungen.

Die tiefe Sorge der Politik ist spürbar. „Generative Werkzeuge dürfen nicht dazu genutzt werden, Menschen digital zu erniedrigen oder zu missbrauchen“, heißt es aus Verhandlungskreisen. Über den konkreten Verbotsantrag soll in den kommenden Tagen in den zuständigen Parlamentsausschüssen abgestimmt werden.

Nationale Behörden werden bereits aktiv

Während auf EU-Ebene noch um die Gesetzesfassung gerungen wird, haben nationale Aufsichtsbehörden bereits Ermittlungen eingeleitet.

• In Irland prüft die Datenschutzbehörde (DPC) den KI-Chatbot Grok im Hinblick auf die Einhaltung der DSGVO.
• Spanien hat die Staatsanwaltschaft gebeten, ein Strafverfahren gegen mehrere Social-Media-Plattformen – darunter X, Meta und TikTok – einzuleiten. Grund ist die algorithmische Verbreitung sexualisierter Deepfakes.
• Auch Behörden in Großbritannien und Frankreich haben separate Untersuchungen gestartet und teilweise sogar Büros von Unternehmen durchsucht.

Im Fokus steht die Frage: Haben die Tech-Konzerne die systemischen Risiken ihrer öffentlich zugänglichen Konversations-KI ausreichend bewertet und eingedämmt?

Spagat zwischen Wirtschaft und Grundrechtsschutz

Die beiden Beschlüsse zeigen den schwierigen Spagat der EU-Politik: Einerseits will man die Wirtschaft durch längere Anpassungsfristen entlasten. Andererseits zieht man bei klar identifizierten Gefahren sofort scharfere Grenzen.

Der Digital Omnibus war ursprünglich auf Druck der Tech-Branche entstanden. Unternehmen wie SAP oder deutsche Mittelständler argumentierten, die nötige Infrastruktur für die Konformität mit dem KI-Gesetz – etwa harmonisierte Standards – sei noch nicht verfügbar. Die nun vorgeschlagenen Fristen bis Ende 2027/28 sollen realistische Anpassungszeiträume schaffen.

Anzeige

Die neuen KI-Gesetze und die zunehmende Regulierung fordern von Geschäftsführern im Jahr 2024 eine proaktive Stärkung ihrer Cyber-Sicherheit. Erfahren Sie in diesem Experten-Report, wie Sie Ihr Unternehmen mit einfachen Maßnahmen effektiv schützen, ohne Ihr Budget zu sprengen. Kostenlosen Cyber-Security-Report herunterladen

Das schnelle Handeln gegen Deepfakes zeigt jedoch: Bei fundamentalen Sicherheits- und Menschenrechtsfragen gibt es keinen Verhandlungsspielraum. Die Herausforderung für die EU liegt nun darin, bürokratische Hürden abzubauen, ohne Schlupflöcher für böswillige Akteure zu schaffen.

Nächste Schritte und Unsicherheit für Unternehmen

Jetzt beginnt der schwierige Teil. Die Vorschläge gehen in die Trilog-Verhandlungen zwischen Parlament, Rat und Kommission. Die Zeit drängt: Sollte bis August 2026 kein finales Abkommen stehen, tritt automatisch das ursprüngliche KI-Gesetz mit seinen strengen Hochrisiko-Pflichten in Kraft.

„Das würde erhebliche Rechtsunsicherheit für alle Tech-Entwickler in Europa bedeuten“, warnt ein Marktanalyst. „Sie müssten Regeln einhalten, die die Politik eigentlich verschieben will.“

Rechtsexperten raten Unternehmen zu einer Doppelstrategie: Sie sollten die Vorbereitungen auf die Frist vom 2. August 2026 fortsetzen. Gleichzeitig müssen sie ihre generativen KI-Modelle überprüfen, um gegen das wahrscheinlich bald kommende Deepfake-Verbot zu bestehen.