KI-Transparenz: Neue Pflichten für Chatbots und generative KI ab August

Seit dem 1. August greifen die ersten Transparenzregeln des EU AI Acts. Hochrisiko-KI-Fristen wurden jedoch auf 2027 verschoben.

Seit Anfang August gelten die ersten umfassenden Transparenzpflichten der europäischen KI-Verordnung. Anbieter von Chatbots und generativer KI müssen Nutzer nun klar über Maschinen-Interaktionen informieren.

Strengere Regeln für synthetische Inhalte

Seit dem 1. August greift Artikel 50 des EU AI Acts. Unternehmen müssen Nutzer explizit darauf hinweisen, wenn sie mit einer Maschine kommunizieren. KI-generierte Texte zu öffentlichen Angelegenheiten und Deepfakes brauchen eine klare Kennzeichnung.

Für die technische Umsetzung gibt es eine Übergangsfrist: Bestehende Systeme müssen bis zum 2. Dezember maschinenlesbare Wasserzeichen und Metadaten implementieren. Ausgenommen sind private Anwendungen, künstlerische und satirische Inhalte sowie die Strafverfolgung.

Aufschub für Hochrisiko-KI

Anders als ursprünglich geplant, gelten die strengen Anforderungen für Hochrisiko-KI-Systeme erst deutlich später. Der im Juli verabschiedete „Digital Omnibus" verschiebt die Compliance-Fristen für Anwendungen im Personalmanagement, der kritischen Infrastruktur und im Bildungswesen auf den 2. Dezember 2027. Für KI in sicherheitsrelevanten Produkten gilt sogar der 2. August 2028.

Die Vereinigung der Bayerischen Wirtschaft (vbw) begrüßte die Verlängerung als Entlastung für den Mittelstand, warnte aber vor weiterer Innovationsfeindlichkeit durch die Regelungskomplexität. Branchenbeobachter betonen: Der Aufbau von KI-Kompetenz und Diskriminierungsverbote gelten bereits seit Anfang 2025.

Anzeige

Wer sich mit den neuen gesetzlichen Anforderungen befasst, findet in diesem kostenlosen E-Book einen kompakten Überblick über alle Fristen und Pflichten des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Bundesnetzagentur als zentrale Aufsicht

Das deutsche KI-Gesetz (KI-MIG) trat am 29. Juli in Kraft und macht die Bundesnetzagentur zur zentralen Marktüberwachungsbehörde. Sie betreibt ein KI-Reallabor und ist Anlaufstelle für Beschwerden. Die BaFin übernimmt weiterhin die Überwachung des Finanzsektors.

Doch die Praxis hinkt: Nur 7 Prozent der deutschen Unternehmen haben KI-Systeme vollständig in ihre Prozesse integriert, zeigt eine PwC-Studie. Die Bundesregierung investiert derzeit rund 250 Millionen Euro in eine nationale KI-Cloud.

Hohe Bußgelder bei Verstößen

Wer gegen die Transparenzpflichten verstößt, riskiert Strafen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Bei verbotenen KI-Praktiken drohen bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes.

Anzeige

Angesichts der drohenden Sanktionen bei Verstößen bietet dieser praxisnahe Umsetzungsleitfaden wertvolle Unterstützung bei der Einstufung von Risikoklassen und Dokumentationspflichten. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Weitere Meilensteine folgen: Im September greifen Meldepflichten für Sicherheitsvorfälle nach dem Cyber Resilience Act. Im Dezember werden Verbote für nicht-einvernehmliche Deepfakes wirksam. Ab August 2027 müssen KI-Sandboxes eingerichtet werden.

Experten raten Unternehmen, trotz der verschobenen Fristen frühzeitig KI-Inventare und Governance-Strukturen aufzubauen – die Dokumentationspflichten kommen schneller als gedacht.