EU AI Act: Deepfakes müssen ab August gekennzeichnet werden
Veröffentlicht am: 18.08.2026 um 23:24 Uhr | Redaktion boerse-global.de
Aktuelle Analysen untersuchen am 18. August 2026 die rechtliche Verantwortlichkeit von Plattformbetreibern für Deepfake-Inhalte, die durch KI-Bildgeneratoren erstellt wurden. Im Zentrum der Debatte stehen das Deepfake-Gesetz sowie die Frage, inwieweit Anbieter für missbräuchliche oder irreführende Erzeugnisse ihrer Systeme haftbar gemacht werden können.
Deutsche Rechtsprechung zur Autonomie von KI-Systemen
Die deutsche Justiz hat in den vergangenen Jahren in mehreren Verfahren deutlich gemacht, dass die technische Autonomie einer Künstlichen Intelligenz (KI) die Haftung des Betreibers nicht ausschließt. So entschied das Oberlandesgericht (OLG) Hamm am 12. Mai 2026 (Az. 4 UKl 3/25) im Fall des Aesthetify-Chatbots, dass die Aussagen eines solchen Systems als eigenes Geschäftsgebaren des Betreibers zu werten seien.
Ähnliche Tendenzen zeigten sich bereits in früheren Urteilen. Das Landgericht (LG) Hamburg untersagte dem Grok-Bot am 23. September 2025 (Az. 324 O 461/25) spezifische Aussagen über die Organisation Campact.
Am 10. September 2025 stellte das LG Frankfurt (Az. 2-06 O 271/25) fest, dass eine Haftung für KI-generierte Suchergebnisse nicht grundsätzlich ausgeschlossen ist. Bereits am 29. Februar 2024 hatte das LG Kiel (Az. 6 O 151/23) entschieden, dass der Betreiber einer automatisierten Wirtschaftsdatenbank für darin enthaltene Fehlinformationen haftet.
Schwere Vorwürfe und internationale Klagen
Die Tragweite unzureichender Schutzvorkehrungen wird durch eine aktuelle Klage in den USA verdeutlicht. Eine Frau aus Wyoming, in den Gerichtsakten als Jane Doe 4 geführt, verklagt das Unternehmen xAI. Ihr verstorbener Stiefvater soll das KI-Modell Grok genutzt haben, um aus einem Kindheitsfoto der Klägerin über 7.000 sexuell explizite Bilder zu erstellen.
Die Klage wirft dem Unternehmen mangelhafte Sicherheitsmechanismen vor und strebt den Status einer Sammelklage an. xAI hatte den Missbrauch zwar an das National Center for Missing & Exploited Children (NCMEC) gemeldet, dabei jedoch keine identifizierenden Informationen übermittelt.
Die rechtlichen Anforderungen an den Einsatz von KI verschärfen sich zusehends und stellen Unternehmen vor neue Herausforderungen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Welche KI-Systeme gelten als Hochrisiko?
Auch in Deutschland führen KI-generierte Inhalte zu massiven strafrechtlichen Konsequenzen. In Gießen wurde ein 32-jähriger Erzieher einer Kindertagesstätte fristlos gekündigt, nachdem der Verdacht aufkam, er habe aus Fotos von Kita-Kindern mithilfe von KI kinderpornografisches Material erstellt.
Die Polizei sicherte im Rahmen der seit Anfang des Jahres laufenden Ermittlungen über 20 Datenträger. Ein Hinweis des NCMEC hatte das Verfahren ins Rollen gebracht.
Regulatorische Verschärfung durch den EU AI Act
Auf gesetzgeberischer Ebene schafft der EU AI Act neue Fakten. Seit dem 2. August 2026 gelten die Transparenzbestimmungen gemäß Artikel 50 der Verordnung. Diese verpflichten Anbieter, Deepfakes eindeutig zu kennzeichnen.
Die EU-Kommission betont hierbei, dass eine rein maschinenlesbare Markierung nicht ausreiche; stattdessen müsse bereits bei der ersten Exposition ein sichtbares oder hörbares Label vorhanden sein. Verstöße gegen diese Kennzeichnungspflicht können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden.
Wer im Unternehmen KI-Systeme entwickelt oder nutzt, muss die neuen gesetzlichen Rahmenbedingungen genau beachten, um empfindliche Strafen zu vermeiden. Ein kostenloser Umsetzungsleitfaden zum EU AI Act fasst alle relevanten Übergangsfristen und Dokumentationspflichten zusammen. Jetzt Compliance-Leitfaden kostenlos herunterladen
In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur als zuständige Behörde für das KI-Management-Gesetz (KI-MIG) benannt. In Polen wird der Schutz derzeit noch über das Persönlichkeitsrecht, das Urheberrecht und das Strafrecht gewährleistet, da eine spezialisierte Behörde erst bis November 2026 ihre Arbeit aufnehmen soll. In der Schweiz erarbeitet das Bundesamt für Justiz bis Ende 2026 eine Vernehmlassungsvorlage für eine nationale KI-Regulierung.
Marktbeobachtungen und freiwillige Selbstverpflichtungen
Die Besorgnis in der Bevölkerung über die Auswirkungen von Deepfakes ist messbar. Eine YouGov-Umfrage, die zwischen dem 31. Juli und dem 2. August 2026 unter 2012 Personen durchgeführt wurde, ergab, dass 55 Prozent der Deutschen innerhalb der nächsten fünf Jahre mit Täuschungen durch Deepfakes rechnen. Rund 28 Prozent der Befragten befürchten, selbst Opfer von schädigenden KI-generierten Inhalten zu werden.
Parallel zur staatlichen Regulierung suchen Branchenakteure nach kooperativen Lösungen. Am 17. August 2026 schlossen die Motion Picture Association (MPA) und ByteDance ein Memorandum of Understanding (MoU) ab. Ziel ist der Schutz geistigen Eigentums in generativer KI.
ByteDance-General Counsel John Rogovin und MPA-Chef Charles Rivkin betonten, damit einen Rahmen für die Begrenzung der Nutzung von Studio-Inhalten in KI-Anwendungen wie TikTok oder CapCut geschaffen zu haben. Vorausgegangen war eine Unterlassungsaufforderung der MPA im Februar 2026 aufgrund früherer KI-Modelle.
