Deepfakes: 88% können echte Inhalte nicht mehr erkennen
18.06.2026 - 21:43:54 | boerse-global.de
Von irischen Spitzenpolitikern bis zu deutschen Fußballfans – die Manipulationen werden immer raffinierter.
Irlands Premier warnt vor KI-Investmentbetrug
Der irische Premierminister Micheál Martin schlug diese Woche Alarm: Ein Deepfake-Video zeigt ihn, wie er für eine angebliche Investitionsplattform namens "KI-Investment" wirbt. Bürger sollen 250 Euro einzahlen, verspricht die Fälschung – angeblich lockt eine Rendite von 40.000 Euro.
Die rasante Entwicklung von Deepfakes und KI-Manipulationen stellt Unternehmen vor völlig neue Compliance-Herausforderungen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, die gesetzlichen Kennzeichnungspflichten und Risikoklassen sicher zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die Fälschung entlarvt sich zwar durch einen entscheidenden Fehler: Die KI kopierte Martins Bild, scheiterte aber an seinem unverwechselbaren Cork-Akzent und lieferte stattdessen einen generischen englischen Dialekt. Doch der irische Bankenverband BPFI warnt: Viele Nutzer sehen sich Werbung auf sozialen Medien ohne Ton an – die visuelle Täuschung allein reicht oft aus.
Der Vorfall reiht sich in eine besorgniserregende Serie ein. Allein 2025 tauchten über 120 KI-generierte Bilder von 45 irischen Politikern auf. Auch andere Prominente wie Simon Harris, Ryanair-Chef Michael O'Leary oder der Ökonom David McWilliams wurden bereits Opfer von Identitätsdiebstahl für Finanzbetrug.
In Irland drohen bei Deepfake-Missbrauch bis zu sieben Jahre Haft. Der EU AI Act, der strengere Regeln für Künstliche Intelligenz vorsieht, soll im August 2026 in Kraft treten.
Weltmeister-Fan wird zur Zielscheibe
Doch nicht nur Politiker sind betroffen. Ein deutscher Fan erlebte während der WM 2026 in Houston einen Albtraum: Jan Weitzel aus Alsfeld feierte mit seinem Sohn ein Tor von Kai Havertz im Spiel Deutschland gegen Curaçao. Eine TV-Aufnahme wurde manipuliert – die KI verwandelte Weitzels Erscheinungsbild in das eines historischen Diktators.
Das gefälschte Bild erreichte über eine Million Aufrufe in sozialen Netzwerken. Experten entdeckten auf der Datei ein OpenAI SynthID-Wasserzeichen, das die KI-Manipulation bestätigt. Weitzel hat inzwischen Strafanzeigen in Deutschland und den USA gestellt – der FBI ermittelt.
Parallel dazu erwirkte der britische TV-Moderator Graham Norton diese Woche eine US-Gerichtsverfügung gegen Meta. Der Konzern muss offenlegen, wer hinter einem Konto steckt, das mit Deepfakes falsche Gerüchte über Nortons Privatleben und Gesundheit verbreitete. Norton bereitet weitere rechtliche Schritte in England vor.
Finanzbranche unter Beschuss
Die Geldhäuser geraten zunehmend ins Visier der Betrüger. Das indische Cyber Crime Coordination Centre (I4C) warnte am 18. Juni: Günstige KI-Modelle ermöglichen es Kriminellen, traditionelle Sicherheitsmaßnahmen zu umgehen. Gesichtserkennung, Video-Ident-Verfahren und Konto-Wiederherstellungsprozesse bei Banken und Fintechs lassen sich mit KI-Tricks überwinden.
Das Ausmaß der Bedrohung zeigt ein Fall der US-Börsenaufsicht SEC: Zwischen Januar 2024 und Januar 2025 lockten Betrüger Anleger mit WhatsApp-„Investmentclubs" und angeblichen KI-gestützten Tipps in eine Krypto-Falle. Die Masche brachte über 14 Millionen Dollar ein – erst als die Opfer zusätzliche Gebühren für Auszahlungen zahlen sollten, flog der Schwindel auf.
Da Kriminelle immer häufiger KI-Modelle nutzen, um Sicherheitsvorkehrungen zu umgehen, müssen auch Unternehmen ihre Schutzmaßnahmen dringend anpassen. Erfahren Sie in diesem Gratis-Report, welche neuen rechtlichen Pflichten und Cyberrisiken durch KI auf Sie zukommen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Vertrauenskrise im digitalen Zeitalter
Die Öffentlichkeit verliert zunehmend den Überblick. Eine am 18. Juni veröffentlichte Umfrage unter 1.500 Menschen in fünf Ländern zeigt: 88 Prozent können echte Inhalte nicht mehr von KI-generierten unterscheiden. Ebenso viele haben Schwierigkeiten, Betrugsmaschen zu erkennen – ein drastischer Anstieg gegenüber 66 Prozent im Vorjahr. Die Folge: Über 60 Prozent der Befragten nutzen soziale Medien seltener.
Die Sicherheitsbranche reagiert. Der finnische Cybersicherheitsspezialist F-Secure kündigte am Donnerstag an, die IdentifAI-Technologie in sein Portfolio aufzunehmen. Das System analysiert Bilder, Videos und Audio in Echtzeit und erkennt synthetische Manipulationen. Ein technisches Gegenmittel – pünchtlich zum Start des EU AI Act in diesem Sommer.
