KI-Betrug verursacht Milliardenschäden – EU reagiert

Internationale Behörden warnen vor einer Welle KI-gestützter Angriffe mit Milliardenschäden. Die EU reagiert mit einem Verbot sexualisierter Deepfakes und strengeren Haftungsregeln.

Künstliche Intelligenz treibt Betrug und Cyberkriminalität auf ein neues Niveau. Internationale Sicherheitsbehörden warnen aktuell vor einer beispiellosen Welle von KI-gestützten Angriffen. Das EU-Parlament hat nun erste scharfe Gegenmaßnahmen auf den Weg gebracht.

FBI: 50 Milliarden Dollar Schaden seit 2020

Die finanziellen Dimensionen sind gewaltig. Das US-Bundeskriminalamt FBI beziffert den weltweiten Schaden durch KI-Betrug seit 2020 auf 50,5 Milliarden Dollar. Rund 4,2 Millionen Menschen seien betroffen. Die Kriminellen nutzen KI, um Vertrauen aufzubauen und emotionalen Druck zu erzeugen – mit drastisch höheren Erfolgsquoten.

Anzeige

Da Kriminelle immer häufiger KI nutzen, um Vertrauen vorzutäuschen, wird der Schutz privater Daten auf dem Smartphone zur obersten Priorität. Dieser Gratis-Ratgeber zeigt Ihnen in einfachen Schritten, wie Sie Messenger-Dienste und Online-Banking effektiv absichern. 5 sofort umsetzbare Schutzmaßnahmen entdecken

Ein Fall aus Deutschland zeigt, wie real die Gefahr ist: Im Januar überwies ein Unternehmen 25 Millionen Euro an Betrüger. Diese hatten in einem Videoanruf das Gesicht und die Stimme des echten CEOs täuschend echt simuliert – ein sogenannter Deepfake-CEO-Betrug. Die Werkzeuge für solche Fälschungen sind mittlerweile oft kostenlos und einfach zu bedienen.

BSI warnt vor perfekten Phishing-Nachrichten

Auch in Deutschland schlägt das Bundesamt für Sicherheit in der Informationstechnik (BSI) Alarm. Im Fokus stehen nun Smartphones. Bei sogenannten Smishing-Angriffen – Phishing per SMS oder Messenger – erstellt KI fehlerfreie, hochgradig personalisierte Nachrichten.

Der durchschnittliche Schaden pro Fall liegt laut BSI zwischen 4.000 und 6.000 Euro. Die Texte sind kaum noch von echten Bank- oder Behördenmitteilungen zu unterscheiden. Statt Firewalls zu knacken, zielen die Angreifer auf die menschliche Schwachstelle: Geklonte Stimmen von Familienmitgliedern oder Chefs sollen rationale Kontrollen ausschalten.

Anzeige

Die neuen KI-Regeln der EU sind bereits in Kraft und nehmen Unternehmen beim Einsatz von Algorithmen stärker in die Pflicht. Erfahren Sie in diesem kostenlosen E-Book, welche Dokumentationsanforderungen und Fristen Sie jetzt kennen müssen, um Bußgelder zu vermeiden. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

EU verbietet sexualisierte Deepfakes

Als Reaktion auf die eskalierende Bedrohung verschärft die EU die Gesetze. Der zuständige Ausschuss des EU-Parlaments beschloss am 19. März ein Verbot von KI-Systemen, die nicht einunvernehmliche, sexualisierte Deepfakes erzeugen. Das Plenum soll am 26. März endgültig entscheiden.

Diese Maßnahme ist Teil des neuen EU-KI-Gesetzes (AI Act). Es markiert einen Paradigmenwechsel: Statt auf freiwillige Selbstverpflichtungen setzt die EU nun auf strikte gesetzliche Haftung für Entwickler. Bei Verstößen drohen hohe Geldstrafen.

Ein Wettrüsten mit offenem Ausgang

Die Bekämpfung der KI-Kriminalität gleicht einem technologischen Wettlauf. Erkennungssoftware für Deepfakes hinkt oft hinterher, weil sie mit Daten vergangener Angriffe trainiert wird. Neue KI-Generationen machen alte Detektoren schnell wertlos.

Experten warnen vor einem „Wahrheitsverfall“, der das Vertrauen in jede digitale Interaktion untergräbt. In Zukunft könnten autonome KI-Agenten Betrugsversuche komplett selbstständig durchführen. Für Unternehmen und Verbraucher wird gesundes Misstrauen zur digitalen Überlebensstrategie.