Deepfake-Betrug: 212 Millionen Euro Schaden 2025 in Baden-Württemberg
05.07.2026 - 21:17:27 | boerse-global.de
Die Integration der Technologie in Medizin und Alltag schreitet rasant voran – doch aktuelle Vorfälle von Desinformation und Rekordschäden durch Betrug zeigen die Schattenseiten.
Ethik und Verantwortung
Bischof Heiner Wilmer betonte am 5. Juli in Münster: Der Mensch dürfe nicht auf einen reinen Datensatz reduziert werden. Bei einer Traditionsveranstaltung warnte er davor, existentielle Entscheidungen über Leben und Tod an Algorithmen abzugeben. Wilmer verwies auf die päpstliche Enzyklika „Magnifica humanitas“, die die Bewahrung der menschlichen Würde im digitalen Zeitalter thematisiert. Nötig sei eine massive Investition in die Urteilsfähigkeit der Menschen – um der KI nicht blind zu folgen.
UN-Beraterin Virginia Dignum unterstützt diese Forderung. Sie plädiert für regulatorische Rahmenbedingungen, vergleichbar mit einem „KI-Führerschein“ oder Tempolimits. Europa müsse einen eigenen Weg mit symbolischen KI-Modellen einschlagen, statt US-Konzernen hinterherzulaufen. KI besitze zwar kein Bewusstsein, doch als Werkzeug berge sie erhebliches Missbrauchspotenzial.
Rekordschäden durch Deepfakes
Die praktischen Risiken zeigen sich besonders in der Cyberkriminalität. Das Landeskriminalamt Baden-Württemberg meldete für 2025 einen Rekordschaden durch Deepfakes von 212 Millionen Euro. Die Dunkelziffer könnte laut Behörden nahe an einer Milliarde Euro liegen. Prominente Beispiele umfassen manipulierte Videos von bekannten Persönlichkeiten.
Angesichts der rasanten Entwicklung von KI-Technologien und den damit verbundenen neuen Betrugsmaschen ist fundiertes Wissen der beste Schutz. Dieser kostenlose Ratgeber klärt auf, wie Sie KI-Tools sicher nutzen und die praktischsten Funktionen ohne Risiken in Ihren Alltag integrieren. Die besten ChatGPT-Tricks für Einsteiger jetzt kostenlos entdecken
Neben finanziellem Betrug wächst die Gefahr durch gezielte Manipulation von KI-Modellen – das sogenannte „Data Poisoning“. Ende Juni verbreitete der KI-Assistent der Suchmaschine DuckDuckGo die Falschmeldung, Donald Trump sei verstorben. Ursprung war eine koordinierte Aktion in einem Internetforum mit über 45.000 Mitgliedern.
Auch beim Online-Shopping zeigen sich Defizite. In Tests empfahlen namhafte Chatbots nicht existierende Produkte oder lieferten fehlerhafte Daten. Konsumentenschützer warnen vor „KI-Vergiftung“ durch gefälschte Bewertungen.
Sicherheitslücken im Kern der Technologie
Die Forschung identifizierte neue Schwachstellen. Bei der sogenannten Modell-Destillation können schädliche Vorlieben oder Biases unbemerkt durch reine Zahlenfolgen von einem Modell auf ein anderes übertragen werden. Diese „latenten Viren“ werden von herkömmlichen Sicherheitstests nicht erkannt. Experten fordern daher: Statt nur die KI-Ausgaben zu prüfen, müssen die internen Modellgewichte kontrolliert werden.
Erste Anbieter reagieren mit spezialisierten Tools. Das Werkzeug „deptrust“ soll verhindern, dass Entwickler versehentlich schädlichen Code installieren. Hintergrund: KI-generierte Vorschläge enthalten oft halluzinierte Paketnamen – ein Phänomen namens „Slopsquatting“. Rund 20 Prozent der KI-generierten Code-Beispiele enthalten solche erfundenen Paketnamen.
Während Cyberrisiken durch KI zunehmen, verschärft der Gesetzgeber die Anforderungen für den Einsatz dieser Technologien massiv. In diesem kostenlosen E-Book erhalten Sie einen kompakten Überblick über die neue EU-KI-Verordnung, damit Ihr Unternehmen rechtlich und technisch auf der sicheren Seite bleibt. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Politische Reaktionen
Die EU hat ihre Produkthaftungsregeln bereits aktualisiert, die Schweiz prüft eine Angleichung. Adrian Lobsiger, der Schweizer Datenschutzbeauftragte, berichtete am 5. Juli von einer Verdopplung der Meldungen über Datenschutzverletzungen. Er betonte das Recht der Bürger, stets zu wissen, ob sie mit einem Menschen oder einer Maschine interagieren.
KI als Entscheidungshilfe
Trotz der Risiken wird das Potenzial von KI in Fachbereichen wie der Medizin hervorgehoben. Bayerns Gesundheitsministerin Judith Gerlach warb am 4. Juli in Würzburg für den Einsatz bei der Früherkennung von Krebs und Herz-Kreislauf-Erkrankungen. Klar stellte sie: Die letztendliche medizinische Verantwortung bleibt bei den Ärzten.
Auch im wissenschaftlichen Peer Review wird KI vermehrt eingesetzt – etwa zur Erkennung statistischer Inkonsistenzen oder Plagiate. Dennoch verbieten laut aktuellen Erhebungen 91 Prozent der Top-Medizinjournale das Hochladen von Manuskripten in KI-Tools, um die Vertraulichkeit zu wahren. Fachleute sind sich einig: KI kann bei der Textstrukturierung helfen, doch die Beurteilung von wissenschaftlicher Neuheit und Methodik erfordert weiterhin menschliche Expertise.
