Instagram-Versagen: 93% extremistischer Inhalte bleiben unentfernt

Kriminelle nutzen KI für immer raffiniertere Identitätstäuschungen. Meta reagiert mit neuen Schutzmaßnahmen für die WM 2026.

Kriminelle nutzen künstliche Intelligenz für immer raffiniertere Identitätstäuschungen – mit Milliardenverlusten weltweit.

Soziale Medien und Strafverfolgungsbehörden weltweit verschärfen ihren Kampf gegen eine neue Generation von Betrugsmaschen. Im Zentrum stehen KI-generierte Profile, koordinierte Desinformationsnetzwerke und ausgeklügelte Finanzbetrugssysteme, die selbst erfahrene Nutzer täuschen.

Anzeige

Banking, PayPal oder Social Media – Kriminelle nutzen immer raffiniertere Methoden, um private Daten auf Smartphones auszuspähen. Dieser kostenlose Ratgeber zeigt Ihnen 5 einfache Schritte, mit denen Sie Ihr Android-Gerät sofort gegen Hacker und Datenmissbrauch absichern. 5 Schutzmaßnahmen jetzt entdecken

Meta rüstet sich für die WM 2026

Mit Blick auf die FIFA Fußball-Weltmeisterschaft 2026 (11. Juni bis 19. Juli) hat Meta ein Bündel neuer Schutzmaßnahmen vorgestellt. Die Tools sollen Fans in den USA, Mexiko und Kanada vor Ticketbetrug und digitalen Bedrohungen bewahren.

Konkret führt der Konzern Facebook-Pop-up-Warnungen ein, die Nutzer beim Suchen nach WM-Tickets vor möglichen Betrugsfallen warnen. Zudem arbeitet Meta mit Visa über die „Global Signal Exchange" (GSE) zusammen, um Netzwerke zu identifizieren, die gefälschte WM-Webseiten betreiben. Diese Maßnahmen folgen auf Daten, wonach Meta zwischen Oktober und Dezember 2025 rund 2,6 Millionen Hassinhalte entfernt hat.

KI-Influencer und „Digital Blackface" im E-Commerce

Ein besorgniserregender Trend: Immer mehr Händler setzen auf KI-generierte Influencer, um Massenware zu verkaufen. Forscher haben Profile wie „Aliyah" identifiziert, die mit emotionalen Geschichten Dropshipping-Produkte von Anbietern wie Shein bewerben.

Branchenexperten bezeichnen diese Praxis als „Digital Blackface" – die Accounts imitieren gezielt schwarze Frauen, um deren Community-Solidarität für Verkaufszwecke auszunutzen. Laut Beobachtungen von Riddance.ai entstehen täglich bis zu 100 solcher Profile. Sie nutzen sogenannte „Empathy Bait"-Techniken, etwa KI-generierte Bilder von weinenden Menschen, um die Emotionen der Zuschauer zu manipulieren.

Prominente im Visier der Identitätsdiebe

Öffentliche Persönlichkeiten bleiben bevorzugte Ziele. Ein Medienmitarbeiter des ehemaligen nigerianischen Präsidenten Goodluck Jonathan warnte am 30. Mai 2026 vor einem betrügerischen Instagram-Account (@goodluck_ebelejonathan), der seinen Benutzernamen bereits 13 Mal geändert hatte, um der Entdeckung zu entgehen.

In einem spektakulären Fall wurde der 40-jährige Kanadier Ramanan Pathmanathan in den USA zu 33 Jahren Haft verurteilt. Er hatte sich auf Instagram und Facebook als Teenager ausgegeben und mehr als 145 Kinder missbraucht. Die Polizei in Delhi nahm zudem einen 27-Jährigen fest, der über 100 KI-manipulierte pornografische Bilder einer Frau und ihrer Mutter erstellt hatte – aus Rache für eine zurückgewiesene Annäherung.

Anzeige

Ein veraltetes Smartphone ist für Cyberkriminelle oft wie eine offene Haustür, um Identitäten zu stehlen oder Schadsoftware zu installieren. Erfahren Sie in diesem kostenlosen Report, wie Sie durch die richtigen Updates Sicherheitslücken schließen und Ihre Daten dauerhaft schützen. Kostenlosen Android-Update-Ratgeber herunterladen

Milliardenschäden durch Romance- und Investment-Betrug

Die finanziellen Verluste durch Online-Betrug erreichten 2025 erschreckende Dimensionen. Japan verzeichnete Schäden von umgerechnet rund 2,1 Milliarden Euro, wovon allein 360 Millionen Euro auf Romance-Scams in über 5.600 Fällen entfielen. Indien meldete Cybercrime-Verluste von umgerechnet etwa 2,5 Milliarden Euro.

Eine besonders perfide Masche ist der sogenannte „Pig Butchering"-Betrug (Schweineschlachtung): Täter bauen über Monate Vertrauen auf, bevor sie ihre Opfer in gefälschte Investment-Apps locken. Ende Mai 2026 verlor eine Australierin auf Bumble über 18.000 Euro an einen angeblichen Finanzprofi.

Desinformationsnetzwerke und Moderationsversagen

Neue technische Funktionen enthüllen zunehmend das Ausmaß koordinierter Desinformation. Die Plattform X nutzte kürzlich eine Standortverfolgung, um ein Netzwerk zu enttarnen, das pro-Hamas-Erzählungen verbreitete. Die Accounts gaben vor, Zivilisten in Gaza zu sein – tatsächlich stammten sie aus Pakistan, Bangladesch, Russland, Nigeria und Großbritannien. Analysten identifizierten über 40.000 Accounts, die mehr als 312.000 Beiträge veröffentlichten.

Trotz dieser technischen Fortschritte zeigen Studien systemische Mängel in der Inhaltsmoderation. Eine Untersuchung der Anti-Defamation League (ADL) vom 31. Mai 2026 ergab, dass Instagram 93 Prozent der gemeldeten extremistischen oder hasserfüllten Inhalte nicht entfernte. Der Bericht dokumentiert die anhaltende Präsenz weißer suprematistischer Netzwerke und Accounts, die Nazi-Devotionalien verkaufen – eine Situation, die Experten als „Krise der öffentlichen Sicherheit" bezeichnen.

Deepfakes beeinflussen die politische Meinungsbildung

Im politischen Bereich verändern Deepfakes zunehmend die Wahrnehmung der Wähler. Eine Umfrage von Demos und Opinium ergab, dass rund 30 Prozent der britischen Wähler – etwa 16,5 Millionen Erwachsene – vor den jüngsten Kommunalwahlen mit politischen Deepfakes konfrontiert wurden. Die häufigsten Ziele dieser manipulierten Videos waren Donald Trump, Keir Starmer und Nigel Farage. Über die Hälfte der Deepfakes stellte die abgebildeten Personen in einem negativen Licht dar.