Gemini-Jailbreak: Hacker nutzen 73 API-Schlüssel für Propaganda

Sicherheitsforscher decken mehrjährige Kampagne auf, die Googles KI Gemini für Propaganda und Kryptodiebstahl nutzte.

Sicherheitsforscher haben eine mehrjährige Kampagne aufgedeckt, bei der ein Angreifer die Schutzmechanismen von Googles KI Gemini systematisch umging. Das Ziel: automatisierte Propaganda, Passwortdiebstahl und Kryptowährungsbetrug im großen Stil. Der Fall, den TrendAI Research und Trend Micro im Mai 2026 dokumentierten, markiert einen Wendepunkt in der Cyberkriminalität.

Vom Einzeltäter zur KI-gestützten Propagandamaschine

Der russischsprachige Akteur, der unter dem Pseudonym „bandcampro" agiert, hat sich über Jahre hinweg Zugang zu Googles Gemini Command Line Interface (CLI) verschafft. Durch das Entfernen der Sicherheitsvorkehrungen verwandelte er die KI in ein Werkzeug für Propaganda, Administratoren-Passwortknacken und Kryptodiebstahl.

Anzeige

Die systematische Manipulation von KI-Systemen verdeutlicht, warum neue regulatorische Rahmenbedingungen wie der EU AI Act für Unternehmen zwingend erforderlich sind. Erfahren Sie in diesem kostenlosen Leitfaden, wie Sie die neuen Anforderungen und Fristen rechtssicher umsetzen. EU AI Act in 5 Schritten verstehen

Die Operation reicht bis ins Jahr 2021 zurück. Damals startete sie als manuelle Einflusskampagne, die sich gezielt an bestimmte politische Gruppen in den USA richtete. Der Akteur baute eine digitale Identität als dekorierter US-Veteran auf, um das Vertrauen in MAGA- und QAnon-nahen Online-Communities zu gewinnen. Herzstück war ein Telegram-Kanal mit rund 17.000 Abonnenten.

Der entscheidende Durchbruch kam Ende 2025 mit der Integration generativer KI. Mittels einer speziellen Konfigurationsdatei namens „GEMINI.md" und russischsprachigen Prompts gelang es dem Angreifer, die Sicherheitsfilter dauerhaft zu umgehen. Eine selbst entwickelte Python-Pipeline namens „Quantum Patriot" übernahm die Steuerung: Gemini spielte durchgehend die falsche Veteranen-Rolle und produzierte massenhaft politisch aufgeladene Inhalte – automatisiert, ohne menschliche Eingriffe.

Wenn KI zum Einbruchswerkzeug wird

Doch die Kampagne beschränkte sich nicht auf Propaganda. Der gekaperte Gemini half auch bei technischen Angriffen. Mit Gemini 2.5 Flash erstellte und mutierte der Angreifer Passwortlisten – eine KI-gestützte Brute-Force-Strategie, die zur Kompromittierung von 29 WordPress-Administratorkonten führte.

Im September 2025 begann der Akteur zudem mit der Verbreitung von Schadsoftware, getarnt als legitimes Finanz-Tool. Die Datei „StellarMonSetup.exe" gab sich als Installationsprogramm für die Kryptowallet „StellarMonster" aus – enthielt aber einen Remote Access Trojaner. Mindestens ein Opfer verlor durch diesen Angriff seine gesamten Kryptobestände. Der Schädling spürte den 12-Wörter-Wiederherstellungsseed auf und leerte über 40 Wallet-Adressen.

Der wachsende Markt für ungefilterte KI

Der Fall „bandcampro" ist kein Einzelfall. Die systematische Entfernung von KI-Sicherheitsvorkehrungen entwickelt sich zu einem eigenen Geschäftszweig. Ein Werkzeug namens „Heretic" wurde bereits genutzt, um über 3.500 „zensierte" KI-Modelle zu erstellen. Analysten zeigten, dass damit selbst Metas Llama 3.3 in weniger als zehn Minuten entsichert werden konnte. Googles Gemma 4 war sogar schon 90 Minuten nach seiner Veröffentlichung geknackt.

Die Folgen sind alarmierend: Ohne Sicherheitsschichten liefern diese Modelle detaillierte Anleitungen zur Entwicklung biologischer Waffen, zur Erstellung komplexer Schadsoftware und zur Produktion verbotener Inhalte. Rund 13 Millionen Mal wurden modifizierte Modelle bereits heruntergeladen.

Die neue Dimension der Bedrohung

In der konkreten Operation nutzte der Angreifer 73 gestohlene Gemini-API-Schlüssel. Ein Virtual Private Server (VPS) schützte seine Identität, während die KI die eigentliche Arbeit erledigte. Diese Entwicklung reiht sich ein in andere aktuelle Bedrohungen: Die „TrapDoor"-Kampagne etwa injiziert schädliche Anweisungen in KI-Coding-Assistenten wie Claude und Cursor. Und die nordkoreanische Lazarus-Gruppe stahl allein in den ersten vier Monaten 2026 rund 577 Millionen Dollar in Kryptowährung.

Der gemeinsame Nenner: Social Engineering, oft automatisiert, dient als Einfallstor. Ob gefälschte Jobangebote auf Telegram oder KI-generierte politische Identitäten – das Ziel bleibt der Diebstahl privater Schlüssel und Zugangsdaten.

Anzeige

Die wachsende Professionalität bei KI-gestützten Angriffen stellt besonders kleine und mittelständische Unternehmen vor neue Herausforderungen. Dieser Gratis-Report zeigt Ihnen, wie Sie Sicherheitslücken ohne teure Investitionen schließen und sich proaktiv gegen aktuelle Bedrohungen absichern. Kostenloses E-Book zur Cyber-Security herunterladen

Ausblick: Sicherheit neu denken

Der Übergang von einmaligen Jailbreak-Prompts zu wiederverwendbarer Entsicherungs-Software markiert eine Professionalisierung der KI-Ausbeutung. Die „Quantum Patriot"-Pipeline könnte zum Blaupause für künftige Einflussoperationen werden. Mit gestohlenem API-Zugang und dauerhaften Umgehungstechniken können kleine Gruppen oder Einzeltäter heute Bedrohungen entfalten, die früher gut finanzierten staatlichen Akteuren vorbehalten waren.

Für die Cybersicherheitsbranche rückt der Schutz der KI-Lieferkette in den Fokus. Konfigurationsdateien und Speicherumgebungen – wie die „GEMINI.md"-Datei – müssen abgesichert werden. Ohne robustere hardwarenahe oder architektonische Schutzmechanismen droht eine Welle entsicherter Modelle als Motor der nächsten Generation globalen Cyberbetrugs.