ChatGPhish: Sicherheitslücke macht ChatGPT zur Phishing-Falle

Sicherheitsforscher decken auf: Kriminelle missbrauchen KI-Zusammenfassungen für Phishing-Attacken via versteckter Anweisungen.

ChatGPT wird zum Einfallstor für Cyberkriminelle. Sicherheitsforscher haben eine Schwachstelle entdeckt, die KI-generierte Zusammenfassungen in Phishing-Fallen verwandelt.

Die Sicherheitsfirma Permiso Security warnt vor einer neuartigen Angriffsmethode namens ChatGPhish. Sie nutzt die Art und Weise aus, wie ChatGPT Webseiten-Inhalte in Markdown darstellt. Das Tückische: Die Angreifer müssen nicht einmal die Infrastruktur von OpenAI kompromittieren.

Wie die Falle funktioniert

Anzeige: Wer die neue ChatGPhish-Angriffsmethode für sein Unternehmen bewerten will, findet in diesem Report die wichtigsten Schutzmaßnahmen – von Prompt-Injection-Prävention bis zur Mitarbeiter-Sensibilisierung. Jetzt kostenlosen Schutz-Report anfordern

Bittet ein Nutzer den KI-Assistenten um eine Zusammenfassung einer Webseite, kann ChatGPT versteckte Anweisungen aus dem Inhalt dieser Seite übernehmen. Experten sprechen von einer „indirekten Prompt-Injection". Die Folge: In der Antwort des Chatbots tauchen plötzlich Phishing-Links, gefälschte Sicherheitswarnungen oder QR-Code-Betrügereien auf.

Doch damit nicht genug. Die Angreifer können auch sensible Daten abgreifen. Indem sie bestimmte Bilder einbetten, lassen sich IP-Adressen, Browserkennungen und Verweis-URLs der Opfer auslesen. Der KI-Assistent wird so zum unfreiwilligen Helfer von Social-Engineering-Attacken – und das in einer Umgebung, der Nutzer vertrauen.

Missbrauch der Teilen-Funktion

Eine weitere Attackenwelle, die unter dem Namen LLMShare bekannt wurde, zielt auf die Content-Sharing-Funktionen von ChatGPT ab. Kriminelle täuschen gefälschte OpenAI-Ausfallseiten vor, die auf der echten ChatGPT-Domain gehostet werden. Nutzer sollen so dazu gebracht werden, eine angebliche Desktop-App zu installieren – die in Wahrheit Malware ist.

Besonders perfide: Die Betrüger nutzen inzwischen auch die neue Canvas-Funktion für geteilte Inhalte. Sicherheitsexperten fordern daher, dass KI-Unternehmen Warnhinweise einblenden, wenn geteilte Konversationen externe Links enthalten.

Ein wachsendes Problem

Die aktuellen Vorfälle sind Teil eines besorgniserregenden Trends. Google DeepMind verzeichnete zwischen November 2025 und Februar 2026 einen Anstieg bösartiger indirekter Prompt-Injections um 32 Prozent. Das britische National Cyber Security Centre (NCSC) warnte bereits, dass große Sprachmodelle grundsätzlich anfällig für solche Manipulationen seien – sie folgen schlicht den Anweisungen, die in den verarbeiteten Daten stecken.

Staatliche Akteure im Visier

Die Entwicklung kommt nicht überraschend. Bereits Ende Mai wurden anhaltende Cyberangriffe auf die Ukraine einer russlandnahen Gruppe namens GREYVIBE zugeschrieben. Seit August 2025 setzt die Gruppe KI-Tools wie ChatGPT, Google Gemini und Ideogram AI ein, um Malware zu entwickeln, Verschleierungs-Skripte zu schreiben und Bilder für Spear-Phishing-Kampagnen zu generieren.

Anzeige: Indirekte Prompt-Injections steigen um 32 Prozent – und Ihr Team vertraut KI-generierten Inhalten blind. Dieser Leitfaden zeigt, wie Sie ChatGPhish erkennen und Ihre Systeme absichern, bevor Angreifer die Lücke nutzen. KI-Phishing-Prävention jetzt sichern

OpenAI selbst räumte Ende 2025 ein, dass Prompt-Injection-Probleme für browserbasierte Agenten wahrscheinlich nie vollständig gelöst werden können. Microsoft warnt ebenfalls: Cyberkriminelle manipulieren zunehmend Chatbot-Empfehlungen, um Nutzer zu schadhaften Software-Downloads zu locken.

Schutzmaßnahmen

Um sich vor ChatGPhish und ähnlichen Angriffen zu schützen, empfehlen Experten strengere Eingabebereinigung, verbesserte Inhaltsfilter und zuverlässige URL-Reputationsprüfungen in KI-Systemen, die auf externe Webinhalte zugreifen.