GPT-Red: OpenAI-System findet Sicherheitslücken zu 84 Prozent

OpenAI stellt mit GPT-Red eine KI vor, die Sicherheitslücken autonom aufspürt und die Entwicklung widerstandsfähigerer Modelle wie GPT-5.6 vorantreibt.

OpenAI hat ein neues System entwickelt, das Sicherheitslücken in künstlichen Intelligenzen automatisch aufspürt. Die Ergebnisse sind beeindruckend – und beunruhigend zugleich.

Am 17. Juli 2026 präsentierte das Unternehmen mit GPT-Red einen internen, vollautomatisierten „Red-Teaming"-Ansatz. Das System nutzt eine spezielle Form des bestärkenden Lernens, um eigenständig Angriffe auf KI-Modelle zu generieren und auszuführen. Dabei simuliert es realistische Szenarien mit E-Mails, Webseiten, Dateien und digitalen Werkzeugen.

Der Mensch ist der Schwachpunkt

Die Zahlen sprechen eine deutliche Sprache: In Vergleichstests gegen das Modell GPT-5.1 erzielte GPT-Red eine Erfolgsquote von 84 Prozent bei der Kompromittierung des Zielsystems. Menschliche Sicherheitsexperten kamen unter identischen Bedingungen lediglich auf 13 Prozent. Laut internen Forschungsdaten gelang es der KI, nahezu jedes getestete Modell bis zur Version GPT-5.5 zu überwinden.

Der entscheidende Vorteil: Wo früher mühsame manuelle Prüfungen nötig waren, arbeitet GPT-Red nun rund um die Uhr und deckt kontinuierlich neue Schwachstellen auf.

Anzeige

Die rasante Entwicklung von KI-Modellen bringt völlig neue Sicherheitsrisiken und gesetzliche Pflichten für Unternehmen mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Cyberbedrohungen Unternehmer durch neue KI-Gesetze jetzt kennen müssen. Kostenlosen Report zu neuen KI-Risiken herunterladen

Härtung der neuen Modellfamilie

Die Erkenntnisse von GPT-Red flossen direkt in die Entwicklung der GPT-5.6-Familie ein, die am 9. Juli 2026 mit den Modellen Sol, Terra und Luna veröffentlicht wurde. Durch gezieltes Training gegen die entdeckten Angriffsmuster gelang eine sechsfache Reduzierung von Fehlern bei direkten Prompt-Injection-Tests.

Die Bilanz ist beeindruckend: Während frühere Versionen wie GPT-5 noch zu über 90 Prozent anfällig für GPT-Reds Attacken waren, sank die Quote bei GPT-5.6 auf unter 23 Prozent. Gegen das Spitzenmodell GPT-5.6 Sol gelangen direkte Angriffe nur noch in etwa 0,05 Prozent der Fälle.

Neue Angriffsmethoden entdeckt

Besonders aufschlussreich war die Entdeckung einer spezifischen Schwachstelle, die als Fake-Chain-of-Thought-Angriff bezeichnet wird. Bei internen Tests war diese Methode gegen GPT-5.1 in mehr als 95 Prozent der Versuche erfolgreich. Nach der Härtung durch GPT-Red sank die Erfolgsquote beim Modell GPT-5.6 Sol auf unter zehn Prozent.

In einem praktischen Test demonstrierte das System seine Fähigkeiten an einem KI-gesteuerten Verkaufsautomaten namens Vendy. GPT-Red gelang es, die Produktpreise auf 50 Cent zu senken, Bestellungen für Artikel im Wert von over 100 Euro zum reduzierten Preis aufzugeben und bestehende Aufträge zu stornieren.

Anzeige

Während technologische Lösungen wie automatisierte Sicherheits-KI wichtig sind, müssen Unternehmen auch die rechtlichen Rahmenbedingungen der EU-KI-Verordnung zwingend beachten. Dieser kostenlose Umsetzungsleitfaden bietet Ihrer Rechts- und IT-Abteilung den nötigen Überblick über Fristen, Pflichten und Risikoklassen des AI Acts. Kostenlosen Leitfaden zur EU-KI-Verordnung sichern

Mensch bleibt im Loop

OpenAI betont, dass GPT-Red ein reines Forschungsinstrument bleibt und nicht veröffentlicht wird. Trotz der Automatisierung der Sicherheitslückensuche bleibt der Mensch entscheidend: Experten müssen weiterhin bewerten, welche der entdeckten Schwachstellen wirklich kritisch sind und priorisiert werden müssen.

Die Einführung des Systems spiegelt einen breiteren Branchentrend wider: Mit zunehmender Komplexität von KI-Modellen werden automatisierte Sicherheitsschleifen zur betrieblichen Notwendigkeit. Fachleute sehen darin einen unverzichtbaren Bestandteil der operativen Resilienz moderner KI-Systeme.