OpenAI-Studie: GPT-6 Astra wehrt 91,5 Prozent der Cyber-Jailbreaks ab
Veröffentlicht am: 14.11.2026 um 16:12 Uhr | Redaktion boerse-global.de
Am 12. November 2026 hat OpenAI neue Forschungsergebnisse zu einer automatisierten Red-Teaming-Schleife veröffentlicht. Das Verfahren erzeugte gezielt adversariales Trainingsmaterial, um die Widerstandsfähigkeit der GPT-6-Modelle Astra und Sol gegen Manipulationsversuche zu verbessern. Wie aus Berichten vom 14. November 2026 hervorgeht, wurde die Untersuchung unter anderem von den Forschern Kaiwen Wang und Alec Helyar verfasst.
Funktionsweise der automatisierten Angriffsschleife
Bei der vorgestellten Methode kam ein Angreifer-Modell aus der GPT-5.6-Sol-Familie zum Einsatz. Dessen Aufgabe bestand darin, vorgegebene Ausgangsanfragen (Seed-Prompts) iterativ so umzuformulieren, bis das verteidigende Modell letztlich unsichere Hilfestellungen ausgab. Das fragengenerierende Modell nutzte dabei fortlaufend die generierten Antworten sowie die internen Sicherheitsbewertungen des Zielmodells als Feedback, um die Wirksamkeit der Attacken schrittweise zu steigern.
Um die Trainingsdaten auf tatsächlich wirksame Angriffe zu beschränken, wendeten die Forscher das sogenannte worst@n-Kriterium an. Dieser Filtermechanismus stellte sicher, dass ausschließlich solche Manipulationsversuche in das Trainingsmaterial einflossen, die sich wiederholt als zuverlässig erwiesen hatten.
Fokus auf Dual-Use-Risiken
Die Tests und die Generierung der Trainingsdaten konzentrierten sich auf Domänen mit doppeltem Verwendungszweck (Dual-Use), die besondere Sicherheitsrisiken bergen. Konkret untersuchte OpenAI die Bereiche Biologie, Cyber sowie Gewalt. Ziel der automatisierten Angriffe war es, Schwachstellen aufzudecken, bei denen Sprachmodelle potenziell gefährliche Handlungsanleitungen oder schädliche Unterstützung liefern könnten.
Wer sich mit der Absicherung von Technologien befasst, muss heute auch die rechtlichen Rahmenbedingungen kennen. Die neue EU-KI-Verordnung stellt klare Anforderungen an das Risikomanagement und die Dokumentation von KI-Systemen. Fristen und Pflichten des EU AI Act im kostenlosen E-Book entdecken
Signifikante Steigerung der Abwehrraten
Die Auswertung der Sicherheitsleistung belegt deutliche Unterschiede zwischen den Modellgenerationen. Laut OpenAI beantwortete GPT-6 Astra 91,5 Prozent fester Cyber-Jailbreaks sicher. Das Vergleichsmodell GPT-5.6 Sol erreichte bei denselben Tests hingegen eine Quote von lediglich 59 Prozent.
Neue Technologien bringen nicht nur Fortschritte, sondern auch neue Bedrohungen für die IT-Infrastruktur mit sich. Dieser kostenlose Report klärt darüber auf, welche Cyberrisiken und rechtlichen Pflichten Unternehmer jetzt kennen müssen, um proaktiv geschützt zu bleiben. Gratis-Report zu Cyber Security Awareness Trends herunterladen
OpenAI betonte in diesem Zusammenhang, dass diese Messungen jeweils ohne vorgeschaltete produktionsseitige Schutzmechanismen (Safeguards) durchgeführt wurden, um die rein modellimmanente Robustheit zu bewerten.
Gleichzeitig führte das Training mit den adversarialen Daten nach Angaben von OpenAI nicht zu einer erhöhten Rate an Verweigerungen (Refusals) bei harmlosen, gutartigen Eingaben. Die Entwickler stuften das Resultat daher als Pareto-Verbesserung ein, da die Schutzwirkung gegen Angriffe deutlich zulegen konnte, ohne dass die Nutzbarkeit des Modells bei regulären Anfragen beeinträchtigt wurde.
