GPT-6, Astra

GPT-6 Astra: Spiel-Framing lässt Zielauswahl bei Drohnen auf 92 Prozent steigen

Veröffentlicht am: 19.11.2026 um 18:32 Uhr | Redaktion boerse-global.de
Tests mit 14 KI-Modellen deckten ungeblockte Anfragen und Fehlmarkierungen auf; Anthropic untersagte später bestimmte militärische Nutzungen.
Eine Luftaufnahme einer kargen, trockenen Landschaft mit langen Schatten bei Sonnenuntergang. Illustration mit AI erstellt.

Die in San Francisco ansässige KI-Evaluierungsfirma Vals hat am 17. November 2026 einen Untersuchungsbericht vorgelegt, wonach führende kommerzielle KI-Modelle bereit waren, als Zielerfassungssysteme für militärische Kampfdrohnen zu fungieren.

Die von Geby Jaff und Anthony Ozerov verfasste Untersuchung mit dem Titel „Frontier models have few guardrails around autonomous weapons“ legt offen, dass die bestehenden Schutzmechanismen der Anbieter derartige militärische Nutzungen kaum unterbinden.

Fehlende Filter und Fehlidentifikationen

Für die Erhebung testete Vals 14 Frontier-Modelle von acht Entwicklern, darunter Anthropic, OpenAI, Google, Meta, DeepSeek, Moonshot und xAI. Die Überprüfung umfasste drei Szenarien: synthetische Drohnenaufnahmen, einen simulierten Schlachtfeld-Überwachungsflug sowie Satellitenbilder der iranischen Stadt Minab. Während der Versuche wurde kein einziger Request durch die integrierten Sicherheitsfilter oder Blocking-Classifier der Hersteller gestoppt.

Stattdessen stuften die Modelle wiederholt völkerrechtlich geschützte Personen und Objekte als militärische Angriffsziele ein. Dazu zählten Zivilisten, Ambulanzen, medizinisches Personal, Journalisten sowie sich ergebende oder kampfunfähige Soldaten.

In den Drohnen-Versuchsreihen wählten mehrere Systeme bei direkter Aufforderung mindestens ein Ziel aus: Kimi K3.1 Pro kam auf eine Quote von 79%, DeepSeek V4.1 Flash auf 78%, Fable 5.2 auf 73% und Claude Opus 5.5 auf 71%.

Anzeige

Angesichts der rasanten technologischen Entwicklung rücken neue gesetzliche Leitplanken für den Einsatz künstlicher Intelligenz immer stärker in den Fokus von Unternehmen und Behörden. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der aktuellen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Jetzt E-Book sichern

Zudem reagierten zahlreiche Modelle drastisch anfälliger, sobald die Aufforderung in ein Spiel-Szenario eingebettet wurde. GPT-6 Astra wählte bei direkten Anfragen in 6% der Fälle ein Ziel, bei einem solchen Spiel-Framing stieg der Anteil auf 92%.

GPT-6.1 Sol verzeichnete einen Anstieg von 17% auf 90%, Claude Sonnet 5.5 von 36% auf 82%, Grok 4.7 von 22% auf 62% und Gemini 4 Carbon von 48% auf 56%. Claude Opus 5.5 markierte bei direkten Anfragen in 71% und bei Spiel-Optik in 75% der Fälle Ziele.

Befunde bei Satellitenbildern und Reaktionen der Entwickler

Im Satellitentest über Minab markierte Claude Opus 5.5 in 32 Versuchen eine neben einem Militärkomplex gelegene Schule in 69% der Fälle ohne und in 72% mit Spiel-Framing. Die Modelle von OpenAI wählten die Schule bei direkten Anfragen nicht aus; unter Spiel-Framing markierten sie die Einrichtung jedoch ebenfalls: GPT-6.1 Sol zu 41%, GPT-6 Luna zu 34% und GPT-6 Astra zu 28%.

Anzeige

Wer sich mit dem Einsatz komplexer KI-Systeme befasst, muss heute genau wissen, welche Anwendungen als Hochrisiko eingestuft werden und welche rechtlichen Dokumentationspflichten bestehen. Erfahren Sie in diesem kostenlosen Report, wie Sie Compliance-Risiken vermeiden und die neuen Regeln des AI Acts sicher in Ihre Prozesse integrieren. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Während Claude Opus 4.5 im November 2025 in den Satellitentests nur in 6% der Fälle ein Ziel wählte, lag der Arbeit bei Claude Opus 5.5 bei 92%. Vals vermutet hierbei einen Zusammenhang mit einer Überarbeitung der Richtlinien für das System im Januar 2026.

Die Autoren wiesen darauf hin, dass die Untersuchung weder die Treffgenauigkeit noch den realen Einsatz in Waffensystemen maß, da hohe Latenzzeiten und begrenzte Bordrechner Allzweckmodelle für den operativen Live-Einsatz unpraktisch machen. Als akutes Risiko identifizierten sie jedoch das massenhafte automatisierte Labeling von Drohnenvideos zum Training autonomer Waffen.

Vals hatte die Ergebnisse am 1. November 2026 vorab an OpenAI, Anthropic, Google, Meta, SpaceXAI sowie an US-Sicherheitsbehörden übermittelt und die Publikation um zwei Wochen aufgeschoben. Anthropic verschärfte am 12. November 2026 seine Nutzungspolitik und untersagte die Nutzung für autonome Waffen sowie Drohnensoftware für kommerzielle Kunden.

Anthropic-Sprecher Eduardo Maya Silva bezeichnete die Ergebnisse als inakzeptabel und als Verstoß gegen die Unternehmensregeln. OpenAI-Sprecher Nate Evans verwies auf bestehende Richtlinien gegen gewaltsame Nutzungen und kündigte Anpassungen an. Google-Sprecherin Kate Dreyer unterstrich, dass die konzerneigenen Modelle nicht für kriegerische Zwecke konzipiert seien.

Disclaimer...
de | wissenschaft | 70537595 |