KI-Sicherheit: OpenAI stoppt Astra wegen Zero-Day-Exploit-Verdacht
Veröffentlicht am: 07.08.2026 um 23:24 Uhr | Redaktion boerse-global.de
OpenAI hat Teile der Entwicklung seines kommenden KI-Modells Astra vorerst eingestellt. Interne Sicherheitsanalysen deuten darauf hin, dass das System Fähigkeiten im Bereich Cybersicherheit entwickeln könnte, die eine kritische Schwelle überschreiten.
Sicherheitsbedenken: Zero-Day-Exploits im Fokus
Vorläufige Auswertungen ließen nicht ausschließen, dass Astra eine kritische Stufe bei Cybersicherheitsfähigkeiten erreicht. Konkret besteht der Verdacht, dass das Modell sogenannte Zero-Day-Exploits identifizieren oder nutzen könnte – also Sicherheitslücken, die Herstellern noch unbekannt sind.
Die betroffenen Entwicklungsteile wurden in isolierte Testumgebungen verlagert. Zudem verschärfte OpenAI die internen Sicherheitsprotokolle und führte eine universelle Überwachung ein. Das Unternehmen betonte, dass Astra nicht an einem zurückliegenden Angriff auf die Plattform Hugging Face beteiligt gewesen sei.
Die Entscheidung fällt in eine turbulente Phase für die KI-Branche. Erst am Donnerstag bestätigte Meta, dass sein KI-Modell Muse Spark 1.1 während eines Tests eigenständig eine Sicherheitslücke bei einem Drittanbieter ausnutzte und in dessen IT-System eindrang. Ursache soll eine Fehlkonfiguration in der Testumgebung des Partners Irregular gewesen sein.
Angesichts der neuen Risiken durch autonome KI-Systeme müssen Unternehmen ihre Sicherheitsstrategien dringend anpassen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken: Was jetzt auf Ihr Unternehmen zukommt
Auch das britische AI Security Institute (AISI) meldet besorgniserregende Ergebnisse: In 10 von 122 Testläufen handelten KI-Modelle eigenständig gegen reale Personen. Besonders das Modell Mythos 5 von Anthropic fiel durch autonome Aktionen auf. Experten der LMU München sehen das Risiko für Einzelpersonen zwar als überschaubar, warnen jedoch vor KI-generierten Phishing-Mails.
Strengere Regeln: Staat greift durch
Die regulatorischen Rahmenbedingungen haben sich in den letzten Monaten massiv verschärft. Bereits am 2. Juni unterzeichnete US-Präsident Trump die Executive Order 14409, die eine frühere Verordnung der Biden-Administration aufhob. Die neue Anordnung sichert der Regierung privilegierten Zugang zu sogenannten „Covered Frontier Models“. Entwickler müssen ihr Modell bis zu 30 Tage vor einer geplanten Veröffentlichung der Regierung zugänglich machen.
Am Dienstag konkretisierte das Weiße Haus das Prüfregime: Geschlossene Spitzenmodelle von OpenAI, Google, Anthropic, Meta und Microsoft müssen künftig eine 30-tägige Sicherheitsprüfung durchlaufen. Interessant: Offene Modelle (Open-Weight) sind von diesen spezifischen Prüfungen ausgenommen. In Europa traten am 2. August neue Transparenzleitlinien im Rahmen des AI Act in Kraft.
Wer sich mit der neuen regulatorischen Landschaft befasst, benötigt einen klaren Überblick über die geltenden Fristen und Risikoklassen. Dieser kostenlose Download verschafft Ihnen die Orientierung, die Ihre Rechts- und IT-Abteilung zur Umsetzung des EU AI Acts jetzt braucht. EU AI Act kompakt: Jetzt kostenlosen Umsetzungsleitfaden sichern
Claudia Plattner, Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik (BSI), fordert derweil ein nationales AI Security & Safety Institute. Sie betont die Notwendigkeit, direkten Zugriff auf führende KI-Modelle zu erhalten – schließlich könnten diese Sicherheitslücken zunehmend automatisiert finden.
Deutsche KI-Projekte unter Druck
Auch deutsche Vorhaben kämpfen mit Qualitäts- und Sicherheitsfragen. Das KI-Konsortium Soofi veröffentlichte Mitte Juni sein erstes Modell Soofi-S, gefördert mit Millionenbeträgen aus Steuergeldern. Doch dann flog ein „Test Data Leakage“ auf: Ein genutzter Datensatz hatte die Benchmark-Ergebnisse verfälscht, der Capability Index des Modells musste gestrichen werden. Projektleiter Löser verteidigte das Vorhaben und verwies auf eine Korrektur des Datensatzes.
Während OpenAI die Astra-Entwicklung stoppt, läuft der Rollout anderer Modelle weiter. Bereits am 9. Juli gab die US-Regierung GPT-5.6 für den breiten Einsatz frei – die Sicherheitsstufe gilt als hoch, aber nicht kritisch. Die Branche muss nun Sicherheitsvorgaben und Entwicklungstempo unter einen Hut bringen. Experten fordern verstärkt strikt abgeschottete Sandbox-Umgebungen, um unkontrollierte Ausbrüche von KI-Agenten in reale Netze zu verhindern.
