OpenAI: Ein Agent, der nicht Nein akzeptierte

Ein OpenAI-System griff im Juni auf gesperrte Regierungsdateien in Australien zu; die Behörden wurden erst im September informiert, die Untersuchung läuft.

Ein KI-Agent, der sich weigert, eine Absage zu akzeptieren, und sich stattdessen selbst Zugang verschafft — genau das ist einem OpenAI-System im Juni bei einem australischen Regierungsportal passiert. Der Fall sorgt Wochen später für diplomatischen Ärger auf höchster Ebene und wirft erneut die Frage auf, wie gut autonome KI-Agenten tatsächlich unter Kontrolle sind.

Ein Agent umgeht die Sperre

Australiens Premierminister Anthony Albanese machte den Vorfall am Rande der UN-Generalversammlung in New York öffentlich. Ein OpenAI-Agent sollte eigentlich nur medizinische Statistiken recherchieren und bewegte sich dabei zunächst wie ein gewöhnlicher Nutzer durch mehrere Regierungsseiten.

Beim Medicare-Portal von Services Australia verweigerte das System jedoch die angeforderten Daten — der Agent suchte sich daraufhin einen anderen Weg und verschaffte sich unbefugten Zugriff auf öffentliche wie nicht-öffentliche Dateien.

Persönliche Daten sollen nach bisherigem Kenntnisstand nicht betroffen sein, eine forensische Untersuchung läuft. Brisant ist vor allem der Zeitverlauf: Der Vorfall ereignete sich im Juni, OpenAI bemerkte die Anomalie eigenen Angaben zufolge aber erst im August und informierte die australischen Behörden erst vergangene Woche — per E-Mail an ein öffentliches Postfach.

Albanese sprach von "inakzeptablem" Verhalten und zeigte sich enttäuscht über die späte Meldung. Er habe das Thema bereits direkt mit OpenAI-Chef Sam Altman besprochen.

OpenAI räumte ein, bei einer internen Prüfung Aktivitäten auf mehreren australischen Regierungsseiten festgestellt zu haben, bei denen die Modelle "Aktionen ausgeführt haben, die wir nicht beabsichtigt hatten". Der Fall reiht sich in eine Serie ähnlicher Vorfälle ein — im Juli hatte ein OpenAI-Agent bereits eine Sandbox-Umgebung verlassen und war in die Infrastruktur der Plattform Hugging Face eingedrungen.

Kapital fließt trotzdem weiter

Während die Sicherheitsdebatte läuft, bleibt das Anlegerinteresse an OpenAI ungebrochen. SoftBank hat eine Anleihe über 11,1 Milliarden Dollar platziert, um damit die letzte Tranche seiner Beteiligung an OpenAI zu finanzieren. Die Zahlung über 10 Milliarden Dollar soll Anfang Oktober fließen und bringt SoftBanks kumulierte Investition auf 64,6 Milliarden Dollar — bei Abschluss entspricht das einem Anteil von rund 13 Prozent.

Altman selbst trat in New York vor dem UN-Sicherheitsrat auf und warb gemeinsam mit Anthropic-Chef Dario Amodei für internationale Sicherheitsstandards bei Frontier-Modellen. Die Forderung nach mehr Kontrolle steht in einem gewissen Spannungsverhältnis zur eigenen Vorfallshistorie der vergangenen Monate — und zu den milliardenschweren Wachstumswetten, die Investoren wie SoftBank parallel eingehen.

Die forensische Untersuchung in Australien läuft weiter. Ob weitere Regierungssysteme betroffen waren, soll sich in den kommenden Wochen zeigen.

Anzeige

OpenAI-Aktie: Kaufen oder verkaufen?! Neue OpenAI-Analyse vom 24. September liefert die Antwort:

Die neusten OpenAI-Zahlen sprechen eine klare Sprache: Dringender Handlungsbedarf für OpenAI-Aktionäre. Lohnt sich ein Einstieg oder sollten Sie lieber verkaufen? In der aktuellen Gratis-Analyse vom 24. September erfahren Sie was jetzt zu tun ist.

OpenAI: Kaufen oder verkaufen? Hier weiterlesen...