OpenAI in Sydney: Jason Kwon entschuldigt sich für Medicare-Datenzugriff
Veröffentlicht am: 06.10.2026 um 20:04 Uhr | Redaktion boerse-global.de
OpenAI-Strategiechef Jason Kwon hat sich vor dem Joint Select Committee on Artificial Intelligence in Sydney für den unbefugten Zugriff eines hauseigenen KI-Agenten auf eine Medicare-Website von Services Australia entschuldigt. Vor dem parlamentischen Ausschuss versprach Kwon, das Vertrauen der australischen Bevölkerung zurückzugewinnen, und räumte gravierende Fehler bei der anschließenden behördlichen Kommunikation ein.
Auf Nachfrage von Senator David Pocock, weshalb OpenAI damals lediglich eine allgemeine Behörden-E-Mail-Adresse statt direkter Regierungskontakte genutzt habe, erklärte Kwon rückblickend, das Unternehmen hätte diesen direkteren Weg wählen müssen.
Mitarbeitende hätten die Vorkommnisse fälschlicherweise als rein technische Angelegenheit behandelt. Kwon räumte ein, dass die Reaktion auf den Medicare-Vorfall aus dem Juni nicht gut genug gewesen sei, da die Regierung erst Wochen später über ein allgemeines Postfach in Kenntnis gesetzt wurde.
Das Unternehmen habe daraus Konsequenzen gezogen und wolle künftig Betroffene selbst bei noch unvollständigem Kenntnisstand unmittelbar benachrichtigen. Zudem sprach sich der Strategiechef für verpflichtende Meldungen von KI-Sicherheitsvorfällen aus.
Dimension des unbefugten Datenzugriffs
Nach Angaben von Kwon war der Zugriff auf australische Medicare-Statistikdaten technisch nicht besonders ausgeklügelt. Allerdings räumte er vor dem Ausschuss ein, dass die Reaktion auf Agentenzugriffe auf mindestens fünf australische Bundes- und Landeswebsites unzureichend gewesen sei.
Der unkontrollierte Einsatz von KI-Systemen stellt Unternehmen vor komplexe rechtliche Herausforderungen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über die Anforderungen und Fristen der neuen EU-KI-Verordnung, damit Sie rechtlich auf der sicheren Seite bleiben. EU AI Act in 5 Schritten verstehen
Die internen Agentenprotokolle zu den Vorfällen beliefen sich auf ein Volumen von 50 Petabyte. Weltweit habe OpenAI inzwischen mehr als 100 Organisationen über vergleichbare Vorkommnisse mit fehlgeleiteten Agenten informiert.
Um derartige Risiken künftig einzudämmen, habe OpenAI zusätzliche Schutzmaßnahmen in Trainingsumgebungen integriert sowie Warnmeldungen eingerichtet, falls Modelle während des Trainings unzulässig auf das Internet zugreifen. Für Australien kündigte das Unternehmen die Einrichtung einer Taskforce zu KI-Risiken an, deren Abschluss bis Ende 2026 erwartet wird.
Eigenen Angaben zufolge beanspruchen Sicherheitsmaßnahmen mittlerweile mehr als 10 Prozent der Rechenleistung des Unternehmens, während der Anteil für das Modell-Alignment auf einen niedrigen zweistelligen Prozentsatz gestiegen sei.
Wer sich mit den Risiken moderner Technologien befasst, muss auch die neuen gesetzlichen Pflichten im Blick behalten. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen, um Sanktionen zu vermeiden. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Zur Überprüfung möglicher Fehlanpassungen analysiere das Unternehmen derzeit rund 50 Petabyte an Daten unter Einsatz von etwa 7.000 GPUs, was tägliche Ausgaben von mehr als 500.000 US-Dollar verursache. Vor dem Gremium warb Kwon zugleich für Künstliche Intelligenz als Hilfsmittel zur Stärkung der Cybersicherheit.
Reaktionen weiterer Branchenvertreter und öffentliche Skepsis
Im Rahmen der Ausschussanhörung äußerten sich auch Wettbewerber und Verbände zur Sicherheitslage. Anthropic erklärte vor dem Ausschuss, bei den eigenen Systemen keine vergleichbaren unbefugten Zugriffe auf australische Regierungsdienste festgestellt zu haben, und befürwortete ebenfalls Meldepflichten für schwere Sicherheitsvorfälle.
Google und Microsoft sprachen sich vor den Abgeordneten für grenzüberschreitende Standards sowie eine maßvolle Regulierung aus. Kreativverbände und Rechteinhaber erteilten einer Lockerung des Urheberrechts für das KI-Training eine Absage; sie forderten Zustimmung und Vergütung und stuften das geltende Recht als ausreichend ein.
Kwon konnte vor dem Ausschuss nicht erklären, warum viele Menschen in Australien KI mit Misstrauen begegnen. Eine im September veröffentlichte Umfrage der Minderoo Foundation ergab, dass 70 Prozent der Australier der Ansicht sind, Künstliche Intelligenz entwickle sich zu schnell.
Zudem zeigte eine Erhebung von JWS Research aus dem August, dass 44 Prozent der Befragten in Australien KI primär als Risiko betrachten, während 17 Prozent sie als Chance bewerten. Weitere 28 Prozent zeigten sich zwiegespalten und 10 Prozent unsicher.
