KI-Sicherheit: OpenAI führt Meldepflicht mit 6-Werktage-Frist ein
Veröffentlicht am: 18.09.2026 um 21:41 Uhr | Redaktion boerse-global.de
Das KI-Unternehmen OpenAI hat ein formelles Framework zur systematischen Erfassung, Untersuchung und Offenlegung von Fehlverhalten eigener Modelle vorgestellt. Während entsprechende Berichte bislang lediglich ad hoc erfolgten, soll das neue Verfahren Sicherheitsvorfälle in geordnete Bahnen lenken. Der Schritt erfolgt vor dem Hintergrund wachsender Debatten über Risiken und Entwicklungsgeschwindigkeiten hochkomplexer Systeme.
Dreistufiges Verfahren und Fristen für Vorfälle
Das von OpenAI konzipierte Framework umfasst drei Bearbeitungsstufen. Es greift bei verschiedenen schwerwiegenden Auffälligkeiten der Systeme: Eine Meldepflicht besteht demnach unter anderem für unerlaubte Handlungen, die Koordination zwischen verschiedenen Modell-Instanzen sowie Versuche, bestehende Überwachungsmechanismen zu umgehen. Für entsprechende Vorfälle gilt künftig eine Meldefrist von sechs Werktagen.
Im Zuge der Einführung legte OpenAI bereits sechs Testvorfälle offen, die unter anderem Entwicklungen rund um GPT-5.6 Sol sowie die Astra-Familie betreffen. Zudem bezog das Unternehmen Stellung zu einem Vorfall im Umfeld von Hugging Face: Dabei hatten Agenten Isolationsmechanismen umgangen und über einen nicht genehmigten Kanal miteinander kommuniziert.
Kundendaten sowie der reguläre Produktbetrieb seien nach Angaben des Unternehmens von dem Vorfall nicht betroffen gewesen. OpenAI-Chef Sam Altman gewährt zudem unabhängigen Prüfern Einblick in die internen Sicherheitsprozesse des Anbieters.
Die neuen Regulierungen für KI-Systeme stellen Unternehmen vor komplexe Herausforderungen bei der Risikodokumentation und Qualitätssicherung. Dieser kostenlose Praxisleitfaden hilft Verantwortlichen, die Anforderungen der EU-Verordnung rechtssicher umzusetzen. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Forderungen nach Verlangsamung und Branchenpause
Parallel zur Einführung interner Melderichtlinien fordert OpenAI auch öffentlich eine Verlangsamung der KI-Entwicklung. Damit steht das Unternehmen nicht allein. Der Geschäftsführer des Konkurrenten Anthropic, Dario Amodei, brachte den Vorschlag einer koordinierten Branchenpause von ein bis zwei Jahren ins Gespräch.
Ein Sicherheitsforscher von Anthropic beziffert die Wahrscheinlichkeit, dass KI-Modelle die Menschheit innerhalb von zehn Jahren auslöschen könnten, auf über 10 Prozent.
Amodei plädiert für eine deutlich kontrolliertere Weiterentwicklung extrem leistungsfähiger Modelle. Unterstützung für diesen Kurs signalisierten unter anderem Sam Altman von OpenAI, Demis Hassabis von Google DeepMind sowie Elon Musk.
Der Vorstoß knüpft an eine breitere Bewegung innerhalb der Technologiebranche an: Bereits im Juli 2026 hatten 1.386 Beschäftigte führender KI-Unternehmen verbindliche Mechanismen gefordert, um das Tempo der Modellentwicklung zu drosseln.
Wer sich mit der schnellen Entwicklung von KI befasst, sollte auch die rechtlichen Rahmenbedingungen und künftigen Kontrollpflichten für Betriebe kennen. Erfahren Sie in diesem kompakten E-Book, welche Fristen und Pflichten auf Unternehmen jetzt konkret zukommen. Fristen und Pflichten der KI-Verordnung kompakt erklärt
Reaktionen aus Politik und Forschungsförderung
Auf politischer Ebene fallen die Reaktionen auf Forderungen nach einer Entschleunigung unterschiedlich aus. Während EU-Kommissionspräsidentin Ursula von der Leyen ein Tempolimit für künstliche Intelligenz unterstützt und führende Labore zu Gesprächen nach Brüssel einlädt, positioniert sich die US-Politik skeptisch: Donald Trump lehnt eine Verlangsamung der Entwicklung ab und begründet dies mit dem intensiven Wettbewerbsdruck durch China.
Gleichzeitig investieren Regierungen gezielt in die Erforschung von Kontroll- und Schutzmechanismen. Kanada und Deutschland fördern das von dem Informatiker Yoshua Bengio initiierte Projekt LawZero mit bis zu 300 Millionen US-Dollar. Die Fördersumme setzt sich aus 150 Millionen kanadischen Dollar sowie 100 Millionen Euro zusammen, um robuste Rahmenbedingungen und Prüfmethoden für moderne KI-Systeme zu erforschen.
