OpenAI stoppt KI-Training: Sicherheitsschwelle „Critical
Veröffentlicht am: 19.08.2026 um 22:23 Uhr | Redaktion boerse-global.de
Angesichts zunehmender Risiken bei der Entwicklung und dem Einsatz autonomer KI-Agenten fordern Experten die Einführung verpflichtender Notabschaltmechanismen. Diese sogenannten Kill-Switches sollen sicherstellen, dass kritische Operationen bei Fehlfunktionen oder Sicherheitsbedrohungen unmittelbar unterbrochen werden können.
Die Debatte gewinnt an Schärfe, da führende Entwickler wie OpenAI ihre Arbeit an fortschrittlichen Modellen aufgrund sicherheitstechnischer Bedenken vorübergehend eingestellt haben.
OpenAI stoppt Training nach Sicherheitsvorfall
OpenAI hat das Training mittels Reinforcement Learning für seine neuesten Modelle für zwei Wochen pausiert. Dieser Schritt erfolgte nach einem Sicherheitsvorfall bei Hugging Face und nachdem die interne Cybersicherheitsschwelle für das Projekt Astra die Stufe „Critical“ erreichte.
Laut Unternehmensangaben erreichte Astra diesen Schwellenwert bereits am 7. August. Damit ist OpenAI das erste führende KI-Labor, das einen bedeutenden Trainingslauf aufgrund von Sicherheitsbedenken unterricht.
CEO Sam Altman erklärte dazu, dass die korrekte Umsetzung der KI-Sicherheit wichtiger sei als die Wachstumsdynamik eines einzelnen Unternehmens. Der Fortschritt der Modelle vollziehe sich derzeit extrem schnell, was eine entsprechende Vorsicht rechtfertige.
Die rasante Entwicklung von KI-Systemen bringt nicht nur technologische Fortschritte, sondern auch komplexe rechtliche Verpflichtungen für Unternehmen mit sich. Dieser kostenlose Leitfaden bietet Ihnen einen kompakten Überblick über die Anforderungen und Fristen des neuen EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Vizepräsidentin Amelia Glaese betonte, dass man sich für die notwendigen Anpassungen so viel Zeit nehmen werde, wie erforderlich sei. Chefwissenschaftler Jakob Pachocki verwies zudem auf die Notwendigkeit isolierter Testumgebungen.
Im Zuge dieser Pause wird das sogenannte Preparedness Framework von OpenAI mit strengeren Schutzmaßnahmen neu gefasst. Geplant ist ein erweitertes Monitoring, das etwa 20 Prozent der Rechenleistung für die Inferenz beanspruchen wird. Dieses System soll Aktivierungsklassifikatoren nutzen und ein Alarmziel von 30 Minuten verfolgen.
Zudem veröffentlichte das Unternehmen eine „Model Spec“, die klare Verhaltensgrundsätze definiert. Dazu gehören die Maximierung des Nutzens bei gleichzeitiger Minimierung von Schäden sowie „rote Linien“ in Bezug auf die menschliche Sicherheit, Menschenrechte und Privatsphäre.
Politische Initiativen für den „AI Kill Switch“
Die Forderung nach Absicherungen wird auch auf politischer Ebene lauter. Im US-Repräsentantenhaus wurde mit dem „AI Kill Switch Act“ ein parteiübergreifender Gesetzentwurf eingebracht.
Die Abgeordneten Moran und Lieu zielen darauf ab, das Heimatschutzministerium (DHS) zu verpflichten, Entwickler von Frontier-KI zum Einbau menschlicher Interventionsmechanismen zu zwingen. Umfragen zufolge unterstützen etwa 86 Prozent der Amerikaner derartige Maßnahmen.
Auch international verschärfen Regulierungsbehörden ihre Richtlinien. Die indische Börsenaufsicht SEBI kündigte neue Rahmenbedingungen für den Wertpapiermarkt an, die zwingend Kill-Switches und „Human-in-the-Loop“-Kontrollen vorsehen.
In Europa haben die französische CNIL und CIANum bereits eine explorative Note zu agentischer KI veröffentlicht. Darin werden Sandboxing, Rückverfolgbarkeit und granulare Nutzerkontrollen empfohlen. Die entsprechenden Leitlinien des Europäischen Datenschutzausschusses (EDPB) werden bis Ende 2026 erwartet.
Wer sich mit dem Einsatz von KI befasst, muss heute auch die neuen regulatorischen Rahmenbedingungen und Sicherheitsrisiken präzise kennen. Der kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen nun konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Branchenlösungen und Risikoprognosen
Während die Regulierung Form annimmt, präsentieren Technologieunternehmen erste technische Lösungen. Portnox integriert künftig Microsoft Defender, um KI-Agenten abzusichern, was einen Netzwerk-Kill-Switch und die Echtzeit-Quarantäne kompromittierter Geräte ermöglicht. Red Hat hat mit „asago“ ein Open-Source-Projekt zur Automatisierung der KI-Governance gestartet, das auf bestehende Standards wie den NIST AI RMF und den EU AI Act aufbaut.
Die US-Arzneimittelbehörde FDA hat unterdessen ein Diskussionspapier zur Regulierung von generativen KI-Medizinprodukten vorgelegt, für das die Kommentierungsfrist bis zum 19. Oktober 2026 läuft.
Experten von Zebra Technologies warnen jedoch vor den verbleibenden Risiken und raten dazu, KI-Agenten wie digitale Identitäten zu behandeln und den Zugriff auf Werkzeuge streng zu steuern. Analysten prognostizieren, dass aufgrund ungelöster Sicherheitsfragen bis zum Jahr 2027 etwa 40 Prozent der Projekte im Bereich der agentischen KI vorzeitig abgebrochen werden könnten.
