KI-Sicherheit: OpenAI, Anthropic und Google gründen Selbstregulator
Veröffentlicht am: 16.09.2026 um 05:43 Uhr | Redaktion boerse-global.de
OpenAI, Anthropic und Google DeepMind führen Gespräche über die Gründung eines gemeinsamen, selbstregulierenden Gremiums für Sicherheitsstandards in der künstlichen Intelligenz. Als organisatorisches Vorbild dient die US-Finanzaufsichtsbehörde FINRA.
Laut dem Politikchef von OpenAI, Chris Lehane, laufen die Verhandlungen bereits seit mehreren Wochen. Lehane betonte am 15. September 2026, es sei vorzuziehen, Sicherheitsfragen branchenweit gemeinsam zu priorisieren. Derartige industriegeführte Standards sollten unabhängig von Entscheidungen der US-Regierung etabliert werden können.
Geplante Kontrollmechanismen und rechtlicher Rahmen
Die Gespräche zielen auf die Überwachung von Modellaktivitäten sowie verbindliche Meldewege bei schweren Vorfällen ab. Vorgesehen sind unter anderem Prüfpunkte und Vorgaben für sogenannte Frontier-Modelle. Eigene polizeiliche Durchsetzungsbefugnisse soll die neue Organisation nicht erhalten, stattdessen sollen die Branchenregeln bestehende staatliche Pflichten auf Bundesebene ergänzen.
OpenAI erklärte sich zu einer rein freiwilligen Initiative bereit, falls behördliche Vorgaben ausbleiben. Parallel dazu spricht sich das Unternehmen für den FRONTIER Act aus, der eine unabhängige Verifikation vorsieht.
Ein Antitrust-Waiver, also eine kartellrechtliche Ausnahmegenehmigung, sei für die laufenden Verhandlungen nicht erforderlich. Die Initiative baut auf dem bereits bestehenden Frontier Model Forum auf, geht jedoch über bisherige Formate hinaus.
Während führende Tech-Konzerne über künftige Sicherheitsstandards debattieren, schafft die EU mit dem AI Act bereits jetzt verbindliche Fakten für alle Unternehmen. Dieser kostenlose Umsetzungsleitfaden hilft Ihnen, Risikoklassen und Dokumentationspflichten frühzeitig zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Den Anstoß zu den aktuellen Verhandlungen gab ein Vorschlag des Leiters von Google DeepMind, Demis Hassabis, aus dem Juli 2026, eine US-Standardisierungsstelle nach Vorbild der FINRA aufzubauen. Bislang herrscht unter den beteiligten Unternehmen allerdings noch kein vollständiger Konsens über die Ausgestaltung.
Uneinigkeit über Regulierung und Tempo
Die Verhandlungen folgen auf eine breite Debatte über die Entwicklungsgeschwindigkeit von Spitzenmodellen. Am 12. September 2026 forderte der Vorstandsvorsitzende von Anthropic, Dario Amodei, in einem Essay eine Verlangsamung der KI-Entwicklung.
Diese Haltung stieß bei Sam Altman von OpenAI und Demis Hassabis auf Zustimmung. Ergänzend kündigte Altman am 14. September 2026 den Einsatz externer Gutachter an, die künftig Zugang wie interne Beschäftigte erhalten sollen.
Wer sich mit der Einführung neuer KI-Modelle und deren Regulierung befasst, muss neben Sicherheitsstandards auch die gesetzlichen Kennzeichnungspflichten kennen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Compliance in Ihrem Unternehmen sicherstellen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Aus anderen Teilen der Wirtschaft und Politik regt sich jedoch scharfer Widerspruch. Am 13. September 2026 warf der Chef des KI-Unternehmens Cohere, Gomez, den Verhandlungspartnern Kartellbildung vor.
Am 14. September 2026 sprach sich zudem Nvidia-Chef Jensen Huang gegen ein gebremstes Entwicklungstempo aus. US-Präsident Donald Trump wies am selben Tag Warnungen vor KI-Risiken zurück und lehnte eine Verlangsamung ab, um den technologischen Vorsprung gegenüber China nicht zu gefährden.
Auch frühere Mitarbeiter der beteiligten Konzerne äußerten Bedenken: Am 14. September 2026 warnte der ehemalige Anthropic-Mitarbeiter Coxon vor der Initiative, während der frühere DeepMind-Forscher Chughtai ebenfalls Einwände anmeldete. Zudem bezeichnete Andrew Ferguson von der US-Handelskommission FTC Rufe nach kartellrechtlichen Ausnahmen als verdächtig.
Mehr zum Thema bei TechCrunch: „OpenAI, Anthropic, Google have been in talks on AI safety for weeks“
