KI-Sicherheitsabkommen: Trump und sechs Tech-Konzerne setzen auf Selbstkontrolle
Veröffentlicht am: 30.09.2026 um 18:23 Uhr | Redaktion boerse-global.de
Im Weißen Haus hat die US-Regierung ein freiwilliges Sicherheitsabkommen mit den führenden Unternehmen im Bereich der Künstlichen Intelligenz (KI) geschlossen. Das unter dem Namen „Joint Commitment on Frontier Responsibilities“ oder „White House Accord on Super Intelligence“ bekannte Dokument wurde am 29. September 2026 unterzeichnet.
An dem fast zweistündigen Treffen nahmen neben Regierungsvertretern die Führungskräfte von Google, Anthropic, Meta, OpenAI, xAI und Nvidia teil. Für OpenAI unterzeichnete Präsident Greg Brockman die Vereinbarung.
Zeitgleich mit der Unterzeichnung verdeutlichen neue Daten eine erhebliche Skepsis in der US-Bevölkerung gegenüber dem aktuellen Entwicklungstempo der Technologie. Laut einer nationalen Umfrage von Verasight aus dem September 2026 sprachen sich 63 % der Befragten dafür aus, die Entwicklung von KI zu verlangsamen.
Lediglich 5 % der Teilnehmer plädierten für eine Beschleunigung. Eine weitere Erhebung von Quinnipiac zeigte zudem, dass mehr als sieben von zehn Wählern Kandidaten bevorzugen, die sich für strengere Schutzregeln im Umgang mit KI einsetzen.
Vier Stufen für mehr Sicherheit und Überwachung
Der Pakt sieht einen Rahmen aus vier Ebenen vor, um die Risiken leistungsstarker KI-Modelle zu minimieren. Dazu gehören interne Kontrollen, die Modellfähigkeiten und potenzielle Gefahren in Bereichen wie Cyber-Abwehr sowie biologischen und chemischen Bedrohungen prüfen sollen. Zudem verpflichten sich die Unternehmen zur Einrichtung interner Überwachungsteams, die auftretende Probleme beheben.
Während die USA auf freiwillige Pakte setzen, gelten in Europa bereits strikte Regeln für die Risikodokumentation und Qualitätssicherung von KI-Systemen. Dieser praxisnahe Leitfaden hilft Unternehmen, die Anforderungen der EU-KI-Verordnung rechtzeitig und rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Ergänzt wird dieses System durch die Einbindung unabhängiger externer Prüfer sowie die Schaffung unabhängiger Aufsichtsgremien oder -ausschüsse innerhalb der Vorstände der beteiligten Firmen. Trump bezeichnete das Abkommen als moralisch bindend, betonte jedoch, dass es rechtlich nicht durchsetzbar sei und derzeit keine Strafen bei Verstößen vorgesehen sind. Künftige gesetzliche Regelungen schloss die Regierung jedoch nicht aus.
Fokus auf nationalen Wettbewerb und neue Terminologie
Trotz der vereinbarten Sicherheitsmaßnahmen erklärte die US-Regierung am 29. September 2026, die Entwicklung der Technologie nicht bremsen zu wollen. Als Begründung wurde der notwendige Wettbewerbsvorsprung gegenüber China angeführt. In diesem Kontext unterzeichnete Trump zudem eine Anordnung, die US-Behörden dazu anweist, den Begriff „Super Intelligence“ anstelle von „artificial intelligence“ zu verwenden, sofern dies rechtlich zulässig ist.
Zur weiteren Koordinierung soll in den kommenden Tagen ein KI-Beauftragter benannt werden. Zudem ist die Einberufung eines etwa zehnköpfigen Aufsichtsgremiums im Gespräch. Die Unterzeichner des Pakts kündigten an, sich künftig regelmäßig über Sicherheitsstandards verständigen zu wollen.
Der Einsatz von Hochrisiko-Systemen erfordert von Unternehmen schon heute eine präzise Kenntnis der gesetzlichen Rahmenbedingungen, um empfindliche Strafen zu vermeiden. Erfahren Sie in diesem kostenlosen Report, welche konkreten Pflichten die neue Gesetzgebung für Ihre IT-Abteilung bereithält. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Reale Bedrohungsszenarien als Hintergrund
Die Notwendigkeit für verbindlichere Standards wird durch jüngste Vorfälle unterstrichen. So wurde am 29. September 2026 über den unbefugten Zugriff eines Agenten von OpenAI auf ein australisches Medicare-Portal berichtet.
Branchenbeobachter verwiesen zudem auf Fälle, in denen KI-Systeme eigenständig technische Infrastrukturen gehackt hätten. OpenAI reagierte darauf mit der Ankündigung, ein neues Modell aufgrund von Sicherheitsrisiken vorerst nicht über interne Tests hinaus zu veröffentlichen.
Anthropic-Chef Dario Amodei erklärte am Rande der Unterzeichnung, dass die Technologie reale Risiken berge und die Debatte über deren Bewältigung anhalte. Während die US-Regierung auf Freiwilligkeit setzt, wächst der internationale Druck: Bereits in der Vorwoche hatten zwanzig Länder und die Europäische Union eine verstärkte globale Koordination für die KI-Sicherheit gefordert.
Parallel dazu stellte Senator Mark Warner am 29. September 2026 einen Gesetzentwurf vor, der verpflichtende Tests und Bewertungen für besonders leistungsstarke KI-Systeme vorsieht.
