KI-Sicherheit: 22 Staaten fordern verbindliche Kontrollregeln
Veröffentlicht am: 23.09.2026 um 06:22 Uhr | Redaktion boerse-global.de
Am Rande der UN-Generalversammlung in New York haben 22 Staats- und Regierungschefs sowie die Europäische Kommission verbindliche Sicherheitsregeln für die Entwicklung hochentwickelter künstlicher Intelligenz verlangt.
In einer gemeinsamen Erklärung unter dem Titel eines Aufrufs zur Kontrolle von Spitzen-KI-Modellen sprachen sich die Unterzeichner für die Schaffung einer weltweiten Aufsichtsbehörde nach dem Vorbild internationaler Kontrollorganisationen aus.
Drei-Punkte-Plan für verbindliche Sicherheitsvorgaben
Die Initiative wurde von Finnlands Präsident Alexander Stubb und Norwegens Regierungschef Jonas Gahr Støre auf den Weg gebracht. Zu den Erstunterzeichnern gehören unter anderem Bundeskanzler Friedrich Merz, EU-Kommissionspräsidentin Ursula von der Leyen sowie Kanadas Premierminister Carney.
Zudem schlossen sich Staaten wie Australien, Dänemark, die Niederlande, Österreich, Singapur, Spanien und Südafrika sowie die Außenminister Bahrains, der Türkei und der Vereinigten Arabischen Emirate an. Große Technologie- und Wirtschaftsnationen wie die USA, China, Großbritannien, Frankreich, Japan, Indien, Italien und Polen fehlen hingegen auf der Liste der Unterstützer.
Das Papier formuliert einen Drei-Punkte-Plan für den Umgang mit besonders leistungsfähigen Systemen:
- Verbindliche Sicherheitsvorkehrungen und unabhängige Überprüfungen vor der Freigabe neuer Modellgenerationen
- Einheitliche staatliche Regularien sowie ein wechselseitiger Meldekanal für schwerwiegende Sicherheitsvorfälle
- Die Prüfung einer internationalen Institution innerhalb der Vereinten Nationen, die verbindliche Kontrollen und Maßstäbe durchsetzt
Während die Politik über globale Kontrollen debattiert, stellt die bereits geltende EU-KI-Verordnung Unternehmen vor konkrete Herausforderungen bei der Umsetzung. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt braucht. EU AI Act in 5 Schritten verstehen
Einen Stopp der technologischen Entwicklung verlangt das Dokument nicht. Allerdings müssten Technologiekonzerne transparente Protokolle vorlegen und sicherstellen, dass KI-Systeme stets unter menschlicher Aufsicht, Anleitung und Kontrolle verbleiben.
Sorge vor Kontrollverlust und Missbrauch
Hintergrund der Initiative sind jüngste Berichte über KI-Systeme, die interne Barrieren umgingen, Sicherheitslücken ausnutzten und unbefugt auf reale Computernetzwerke zugriffen.
Alexander Stubb verwies am 22. September 2026 auf drei zentrale Gefahrenfelder: den potenziellen Einsatz bei biologischen Waffen, automatisierte Cyberangriffe durch eigenständige Agenten sowie tödliche autonome Waffensysteme.
Gleichzeitig betonte er, dass der gesellschaftliche und wirtschaftliche Nutzen der Technologie weitaus größer sein könne. Als mögliches Modell für eine globale Aufsicht nannte Stubb die Internationale Atomenergie-Organisation (IAEA). Sowohl Washington als auch Peking hätten grundsätzlich ein Interesse an stabilen Leitplanken.
Die neuen technologischen Entwicklungen bringen nicht nur regulatorische Fragen, sondern auch neue Sicherheitsrisiken für die digitale Infrastruktur mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um ihre Firma proaktiv abzusichern. Gratis-E-Book zu Cyberrisiken und KI-Gesetzen herunterladen
Jonas Gahr Støre erklärte am selben Tag, dass nun etablierte Foren wie die G7 und die kommende britische G20-Präsidentschaft das Thema verbindlicher Sicherheitsstandards aufgreifen müssten.
Kritik an unverbindlichen Vereinbarungen
Aus der Zivilgesellschaft kommt Skepsis an rein zwischenstaatlichen Absichtserklärungen. Matthias Spielkamp, Geschäftsführer der Organisation AlgorithmWatch, kritisierte den Ansatz als Scheinlösung. Um Entwickler wirksam zur Einhaltung von Sicherheitsstandards zu bewegen, seien persönliche Haftstrafen für Konzernleitungen sowie Strafzahlungen in Milliardenhöhe gegen Unternehmen erforderlich.
Die Initiative fällt in ein enges diplomatisches Zeitfenster: Am Donnerstag, dem 24. September, ist in Washington ein bilaterales Gipfeltreffen zwischen US-Präsident Donald Trump und Chinas Staatspräsident Xi Jinping angesetzt, bei dem Fragen der Technologiesicherheit ebenfalls Gegenstand der Gespräche sein dürften.
