KI-Kontrolle: 20 Staaten fordern weltweite Aufsicht ohne USA und China
Veröffentlicht am: 22.09.2026 um 07:43 Uhr | Redaktion boerse-global.de
Am Rande der 81. UN-Generalversammlung in New York haben rund 20 Staaten eine gemeinsame Erklärung verabschiedet, um fortgeschrittene Künstliche Intelligenz unter menschlicher Kontrolle zu halten. Die Initiative, die von Finnland und Norwegen angeführt wird, zielt auf die Schaffung eines verbindlichen weltweiten Aufsichtsrahmens ab.
Zu den Unterzeichnern gehören unter anderem Deutschland, Kanada, Australien, Spanien, die Niederlande, Singapur, Südafrika, Kenia, die Vereinigten Arabischen Emirate und die Türkei sowie EU-Kommissionspräsidentin Ursula von der Leyen.
Kernforderungen an Sicherheitsstandards und Kontrollen
Die Vereinbarung verlangt konkrete Kontrollmechanismen für moderne KI-Systeme. Vorgesehen sind verpflichtende Sicherheitstests vor der Veröffentlichung neuer Modelle sowie transparente Sicherheitsprotokolle.
Zudem fordern die Staaten unabhängige Evaluierungen, bei denen qualifizierten Prüfern ein ausreichender Zugang gewährt werden muss, einheitliche Standards sowie die koordinierte Meldung schwerwiegender Sicherheitsvorfälle. Die Erklärung verweist in diesem Zusammenhang auch auf Cyberangriffe außer Kontrolle geratener KI-Agenten auf die Plattform Hugging Face.
Wer sich mit den neuen Sicherheitsstandards befasst, benötigt einen klaren Überblick über die rechtlichen Rahmenbedingungen für moderne KI-Systeme. Dieser kostenlose Download verschafft Ihnen die Übersicht, die Ihre Rechts- und IT-Abteilung für die Einhaltung neuer Vorschriften jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Einen Entwicklungsstopp oder eine Verlangsamung der Forschung strebt die Allianz ausdrücklich nicht an. Stattdessen verlangt das Dokument die Prüfung einer neuen internationalen Institution innerhalb des UN-Systems. Diese soll Standards setzen, Verifikationen ermöglichen und einschreiten oder die Staaten zusammenrufen, sobald technologische Fähigkeitsschwellen überschritten werden.
Finnlands Präsident Alexander Stubb brachte hierfür ein Modell nach dem Vorbild der Internationalen Atomenergie-Organisation ins Gespräch. Er betonte, dass Kooperation der richtige Weg sei, um Schutzmechanismen zu etablieren. Norwegens Premierminister Jonas Gahr Støre regte an, dass die G7 sowie die künftige britische G20-Präsidentschaft das Thema weiterverfolgen sollten.
Schwergewichte fehlen unter den Unterzeichnern
Bislang tragen die führenden KI-Nationen die Initiative nicht mit. Weder die USA noch China oder Großbritannien haben das Dokument unterzeichnet; auch Frankreich, Japan und Indien schlossen sich vorerst nicht an. Das Abkommen bleibt jedoch für weitere Partner offen. Laut dem UN-Generalsekretär gilt unkontrollierte KI als eines von drei existenziellen Risiken für die Menschheit.
Während die internationale Politik über Kontrollmechanismen debattiert, stellt die neue EU-KI-Verordnung Unternehmen bereits heute vor konkrete Aufgaben bei der Risikodokumentation. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Die Erklärung fiel zeitlich mit weiteren diplomatischen und wirtschaftlichen Vorstößen zusammen. Im Vorfeld eines Gipfeltreffens zwischen Donald Trump und Xi Jinping im Weißen Haus hatten Regierungsvertreter beider Länder am 20. September 2026 über Kommunikationskanäle beraten.
US-Finanzminister Scott Bessent erklärte, Washington und Peking planten ein Warnsystem für sicherheitsrelevante KI-Vorfälle. Trump selbst betonte auf Truth Social, die USA lägen vor China und müssten diesen Vorsprung wahren; eine Drosselung der Entwicklung lehne seine Administration ab, da Peking davon profitieren würde.
Parallel dazu forderte das Unternehmen OpenAI in einem Blogbeitrag, die USA sollten internationale technische Standards für hochentwickelte KI anführen. Für den 23. September 2026 ist zudem ein Briefing von OpenAI-Chef Sam Altman vor dem UN-Sicherheitsrat unter Leitung des französischen Außenministers Jean-Noël Barrot angesetzt.
