UN gründet Expertenrat für globale KI-Kontrolle

Die Vereinten Nationen etablieren ein wissenschaftliches Beratergremium, um KI-Risiken zu bewerten. Dies geschieht vor dem Hintergrund zersplitterter nationaler Regulierung und wachsender Warnungen vor existenziellen Gefahren.

Die Vereinten Nationen schaffen ein wissenschaftliches Gremium, um die Risiken Künstlicher Intelligenz zu bewerten. Die Entscheidung fällt in einer Phase dramatischer Warnungen vor existenziellen KI-Gefahren und zersplitterter nationaler Regulierung.

New York – Mit 117 Ja-Stimmen hat die UN-Vollversammlung die Einsetzung eines 40-köpfigen wissenschaftlichen Beratergremiums beschlossen. Das UN-Expertengremium soll unabhängige Bewertungen zu technologischen, wirtschaftlichen und ethischen Folgen der KI liefern. Generalsekretär António Guterres nannte den Schritt „grundlegend“ für ein globales Verständnis der Technologie, die sich in rasantem Tempo entwickele.

Existenzielle Risiken: Von der Theorie zur politischen Realität

Die Debatte hat eine neue Dringlichkeit erreicht. Das Konzept eines existenziellen KI-Risikos ist aus dem Bereich der Science-Fiction in den politischen Mainstream gewandert. Im Kern steht das „Alignment-Problem“: Können die Ziele übermächtiger KI-Systeme jemals verlässlich mit menschlichen Werten in Einklang gebracht werden?

Eine globale Koalition aus Politik, Wissenschaft und Industrie fordert nun verbindliche „rote Linien“ bis Ende 2026. Auf der Tagesordnung stehen Verbote für tödliche autonome Waffen, Massenüberwachung durch KI und täuschende Mensch-Imitationen. Diese Forderungen werden diese Woche auf dem KI-Gipfel in Indien im Mittelpunkt stehen.

Zersplitterte Regulierung: EU, USA und der Flickenteppich

Während die UN einen globalen Ansatz sucht, schreitet die nationale Regulierung unkoordiniert voran. Die EU geht mit ihrem KI-Gesetz voran, das seit August 2024 in Kraft ist und KI-Systeme nach Risikoklassen einteilt. Seine strengsten Vorgaben werden ab August 2026 voll anwendbar.

Anzeige

Die neue EU‑KI‑Verordnung stellt Entwickler, Anbieter und Anwender vor konkrete Pflichten — Kennzeichnung, Risikoklassen und umfangreiche Dokumentationspflichten. Wer jetzt plant, KI-Systeme zu entwickeln oder einzusetzen, sollte die Übergangsfristen kennen: Ein kompakter, kostenfreier Umsetzungsleitfaden erklärt leicht verständlich, welche Anforderungen gelten und wie Unternehmen die ersten Schritte rechtssicher umsetzen. Kostenlosen Umsetzungsleitfaden zur KI‑Verordnung herunterladen

In den USA herrscht ein regulatorischer Flickenteppich. Bundesstaaten wie Colorado, Kalifornien und Texas führen eigene Gesetze gegen algorithmische Diskriminierung ein. New Yorks RAISE Act von 2025 verpflichtet Entwickler der leistungsstärksten KI-Modelle, kritische Sicherheitsvorfälle binnen 72 Stunden zu melden. Dieser Ansatz wird durch eine jüngste Präsidentenverordnung konterkariert, die einen „minimal belastenden“ nationalen Rahmen schaffen will, um die US-Führungsposition zu wahren.

Industrie unter Druck: Sicherheitsforscher verlassen Labs

Parallel zur Regulierungsdebatte brodelt es in der KI-Industrie. In der vergangenen Woche verließen Sicherheitsforscher der führenden Labs OpenAI und Anthropic ihre Unternehmen. Sie begründeten ihren Schritt mit zunehmenden kommerziellen Druck, der signifikante Risiken in den Hintergrund dränge.

Das öffentliche Vertrauen in KI-Entwickler ist laut Umfragen auf einem Tiefpunkt. In Australien vertrauen nur 23 Prozent der Bevölkerung Tech-Konzernen bei der KI-Sicherheit. Eine Mehrheit fürchtet dabei eine zu lasche, nicht eine zu strenge Regulierung.

Ein Wettlauf gegen die Zeit

Die Gründung des UN-Gremiums ist ein klares Signal für den Bedarf an globaler Koordination. Sie stieß jedoch auf Widerstand der USA, die vor einer Einmischung der UN und einem Einfluss autoritärer Regime auf die Arbeit des Panels warnten.

Experten warnen, dass das Zeitfenster für wirksame Eingriffe schrumpft. Die zentrale Frage lautet: Können Sicherheitsforschung und Regulierung mit der Geschwindigkeit der technologischen Entwicklung Schritt halten? Die Diskussionen in Indien und die ersten Arbeiten des UN-Gremiums werden zeigen, ob die internationale Gemeinschaft einen gemeinsamen Weg findet. Es geht nicht mehr um das Ob, sondern nur noch um das Wie der KI-Regulierung – bevor die Technologie die menschliche Kontrolle überholt.

@ boerse-global.de