OpenAI-Chef warnt vor Superintelligenz in wenigen Jahren

Sam Altman warnt vor einer Governance-Notlage durch übermenschliche KI und schlägt eine internationale Kontrollbehörde zur Risikosteuerung vor.

Sam Altman fordert eine globale Aufsichtsbehörde nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEO). Der OpenAI-Chef sieht eine akute „Governance-Notlage“ auf die Welt zukommen.

Neu-Delhi – Die Entwicklung einer übermenschlichen Künstlichen Intelligenz (KI) könnte bereits in wenigen Jahren Realität werden. Das ist die drastische Warnung von Sam Altman, CEO des ChatGPT-Entwicklers OpenAI. Auf dem India AI Impact Summit forderte er diese Woche die sofortige Gründung einer internationalen Kontrollinstanz. Nur so ließen sich die existenziellen Risiken dieser Technologie managen.

Altman skizzierte einen dramatischen Zeitplan: Bis Ende 2028 könnten Rechenzentren weltweit mehr intellektuelle Kapazität bündeln als die gesamte Menschheit. Diese Konzentration von Intelligenz stelle die globale Sicherheit und die Gesellschaftsordnung vor nie dagewesene Herausforderungen. Seine Appelle in Neu-Delhi markieren den bisher dringlichsten öffentlichen Handlungsaufruf des Tech-Pioniers.

Ein „IAEO für KI“ als globale Lösung

Im Zentrum von Altmans Forderungen steht eine konkrete Idee: eine weltweite Aufsichtsbehörde, die sich an der Internationalen Atomenergie-Organisation orientiert. Eine solche „IAEO für KI“ müsse die Befugnis haben, fortgeschrittene KI-Entwicklungen über Ländergrenzen hinweg zu inspizieren und zu koordinieren.

Anzeige

Wer sich jetzt auf die neue Regulierung zur Künstlichen Intelligenz vorbereiten möchte, findet in einem kostenlosen Umsetzungsleitfaden kompakte Informationen zu Pflichten, Risikoklassen und Übergangsfristen. Der Guide richtet sich an Unternehmen, Entwickler und Anbieter von KI-Systemen in der EU und erklärt praxisnah, was jetzt zu tun ist. Jetzt kostenlosen Leitfaden zur KI‑Verordnung herunterladen

Nötig sei dies, um auf die größten Gefahren reagieren zu können. Dazu zählt Altman den Missbrauch superintelligenter Systeme durch autoritäre Regime zur Unterdrückung der Bevölkerung. Ebenso alarmierend sind ihm zufolge KI-gestützte Kriegsführung und die katastrophale Möglichkeit, dass frei verfügbare Biomodelle zur Erzeugung neuartiger Krankheitserreger genutzt werden. Klare Handlungsrahmen für solche Szenarien fehlten bisher völlig.

Der schmale Grat zwischen Demokratisierung und Kontrolle

Trotz der strengen Sicherheitsforderungen plädiert Altman gleichzeitig für eine breite Verteilung der KI-Technologie. Die Demokratisierung der KI sei der sicherste Weg, um das Gedeihen der Menschheit zu gewährleisten. Eine Zentralisierung dieser Macht in einem einzigen Unternehmen oder Land könne dagegen „in den Ruin führen“.

Diese Philosophie liegt auch OpenAIs Strategie der schrittweisen Veröffentlichung zugrunde. Immer leistungsfähigere Modelle werden der Öffentlichkeit zugänglich gemacht, damit Gesellschaft, Politik und Institutionen mit der Technologie ko-evolvieren können. Dieser Ansatz birgt jedoch eigene Gefahren. Altman räumt ein, dass der breite Zugang zu mächtigen KI-Werkzeugen neue Governance-Mechanismen erfordert – etwa um fairen Zugang zu der benötigten, enormen Rechenleistung zu gewährleisten.

Wirtschaftschaos und das Problem des „AI-Washings“

Die wirtschaftlichen Folgen der KI sind unausweichlich, so Altman. Die echten Auswirkungen auf den Arbeitsmarkt würden in den kommenden Jahren „spürbar“ werden. Langfristig bleibt er optimistisch: Wie bei früheren technologischen Revolutionen würden letztlich neue und bessere Jobs entstehen. KI habe zudem das Potenzial, die Kosten für viele Güter und Dienstleistungen deutlich zu senken und so das Wirtschaftswachstum zu beschleunigen.

Gleichzeitig warnt er vor einem Trend, den er als „AI-Washing“ bezeichnet: Einige Unternehmen schöben Kündigungen fälschlicherweise der Künstlichen Intelligenz in die Schuhe, obwohl diese auch ohne KI erfolgt wären. Diese Unterscheidung werde immer schwieriger, je stärker KI in die Wirtschaft integriert wird.

Ein Wettlauf gegen die Zeit

Altmans Vorhersagen und Vorschläge kommen zu einem entscheidenden Zeitpunkt. Die rasanten Fortschritte bei generativer KI haben ein weltweites Wettrennen um die technologische Vorherrschaft ausgelöst – begleitet von wachsender Besorgnis bei Forschern und Regierungen. Sein Ruf nach einer internationalen Aufsicht spiegelt ähnliche Forderungen wider, hat aber besonderes Gewicht, da er vom Kopf eines der führenden KI-Labore kommt.

Trotz aller drastischen Warnungen mahnte Altman in Indien auch zur Demut. Die Zukunft der KI werde sich nicht genau so entfalten, wie es irgendjemand vorhersage. Angesichts einer so mächtigen Technologie sei es entscheidend, die großen Unbekannten anzuerkennen. Die nächsten Jahre werden seiner Ansicht nach zu einem kritischen Test für die globale Gesellschaft. Sie muss sich entscheiden, ob sie die immense Macht der KI konzentrieren oder die Menschen breit befähigen will. Dieser Weg bestimme eine Zukunft, die viel schneller da sei, als viele erwarten.