KI-Forscher Daniel Kokotajlo fordert Abschaltung der KI-Entwicklung
Veröffentlicht am: 18.09.2026 um 08:50 Uhr | dts-nachrichtenagentur, AD HOC NEWS
Der frühere OpenAI-Forscher Daniel Kokotajlo fordert einen weitgehenden Stopp der Entwicklung leistungsfähiger Systeme für künstliche Intelligenz. Der heutige Leiter des „AI Futures Project“ im kalifornischen Berkeley kritisiert große US-Techkonzerne scharf für ihren Umgang mit KI-Regulierung.
Kritik an „Safety Washing“ der Konzerne
Kokotajlo wirft Unternehmen wie Anthropic, OpenAI, X und Google vor, mit ihren Vorschlägen zur Regulierung vor allem „safety washing“ zu betreiben, also einen Sicherheitsanstrich ohne ausreichende Substanz. Die Firmen plädierten nach seinen Worten für „ein klein wenig Regulierung, ein paar externe Prüfer“, ohne ernsthaft darüber zu sprechen, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden.
Der Forscher sieht darin ein zentrales Versäumnis: Aus seiner Sicht fokussieren sich die Unternehmen auf äußere Kontrollen, statt die technische Dynamik der eigenen Systeme konsequent zu begrenzen.
Warnung vor übermenschlichen KI-Fähigkeiten
Kokotajlo gilt als einer der renommiertesten Fachleute für die Zukunft der künstlichen Intelligenz und warnt seit Jahren vor existenziellen Risiken der Technologie. Die Techindustrie plane eine weitreichende Automatisierung der KI-Forschung, bei der KI-Systeme selbst an der Entwicklung weiterer Modelle mitwirken. Damit überschreite die Menschheit einen Horizont, ab dem künstliche Intelligenz in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln könne – „vielleicht in jeder Hinsicht“.
Nach seiner Einschätzung ist dies äußerst gefährlich, weil sich das Tempo des Fortschritts dann stark beschleunigt. Wenn eine KI die nächste trainiere, werde es schwieriger, den Überblick zu behalten, und Fehler könnten häufiger unbemerkt bleiben.
Forderung nach massivem staatlichen Eingriff
Als Konsequenz fordert Kokotajlo, die KI-Entwicklung von Unternehmen wie OpenAI oder Anthropic staatlich massiv einzuschränken. „Wir müssen die KI-Entwicklung im Wesentlichen abschalten“, lautet seine zentrale Botschaft. Der Menschheit fehle derzeit „das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden“.
Er plädiert dafür, mit der Entwicklung einer Superintelligenz erst dann fortzufahren, wenn ein sicherer und allgemein vorteilhafter Weg gefunden sei. Dafür seien aus seiner Sicht vollständige Transparenz, eine breitere Machtverteilung und ein technischer „Kill-Switch“ erforderlich, also ein verlässlicher Ausschalter für besonders gefährliche Systeme.
Die Warnung von Daniel Kokotajlo reiht sich ein in eine seit Jahren geführte Debatte über sogenannte „existenzielle Risiken“ hochentwickelter KI-Systeme. Während viele Unternehmen vor allem über Wettbewerbsfähigkeit und Innovationschancen sprechen, stellt Kokotajlo die Frage nach der grundsätzlichen Beherrschbarkeit einer sich selbst beschleunigenden Technologie in den Mittelpunkt.
Hintergrund: Automatisierte KI-Forschung
Kern seiner Kritik ist die geplante Automatisierung der KI-Forschung. Gemeint sind Systeme, die nicht nur Aufgaben erledigen, sondern direkt an der Entwicklung der nächsten KI-Generation mitwirken. Damit würde ein Teil der bisherigen menschlichen Kontrolle durch technische Prozesse ersetzt. In Sicherheitskreisen gilt dies als heikler Schritt, weil Fehler und Fehlanreize sich in solchen Systemen verstärken können, bevor sie entdeckt und korrigiert werden.
Hinzu kommt, dass führende Anbieter wie OpenAI, Anthropic, Google und X zugleich die Regeln mitgestalten wollen, nach denen ihre eigene Technologie begrenzt werden soll. Kokotajlo spricht in diesem Zusammenhang von „safety washing“, also einer Sicherheitsrhetorik, die aus seiner Sicht zu wenig konkrete Bremsen enthält.
Bedeutung für Regulierung und Öffentlichkeit
Für Leserinnen und Leser ist die Debatte relevant, weil sie über die Geschwindigkeit und Richtung der KI-Entwicklung mitentscheidet. Kokotajlos Forderung nach einem faktischen Stopp der besonders leistungsfähigen Systeme zielt auf harte staatliche Eingriffe, etwa Zulassungsbeschränkungen, Transparenzpflichten und technische Abschaltmechanismen für große Modelle. Zugleich macht er deutlich, dass es nicht um ein generelles Verbot aller KI-Anwendungen geht, sondern um die Kontrolle von Systemen mit potentiell übermenschlichen Fähigkeiten.
Die zentrale Konfliktlinie verläuft damit zwischen einem risikobewussten Ansatz, der Innovation vorübergehend begrenzen will, und einem industriefreundlichen Kurs, der vor allem auf inkrementelle Regulierung und freiwillige Prüfstandards setzt. Wie sich diese Linie politisch durchsetzt, wird darüber entscheiden, ob die von Kokotajlo geforderte „Kill-Switch“-Logik Teil künftiger KI-Regeln wird oder nicht.
