Anthropic fordert globalen KI-Stopp: Branche habe Bremse verloren

Anthropic warnt vor Kontrollverlust durch rekursive Selbstverbesserung und fordert einen koordinierten globalen Entwicklungsstopp für KI.

Der KI-Entwickler Anthropic hat einen koordinierten und überprüfbaren globalen Stopp bei der Entwicklung fortschrittlicher KI-Systeme gefordert. Das Unternehmen warnte am Samstag, die Branche besitze derzeit zwar einen Beschleuniger, aber keine funktionierende Bremse. Die Gefahr, dass Menschen die Kontrolle über die Technologie verlieren, steige rasant.

Wenn Maschinen sich selbst verbessern

Das Hauptproblem: die sogenannte rekursive Selbstverbesserung. Dabei beginnen KI-Systeme, ihre eigenen Nachfolger zu entwerfen und zu optimieren. Dieser Prozess ist laut Anthropic intern bereits in vollem Gange. Bereits im Mai 2024 schrieb das KI-Modell Claude mehr als 80 Prozent des unternehmenseigenen Codes.

Anzeige: Wer die Gefahr rekursiver Selbstverbesserung für sein Unternehmen ernst nimmt, findet in diesem Report die fünf wichtigsten Frühwarnsignale – plus einen Compliance-Leitfaden für die sichere KI-Integration. Jetzt kostenlosen Report anfordern

Die Produktivität ist explodiert: Ingenieure liefern heute achtmal mehr Code pro Quartal als im Durchschnitt der Jahre 2021 bis 2025. Die Komplexität der Aufgaben, die die KI bewältigen kann, verdoppelt sich alle vier Monate. Das aktuelle Modell Claude Opus 4.6 erledigt bereits zwölfstündige Aufgaben autonom. Eine Vorschau des Mythos-Modells schafft sogar über 16 Stunden.

„Ein einseitiger Stopp durch ein einzelnes Unternehmen wäre wirkungslos“, erklärten Anthropic-Mitgründer Jack Clark und Forscherin Marina Favaro. Nötig sei ein koordinierter Rahmen, um Zeit für kritische Sicherheitsforschung zu gewinnen. Die bestehenden Institutionen könnten mit dem aktuellen Tempo nicht mithalten.

Uneinigkeit in der Branche

Die Reaktionen auf den Pausenvorschlag fallen gemischt aus. OpenAI argumentiert, die Verantwortung für solche Beschränkungen liege bei demokratischen Regierungen, nicht bei einzelnen Konzernen. In den USA gibt es bereits eine entsprechende Anordnung, die freiwillige Cybersicherheitstests für KI-Modelle vor der Veröffentlichung vorschreibt.

Auch aus der Wissenschaft kommt Skepsis. Mehr als 150 Mathematiker unterzeichneten die Leidener Erklärung zu KI und Mathematik. Sie warnen vor übertriebenen Behauptungen der Industrie – und widersprechen explizit OpenAIs Behauptung, die Technologie habe das 80 Jahre alte Erd?s-Problem gelöst. Kommerzielle Interessen führten zu übertriebenen Versprechungen, so die Kritik.

Andere Branchengrößen erwarten dagegen eine weitere Beschleunigung. Google DeepMind-CEO Demis Hassabis prophezeit, dass künstliche allgemeine Intelligenz (AGI) bereits 2030 kommen könnte. Dies würde zu dauerhaften gesellschaftlichen Veränderungen und massiven wirtschaftlichen Verwerfungen führen.

Arbeitsmarkt und geopolitische Folgen

Die Automatisierungswelle zeichnet sich bereits ab. Anthropic schätzt, dass die Automatisierung von bis zu 50 Prozent der Einstiegspositionen zu Arbeitslosenquoten von 10 bis 20 Prozent führen könnte.

Geopolitisch schlägt Japans Digitalminister Hisashi Matsumoto Alarm. Sein Land drohe Opfer eines „KI-Kolonialismus“ zu werden, wenn es nicht schnell eigene Fähigkeiten aufbaue. Matsumoto verteidigte bereits Gesetzesänderungen, die das Training von KI-Modellen mit medizinischen und strafrechtlichen Daten ohne individuelle Einwilligung erlauben.

Anzeige: Bis zu 50% der Einstiegspositionen könnten automatisiert werden – mit Arbeitslosenquoten von 10–20%. Dieser Report zeigt, wie Sie Ihre Belegschaft strategisch umschulen und Ihre IT-Infrastruktur gegen KI-Risiken wappnen. Arbeitsmarktstrategie jetzt sichern

Doch die Entwicklung hat ihren Preis. Branchenbeobachter warnen: KI-Rechenzentren könnten bis 2030 ganze 17 Prozent des US-Stromverbrauchs verschlingen. Forscher der University of Toronto zeigten zudem einen KI-gesteuerten Wurm, der eigenständig Hacking-Strategien anpassen kann – ein weiteres Sicherheitsrisiko.

Milliardenschwere Warnung

Trotz ihrer Forderung nach einer Entwicklungspause bleibt Anthropic ein Finanzriese. Das Unternehmen wird auf rund 965 Milliarden Euro geschätzt und nähert sich der Billionengrenze. Ein vertraulicher Börsengang wurde bereits beantragt. Der Konzern balanciert damit seine Rolle als führender Entwickler mit seinem Einsatz für branchenweite Sicherheitsregeln – ein Spagat, der spannend bleiben dürfte.