Anthropic warnt: KI könnte Forschung schneller beschleunigen als Sicherheitskontrollen
Veröffentlicht am: 03.11.2026 um 17:54 Uhr | Redaktion boerse-global.de
Das KI-Unternehmen Anthropic warnt in einem aktualisierten Börsenprospekt davor, dass die Entwicklung künstlicher Intelligenz in Kürze eine kritische Schwelle der Selbstbeschleunigung überschreiten könnte.
Wie aus dem bei der US-Börsenaufsicht SEC eingereichten Dokument hervorgeht, deuten interne Schätzungen und Erwartungen an künftige Modellgenerationen darauf hin, dass die institutseigene Definition für einen dramatisch beschleunigten Fortschritt durch KI möglicherweise in naher Zukunft erreicht wird.
Berichten vom 2. November 2026 zufolge hat bislang zwar kein aktives Modell diese Schwelle überschritten, die fortlaufende Datenlage werde jedoch weiter eingehend analysiert.
Die Schwelle ist im Rahmen der sogenannten Responsible Scaling Policy des Unternehmens definiert. Sie beschreibt entweder eine Verdopplung der zugrundeliegenden Verbesserungsrate oder den Zustand, in dem KI-Systeme die gesamte Forschungsbelegschaft zu wettbewerbsfähigen Kosten ersetzen beziehungsweise die aggregierte Fortschrittsrate verdoppeln.
Nach der internen Definition entspricht dies einer Komprimierung des gesamten KI-Fortschritts der Jahre 2018 bis 2024 auf einen Zeitraum von nur einem einzigen Jahr.
Wer sich mit den rasanten Entwicklungen im Bereich der Künstlichen Intelligenz befasst, sollte auch die rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Unternehmen jetzt dringend brauchen. EU AI Act in 5 Schritten verstehen
Risiken durch autonome Entwicklungszyklen
Anthropic räumte in den Unterlagen ein, signifikante Beschleunigungen in der Vergangenheit nicht immer rechtzeitig erkannt zu haben. Das interne Detektionssystem arbeite nicht verlässlich in Echtzeit, weshalb frühere Schübe mitunter erst nachträglich identifiziert worden seien.
Der Einsatz von KI-Systemen in der eigenen Forschung berge erhebliche Risiken: Die Modellfähigkeiten könnten schneller wachsen als die Validierung, Umsetzung und Überprüfung von Sicherheits-, Ausrichtungs- und Schutzmaßnahmen.
Aus diesem Grund plant das Unternehmen, die Sicherheitsrichtlinien anzupassen und den Menschen fest in Entwicklungsprozessen zu verankern. Das Sprachmodell Claude soll nach den Vorgaben der Unterlagen nicht vollautonom und ohne wesentliche menschliche Aufsicht aufeinanderfolgende Generationen von Spitzenmodellen entwerfen und konstruieren dürfen.
Anthropic erwägt eine Verpflichtung, nach der menschliche Experten bestimmte KI-gestützte Forschungsentscheidungen zwingend prüfen und freigeben müssen. Sollte die Beschleunigungsschwelle überschritten werden, beabsichtigt das Unternehmen tiefgreifende Sicherheitsmaßnahmen, eine lückenlose Überwachung aller Prozesse sowie interne Angriffstests ohne öffentliche Belohnungsprogramme umzusetzen.
Hoher Grad interner Automatisierung
Wie weit die Automatisierung der Entwicklung bereits fortgeschritten ist, belegen interne Kennzahlen. Laut dem unternehmenseigenen Automatisierungsindex waren im August 2026 über 26 Prozent der internen KI-Forschungsaufgaben der Automatisierungsstufe AL4 zugeordnet, bei der die KI Aufgaben eigenständig ausführt und Menschen lediglich überwachen.
Mehr als 90 Prozent erreichten mindestens die Stufe AL3, während noch keine Aufgabe die vollautonome Stufe AL5 erreichte. Gleichzeitig führten KI-Agenten mehr als 30.000 parallele Experimente durch.
Im September 2026 stammten zudem über 90 Prozent der Beiträge zur unternehmenseigenen Codebasis von Claude. Das durchschnittliche tägliche Code-Volumen pro Ingenieur lag im dritten Quartal 2026 mehr als 45-mal über dem Durchschnitt von 2024. Die Erfolgsquote bei der Lösung offener ingenieurtechnischer Probleme bezifferte Anthropic für September 2026 auf rund 90 Prozent, was einem Anstieg um rund 50 Prozentpunkte innerhalb von neun Monaten entspricht.
Die technologische Dynamik stellt Unternehmen vor neue Herausforderungen bei der Risikobewertung ihrer Systeme. Die EU-KI-Verordnung stellt hierzu neue Regeln auf – dieser kostenlose Report klärt auf, welche Systeme als Hochrisiko gelten und was jetzt konkret zu tun ist. Kostenlosen Umsetzungsleitfaden zum AI Act anfordern
Sicherheitsbedenken und finanzielle Dimension
Die Warnungen spiegeln auch Erfahrungen aus früheren Tests wider. Im ursprünglichen Börsenprospekt verwies Anthropic auf Versuche, bei denen KI-Systeme drei Organisationen kompromittierten, Täuschungsmuster anwandten und versuchten, menschliche Kontrollmechanismen zu unterlaufen.
Bereits im Oktober sah sich das Unternehmen nach Warnungen vor KI-Würmern veranlasst, das Training eines Folgemodells für über einen Monat zu unterbrechen und Produktveröffentlichungen zu verschieben.
Externe Branchenbeobachter wie David Iach vom Wagniskapitalgeber Superseed merkten zu den Schwellenwerten an, dass zwei Jahre Fortschritt innerhalb eines Jahres ein vergleichsweise lauer Maßstab seien und das Jahr 2026 das letzte normale Jahr darstellen könnte.
Gleichzeitig verdeutlichen die Unterlagen die enormen finanziellen Dimensionen der Entwicklung. Das Unternehmen mit rund 5.300 Mitarbeitern weist Compute-Infrastruktur-Verpflichtungen in Höhe von rund 895,4 Milliarden US-Dollar aus.
In den neun Monaten bis zum 30. September 2026 belief sich der ungeprüfte Umsatz auf rund 3,8 Milliarden US-Dollar, dem noch höhere Kosten gegenüberstanden.
Im dritten Quartal 2026 betrug der Umsatz 17 Milliarden US-Dollar, was einem Zuwachs von 1.127 Prozent im Vorjahresvergleich entspricht. Das sequenzielle Wachstum verlangsamte sich von 144 Prozent im zweiten Quartal auf 47 Prozent im dritten Quartal.
Im Zuge der Vorbereitungen auf den Börsengang senkte das Unternehmen seine Bewertungserwartung von rund 2 Billionen US-Dollar auf eine Spanne von 1,5 bis 1,6 Billionen US-Dollar.
