Anthropic-Plan spaltet Branche: Huang sieht null Prozent Risiko bis 2030
Veröffentlicht am: 20.09.2026 um 23:22 Uhr | Redaktion boerse-global.de
Der Vorstoß von Anthropic-Chef Dario Amodei zu einer koordinierten Verlangsamung fortschrittlicher Spitzenmodelle spaltet die Technologiebranche. Während Amodei mit seinem Konzept für ein kontrolliertes Tempo bei der Entwicklung von Spitzen-KI striktere Sicherheitsvorkehrungen anmahnt, trat Nvidia-Chef Jensen Huang den Forderungen nun energisch entgegen.
Huang wies Warnungen vor existenziellen Risiken zurück und stützte die Haltung von US-Präsident Donald Trump, der die Debatte über solche Gefahren als Schwindel bezeichnet hatte.
Amodei hatte seine Initiative am 12. September in einem 4.000 Wörter umfassenden Aufsatz vorgelegt. Darin warnte der Anthropic-Chef davor, dass in einem Zeitraum von sechs bis zwölf Monaten ein unkontrollierter Schwarm das gesamte Internet übernehmen und Schäden in Höhe von Hunderten Milliarden Dollar verursachen könnte.
Seine Argumentation stützte er unter anderem auf Risiken rekursiver Selbstverbesserung sowie zurückliegende Sicherheitsvorfälle. Amodeis Konzept sieht vor, dass unabhängige externe Prüfer fortlaufenden Zugang auf Mitarbeiterebene zu Sicherheitsverfahren erhalten und führende KI-Unternehmen ihre Standards eng abstimmen.
OpenAI und Anthropic haben einem solchen externen Zugang bereits zugestimmt. Gleichzeitig warnte Amodei davor, dass eine technologische Führung Chinas ein ernstes Risiko darstelle.
Scharfer Widerspruch von Nvidia
Während die Branche über existenzielle Gefahren debattiert, müssen Unternehmen bereits heute konkrete rechtliche Vorgaben für den Einsatz von Algorithmen erfüllen. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Nvidia-Chef Jensen Huang bezog in einem Interview mit dem US-Sender CBS News klar Stellung gegen Amodeis Vorschlag. Nach Huangs Einschätzung gebe es eine Chance von null Prozent, dass Künstliche Intelligenz bis 2030 die Welt zerstöre.
Die Branche solle vielmehr so schnell wie möglich voranschreiten. Neue gesetzliche Vorschriften lehnte er ab; bestehende Haftungsgesetze seien vollkommen ausreichend, während die Entwicklung mit entsprechenden Sicherheitsprüfungen kombiniert werden müsse.
Den betroffenen KI-Laboren warf Huang vor, aus verdeckten Motiven zu handeln und vor allem eine Befreiung von existierenden Gesetzen anzustreben. Damit reagierte er auch auf Berechnungen von Anthropic-Forscher Evan Hubinger, der zuvor von einer Wahrscheinlichkeit von mehr als zehn Prozent für eine Auslöschung der Menschheit durch KI innerhalb des nächsten Jahrzehnts gesprochen hatte.
Huang, dessen Konzern im jüngsten Fiskaljahr einen Umsatz von 215 Milliarden US-Dollar nach 17 Milliarden US-Dollar im Jahr 2021 erzielte und mit einem Marktwert von 5,3 Billionen US-Dollar das wertvollste Unternehmen der Welt ist, gilt in Trumps zweiter Amtszeit als einflussreichster Technologievertreter im Weißen Haus. Bereits am 14. September hatten Huang und Trump in einem Telefonat bekräftigt, dass Roboter nicht die Welt übernehmen würden.
Gespaltene Branche und kartellrechtliche Konsequenzen
In der Technologiebranche fallen die Reaktionen auf Amodeis Vorstoß uneinheitlich aus. OpenAI-Chef Sam Altman und Microsoft-Chef Satya Nadella signalisierten Unterstützung für ein besonnenes Vorgehen, wobei Altman klarstellte, dass damit kein Stillstand gemeint sei.
Auch Tesla-Chef Elon Musk und Demis Hassabis von Google DeepMind stellten sich hinter die Stoßrichtung. Meta-Chef Mark Zuckerberg lehnte eine branchenweite Verlangsamung hingegen ab und betonte, jedes Labor müsse das eigene Tempo selbst festlegen.
Innerhalb der Belegschaften sorgt das Thema für Unruhe: Bei Anthropic mahnte Forscher Joe Benton vor zu hoher Geschwindigkeit, während Forscher Jacob Coxon das Unternehmen am 8. September nach dreijähriger Forschungstätigkeit im Bereich Vortraining bei OpenAI und Anthropic verließ.
Wer sich mit der Einführung und Überwachung von KI-Systemen befasst, steht oft vor der Frage, welche Anwendungen regulatorisch als Hochrisiko eingestuft werden. Der kostenlose Report klärt auf, welche rechtlichen Pflichten Unternehmen jetzt konkret kennen müssen, um rechtlich auf der sicheren Seite zu stehen. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Die Debatte zieht zudem juristische Folgen nach sich: Am 12. September reichten vier zahlende Abonnenten von ChatGPT, Claude, Grok und Gemini beim US-Bezirksgericht für den nördlichen Bezirk von Kalifornien eine Klage gegen Anthropic, OpenAI, SpaceXAI und Google ein.
Die Kläger werfen den Unternehmen vor, mit der koordinierten Verlangsamung gegen das Kartellrecht zu verstoßen. Zudem bemängelten Branchenbeobachter, dass dem Plan konkrete Umsetzungsdetails fehlten und er keine echte Wahlfreiheit für Verbraucher biete.
Politische Auseinandersetzung und internationale Spannungen
Auch in Washington sorgt das Entwicklungstempo für politische Kontroversen. Während Trump ankündigte, wer bei der KI siege, gewinne insgesamt, und die Schaffung einer Taskforce sowie eines KI-Beauftragten ankündigte, berät der US-Senat über verpflichtende Sicherheitsnachweise und staatliche Tests.
Michael Kratsios aus dem Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses erklärte, Unternehmen könnten schlicht mit der Arbeit aufhören, falls sie glaubten, eine unsichere Technologie zu entwickeln. Auf dem Kapitol warnte die republikanische Abgeordnete Nancy Mace davor, dass China den USA den Rang ablaufen werde, falls das Tempo gedrosselt werde.
In Peking wird der US-Vorstoß zur Verlangsamung als Versuch gewertet, den eigenen technologischen Vorsprung abzusichern. China setzt KI vorrangig zur Ankurbelung des Wirtschaftswachstums ein und sucht ein eigenes Gleichgewicht zwischen Sicherheit und Geschwindigkeit.
Vor einem bevorstehenden Treffen in Washington verhandeln beide Staaten informell über Sicherheitsfragen, wenngleich ein verbindliches Abkommen vor dem Gipfeltreffen zwischen Trump und Xi Jinping als unerreichbar gilt.
