Anthropic-Chef fordert Bundesgesetz: Regierung soll KI stoppen dürfen
11.06.2026 - 05:48:24 | boerse-global.de
Dario Amodei, CEO des KI-Unternehmens Anthropic, verlangt ein strenges Bundesgesetz zur Kontrolle gefährlicher KI-Modelle. Die Regierung soll das Recht erhalten, riskante Systeme zu stoppen.
In einem Grundsatzpapier mit dem Titel „Policy on the AI Exponential" und in mehreren Medienauftritten plädierte Amodei für einen radikalen Kurswechsel. Statt auf freiwillige Selbstverpflichtungen der Industrie zu setzen, brauche es verbindliche Regeln – vergleichbar mit der Aufsicht der US-Luftfahrtbehörde FAA über die Flugzeugindustrie.
Während die USA über neue Gesetze debattieren, schafft die EU mit dem AI Act bereits verbindliche Fakten für alle Unternehmen. Dieser kostenlose Umsetzungsleitfaden hilft Ihnen, die komplexen Anforderungen, Fristen und Risikoklassen der neuen Verordnung sicher zu beherrschen. EU AI Act in 5 Schritten verstehen: Jetzt kostenloses E-Book sichern
Pflichtprüfungen für Hochleistungs-KI
Der Kern des Vorschlags: Entwickler sogenannter „Frontier"-KI-Modelle – Systeme mit einer Rechenleistung von über 10^25 FLOPs – müssten sich künftig verpflichtenden Sicherheitsaudits durch unabhängige Dritte unterziehen. Im Fokus stehen katastrophale Risiken: die Nutzung von KI zur Entwicklung biologischer Waffen, die Durchführung komplexer Cyberangriffe oder der Kontrollverlust über autonome Systeme.
Die Regierung soll befugt sein, die Markteinführung zu untersagen, wenn diese Risiken als unbeherrschbar gelten. „Freiwillige Zusagen reichen nicht", so Amodei. Die strategische Bedeutung und die potenziellen Gefahren der Technologie erforderten sofortiges staatliches Eingreifen.
Wirtschaftliche Folgen und Arbeitsmarkt
Doch Amodei denkt weiter. In einem begleitenden „Economic Policy Framework" skizziert er Maßnahmen gegen die erwarteten Verwerfungen am Arbeitsmarkt. Seine Warnung: KI könnte in den kommenden Jahren einen erheblichen Teil der bestehenden Arbeitsplätze vernichten.
Sein Maßnahmenpaket umfasst:
- Lohnversicherungen: Ein System zur Unterstützung von Arbeitnehmern, deren Einkommen durch KI-getriebene Automatisierung sinkt
- Steuerreformen: Höhere Kapitalertragsteuern oder spezielle KI-Abgaben zur Finanzierung sozialer Sicherungssysteme
- Unternehmensanreize: Staatliche Förderung für Firmen, die Mitarbeiter weiterbilden statt entlassen
- Ausbau der Sozialsysteme: Diskussionen über ein bedingungsloses Grundeinkommen (UBI) zur Abfederung langfristiger Veränderungen
Anthropic selbst investiert mindestens 200 Millionen Euro in die Erforschung der gesellschaftlichen und wirtschaftlichen Folgen von Künstlicher Intelligenz.
Neben den regulatorischen Pflichten bringt der technologische Fortschritt auch neue Bedrohungen für die IT-Infrastruktur mit sich. Wie Sie Ihr Unternehmen proaktiv gegen KI-gestützte Angriffe absichern und gesetzliche Anforderungen erfüllen, erfahren Sie in diesem Experten-Ratgeber. Kostenloses E-Book: Cyber Security Bedrohungen abwenden
Neue Modelle und geopolitische Sprengkraft
Die Regulierungsinitiative fällt mit der Veröffentlichung der neuesten Modellgeneration zusammen. Seit dem 10. Juni ist Claude Fable 5 allgemein verfügbar, während Claude Mythos 5 nur eingeschränkt zugänglich ist – wegen seiner fortgeschrittenen Fähigkeiten.
Die neuen Modelle arbeiten als autonome Agenten, die langfristige Aufgaben bewältigen: Sie generieren neue Hypothesen in der Molekularbiologie oder steuern komplexe Softwareumgebungen allein durch visuelle Eingaben. Besonders brisant: Mythos 5 demonstrierte die Fähigkeit, kritische Sicherheitslücken selbstständig zu identifizieren und auszunutzen – weshalb der Zugang beschränkt wurde.
Amodei äußerte sich auch zur geopolitischen Dimension. Internationale Moratorien mit nicht-demokratischen Akteuren lehnt er ab. China sieht er nicht als verlässlichen Partner für eine solche Pause. Stattdessen plädiert er für ein Bündnis demokratischer Nationen, das die Kontrolle über die KI-Lieferkette behält.
Timing und Kritik
Die Vorschläge kommen zu einem strategischen Zeitpunkt: Anthropic bereitet sich offenbar auf einen Börsengang (IPO) vor. Das Unternehmen drängt den US-Kongress, keine bundesstaatlichen KI-Sicherheitsgesetze zu blockieren – es sei denn, ein vergleichbar strenges Bundesgesetz tritt in Kraft.
Während Branchenbeobachter die Vorschläge als notwendigen Schritt für die Infrastruktursicherheit loben, warnen Kritiker vor Regulatory Capture: Die strengen Auflagen könnten vor allem etablierten Firmen wie Anthropic nutzen, indem sie hohe Markteintrittsbarrieren für kleinere Wettbewerber schaffen. Amodei hält dagegen: Die Risiken der „KI-Exponentialkurve" erforderten sofortiges und verbindliches staatliches Handeln – bevor der Schaden unumkehrbar werde.
