Anthropic-Chef fordert Blockade-Befugnis für gefährliche KI-Modelle
11.06.2026 - 16:33:41 | boerse-global.de
Der CEO des KI-Unternehmens Anthropic verlangt weitreichende staatliche Kontrollen – inklusive der Befugnis, gefährliche KI-Modelle zu blockieren.
Dario Amodei, Chef des KI-Unternehmens Anthropic, hat die US-Regierung aufgefordert, rechtlich in der Lage zu sein, die Verbreitung von „Frontier“-KI-Modellen mit unannehmbaren Risiken zu unterbinden. In einem am 10. und 11. Juni veröffentlichten Essay mit dem Titel „Policy on the AI Exponential“ argumentiert er, dass freiwillige Transparenz der Industrie nicht mehr ausreiche. Die Technologie entwickle sich schlicht zu schnell.
Die rasante Entwicklung von KI-Modellen führt bereits heute zu strengen gesetzlichen Leitplanken wie dem EU AI Act. Dieser kostenlose Umsetzungsleitfaden hilft Unternehmen dabei, alle neuen Pflichten und Risikoklassen der KI-Verordnung rechtzeitig zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Pflichttests und eine neue Behörde
Amodei schwebt ein Regulierungsrahmen vor, der an die Aufsicht der US-Luftfahrtbehörde FAA erinnert. Kernforderung: Verpflichtende Sicherheitstests durch unabhängige Dritte für jedes KI-System, das eine bestimmte Rechenleistung überschreitet.
Der Anthropic-Chef nennt vier Risikokategorien, die ein staatliches Eingreifen rechtfertigen würden:
- Cybersicherheitslücken
- Entwicklung biologischer Waffen
- Kontrollverlust des Menschen über das System
- Risiken durch automatisierte Forschung und Entwicklung
Ohne Eingreifen, warnt Amodei, könne KI schneller von einem nützlichen Werkzeug zu einem „Land voller Genies in einem Rechenzentrum“ werden, als der Gesetzgeber reagieren könne. Zur Untermauerung seiner Forderungen veröffentlichte Anthropic einen konkreten Gesetzesvorschlag. Das Unternehmen verweist zudem auf seinen eigenen KI-Agenten „Claude Mythos“ für Cybersicherheitsorganisationen – ein Beleg dafür, dass aktuelle Systeme bereits reale Risiken für kritische Infrastruktur darstellen.
Wirtschaftliche Folgen abfedern
Doch Amodei blickt über die unmittelbaren Sicherheitsbedrohungen hinaus. Er warnt vor massiven und dauerhaften Verwerfungen auf dem Arbeitsmarkt. Die Rede ist von Massenarbeitslosigkeit und Hyper-Ungleichheit.
Während die Politik über globale Regulierungen debattiert, müssen Unternehmen ihre IT-Sicherheit schon heute gegen neue KI-gestützte Bedrohungen wappnen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Cyberrisiken Unternehmer jetzt unbedingt kennen müssen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Seine Gegenvorschläge sind ambitioniert:
- Lohnversicherungen und Anreize für Unternehmen, Mitarbeiter zu halten
- Prüfung von bedingungslosem Grundeinkommen oder universellen Vermögenskonten
- Höhere Steuern für KI-Unternehmen oder angepasste Kapitalertragssteuern zur Finanzierung sozialer Sicherungssysteme
Anthropic selbst investiert 200 Millionen Euro in die Erforschung der gesellschaftlichen Auswirkungen von KI. Das Geld soll helfen, KI-bedingte Verdrängungseffekte zu messen und Wege zu finden, Unternehmensgewinne gezielt an betroffene Arbeitnehmer umzuleiten.
Geopolitische Sprengkraft
Die Forderung nach strengerer Regulierung im Inland geht bei Amodei mit Warnungen zur globalen Sicherheitslage einher. Fortschrittliche KI sei ein potenzielles Werkzeug für Autokratien – etwa für Massenüberwachung oder destabilisierende Cyberangriffe.
Anders als einige Branchenkollegen lehnt Amodei einen generellen Entwicklungsstopp jedoch ab. Ein solcher Moratorium sei geopolitischen Realitäten zum Opfer gefallen: Er würde die Zustimmung aller großen Mächte erfordern – inklusive geopolitischer Rivalen. Gegenüber China hegt der CEO dabei erhebliche Zweifel an der Bereitschaft, sich an ein solches Abkommen zu halten.
Die von der Trump-Administration am 2. Juni 2026 erlassene Executive Order bewertet Amodei zwar als positiven Schritt. Für eine dauerhafte Regulierungsbehörde für Frontier-KI-Forschung und öffentliche Sicherheit sei jedoch ein echtes Gesetz nötig.
