Anthropic-Chef fordert Bundesbehörde zur KI-Blockade
12.06.2026 - 00:45:14 | boerse-global.de
Dario Amodei verlangt verbindliche Regeln – freiwillige Selbstverpflichtung reicht nicht mehr.
Der Chef des KI-Unternehmens Anthropic, Dario Amodei, hat in einem neuen Essay mit dem Titel „Policy on the AI Exponential“ weitreichende staatliche Regulierungen gefordert. Konkret verlangt er die Schaffung einer Bundesbehörde, die gefährliche KI-Modelle blockieren darf. Die Ära der freiwilligen KI-Governance sei endgültig vorbei, argumentiert Amodei. Interne Tests der eigenen Modelle hätten erhebliche Risiken für die nationale Sicherheit und Cybersicherheit offengelegt.
Während die USA über neue Behörden diskutieren, setzt der EU AI Act bereits verbindliche Standards für Unternehmen in Europa. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen
Pflichtprüfungen nach FAA-Vorbild
Das von Anthropic vorgeschlagene Regulierungssystem orientiert sich an der US-Luftfahrtbehörde FAA. Demnach müssten Entwickler von Hochleistungs-KI-Modellen verpflichtende Sicherheitsaudits durch unabhängige Dritte durchführen lassen. Betroffen wären Unternehmen, die Modelle mit mehr als 10^25 Rechenoperationen trainieren – sofern sie entweder mehr als 500 Millionen Dollar KI-Umsatz oder eine Milliarde Dollar KI-Forschungsausgaben vorweisen.
Vier Risikokategorien würden ein staatliches Eingreifen oder sogar die Blockade einer Technologieveröffentlichung rechtfertigen: Cybersicherheitsbedrohungen, die Entwicklung biologischer Waffen, der Verlust autonomer Kontrolle sowie automatisierte wissenschaftliche Forschung. Transparenz allein reiche nicht mehr aus, betont Amodei. Die Regierung müsse das gesetzliche Recht erhalten, KI-Veröffentlichungen zu stoppen oder rückgängig zu machen, wenn unabhängige Prüfungen unannehmbare Risiken aufdecken.
Interne Tests des Modells „Claude Mythos Preview“ hätten den Anstoß für diese Forderungen gegeben. Das Modell zeigte demnach Fähigkeiten, die in den Händen feindlicher Akteure erhebliche Gefahren für Finanzinfrastrukturen und die nationale Sicherheit darstellen könnten.
Sicherheitsrisiken und geopolitische Dimensionen
Amodei vergleicht die aktuelle Entwicklung der KI mit der der Atomwaffen. Die Technologie könne zur dominierenden Quelle militärischer und wirtschaftlicher Macht werden. Ohne strenge Kontrollen drohten KI-Firmen quasi-staatliche Züge anzunehmen – vergleichbar mit historischen Handelskompanien wie der East India Company.
Geopolitisch plädiert der Anthropic-CEO für eine Koalition demokratischer Nationen, die KI-Lieferketten sichern und ein Machtgleichgewicht erhalten soll. Zwar hatte das Unternehmen erst Anfang des Monats eine freiwillige globale Pause bei der Entwicklung fortgeschrittener KI gefordert – ausgelöst durch Anzeichen rekursiver Selbstverbesserung in den eigenen Modellen. Doch eine solche Pause sei nur wirksam, wenn alle relevanten Akteure mitmachten. Amodei äußerte ausdrücklich Misstrauen gegenüber einer Kooperation mit China. Fortschrittliche Modelle könnten für staatlich gesteuerte Angriffe zweckentfremdet werden.
Die zunehmende Komplexität von KI-Systemen verschärft auch die Bedrohungslage durch Cyberangriffe für hiesige Betriebe. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und neuen Sicherheitsrisiken Unternehmer jetzt unbedingt kennen müssen. Gratis-E-Book zu Cyber Security Trends herunterladen
Wirtschaftliche Abfederung und Zukunftsforschung
Um die zu erwartenden Arbeitsmarktverwerfungen abzufedern, hat Anthropic 350 Millionen Dollar zugesagt. Davon fließen 200 Millionen Dollar in einen „Economic Futures Research Fund“ und 150 Millionen Dollar in ein nationales Stipendienprogramm.
Das wirtschaftspolitische Rahmenwerk des Unternehmens sieht abgestufte staatliche Reaktionen je nach Arbeitslosenquote vor. Bei einer KI-bedingten Arbeitslosigkeit von fünf oder zehn Prozent schlägt das Modell Lohnversicherungen, Anreize zur Mitarbeiterbindung und Umschulungsprogramme vor. Sollte die Verdrängung ein nie dagewesenes Ausmaß erreichen, erwägt der Vorschlag radikalere Eingriffe: ein bedingungsloses Grundeinkommen oder universelle Kapitalkonten, finanziert durch Steuern auf KI-Unternehmen und Kapitalerträge.
Unternehmensentwicklung und Gesetzesaussichten
Die Regulierungsvorschläge kommen zu einem Zeitpunkt, an dem Anthropic seine kommerzielle Präsenz massiv ausbaut und sich auf den Börsengang vorbereitet. Das Unternehmen hat kürzlich „Claude Fable 5“ und „Claude Mythos 5“ auf den Markt gebracht und einen Registrierungsentwurf für einen Börsengang bei der US-Börsenaufsicht SEC eingereicht. Nach einer Finanzierungsrunde der Serie H wird der Unternehmenswert auf 965 Milliarden Dollar geschätzt.
Trotz der Dringlichkeit, die Branchenführer anmahnen, schätzen Gesetzesanalysten die Wahrscheinlichkeit einer umfassenden KI-Regulierung innerhalb des laufenden Kalenderjahres auf unter 30 Prozent.
