Anthropic: Pentagon stellt KI-Firma vor Ultimatum

Das US-Verteidigungsministerium stellt Anthropic ein Ultimatum, die ethischen Beschränkungen für den KI-Einsatz im Militär aufzuheben, und droht mit dem Defense Production Act.

Das US-Verteidigungsministerium zwingt die KI-Firma Anthropic zur Entscheidung: Bis Freitag müssen die ethischen Sperren für den Militäreinsatz der KI Claude fallen. Andernfalls drohen harte staatliche Zwangsmaßnahmen. Der Konflikt um die Rolle Künstlicher Intelligenz in der Kriegsführung erreicht damit eine neue Eskalationsstufe. Washington könnte ein Gesetz aus der Zeit des Kalten Krieges anwenden, um die Kooperation zu erzwingen.

Hintergrund ist ein bereits seit letztem Jahr laufender, lukrativer Vertrag im Wert von bis zu 200 Millionen Euro. Anthropic liefert dabei neben Konkurrenten wie OpenAI und Google KI-Modelle für das Militär. Doch während die anderen Firmen flexibler agieren, beharrt Anthropic auf zwei ethischen roten Linien: Der KI-Claude darf nicht in vollautonomen Waffensystemen ohne menschliche Kontrolle und nicht zur Massenüberwachung US-amerikanischer Bürger eingesetzt werden.

Anzeige

Während Regierungen über den militärischen Einsatz von KI streiten, müssen Unternehmen bereits heute konkrete gesetzliche Anforderungen erfüllen. Dieser kostenlose Leitfaden erklärt Ihnen die neue EU-KI-Verordnung und welche Dokumentationspflichten jetzt für Sie gelten. Kostenloses E-Book zur KI-Verordnung herunterladen

Genau diese Beschränkungen sind für das Pentagon nicht tragbar. Sein „KI-Beschleunigungs-Plan“ verlangt ausdrücklich, dass alle vertraglich gebundenen Modelle für „alle rechtmäßigen Zwecke“ verfügbar sein müssen. Aus Sicht des Ministeriums behindert eine private Firma damit die nationale Sicherheit und setzt sich über den demokratisch legitimierten Kongress hinweg.

Ethische Grundsätze kollidieren mit Militär-Operationen

Der Druck auf Anthropic wuchs zuletzt dramatisch. Bei einem hochrangigen Trejekt diese Woche stellte Verteidigungsminister Pete Hegseth CEO Dario Amodei das Ultimatum. Sollte bis Freitag keine Einigung erzielt werden, will das Ministerium den Defense Production Act anwenden. Dieses Notstandsgesetz würde den Zugriff auf die Technologie erzwingen. Zudem droht die Einstufung als „Risiko für die Lieferkette“ – ein Label, das normalerweise ausländischen Gegnern vorbehalten ist und Anthropic vom gesamten Verteidigungsgeschäft ausschließen würde.

Die Spannungen verschärften sich nach Berichten über einen konkreten Einsatz. Demnach kam Claude bereits im Januar bei einer geheimen Militäroperation zur Gefangennahme des venezolanischen Präsidenten Nicolas Maduro zum Einsatz, vermittelt über die Datenanalyse-Plattform von Palantir. Für das Pentagon unterstreicht dieser Vorfall die Notwendigkeit uneingeschränkter Nutzbarkeit. Man fürchtet, dass die ethischen Sperren in kritischen Missionen plötzlich und unvorhersehbar lebenswichtige Funktionen blockieren könnten.

Anzeige

Die rasante Entwicklung von KI-Technologien bringt nicht nur ethische, sondern auch neue rechtliche Risiken für die IT-Sicherheit mit sich. Erfahren Sie in diesem Experten-Report, wie Sie Ihr Unternehmen 2024 proaktiv vor modernen Cyber-Bedrohungen schützen können. Gratis Cyber Security E-Book sichern

Konkurrenz drängt – die Deadline tickt

Während Anthropic zaudert, gehen die Wettbewerber aufs Ganze. Elon Musks KI-Firma xAI hat den Bedingungen des Pentagons bereits zugestimmt. Ihr Modell Grok wird nun in klassifizierte Militärsysteme integriert. Auch OpenAI hat sein explizites Verbot militärischer Anwendungen gestrichen.

Die Uhr tickt für Anthropic. Die Firma steht an einem Scheideweg: Gibt sie ihre als Firmengrundsatz verankerten Sicherheitsprinzipien auf, um Partner der nationalen Sicherheit zu bleiben? Die Entscheidung bis Freitag wird ein wegweisendes Präzedenzurteil setzen. Sie bestimmt, in welchem Maße sich ethische Leitplanken aus dem Silicon Valley mit den Imperativen der militärischen Verteidigung vereinbaren lassen. Das Verhältnis zwischen Tech-Innovatoren und der Staatsmacht steht auf dem Spiel.