Anthropic weigert sich, KI-Sicherheitsvorkehrungen für Pentagon zu entfernen

Das KI-Unternehmen Anthropic verweigert die Nutzung seiner Technologie für Massenüberwachung und autonome Waffen und riskiert damit einen Millionenvertrag und Sanktionen des US-Verteidigungsministeriums.

Ein KI-Entwickler aus dem Silicon Valley stellt sich gegen das US-Verteidigungsministerium und verweigert die Freigabe seiner Technologie ohne ethische Auflagen. Die Firma Anthropic lehnte ein Ultimatum ab, das die Nutzung ihrer KI für Massenüberwachung und autonome Waffen forderte. Diese Konfrontation markiert einen historischen Bruch zwischen Tech-Unternehmen und Militär.

Ultimatum des Pentagons und ethische Grenzen

Die Lage eskalierte diese Woche, als Verteidigungsminister Pete Hegseth dem Unternehmen eine Frist bis Freitagabend setzte. Das Pentagon forderte, alle Nutzungsbeschränkungen für die KI Claude fallen zu lassen. Die Technologie sollte für jeden rechtmäßigen Zweck einsetzbar sein – inklusive Anwendungen, die Anthropic bislang kategorisch ausschließt.

Das Unternehmen reagierte mit einer klaren Absage. In einer am Donnerstagabend veröffentlichten Erklärung betonte die Führung um CEO Dario Amodei zwei unverhandelbare rote Linien: Die KI dürfe nicht für Massenüberwachung der eigenen Bevölkerung genutzt werden, da dies demokratischen Werten widerspreche. Zudem sei die Integration in vollautonome Waffensysteme ohne menschliche Kontrolle derzeit zu riskant. Anthropic bot an, die Zusammenarbeit fortzusetzen, aber nur mit diesen Sicherheitsvorkehrungen.

Anzeige

Während globale Akteure über ethische Grenzen von KI im Militär streiten, müssen Unternehmen hierzulande vor allem die neuen gesetzlichen Sicherheitsvorgaben im Blick behalten. Was Geschäftsführer jetzt über Cyber Security und die aktuelle KI-Regulierung wissen müssen, erfahren Sie in diesem Experten-Report. Was Geschäftsführer über Cyber Security 2024 wissen müssen

Drohungen mit Vertragsende und Notstandsgesetz

Die Reaktion des Pentagons fällt hart aus. Bei Nichteinhaltung der Frist droht die Kündigung eines lukrativen Vertrags über 200 Millionen Euro aus dem Sommer 2025. Noch gravierender ist die Androhung, Anthropic als Risiko für die Lieferkette einzustufen – ein Status, der normalerweise feindlichen ausländischen Firmen vorbehalten ist. Dies würde das Ansehen und die Geschäfte des Unternehmens massiv beschädigen.

Als Druckmittel könnte das Verteidigungsministerium zudem den Defense Production Act aus der Zeit des Kalten Krieges anwenden. Dieses Notstandsgesetz erlaubt der Regierung, private Firmen zu verpflichten, nationale Sicherheitsinteressen zu priorisieren. Anthropic wies auf den Widerspruch hin: Das Militär stufe das Unternehmen gleichzeitig als Sicherheitsrisiko ein und bezeichne seine Software als so essenziell, dass Notstandsbefugnisse gerechtfertigt seien.

Allein gegen den Trend: Konkurrenten kooperieren

Anthropics Widerstand ist bemerkenswert, weil das Unternehmen damit isoliert dasteht. Alle großen Konkurrenten – darunter Google, OpenAI und xAI von Elon Musk – haben sich den Forderungen des Pentagons bereits gebeugt. Sie liefern ihre KI-Technologie für interne Militärnetzwerke unter der Bedingung „aller rechtmäßigen Anwendungen“.

Die Rivalen sind damit tief in der militärischen Infrastruktur verankert. Sollte Anthropic die Partnerschaft beenden, hat das Pentagon laut eigenen Angaben reichlich Alternativen. Das Unternehmen kündigte an, einen reibungslosen Übergang zu einem anderen Anbieter zu unterstützen, um militärische Operationen nicht zu gefährden.

Anzeige

Die Debatte um den Einsatz von Claude verdeutlicht, wie entscheidend ein rechtssicherer Rahmen für den Einsatz Künstlicher Intelligenz geworden ist. Dieser kostenlose Leitfaden erklärt verständlich, welche konkreten Pflichten und Risikoklassen die neue EU-KI-Verordnung für Ihr Unternehmen vorsieht. Gratis E-Book mit Umsetzungsleitfaden anfordern

Präzedenzfall für KI-Ethik und nationale Sicherheit

Der Konflikt ist ein Weckruf für die Regulierung von Künstlicher Intelligenz. Anthropic hat sich stets als sicherheitsbewusstester unter den Top-Entwicklern positioniert. Diese Reputation wird nun einem beispiellosen Drucktest unterzogen.

Experten wie Owen Daniels vom Center for Security and Emerging Technology der Georgetown University sehen die Verhandlungsposition des Unternehmens geschwächt. Da die Konkurrenz kooperiert, riskiere Anthropic, seinen Einfluss auf die militärische KI-Nutzung zu verlieren. Auch im Kongress sorgt der Vorgang für Unmut. Senator Mark Warner kritisierte, das Vorgehen des Pentagons zeige einen Mangel an Respekt vor Governance-Strukturen und unterstreiche die Dringlichkeit gesetzlicher Rahmenwerke.

Ungewisse rechtliche Schlacht und Folgen für die Branche

Die nächsten Schritte werden aufmerksam verfolgt. Sollte das Pentagon den Defense Production Act tatsächlich anwenden, um das Entfernen von Sicherheitsvorkehrungen zu erzwingen, würde dies Neuland in der Rechtsgeschichte betreten. Juristen bezweifeln, dass das Gesetz für solche Software-Modifikationen ausgelegt ist.

Die Einstufung als Lieferkettenrisiko hätte unmittelbare finanzielle Folgen und würde künftige Verträge mit öffentlichen und privaten Partnern gefährden. Unabhängig vom Ausgang des Ultimatums hat der Konflikt das Verhältnis zwischen Silicon Valley und Washington nachhaltig verändert. Die aggressiven Taktiken des Militärs könnten künftig sicherheitsorientierte Startups abschrecken – und damit Innovationen in der gesamten Verteidigungsindustrie bremsen.