Pentagon stellt Anthropic Ultimatum für KI-Modell Claude

Das US-Verteidigungsministerium setzt die KI-Firma Anthropic unter Druck, ihre ethischen Nutzungsbeschränkungen für Militäreinsätze aufzuheben, und droht mit Vertragsverlust und Marktausschluss.

Das US-Verteidigungsministerium fordert von der KI-Firma Anthropic bis Freitag uneingeschränkten Zugriff auf das KI-Modell Claude für Militäroperationen. Weigert sich das Unternehmen, drohen der Verlust eines 200-Millionen-Euro-Vertrags und die Einstufung als Sicherheitsrisiko.

Die Forderung wurde bei einem angespannten Treffen zwischen Verteidigungsminister Pete Hegseth und Anthropic-CEO Dario Amodei übermittelt. Sie markiert eine historische Konfrontation zwischen dem Militär und einer Technologiefirma über ethische KI-Sicherheitsvorkehrungen. Sollte Anthropic nicht nachgeben, will das Pentagon den Defence Production Act anwenden – ein Gesetz, das die Regierung zur Erzwingung von Verträgen im nationalen Interesse berechtigt.

Anzeige

Während Regierungen weltweit über den militärischen Einsatz von KI streiten, regelt die neue EU-KI-Verordnung bereits konkret die zivilen Anforderungen für Unternehmen. Dieser kostenlose Leitfaden zeigt Ihnen, wie Sie die neuen Kennzeichnungspflichten und Risikoklassen rechtssicher umsetzen. EU-KI-Verordnung: Jetzt kostenlosen Umsetzungsleitfaden sichern

Konflikt um „rote Linien“ für Militär-KI

Im Zentrum des Streits stehen interne Nutzungsbeschränkungen von Anthropic. Das Unternehmen, das sich einem sicherheitsorientierten KI-Ansatz verschrieben hat, verbietet den Einsatz von Claude für zwei Anwendungen: die Massenüberwachung von US-Bürgern und finale Zielentscheidungen in autonomen Waffensystemen ohne menschliche Kontrolle.

Ein Anthropic-Sprecher bestätigte die Gespräche, betonte aber das Festhalten an den Grundsätzen: „Wir führen vertrauensvolle Gespräche über unsere Nutzungsrichtlinien, um die nationale Sicherheitsmission der Regierung im Rahmen dessen zu unterstützen, was unsere Modelle zuverlässig und verantwortungsvoll leisten können.“

Das Pentagon argumentiert dagegen, das Militär dürfe nur durch US-Gesetze gebunden sein – nicht durch interne Richtlinien eines Privatunternehmens. Ein hoher Verteidigungsbeamter erklärte, man verlange lediglich eine Lizenz für rechtmäßige Aktivitäten.

Druckmittel und wirtschaftliche Konsequenzen

Die Drohung mit der Einstufung als „Lieferkettenrisiko“ ist besonders schwerwiegend. Diese Kennzeichnung könnte andere Rüstungsunternehmen davon abhalten, Anthropics Technologie zu nutzen, und das Unternehmen vom gesamten nationalen Sicherheitsmarkt isolieren.

Die mögliche Anwendung des Defence Production Act wäre ein beispielloser Schritt, um ein KI-Unternehmen zur Bereitstellung seiner Technologie gegen dessen erklärte Ethikgrundsätze zu zwingen.

Anzeige

Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz bringen nicht nur ethische Fragen, sondern auch neue Sicherheitsrisiken für die digitale Infrastruktur von Unternehmen mit sich. Erfahren Sie in diesem Experten-Report, wie Sie Ihre IT-Sicherheit an die aktuellen technologischen Standards und Gesetze anpassen. Experten-Report zur Cyber Security 2024 gratis herunterladen

Der Konflikt eskaliert zu einem Zeitpunkt, an dem das Pentagon seine KI-Nutzung massiv ausbaut. Erst im Sommer 2024 vergab das Ministerium Verträge im Wert von je bis zu 200 Millionen Euro an vier KI-Labore: Anthropic, Google, OpenAI und Elon Musks xAI. Claude war bis vor kurzem das einzige KI-Modell, das für die Nutzung in den klassifizierten Netzwerken des Militärs zugelassen war. Kürzlich gab das Pentagon jedoch bekannt, dass auch xAIs Modell Grok für den Einsatz mit Verschlusssachen freigegeben wurde – ein klares Signal, dass Alternativen aufgebaut werden.

Wettlauf mit China als Treiber

Verteidigungsexperten sehen hinter der Härte des Pentagons die Sorge, im strategischen Wettbewerb mit China zurückzufallen. Die Integration modernster KI gilt als entscheidend für die Aufrechterhaltung eines militärischen Vorteils. Aus Sicht des Ministeriums gefährdet die Möglichkeit für einzelne Unternehmen, eigene Militär-Nutzungsregeln aufzustellen, die nationale Sicherheit und ist „undemokratisch“.

Die Entscheidung, die Anthropic bis Freitagabend treffen muss, wird wegweisend sein. Sie wird einen Präzedenzfall schaffen, wie die US-Regierung und führende Technologieunternehmen den umstrittenen Einsatz künstlicher Intelligenz in der Kriegsführung regeln. Das Ergebnis könnte das Kräfteverhältnis zwischen Silicon Valley und Washington auf Jahre prägen.