Anthropic weigert sich: KI-Sicherheitsvorkehrungen für US-Militär bleiben

Das KI-Unternehmen Anthropic lehnt die Aufhebung seiner Sicherheitsbeschränkungen für militärische Zwecke ab und riskiert damit einen Vertrag über 185 Millionen Euro mit dem US-Verteidigungsministerium.

Ein führendes KI-Unternehmen stellt sich gegen das Pentagon und riskiert einen Millionen-Deal. Anthropic lehnt es ab, kritische Sicherheitsbeschränkungen für militärische Zwecke aufzuheben – ein beispielloser Schritt in der Tech-Branche.

Ethik gegen militärische Flexibilität

Im Zentrum des Konflikts stehen zwei rote Linien, die Anthropic nicht überschreiten will: massive Inlandsüberwachung und vollautonome Waffensysteme. Firmenchef Dario Amodei betont die Unterstützung für die nationale Sicherheit, sieht in diesen Anwendungen aber unüberwindbare ethische und sicherheitstechnische Grenzen. Das Unternehmen argumentiert, aktuelle KI sei für tödliche Entscheidungen nicht zuverlässig genug und massenhafte Überwachung widerspreche demokratischen Werten.

Anzeige

Während Tech-Giganten über ethische Grenzen von KI streiten, müssen Unternehmen in der EU bereits konkrete gesetzliche Vorgaben erfüllen. Dieser kostenlose Leitfaden erklärt verständlich, welche Pflichten die neue EU-KI-Verordnung für Ihr Unternehmen vorsieht. EU-KI-Verordnung kompakt: Jetzt Gratis-E-Book sichern

Das Pentagon kontert, es habe gar nicht vor, KI für diese spezifischen Zwecke einzusetzen. Doch Verteidigungsminister Pete Hegseth besteht darauf, dass kein Privatunternehmen die operativen Bedingungen des Militärs diktieren dürfe. Eine Haltung, die auf volles rechtliches Durchsetzungsvermögen pocht.

Ultimatum und beispiellose Drohungen

Nach einem Treffen am Dienstag setzte das Pentagon Anthropic ein Ultimatum bis Freitagabend (Ortszeit). Die Forderung: Alle Sicherheitsvorkehrungen für legale Militärzwecke entfernen. Die Drohungen im Fall der Weigerung sind massiv. Neben der Kündigung des Vertrags über rund 185 Millionen Euro steht die Einstufung als „Risiko für die Lieferkette“ im Raum – ein Label, das bisher nur ausländischen Gegnern vorbehalten war.

Noch drastischer wäre die Anwendung des Defense Production Act, eines Gesetzes aus der Zeit des Kalten Krieges. Es würde der Regierung erlauben, den Zugriff auf die Technologie notfalls zu erzwingen. Ein solcher Schritt wäre rechtlich höchst umstritten und würde das Verhältnis zwischen Staat und Tech-Sektor nachhaltig verändern.

Anthropic steht allein da

Die Haltung von Anthropic macht das Unternehmen zum Außenseiter. Konkurrenten wie Google, OpenAI und Elon Musks xAI haben ähnliche Verträge mit dem Pentagon und erlauben angeblich eine breite militrische Nutzung. Dabei war Anthropic ein Vorreiter: Dessen KI-Modell Claude war als erstes für den Einsatz in geheimen Militärnetzwerken freigegeben.

Anzeige

Die rasante Entwicklung von KI-Systemen bringt nicht nur ethische Fragen, sondern auch neue regulatorische Anforderungen für Anbieter und Nutzer mit sich. Erfahren Sie in diesem praxisnahen Ratgeber, wie Sie Ihre KI-Systeme richtig klassifizieren und Dokumentationspflichten rechtssicher umsetzen. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen

Der öffentliche Bruch unterstreicht eine grundlegende Debatte: Wie viel ethische Kontrolle können private KI-Labore über ihre mächtigsten Kreationen behalten, wenn die nationale Sicherheit auf dem Spiel steht? Während das Verteidigungsministerium maximale Flexibilität für seine technologische Überlegenheit sucht, versuchen sicherheitsbewusste Firmen, Prinzipien durchzusetzen, die einen Missbrauch verhindern sollen.

Was kommt nach dem Ultimatum?

Die Deadline ist verstrichen. Jetzt muss das Pentagon reagieren. Eine Vertragskündigung würde den Zugriff auf ein als hochwertig eingestuftes KI-Modell kosten, das bereits in kritische Systeme integriert ist. Die Eskalation mit dem „Lieferketten“-Label oder dem Zwangsgesetz würde ein neues, aggressiveres Vorgehen der US-Regierung gegen die Tech-Branche einläuten.

Anthropic hat signalisiert, die Zusammenarbeit fortsetzen zu wollen – aber nur mit den eigenen Sicherheitsvorkehrungen. Sollte das Pentagon die Partnerschaft beenden, will das Unternehmen einen reibungslosen Übergang zu einem anderen Anbieter gewährleisten, um militärische Operationen nicht zu stören. Die Entscheidung wird nicht nur die Zukunft dieser Partnerschaft bestimmen, sondern auch die ethischen Leitplanken für KI in der Landesverteidigung auf Jahre hinaus prägen.