Anthropic verliert Millionendeal nach ethischem Konflikt mit Pentagon

Das KI-Unternehmen Anthropic wird nach einem Konflikt um Verbote für autonome Waffen und Massenüberwachung als Sicherheitsrisiko eingestuft. Konkurrent OpenAI springt ein.

Das KI-Unternehmen Anthropic hält an seinen ethischen Grenzen für Militäreinsätze fest – und wird daraufhin als Sicherheitsrisiko eingestuft. Der Konflikt mit der US-Regierung eskaliert, nachdem das Pentagon einen Ultimatum verstreichen ließ. Der Deal war bis zu 200 Millionen Euro wert.

Zwei unüberwindbare rote Linien

Anzeige

Während große Tech-Konzerne über ethische Leitplanken streiten, müssen Unternehmen in der EU bereits ganz konkrete gesetzliche Anforderungen erfüllen. Dieser kostenlose Leitfaden hilft Ihnen, die komplexen Vorgaben der neuen EU-KI-Verordnung ohne juristische Fachkenntnisse zu verstehen und umzusetzen. Gratis E-Book zur EU-KI-Verordnung jetzt sichern

Im Zentrum des Streits stehen zwei Verbote in den Nutzungsbedingungen von Anthropic. Das Unternehmen untersagt den Einsatz seiner KI Claude für die Massenüberwachung von US-Bürgern und in vollautonomen Waffensystemen, die ohne menschliche Kontrolle töten können.

CEO Dario Amodei begründet dies mit den „ernsten, neuartigen Risiken für unsere Grundfreiheiten“. Die heutigen KI-Systeme seien für solche kritischen Anwendungen nicht zuverlässig genug. Das Pentagon hält dagegen: Bestehende Gesetze und interne Richtlinien würden solche Einsätze bereits verhindern, die zusätzlichen Vertragsklauseln seien überflüssig und schränkten militrische Operationen unzumutbar ein.

Harte Sanktionen aus Washington

Die verhärteten Fronten führten zu einer beispiellosen Reaktion. Verteidigungsminister Pete Hegseth stufte Anthropic als „Risiko für die Lieferkette der nationalen Sicherheit“ ein – ein Label, das sonst ausländischen Gegnern vorbehalten ist. Praktisch bedeutet dies: Kein Pentagon-Zulieferer darf mehr mit Anthropic Geschäfte machen.

Präsident Trump ordnete zudem an, dass alle Bundesbehörden die Nutzung von Anthropics Technologie „sofort“ einstellen müssen. Für das Verteidigungsministerium gilt eine sechsmonatige Übergangsfrist. Die Regierung wirft Anthropic vor, als „woke Company“ die Militärpolitik diktieren zu wollen.

OpenAI springt ein – die Branche ist gespalten

In einer überraschenden Wendung schloss der Konkurrent OpenAI nur Stunden nach Anthropics Rauswurf einen Deal mit dem Pentagon. CEO Sam Altman betonte, dass ihre Vereinbarung ähnliche ethische Prinzipien enthalte – etwa das Verbot von Massenüberwachung im Inland.

Anzeige

Der technologische Fortschritt bringt nicht nur neue Möglichkeiten, sondern auch verschärfte Sicherheitsanforderungen für die gesamte Wirtschaft mit sich. Erfahren Sie in diesem Experten-Report, wie Sie Ihr Unternehmen proaktiv vor modernen Cyber-Bedrohungen schützen und gleichzeitig aktuelle gesetzliche Vorgaben erfüllen. Kostenlosen Cyber-Security-Leitfaden herunterladen

Gleichzeitig solidarisierten sich Hunderte Mitarbeiter von OpenAI und Google in einem offenen Brief mit Anthropic. Die Kontroverse zeigt die tiefe Spaltung in der Tech-Branche angesichts der ethischen Verantwortung für KI.

Für Anthropic beginnt nun eine unsichere Zukunft. Das Unternehmen will die Einstufung als Sicherheitsrisiko vor Gericht anfechten und nennt sie einen „gefährlichen Präzedenzfall“. Amodei betont weiterhin den Dialogbereitschaft mit dem Militär – aber nur im Rahmen der ethischen Grundsätze. Dieser Machtkampf wird richtungsweisend sein für den Umgang mit KI in der nationalen Sicherheit.