Anthropic-Chef lehnt Pentagon-Forderung nach KI ohne Grenzen ab

Das KI-Unternehmen Anthropic hält trotz politischem Druck an ethischen Grenzen fest und lehnt militärische Nutzung für Massenüberwachung und autonome Waffen ab. Die US-Regierung stufte das Startup daraufhin als Sicherheitsrisiko ein.

In einem beispiellosen Konflikt zwischen KI-Ethik und nationaler Sicherheit verweigert sich Anthropic-Chef Dario Amodei den Forderungen des US-Verteidigungsministeriums. Das Pentagon hatte freie Hand für den Einsatz der KI Claude verlangt – doch das Unternehmen hält an seinen ethischen „roten Linien“ fest.

Anzeige

Während die ethischen Debatten um KI anhalten, schafft der Gesetzgeber bereits Fakten: Seit August 2024 müssen Unternehmen die neuen EU-Vorgaben zwingend umsetzen. Dieser kostenlose Leitfaden erklärt Ihnen kompakt die wichtigsten Kennzeichnungspflichten und Risikoklassen. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Prinzipien gegen politischen Druck

Der Streit eskalierte diese Woche, nachdem Verteidigungsminister Pete Hegseth dem KI-Unternehmen ein Ultimatum stellte: Bis Freitag sollten zwei zentrale Nutzungsbeschränkungen fallen, sonst drohten Vertragskündigungen und die Einstufung als Sicherheitsrisiko. Konkret weigert sich Anthropic, seine KI für massenhafte Überwachung im Inland oder für vollautonome Waffensysteme ohne menschliche Kontrolle freizugeben.

„Wir können mit bestem Gewissen nicht zustimmen“, erklärte Amodei in einer öffentlichen Stellungnahme. Aktuelle KI-Systeme seien für den autonomen Waffeneinsatz nicht verlässlich genug und würden Soldaten wie Zivilisten gefährden. Die massenhafte Überwachung von Bürgern stelle „ernste, neuartige Risiken für unsere Grundfreiheiten“ dar – zumal die Gesetzgebung mit der rasanten Technologieentwicklung nicht Schritt halte.

Deutliche Drohkulisse aus Washington

Das Pentagon beharrt darauf, KI nur für rechtmäßige Zwecke nutzen zu wollen und sich nicht von einem Privatunternehmen vorschreiben lassen zu können, welche Technologien es einsetzt. Doch die neuen Vertragsentwürfe boten laut Anthropic „so gut wie keine Fortschritte“ beim Schutz vor den umstrittenen Anwendungen.

Die Reaktion der Trump-Administration fiel hart aus: Sie ordnete an, die Nutzung von Anthropics Technologie in Bundesbehörden einzustellen. Zudem soll das Unternehmen als „Risiko für die Lieferkette“ eingestuft werden – eine Maßnahme, die normalerweise ausländischen Gegnern vorbehalten ist. Amodei nannte diesen Schritt „beispiellos für ein amerikanisches Unternehmen“.

Spaltung der Tech-Branche

Der Konflikt offenbart einen tiefen ideologischen Graben in der KI-Branche. Während das sicherheitsorientierte Anthropic klare Grenzen zieht, kooperieren andere Schlüsselplayer wie Google, OpenAI und xAI weiter mit dem Pentagon. Nur Stunden nach dem Stopp-Befehl gegen Anthropic kündigte OpenAI sogar einen Deal zur Lieferung von KI für geheime Militärnetzwerke an.

Doch auch innerhalb der Konkurrenzunternehmen regt sich Widerstand. Hunderte Mitarbeiter von Google und OpenAI unterzeichneten eine gemeinsame Petition gegen den Einsatz ihrer Technologien für Massenüberwachung oder autonome Waffen ohne ausreichende Schutzvorkehrungen.

Anzeige

Neben ethischen Fragen rückt die technische Sicherheit von KI-Systemen immer stärker in den Fokus von Geschäftsführern und IT-Verantwortlichen. Welche neuen Gesetze und Cyber-Security-Trends Sie im Jahr 2024 kennen müssen, erfahren Sie in diesem Experten-Report. Kostenloses E-Book: Cyber Security Awareness Trends herunterladen

KI-Strategie des Pentagons auf dem Prüfstand

Das Verteidigungsministerium verfolgt seit Januar 2026 eine aggressive „KI-zuerst“-Strategie, um die Einführung der Technologie in allen militärischen Bereichen zu beschleunigen. Bürokratische Hürden sollen abgebaut, die neuesten Modelle schnell eingesetzt werden. Der Konflikt mit Anthropic stellt diese Pläne nun in Frage.

Die Konsequenzen sind bereits spürbar: Das Pentagon wird die Nutzung von Anthropics Technologie in den nächsten sechs Monaten auslaufen lassen. Alle Militärunternehmen wurden angewiesen, ihre Geschäfte mit dem KI-Startup einzustellen.

Doch Amodei signalisiert Gesprächsbereitschaft: Anthropic sei weiterhin zur Zusammenarbeit mit dem Militär bereit – sofern die ethischen Grundprinzipien respektiert werden. Wie dieser Konflikt ausgeht, könnte einen entscheidenden Präzedenzfall für den Umgang mit KI-Ethik im Spannungsfeld von nationaler Sicherheit und demokratischen Werten setzen.