Anthropic verliert US-Regierung nach Streit über KI-Ethik

Die US-Regierung stoppt die Nutzung von Anthropics KI-Systemen, nachdem das Unternehmen sich weigerte, ethische Einschränkungen für militärische Zwecke aufzuheben. OpenAI übernimmt mit ähnlichen Prinzipien.

Washington D.C. – Die Trump-Regierung hat alle Bundesbehörden angewiesen, die KI-Technologie des Sicherheitsspezialisten Anthropic nicht mehr zu nutzen. Der radikale Schritt folgt auf einen erbitterten Streit über ethische Grenzen für den Militäreinsatz von Künstlicher Intelligenz.

Anzeige

Der aktuelle Konflikt in den USA verdeutlicht, wie schnell sich rechtliche Rahmenbedingungen für künstliche Intelligenz verschärfen können. Dieser kostenlose Leitfaden erklärt Ihnen kompakt die neue EU-KI-Verordnung und welche Dokumentationspflichten nun für Unternehmen gelten. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Eklat um „rote Linien“ für das Pentagon

Der Konflikt eskalierte, weil Anthropic sich weigerte, Klauseln aus seinem Vertrag mit dem US-Verteidigungsministerium zu streichen. Diese verbieten den Einsatz seiner KI Claude für vollautonome Waffensysteme und Massenüberwachung der eigenen Bevölkerung. Das Pentagon forderte ultimativ, die KI für „alle rechtmäßigen Zwecke“ freizugeben – und stieß auf Ablehnung.

„Wir können mit bestem Gewissen nicht zustimmen, unsere Sicherheitsvorkehrungen außer Kraft setzen zu lassen“, erklärte Anthropic-CEO Dario Amodei am Donnerstag. Aktuelle KI-Systeme seien für lebensbedrohliche Entscheidungen auf dem Schlachtfeld nicht zuverlässig genug. Ihre Nutzung würde sowohl Militärpersonal als auch Zivilisten gefährden.

Unerhörter Druck und persönliche Attacken

Die Regierung ging hart vor. Das Pentagon drohte damit, Anthropic als „Risiko für die Lieferkette“ einzustufen – ein Label, das normalerweise ausländischen Gegnern vorbehalten ist. Sogar das Defense Production Act, ein Kriegsgesetz, wurde als Druckmittel ins Spiel gebracht. Ein hochrangiger Pentagon-Vertreter, Emil Michael, griff Amodei persönlich auf Social Media an und warf ihm vor, die US-Streitkräfte kontrollieren zu wollen.

Verteidigungsminister Pete Hegseth betonte dagegen die staatliche Souveränität: Ein Privatunternehme dürfe nicht die Bedingungen militärischer Operationen diktieren. Das Ministerium bestehe auf Zugang zu KI-Modellen für „jeden rechtmäßigen Einsatz“.

OpenAI springt ein – mit denselben Prinzipien

Kurz nach der Ausbootung Anthropics verkündete der Konkurrent OpenAI eine neue Partnerschaft mit dem Pentagon. Der Deal von CEO Sam Altman beinhaltet überraschenderweise genau jene ethischen Leitplanken, die zum Bruch mit Anthropic führten: Verbote für heimische Massenüberwachung und die Forderung nach menschlicher Verantwortung bei Gewalteinsatz.

Anzeige

Nicht nur im Militärsektor, auch in der Privatwirtschaft rückt die Absicherung von KI-Systemen und IT-Infrastrukturen zunehmend in den Fokus von Gesetzgebern. Erfahren Sie in diesem Experten-Report, wie Sie Ihr Unternehmen gegen moderne Cyber-Bedrohungen wappnen und neue Compliance-Anforderungen erfüllen. Kostenloses E-Book zu Cyber Security Trends herunterladen

Präsident Trump ordnete per Dekret an, die Nutzung von Anthropic-Technologie sofort zu stoppen. Er warf dem Unternehmen vor, das Ministerium „erpressen“ zu wollen. Das Pentagon hat nun sechs Monate Zeit, die bereits in geheimen Systemen integrierte Claude-KI auszuschleichen. Anthropic kündigte rechtliche Schritte an.

Ein Präzedenzfall für KI und Kriegsführung

Der Eklat legt einen grundsentlichen Konflikt offen: Zwischen den Sicherheitsprinzipien von KI-Entwicklern und den operativen Erfordernissen des Militärs. Während Anthropic für seine kompromisslose Haltung bestraft wurde, zeigt das Abkommen mit OpenAI, dass ethische Grenzen nun zum zentralen Verhandlungspunkt bei Rüstungsbeschaffungen werden.

Die Branche steht vor einer neuen Realität. Auch Tech-Giganten wie Google und xAI, die Verteidigungsverträge haben, müssen nun klären, wie sie mit diesem Spannungsfeld umgehen. Die Frage drängt sich auf: Braucht es klare gesetzliche Regeln vom Kongress, statt die Definition von „rechtmäßigem Einsatz“ im Streit zwischen Unternehmen und Exekutive auszuhandeln?