Anthropic: US-Regierung verbannt KI-Firma nach ethischem Konflikt

Die US-Regierung untersagt die Nutzung von Anthropics KI-Systemen, nachdem das Unternehmen sich weigerte, ethische Sicherheitsvorkehrungen für das Militär aufzuheben. Der Konflikt markiert eine Zäsur.

Die US-Regierung hat den KI-Entwickler Anthropic mit einem umfassenden Bann belegt. Grund ist der Weigerung des Unternehmens, ethische Sicherheitsvorkehrungen für militärische Zwecke aufzuheben. Der historische Konflikt markiert eine Zäsur im Verhältnis zwischen Tech-Branche und Verteidigungsestablishment.

Am Freitag erließ die Regierung von Präsident Donald Trump eine Direktive, die allen Bundesbehörden die Nutzung von Künstlicher Intelligenz des Unternehmens Anthropic untersagt. Der beispiellose Schritt folgte auf einen Streit zwischen dem Pentagon und dem San Franciscoer KI-Startup über die ethischen Grenzen militärischer KI-Nutzung. CEO Dario Amodei weigerte sich, die Kern-Sicherheitsvorkehrungen des Unternehmens zu eliminieren. Diese verbieten den Einsatz seiner Claude-Modelle für Massenüberwachung im Inland und vollautonome tödliche Waffensysteme.

Anzeige

Während Regierungen weltweit über den Einsatz von KI streiten, gelten seit August 2024 bereits verbindliche Regeln für hiesige Unternehmen. Dieser kostenlose Leitfaden erklärt kompakt, welche Kennzeichnungspflichten und Risikoklassen die neue EU-KI-Verordnung für Sie vorsieht. EU-KI-Verordnung: Jetzt kostenlosen Umsetzungsleitfaden sichern

Sicherheitsprinzipien gegen militärische Forderungen

Der Konflikt eskalierte in der vergangenen Woche, nachdem das Verteidigungsministerium unter Minister Pete Hegseth ein Ultimatum stellte. Anthropic sollte bis Freitag seine Nutzungsbeschränkungen aufheben. Die Militärs forderten uneingeschränkten Zugang zur KI-Technologie für alle rechtmäßigen Zwecke. Die Verhandlungen scheiterten, als Anthropic in den Vertragsentwürfen rechtliche Schlupflöcher identifizierte, die ihre Sicherheitsprotokolle umgehen könnten.

Nach Ablauf der Frist ordnete Präsident Trump den sofortigen Stopp aller Anthropic-Software in zivilen Bundesbehörden an. Für das Pentagon gilt eine sechsmonatige Auslaufphase. Das Ministerium hatte zuvor einen Vertrag im Volumen von bis zu 200 Millionen Euro mit dem KI-Unternehmen geschlossen. Zudem stufte Minister Hegseth Anthropic als Risiko für die Lieferkette der nationalen Sicherheit ein. Diese seltene Einstufung, bisher meist feindlichen ausländischen Einheiten vorbehalten, verbietet US-Militärunternehmen jeglichen Geschäftsverkehr mit dem KI-Entwickler. Regierungsvertreter argumentieren, die Armee könne es sich nicht leisten, dass Technologiepartner ein Vetorecht über operative Entscheidungen hätten.

CEO Amodei wehrt sich – Klage angekündigt

In ersten öffentlichen Reaktionen wies CEO Dario Amodei die Darstellung der Regierung entschieden zurück. Er bezeichnete die Maßnahmen als vergeltend und strafend. Sein Widerstand gegen die Forderungen und das Festhalten an ethischen Standards sei ein grundlegend amerikanisches Ideal, so Amodei. Sein Unternehmen habe die nationale Sicherheit stets proaktiv unterstützt und sei etwa der erste gewesen, der fortgeschrittene KI-Modelle in klassifizierten Cloud-Infrastrukturen des Militärs einsetzte.

Gegen die Einstufung als Lieferkettenrisiko kündigte Amodei eine Klage vor einem Bundesgericht an. Er hält die Maßnahme für rechtlich fragwürdig und einen beispiellosen staatlichen Eingriff in die Privatwirtschaft. Trotz des Verlusts lukrativer Staatsaufträge zeigte sich der CEO zuversichtlich. Die finanziellen Auswirkungen seien begrenzt und würden von Verteidigungsbeamten übertrieben dargestellt. Das Unternehmen werde den Konflikt unbeschadet überstehen und seine Sicherheitsprinzipien nicht opfern. „Harte Grenzen für autonome Kriegsführung und Massenüberwachung sind nötig, um zu verhindern, dass die Technologie der menschlichen Kontrolle enteilt“, betonte Amodei.

Betriebsstörungen und ein neuer Marktführer

Die sofortige Umsetzung der Anordnung löste erhebliche Betriebsstörungen in zivilen Bundesbehörden aus. Von Landwirtschaft bis Heimatschutz mussten Technologieverantwortliche eingebettete Claude-KI-Modelle abrupt abschalten. Die Systeme wurden für Datenanalyse, Übersetzung und Code-Überprüfung genutzt. Die Störung zeigt, wie tief fortsrittliche KI bereits in staatliche Arbeitsabläufe integriert ist.

Besonders komplex ist die Lage beim Militär. Dem US Central Command dienten die Anthropic-Systeme offenbar zur Geheimdienstanalyse und Gefechtssimulation. Medienberichten zufolge kam die Technologie sogar während eines größeren Militärschlags im Nahen Osten zum Einsatz – nur Stunden, bevor das Verbot in Kraft trat.

Der Bann verändert das Wettbewerbsfeld unter KI-Entwicklern sofort. Kurz nach der Sperrung von Anthropic kündigte der Rivale OpenAI eine neue Vereinbarung mit dem Pentagon an. Dessen Technologie soll nun in den klassifizierten Netzwerken des Militärs eingesetzt werden. Die OpenAI-Führung betonte, ihr Vertrag enthalte weiterhin Verbote für Massenüberwachung und autonome Waffen. Beobachter fragen sich, warum ähnliche Zusagen bei einem Unternehmen akzeptiert, bei Anthropic aber abgelehnt wurden.

Anzeige

Der Fall Anthropic zeigt, wie schnell technologische Abhängigkeiten zum Risiko für die Betriebssicherheit werden können. Was Geschäftsführer im Jahr 2024 über neue KI-Gesetze und den Schutz ihrer digitalen Infrastruktur wissen müssen, enthüllt dieser aktuelle Experten-Report. Kostenloses E-Book: Cyber Security Trends & KI-Regulierung

Langfristige Folgen für die Tech-Branche

Die Ereignisse dürften langwierige juristische und politische Schlachten auslösen. Die angekündigte Klage von Anthropic wird die Grenzen der exekutiven Befugnis testen, heimische Technologieanbieter unter dem Deckmantel der nationalen Sicherheit zu regulieren. Sollte die Einstufung als Risiko bestehen bleiben, müssten große Rüstungsunternehmen ihre Geschäftsbeziehungen zu Anthropic vollständig kappen. Das könnte den gesamten Unternehmenssoftware-Markt beeinflussen.

Branchenanalysten sehen in dem Konflikt einen kritischen Präzedenzfall dafür, wie demokratische Regierungen Künstliche Intelligenz beschaffen und einsetzen werden. Während das Pentagon in den nächsten sechs Monaten von Anthropic-Infrastruktur wegwechselt, steht anderer großer Tech-Firmen unter Druck, ihre ethischen Grenzen zu definieren. Die entschlossene Aktion der Regierung signalisiert: Künftige Verteidigungsverträge könnten vollständige Unterordnung unter militärisches Ermessen verlangen. Das würde das Machtgleichgewicht zwischen kommerziellen KI-Entwicklern und Sicherheitsbehörden dauerhaft verändern.