Anthropic: US-Verteidigungsministerium stempelt KI-Pionier zum Sicherheitsrisiko

Das US-Verteidigungsministerium stuft Anthropic als Lieferkettenrisiko ein und beendet einen Großvertrag, nachdem das Unternehmen KI-Einschränkungen für autonome Waffen forderte.

Das Pentagon hat den KI-Entwickler Anthropic zum nationalen Sicherheitsrisiko erklärt. Der ungewöhnliche Schritt gegen ein US-Unternehmen folgt einem Streit über den Einsatz von KI in autonomen Waffensystemen.

Die US-Regierung hat einen beispiellosen Konflikt mit der KI-Industrie eskalieren lassen. Das Verteidigungsministerium stufte das Startup Anthropic diese Woche offiziell als Risiko für die Lieferkette ein. Diese Einstufung, normalerweise ausländischen Gegnern vorbehalten, leitet eine sechsmonatige Ausphasung von Anthropics KI-Modell Claude aus den klassifizierten Militärnetzen ein. Sie beendet einen Vertrag im Wert von mehreren hundert Millionen Euro und untersagt allen Bundesbehörden die Nutzung der Technologie. Der Schritt unterstreicht den wachsenden Graben zwischen den Sicherheitsprinzipien des Silicon Valley und den operativen Ansprachen des Militärs.

Anzeige

Während staatliche Institutionen über Sicherheitsregeln streiten, müssen Unternehmen die neuen gesetzlichen Rahmenbedingungen bereits heute umsetzen. Dieser kostenlose Leitfaden erklärt kompakt die Anforderungen und Fristen der aktuellen EU-KI-Verordnung. EU-KI-Verordnung kompakt: Jetzt Gratis-E-Book sichern

Kern des Konflikts: Keine KI für autonome Waffen

Der außergewöhnliche Bruch entzündete sich an einer grundsätzlichen Frage: Dürfen private KI-Firmen dem Militär Vorgaben machen? Anthropic weigerte sich beharrlich, seine Technologie für den uneingeschränkten Einsatz freizugeben. Das Unternehmen forderte vertragliche Zusicherungen, dass sein KI-Modell Claude niemals vollautonome Waffensysteme steuern oder Massenüberwachung der US-Bevölkerung durchführen darf.

Das Pentagon unter Verteidigungsminister Pete Hegseth wies diese Forderungen kategorisch zurück. Militärvertreter argumentieren, die Streitkräfte müssten KI für alle gesetzlich erlaubten Zwecke nutzen können. Die bestehenden Gesetze und internen Richtlinien regulierten autonome Waffen und Inlandsüberwachung bereits ausreichend. Externe, vertragliche Verbote seien unnötig und ein inakzeptabler Eingriff in die militärische Befehlskette.

„Der Kern des Konflikts ist Anthropics Versuch, einzuschränken, wie die Streitkräfte KI künftig in Kriegsszenarien einsetzen könnten“, bekräftigte Pentagon-Technologiechef Emil Michael am Samstag. Das Unternehmen hält dagegen: Aktuelle KI-Modelle seien nicht verlässlich genug, um tödliche autonome Waffen ohne menschliche Aufsicht zu steuern. Ein solcher Einsatz gefährde Zivilisten und Soldaten.

Juristische Schlacht und offenes Feld für Konkurrenten

Anthropic kündigte umgehend an, die Entscheidung vor einem Bundesgericht anzufechten. CEO Dario Amodei argumentiert, die Einstufung als Lieferkettenrisiko sei dazu gedacht, das Militär vor ausländischer Sabotage zu schützen – nicht, um ein US-Unternehmen wegen Vertragsklauseln zu bestrafen.

Der Konflikt hat das Wettrennen im KI-Sektor sofort verschärft. Nur Stunden nach der Anordnung, die Verbindungen zu Anthropic zu kappen, verkündete der große Rivale OpenAI eine neue Vereinbarung zur Nutzung seiner Systeme in klassifizierten Militärumgebungen. OpenAI will zwar ebenfalls Schutzvorkehrungen gegen Inlandsüberwachung und autonome Waffen durchsetzen. Berichten zufolge fanden Pentagon-Vertreter die Bedingungen des Konkurrenten jedoch operativ flexibler als Anthropics starre rote Linien.

Eingeschränkte kommerzielle Folgen – komplexe Umstellung

Die Einstufung trifft Anthropics Ambitionen im öffentlichen Sektor hart. Die unmittelbaren kommerziellen Auswirkungen scheinen jedoch begrenzt. Wichtige Partner wie Microsoft, das Claude in Software-Suiten integriert, haben die Entscheidung geprüft. Sie kamen zum Schluss, dass Integrationen außerhalb des Verteidigungsbereichs weiterhin zulässig sind. Die Plattformen für zivile und kommerzielle Projekte laufen normal weiter.

Für große Rüstungskonzerne wie Lockheed Martin und Amazon Web Services entstehen jedoch komplexe Compliance-Herausforderungen. Sie müssen ihre Militär-Infrastruktur nun penibel von allen Anthropic-Diensten trennen. Branchenvertreter rechnen mit minimalen operativen Störungen, da große Auftragnehmer generell nicht von einem einzigen KI-Anbieter abhängig sind.

Anzeige

Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz bringen auch neue sicherheitstechnische und rechtliche Risiken für die Wirtschaft mit sich. Was Geschäftsführer jetzt über Cyber-Security und die neuen Gesetzeslagen wissen müssen, zeigt dieser aktuelle Experten-Report. Cyber Security Strategien 2024 kostenlos herunterladen

Präzedenzfall mit Signalwirkung

Die beispiellose Konfrontation setzt einen kritischen Präzedenzfall für die Zukunft militärischer KI-Beschaffung. Sie offenbart die Reibung zwischen der sicherheitsorientierten Kultur des Silicon Valley und den kompromisslosen Anforderungen der nationalen Sicherheit. Indem die Regierung eine Lieferketten-Einstufung gegen ein inländisches Unternehmen „waffnete“, signalisierte sie eine Null-Toleranz-Politik gegenüber Auftragnehmern, die ethische Beschränkungen jenseits des geltenden Rechts durchsetzen wollen.

Rechtsexperten weisen darauf hin, dass der Streit ungelöste verfassungs- und völkerrechtliche Fragen berührt. Während Massenüberwachung und autonome Waffen den vierten Verfassungszusatz und das humanitäre Völkerrecht betreffen, verlassen sich Tech-Firmen immer weniger auf die Interpretation dieser Grenzen durch die Regierung. Sie fordern explizite vertragliche Garantien.

Der nun beginnende sechsmonatige Übergang stellt das Pentagon vor enorme logistische Herausforderungen. Claude muss aus den hochsicheren Netzen entfernt und durch Alternativen ersetzt werden. Gleichzeitig wird der angekündigte Rechtsstreit zu einem wegweisenden Fall im Technologie- und Verteidigungsrecht. Sollten die Gerichte das aggressive Vorgehen des Pentagons bestätigen, könnte dies zivile Tech-Firmen abschrecken, mit dem Militär zusammenzuarbeiten. Die Angst wäre groß, dass jeder Nutzungsstreit in vernichtenden Sanktionen enden könnte.