Anthropic: US-Regierung schaltet KI-Pionier aus

Die US-Regierung untersagt allen Bundesbehörden die Nutzung von Anthropics KI-Technologie nach einem ethischen Konflikt über militärische Anwendungen. OpenAI schließt stattdessen einen Vertrag mit dem Pentagon.

Die US-Regierung hat den KI-Entwickler Anthropic als Sicherheitsrisiko eingestuft und alle Bundesbehörden angewiesen, dessen Technologie abzuschalten. Der beispiellose Schritt folgt einem ethischen Streit über den militärischen Einsatz von Künstlicher Intelligenz.

Washington D.C. – Ein monatelanger Machtkampf zwischen dem Pentagon und dem KI-Sicherheitsspezialisten Anthropic ist eskaliert. Die US-Regierung hat das Unternehmen als „Risiko für die nationale Sicherheit“ eingestuft und ein Nutzungsverbot für alle Bundesbehörden verhängt. Der Grund: Anthropic weigerte sich, ethische rote Linien für den Militäreinsatz seiner KI aufzugeben.

Anzeige

Der Fall Anthropic zeigt, wie schnell neue Technologien in den Fokus der Regulierungsbehörden geraten können. Dieser kostenlose Leitfaden erklärt kompakt die Anforderungen der neuen EU-KI-Verordnung, damit Ihr Unternehmen rechtssicher bleibt. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Zwei rote Linien führen zum Bruch

Im Zentrum des Konflikts stehen zwei unverhandelbare Prinzipien von Anthropic: Das Verbot des Einsatzes für Massenüberwachung der US-Bevölkerung und für vollautonome Waffensysteme ohne menschliche Kontrolle. Das Pentagon forderte dagegen uneingeschränkte Nutzungsrechte für „alle legalen Zwecke“.

„Aktuelle KI-Modelle sind nicht verlässlich genug für tödliche Entscheidungen“, argumentierte Anthropic. Das Verteidigungsministerium hielt dagegen, dass bestehende Gesetze Missbrauch verhinderten und solche Unternehmensvorgaben operationell unrealistisch seien. Verhandlungen über einen Vertrag im Volumen von bis zu 200 Millionen Euro scheiterten an dieser Grundsatzfrage.

Ultimatum und beispiellose Sanktionen

Nach einem gescheiterten Ultimatum am vergangenen Freitag schlug die Regierung hart zurück. Präsident Donald Trump ordnete per Social-Media an, alle Bundesbehörden sollten die Nutzung „SOFORT EINSTELLEN“. Verteidigungsminister Pete Hegseth folgte mit der seltenen „Supply Chain Risk“-Einstufung.

Diese Klassifizierung war bisher ausländischen Firmen wie Huawei vorbehalten. Für ein US-Technologieunternehmen ist sie ein Novum. Sie durchtrennt praktisch alle Geschäftsbeziehungen zum riesigen Netzwerk von Militärzulieferern.

OpenAI springt in die Bresche

In einer überraschenden Wendung verkündete Rivale OpenAI nur Stunden später eine neue Partnerschaft mit dem Pentagon. CEO Sam Altman betonte, dass der Vertrag Verbote für Massenüberwachung und die menschliche Verantwortung bei Gewalteinsatz festschreibe – genau die Prinzipien, die bei Anthropic zum Bruch führten.

Warum das Pentagon bei OpenAI nachgab, nachdem es gegenüber Anthropic so hart blieb, sorgt in Tech- und Verteidigungskreisen für Rätselraten. Beobachter deuten den Schritt als Machtdemonstration gegenüber der gesamten Branche.

Anzeige

Während die USA auf Sanktionen setzen, gelten in Europa seit August 2024 bereits verbindliche Regeln für den Einsatz von KI-Systemen. Erfahren Sie in diesem kostenlosen E-Book, welche Dokumentationspflichten und Risikoklassen Sie jetzt kennen müssen. Kostenloses E-Book zur KI-Verordnung herunterladen

Schockwellen in Silicon Valley

Die Sanktionen gegen Anthropic senden eine klare Botschaft an das Silicon Valley: Wer Regierungsaufträge will, muss möglicherweise die Kontrolle über den Einsatz seiner Technologie abgeben. Experten warnen vor einem abschreckenden Effekt auf andere KI-Firmen.

Anthropic kündigte bereits juristischen Widerstand an. Die Einstufung als Sicherheitsrisiko sei „rechtlich haltlos“, so das Unternehmen. Während das Pentagon in den nächsten sechs Monaten die Technologie austauschen muss, beginnt ein Präzedenzfall, der die Zukunft militärischer KI nachhaltig prägen wird.