Anthropic-Chef sagt Pentagon bei KI-Ethik den Kampf an

Das KI-Unternehmen Anthropic lehnt die Nutzung seines Modells für Massenüberwachung und autonome Waffen ab und riskiert damit Sanktionen des US-Verteidigungsministeriums.

KI-Unternehmen Anthropic riskiert für seine ethischen Grundsätze den Bruch mit dem US-Verteidigungsministerium. CEO Dario Amodei weigert sich, sein KI-Modell „Claude“ für Massenüberwachung oder autonome Waffen freizugeben – trotz einer Ultimatum-Frist und der Drohung mit einer schwarzen Liste. Der Konflikt markiert eine Zäsur in der Debatte um militärische KI.

Das Pentagon forderte von Anthropic, sein KI-Modell für „jeden rechtmäßigen Zweck“ nutzen zu dürfen. Das Unternehmen zog jedoch zwei klare rote Linien: Massenüberwachung amerikanischer Bürger und der Betrieb vollautonomer Waffensysteme ohne menschliche Entscheidungsgewalt. Für Amodei sind diese Anwendungen mit demokratischen Werten unvereinbar und technisch noch nicht sicher beherrschbar.

Anzeige

Während globale Tech-Konzerne über ethische Leitplanken streiten, müssen Unternehmen hierzulande bereits konkrete gesetzliche Vorgaben erfüllen. Dieser kostenlose Leitfaden erklärt kompakt die Anforderungen der neuen EU-KI-Verordnung für Entwickler und Anwender. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Ultimatum und harte Sanktionsdrohungen

Die Weigerung eskalierte schnell. Das Pentagon setzte eine Frist bis zum 27. Februar und drohte nicht nur mit Vertragskündigungen. Es erwog, Anthropic als „Supply Chain Risk“ einzustufen – ein Status, der bisher ausländischen Gegnern vorbehalten war und alle Geschäftsbeziehungen des Unternehmens lahmlegen würde. Sogar der Einsatz des kriegszeitlichen „Defense Production Act“ wurde ins Spiel gebracht, der der Regierung umfassende Kontrolle über Firmenressourcen geben kann.

„Wir können diesen Forderungen guten Gewissens nicht nachkommen“, erklärte Amodei in einem Blogbeitrag. Er wies auf den Widerspruch hin: Einerseits werde sein Unternehmen als Sicherheitsrisiko gebrandmarkt, andererseits sei seine Technologie „wesentlich für die nationale Sicherheit“. Als Reaktion auf die Pattsituation ordnete Präsident Trump an, die Nutzung von Anthropics KI in Bundesbehörden innerhalb von sechs Monaten auslaufen zu lassen.

Branchen-Rückhalt und ein grundsätzliches Dilemma

Die Haltung von Anthropic findet breite Unterstützung in der Tech-Branche. Sam Altman, CEO des KI-Rivalen OpenAI, erklärte, sein Unternehmen teile dieselben ethischen Grenzen und wolle entsprechende Klauseln in Verträge mit dem Pentagon aufnehmen. Hunderte Mitarbeiter von Google und OpenAI unterzeichneten einen Solidaritätsbrief.

Dabei betont Amodei die grundsätzliche Kooperationsbereitschaft seines Unternehmens. Anthropic war Pionier beim Einsatz von KI in klassifizierten Regierungsnetzen für Geheimdienstanalyse und Cyber-Operationen. Das Unternehmen verzichtete sogar auf Einnahmen von Firmen mit Verbindungen zum chinesischen Militär, um Amerikas technologischen Vorsprung zu wahren.

Anzeige

Der Schutz sensibler Technologien und interner Daten wird angesichts neuer Gesetze und Cyber-Gefahren für Geschäftsführer immer komplexer. Was Verantwortliche im Jahr 2024 über Cyber Security und die aktuelle KI-Regulierung wissen müssen, enthüllt dieser Experten-Report. Kostenloses E-Book zu Cyber Security Trends herunterladen

Ein Präzedenzfall mit globaler Signalwirkung

Der Konflikt wirft eine fundamentale Frage auf: Können ethische Leitplanken dem Wettlauf um die militärische KI-Überlegenheit standhalten? Die Entscheidung von Anthropic, trotz massiven Drucks an seinen Prinzipien festzuhalten, setzt ein starkes Signal. Sie zeigt, dass verantwortungsvolle KI-Entwicklung nicht ohne klare Grenzen auskommt – besonders in Bereichen mit tödlichem Potenzial.

Die weitere Entwicklung wird aufmerksam verfolgt werden, auch in Europa und Deutschland. Wird der Druck zu strengeren gesetzlichen Regelungen führen? Oder etabliert sich eine branchenweite Selbstverpflichtung? Der Fall Anthropic könnte zum Präzedenzfall für den künftigen Umgang mit KI in Sicherheitsfragen werden.