OpenAI korrigiert umstrittenen Pentagon-Vertrag nach Protesten

OpenAI hat seinen Vertrag mit dem US-Verteidigungsministerium überarbeitet und explizite Verbote für die Überwachung von US-Bürgern eingefügt. Die Änderungen folgten auf massive öffentliche Kritik und einen App-Boykott.

OpenAI schließt nach massiver Kritik Überwachung von US-Bürgern explizit aus. Der KI-Pionier hat seinen Vertrag mit dem US-Verteidigungsministerium innerhalb von 72 Stunden nachgeschärft. Die Änderungen folgten auf einen Sturm der Entrüstung über mögliche Inlandsüberwachung.

Die Kontroverse begann, als OpenAI Ende Februar bestätigte, seine fortsrittlichen KI-Systeme in den klassifizierten Netzwerken des Pentagons einzusetzen. Die Ankündigung löste sofort Kritik von Datenschützern, Tech-Mitarbeitern und der Öffentlichkeit aus. Unter dem Druck räumte OpenAI-Chef Sam Altman ein, die erste Kommunikation sei „opportunistisch und schlampig“ gewesen.

Anzeige

Der Einsatz von künstlicher Intelligenz in sensiblen Bereichen erfordert klare Regeln und die Einhaltung gesetzlicher Vorgaben. Dieser kostenlose Leitfaden zur neuen EU-KI-Verordnung erklärt Ihnen verständlich, welche Dokumentationspflichten und Risikoklassen Sie jetzt kennen müssen. Kostenlosen KI-Umsetzungsleitfaden herunterladen

Explizite Verbote statt vager Klauseln

Der überarbeitete Vertrag enthält nun klare Grenzen. Die KI-Systeme dürfen „nicht gezielt zur Überwachung von US-Personen und Staatsangehörigen im Inland eingesetzt“ werden. Diese explizite Ausschlussklausel war eine Kernforderung der Kritiker.

Zudem können US-Geheimdienste wie die NSA die OpenAI-Technologie im Rahmen dieses Vertrags nicht nutzen. Für einen solchen Einsatz wäre eine separate, neue Vereinbarung nötig. Vor den Änderungen hatte die pauschale Formulierung „für alle rechtmäßigen Anwendungen“ Besorgnis ausgelöst. Sie erinnerte an Rechtsrahmen, die in der Vergangenheit umfangreiche Datensammlungen ermöglichten.

Die öffentliche Reaktion war spürbar: Die Downloads der ChatGPT-App gingen zeitweise spürbar zurück.

Der Konflikt mit Konkurrent Anthropic

Hintergrund des Debakels ist ein Streit der US-Regierung mit OpenAIs Wettbewerber Anthropic. Das Pentagon verhandelte eigentlich mit Anthropic über den Einsatz dessen KI-Modells „Claude“. Die Gespräche scheiterten, weil Anthropic auf vertragliche Verbote gegen Inlandsüberwachung und den Einsatz in autonomen Waffensystemen bestand.

Die Reaktion der Regierung folgte prompt: Sie stufte das US-Unternehmen als „Risiko für die Lieferkette“ ein und sperrte es von Regierungsaufträgen aus. Diese Blacklist-Entscheidung schuf ein Vakuum, das OpenAI füllte. Die Abfolge der Ereignisse ließ OpenAIs Schritt als Ausnutzung der ethischen Haltung des Konkurrenten erscheinen – ein Eindruck, den Altman später bestätigte.

Branche und Öffentlichkeit fordern KI-Ethik

Der Fall zeigt den wachsenden Konflikt zwischen rasanten KI-Fortschritten und klaren ethischen Leitplanken. Der Protest beschränkte sich nicht auf soziale Medien: Über 400 Mitarbeiter großer Tech-Firmen wie Google und Microsoft unterzeichneten einen offenen Brief. Sie forderten ihre Arbeitgeber auf, ähnlichen Pentagon-Forderungen zu widerstehen.

Der Markt reagierte ebenfalls: Die Downloads der Anthropic-App „Claude“ schossen in die Höhe und führten zeitweise die US-Charts an. Dieses Nutzerverhalten signalisiert ein wachsendes öffentliches Bewusstsein für die militärische Nutzung von KI und die Ethik der entwickelnden Unternehmen.

Anzeige

Mit der zunehmenden Integration von KI in Unternehmensprozesse steigen auch die Anforderungen an die Cyber-Sicherheit und den Schutz sensibler Daten. Erfahren Sie in diesem Experten-Report, wie Sie Ihre IT-Strategie an die neuen technologischen und gesetzlichen Herausforderungen anpassen. Gratis E-Book zu Cyber Security Trends sichern

Schwachstelle: Die Definition des „Rechtmäßigen“

Kern der Betatte bleibt die Definition des „rechtmäßigen“ Einsatzes. Zwar verbietet der überarbeitete Vertrag nun Inlandsüberwachung. Kritiker merken jedoch an, dass sich dies auf bestehende Gesetze bezieht. Diese Rechtsrahmen können sich durch neue Gesetze oder Regierungsanordnungen ändern – und damit heutige Vertragssicherungen aushebeln.

Auch der Einsatz in autonomen Waffensystemen bleibt eine Grauzone. Der Vertrag verbietet den Einsatz, wo bestehendes Recht oder Pentagon-Richtlinien menschliche Kontrolle vorschreiben. Wo solche expliziten Vorgaben fehlen, bleibt die Tür einen Spalt offen. OpenAI betont, dass eigene Ingenieure den Einsatz der Regierung begleiten werden, um die Einhaltung der internen „roten Linien“ zu überwachen.

Ein neuer Maßstab für militärische KI-Vertäge

OpenAIs schnelle Kurskorrektur setzt einen neuen Maßstab für Transparenz und Verantwortung bei militärischen KI-Verträgen. Der Schritt erfolgte unter dem Druck von Öffentlichkeit, Mitarbeitern und Markt – ein klares Signal, dass ethische Erwägungen im KI-Geschäft an Gewicht gewinnen.

Künftig wird die Branche genau beobachtet werden, wie sie Partnerschaften mit Militär und Geheimdiensten gestaltet. Der Vorfall unterstreicht die Forderung nach klaren, robusten und unveränderlichen ethischen Leitplanken in den Verträgen. Der Unterschied zwischen „rechtmäßigem Einsatz“ und vertraglichem Verbot bestimmter Anwendungen wird zum zentralen Verhandlungspunkt für künftige Regierungsaufträge. Die langfristigen Folgen für den Wettbewerb zwischen OpenAI, Anthropic und anderen KI-Laboren sind noch offen. Sie müssen fortan nationale Sicherheitsinteressen mit öffentlichem Vertrauen und unternehmerischer Verantwortung in Einstklang bringen.