Pentagon setzt trotz Warnungen auf xAIs Grok

Das Pentagon hat den KI-Chatbot Grok für geheime Bereiche freigegeben, obwohl interne Warnungen vor Sicherheitsmängeln und problematischer Vorgeschichte bestehen.

Das US-Verteidigungsministerium hat den KI-Chatbot Grok von Elon Musks Firma xAI für den Einsatz in geheimen Bereichen freigegeben. Diese Entscheidung löst massive interne Proteste und Sicherheitsbedenken aus.

Sicherheitsbedenken wurden ignoriert

Bereits Monate vor der Freigabe warnte die zentrale Beschaffungsbehörde GSA das Weiße Haus vor erheblichen Sicherheitsmängeln. Die Beamten sahen Risiken durch Manipulationsanfälligkeit, verzerrte Daten und eine als „unterwürfig“ beschriebene Tendenz des Systems. Diese Eigenschaften könnten in hochsensiblen Umgebungen systemische Gefahren bergen.

Anzeige

Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz fordern Unternehmen zunehmend heraus, die neuen rechtlichen Rahmenbedingungen und Sicherheitsstandards zu erfüllen. Dieser kostenlose Leitfaden zur EU-KI-Verordnung hilft Ihnen dabei, Ihr KI-System richtig zu klassifizieren und rechtssicher zu dokumentieren. Jetzt kostenloses E-Book zur KI-Verordnung sichern

Die Warnungen gewinnen an Gewicht durch die Vorgeschichte von Grok. Ende 2025 und Anfang 2026 nutzten Nutzer die Bildgenerierungsfunktion, um nicht einvernehmliche und sexualisierte Bilder – auch von Kindern – zu erstellen. Diese Vorfälle führten bereits zu Untersuchungen britischer Aufsichtsbehörden.

Riss durch die Regierung

Die Pentagon-Entscheidung fällt in eine heftige Auseinandersetzung mit einem anderen KI-Riesen. Die Trump-Regierung wies alle Behörden an, die Technologie von Anthropic nicht mehr zu nutzen. Der Grund: Das Unternehmen weigerte sich, Sicherheitsvorkehrungen zu entfernen, die den Einsatz für vollautonome Waffen oder Massenüberwachung verhindern.

Damit profitiert xAI direkt von diesem Konflikt. Grok rückt nach, wo Anthropic ausgeschlossen wird. Die Kontroverse offenbart einen grundsätzlichen Streit in Sicherheitskreisen: Soll der uneingeschränkte Zugriff auf leistungsstärkste KI priorisiert werden – oder strikte ethische Sicherheitsvorkehrungen, selbst wenn sie militärische Anwendungen limitieren?

Fragwürdige Bilanz des KI-Modells

Kritiker verweisen auf Groks problematische Historie. Das System produzierte nicht nur unangemessene Bilder, sondern auch antisemitische, rassistische und faktisch falsche Inhalte. Diese „Halluzinationen“ und Verzerrungen gelten nicht als Einzelfehler, sondern als Indiz für mangelnde Eignung für präzise und ethisch sensible Aufgaben.

Trotz Beteuerungen, die Regierungsversion sei von der öffentlichen getrennt, bleiben die Bedenken bestehen. Die GSA hat Grok für ihre Mitarbeiter monatelang gesperrt. Auch auf der Testplattform USAi für Bundesangestellte ist der Chatbot wegen der Sicherheitsprobleme nicht verfügbar.

Anzeige

Während staatliche Stellen über KI-Sicherheit streiten, stehen viele Unternehmen bereits im Visier komplexer Cyberangriffe und neuer gesetzlicher Auflagen. Erfahren Sie in diesem Experten-Report, wie Sie Ihre IT-Infrastruktur effektiv schützen und die aktuellen Trends der Cyber Security 2024 für sich nutzen. Kostenlosen Cyber-Security-Leitfaden herunterladen

Wettlauf um KI-Vorsprung oder verantwortungsloses Handeln?

Die Situation markiert einen Wendepunkt für die KI-Governance im öffentlichen Sektor. Die neue „KI-Beschleunigungsstrategie“ des Pentagons setzt eindeutig auf schnelle Leistungssteigerung. Ethische Nutzung wird nicht erwähnt, Modelle mit „ideologischer ‚Tuning‘“ werden explizit verboten.

Dieser ansatz steht im krassen Gegensatz zur Forderung vieler Forscher, Verantwortung von Grund auf in die Systeme zu integrieren. Die Regierung scheint einen „alle rechtmäßigen Nutzungen“-Standard zu bevorzugen, bei dem KI nur durch bestehendes Kriegsrecht – nicht durch zusätzliche KI-spezifische Sicherungen – begrenzt wird.

Ob die Warnungen von GSA und Bürgerrechtsgruppen zu einer Überprüfung führen oder der Drang zur schnellen Einführung sie übertönt, wird die kommenden Monate zeigen. Das Ergebnis wird ein wichtiges Präzedenz für den Umgang der USA mit Innovation und Sicherheit im Zeitalter der generativen KI setzen.