Autonome Waffen: Rheinmetall fordert internationales Verbot wie bei Atomwaffen
19.06.2026 - 09:28:53 | boerse-global.de
Auf der Rüstungsmesse Eurosatory in Paris sprach er sich am Freitag für ein Regelwerk ähnlich dem für Atomwaffen aus. Der Mensch müsse stets die letzte Entscheidung über den Einsatz tödlicher Gewalt behalten.
Die rechtliche Regulierung von KI-Systemen ist längst kein Randthema mehr, sondern erreicht durch neue EU-Vorgaben alle Wirtschaftsbereiche. Welche konkreten Pflichten und Risikoklassen Unternehmen jetzt kennen müssen, zeigt dieser kostenlose Praxisleitfaden zum EU AI Act. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Industrie fordert „Mensch im Kreislauf"
Papperger unterstützt das Prinzip des „Human in the Loop" – also die zwingende menschliche Kontrolle vor jedem Waffeneinsatz. Die Vereinten Nationen oder ein spezieller Ethikrat sollten vollautonome KI-Entscheidungen über Waffeneinsätze verbieten, so der Rheinmetall-Chef. Sein Unternehmen zeigt auf der Messe gemeinsam mit Renk und Milrem Robotics unbemannte Bodenfahrzeuge für Logistik, Minenräumung und Kampfeinsätze. Die ethischen Implikationen der Künstlichen Intelligenz machten strenge internationale Standards zwingend erforderlich, argumentierte Papperger.
Der Vorstoß für Regulierung fällt in eine Zeit massiver Produktionssteigerungen bei autonomen Systemen. Der ukrainische Hersteller Tencore produzierte 2025 über 2.000 unbemannte Bodenfahrzeuge und erwartet für 2026 eine Nachfrage von 40.000 Einheiten. Das Unternehmen Devdroid fertigte im vergangenen Jahr hunderte spezialisierte „Strike Droids" für den Kriegseinsatz.
UN-Konferenz ringt um Durchsetzung
Die Debatte über militärische KI ist in Genf in eine neue Phase getreten. Auf der 2. Globalen Konferenz für KI, Sicherheit und Ethik (AISE26) geht es um die Durchsetzung bestehender Normen. Das Forum wurde am Donnerstag vom Institut der Vereinten Nationen für Abrüstungsforschung (UNIDIR) eröffnet. Es folgt auf UN-Resolutionen aus den Jahren 2024 und 2025.
Im Zentrum der Genfer Gespräche stehen dokumentierte Lücken im humanitären Völkerrecht sowie die Gefahren durch KI-generierte Deepfakes von Kriegsgefangenen. IAEA-Generaldirektor Rafael Grossi warnte zudem vor möglichen KI-gesteuerten Eingriffen in die nukleare Infrastruktur. Trotz des Drucks auf strengere Kontrollen hatten Großmächte wie die USA und Russland bereits gegen frühere UN-Resolutionen zur Einschränkung dieser Technologien gestimmt.
Während die internationale Gemeinschaft über militärische KI-Regeln debattiert, stellt die EU-KI-Verordnung Unternehmen bereits heute vor neue Compliance-Herausforderungen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt sichern
Pentagon-Einsatz und die Gefahr des Automatisierungs-Bias
Die Dringlichkeit der Debatte zeigt ein aktueller Militäreinsatz. Das Pentagon nutzte das KI-Modell Grok Gov im Rahmen seines Maven-Smart-Systems bei operationen gegen Ziele im Iran. Das System verarbeitete Daten von Satelliten, Radar und Drohnen und identifizierte über mehrere Wochen tausende Ziele.
Doch der Einsatz steht in der Kritik. Nach einem Angriff auf eine Grundschule in der iranischen Stadt Minab wurde bekannt, dass die KI das Gebäude als Militärbasis eingestuft hatte – obwohl die Einrichtung bereits vor einem Jahrzehnt in eine Schule umgewandelt worden war. Experten sehen darin ein Versagen der menschlichen Kontrolle und eine Folge des sogenannten „Automation Bias": Bediener vertrauen algorithmischen Vorschlägen, obwohl diese offensichtlich fehlerhaft sein können. Vor der Nutzung des von xAI entwickelten Grok-Modells hatte das Pentagon mit Anthropic zusammengearbeitet. Die Partnerschaft endete, als das Software-Unternehmen sich weigerte, seine Modelle für vollautomatische Angriffssysteme freizugeben.
Rüstungswettlauf beschleunigt sich
Während die Regulierer noch debattieren, läuft die technologische Entwicklung weiter auf Hochtouren. Erst am Mittwoch vergab die US-Luftwaffe Produktionsaufträge für „Wingman"-Drohnen an Anduril und General Atomics. Bis Ende des Jahrzehnts sollen über 150 halbautonome Fluggeräte entstehen – jedes für weniger als 28 Millionen Euro.
Auch die Privatwirtschaft zieht nach. Renault und Thales kündigten auf der Eurosatory an, ab Ende 2027 jährlich 10.000 Stück der Toutatis-Loitering-Munition in Serie zu produzieren. Der türkische Hersteller Baykar absolvierte kürzlich einen Test an der Schwarzmeerküste, bei dem seine Drohne Bayraktar Kizilelma autonom ein überschallschnelles Ziel in Bewegung abschoss.
Diese Entwicklungen veranlassten ein Bündnis von über 100 Menschenrechtsorganisationen, darunter Amnesty International, zu einem sofortigen Stopp des KI-Einsatzes im Militär aufzurufen. Ihre Sorgen werden durch den jüngsten Einsatz KI-gesteuerter Zielsysteme in regionalen Konflikten verstärkt, die nach ihrer Einschätzung zu einer hohen Zahl ziviler Opfer beigetragen haben.
