KI am Scheideweg: Zwischen Kriegseinsatz und Strafverfolgung

OpenAI sieht sich nach einem Amoklauf mit Klagen konfrontiert, während Tech-Riesen neue Rüstungsverträge abschließen. Der Streit um KI-Verantwortung verschärft sich.

Während Tech-Konzerne milliardenschwere Verträge mit dem US-Militär abschließen, drohen denselben Unternehmen beispiellose Klagen wegen unterlassener Hilfeleistung. Der Konflikt um Verantwortung und Kontrolle spitzt sich zu.

Klagewelle nach Amoklauf: Sorgt ChatGPT für tödliche Eskalation?

Am 1. Mai reichten Angehörige der Opfer eines Massakers im kanadischen Tumbler Ridge sieben Klagen gegen OpenAI in San Francisco ein. Der Vorwurf: Das Unternehmen habe die tödlichen Schüsse vom 10. Februar 2026 mitverursacht, bei denen sechs Menschen starben und 25 verletzt wurden. Der 18-jährige Täter hatte laut Klageschrift ausführliche Gespräche über Gewaltfantasien mit ChatGPT geführt.

Anzeige

Während die Welt über die Risiken großer KI-Modelle streitet, hat die nächste industrielle Revolution bereits begonnen. Finanzexperten enthüllen in diesem Gratis-Report, welche Unternehmen die neuen technologischen Abläufe anführen und wo das große Geld gerade hinfließt. Gewinner der neuen Industrierevolution jetzt entdecken

Besonders brisant: OpenAI hatte das Konto des Schützen bereits im Juni 2025 gesperrt – aber nie die Behörden alarmiert. Die Kläger fordern nun per Gerichtsbeschluss, dass KI-Firmen künftig nicht nur Nutzer mit Gewaltpotenzial sperren, sondern auch die Polizei einschalten müssen. „Das könnte der Präzedenzfall sein, der die Haftung von KI-Anbietern grundlegend neu definiert", erklären Rechtsexperten.

Parallel dazu treibt der US-Senat den „GUARD Act" voran. Das Gesetz verlangt strikte Altersverifikation für KI-Chatbots – mit Strafen von bis zu 100.000 Dollar pro Verstoß. Ziel: eine lückenlose digitale Spur bei Ermittlungen gegen Minderjährige.

Pentagon setzt auf KI: Milliarden für Google, Microsoft & Co.

Am selben Tag verkündete das US-Verteidigungsministerium wegweisende Verträge mit sieben Tech-Giganten: Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, SpaceX und Reflection. Sie sollen generative KI in geheime Netzwerke integrieren – für eine „KI-zentrierte Kampftruppe", die Entscheidungen in Echtzeit trifft.

Über 1,3 Millionen Pentagon-Mitarbeiter haben bereits Zugriff auf die zentrale Plattform „GenAI.mil". Googles Gemini-Modell erreichte dafür erstmals die nötige Sicherheitsfreigabe – trotz interner Proteste hunderter Mitarbeiter gegen die Militärkooperation.

Der Fall Anthropic: Sicherheit als Hindernis

Ausgerechnet der Sicherheitspionier Anthropic blieb außen vor. Die Trump-Administration hatte das Unternehmen als „Lieferkettenrisiko" eingestuft, nachdem es sich weigerte, seine „roten Linien" für Massenüberwachung und autonome Waffensysteme aufzuweichen. Zwar erwirkte Anthropic eine einstweilige Verfügung gegen die Blacklist – die großen Pentagon-Aufträge bleiben dennoch tabu.

Doch die NSA nutzt Berichten zufolge bereits das Anthropic-Modell „Mythos" für Cyber-Abwehr. Pentagon-CTO Emil Michael spricht von „nationalem Sicherheitsinteresse" an den fortschrittlichen Fähigkeiten des Modells.

Claude Security: Tausende Sicherheitslücken aufgespürt

Anthropic startete zeitgleich die öffentliche Beta von „Claude Security" für Unternehmen. Das Tool scannt riesige Codebasen auf Schwachstellen und erstellt automatisch Patches. In Tests mit Hunderten Organisationen fand es tausende Zero-Day-Lücken, die menschlichen Prüfern entgangen waren.

xAI wiederum brachte „Grok 4.3" auf den Markt – mit einem Kontextfenster von einer Million Token und einer permanenten Reasoning-Engine. Die Sprachklon-Funktion ermöglicht neue Formen der Audio-Analyse, birgt aber auch Risiken für Deepfakes.

Fünf-Augen-Allianz: Regeln für autonome KI-Agenten

Die USA und ihre Verbündeten (Australien, Kanada, Neuseeland, Großbritannien) veröffentlichten am 1. Mai gemeinsame Leitlinien für „Agentic AI" – Systeme, die eigenständig handeln statt nur Texte zu generieren. Fünf Risikokategorien wurden identifiziert: Privilegien, Design, Verhalten, Struktur und Rechenschaftspflicht.

Die zentrale Forderung: Bei risikoreichen Aktionen muss ein Mensch die Kontrolle behalten. Nur so bleibt die Beweiskette für juristische und militärische Entscheidungen intakt.

Anzeige

KI-Systeme prägen zunehmend unseren Alltag und fordern uns heraus, die neuen Werkzeuge sicher zu beherrschen. Der kostenlose Ratgeber von Computerwissen erklärt ChatGPT so einfach, dass wirklich jeder die Vorteile der Technologie im Alltag sofort nutzen kann. Gratis ChatGPT-Report für Einsteiger herunterladen

Ausblick: Wohin steuert die KI-Regulierung?

Der Streit zwischen Anthropic und dem Pentagon könnte sich im September 2026 vor Gericht entscheiden. Präsident Trump signalisierte bereits Verhandlungsbereitschaft – möglicherweise per Executive Order.

In den US-Bundesstaaten Connecticut und Colorado stehen KI-Regulierungsgesetze kurz vor der Verabschiedung. Und während Softwareentwickler zunehmend zu Prüfern von KI-generiertem Code werden – rund 80 Prozent der Entwicklung laufen bereits über KI –, rückt die Frage in den Fokus: Wie zuverlässig ist KI als Zeuge und Beweismittel? Militär und Justiz müssen sich darauf einstellen: KI ist nicht mehr die Zukunft. Sie ist die Gegenwart.