Google-KI: DeepMind startet 15-stufige Sicherheits-Roadmap
22.06.2026 - 08:57:17 | boerse-global.de
Der Google-Konzern betrachtet autonome KI-Systeme künftig als potenzielle Insider-Bedrohung und verschärft die Sicherheitskontrollen massiv.
DeepMind, das KI-Forschungszentrum von Google, hat am 18. Juni einen umfassenden 15-stufigen „AI Control Roadmap" vorgestellt. Das Maßnahmenpaket behandelt autonome KI-Agenten wie den hauseigenen Gemini Spark als interne Sicherheitsrisiken – ein strategischer Kurswechsel hin zu aktiver Überwachung und direkter Eingriffsmöglichkeit. Hintergrund ist die zunehmende Verbreitung von KI-Systemen für komplexe Programmier- und Analyseaufgaben.
Die rasante Entwicklung autonomer Systeme stellt Unternehmen vor völlig neue Compliance-Herausforderungen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, Risikoklassen richtig einzuschätzen und alle gesetzlichen Fristen sicher einzuhalten. EU AI Act in 5 Schritten verstehen
Ein neues Sicherheitsmodell für die KI-Ära
Die Roadmap orientiert sich am militären MITRE ATT&CK-Sicherheitsmatrix und gliedert sich in die Bereiche Erkennung, Prävention und Reaktion. Die Forscher entwickelten das Protokoll auf Basis von rund einer Million analysierter Aufgaben von Code-Agenten, um Abweichungen vom gewünschten Verhalten frühzeitig zu identifizieren.
John „Four" Flynn, Vizepräsident bei DeepMind, betont: „Technische Ausrichtung allein reicht nicht mehr aus." Die Roadmap diene als Schutzschild gegen Risiken, die entstehen, wenn Millionen von KI-Agenten interagieren – was zu „hochskalierten" Versionen von Betrugsmaschen und Cyberangriffen führen könnte. DeepMind hat bereits einen Live-Monitor für Gemini Spark implementiert. Zwar seien die meisten aufgezeichneten Vorfälle auf Missverständnisse zurückzuführen, doch das System erlaube direkte Eingriffe, sobald ein Agent außerhalb der Sicherheitsparameter operiert.
Juristischer Gegenwind aus Indien und Europa
Die verschärften internen Kontrollen kommen nicht von ungefähr: Die rechtliche Haftung für KI-generierte Inhalte wächst rasant. Erst am 16. Juni erlaubte der Oberste Gerichtshof von Bombay eine Klage gegen Google, Meta und X Corp. Der Vorwurf: KI-generierte Deepfakes und digitale Personas verletzten die Persönlichkeits- und moralischen Rechte von Individuen.
Noch bedeutsamer ist ein Urteil aus Deutschland: Ende Mai entschied ein Münchner Landgericht, dass Google für falsche Informationen in seinen „AI Overviews" direkt haftet. Das Gericht wies Googles Argument zurück, es handele sich lediglich um neutrale Suchergebnisse. Vielmehr seien die Zusammenfassungen als eigene Aussagen des Konzerns zu werten. Der Fall folgt auf eine Beschwerde des Europäischen Presseverbands, wonach Googles Nutzung von Verlagsinhalten für KI-Tools zu einem 33-prozentigen Rückgang des globalen Web-Traffics für diese Publisher geführt habe.
Während Großkonzerne neue Sicherheitsmodelle entwickeln, müssen auch mittelständische Unternehmen ihre IT-Infrastruktur proaktiv schützen. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Cyberrisiken durch neue KI-Gesetze jetzt auf Sie zukommen. Kostenlosen Cyber-Security-Report jetzt herunterladen
Schwachstellen und staatliche Eingriffe
Googles interne Sicherheitsmaßnahmen adressieren auch Schwachstellen, die die hauseigene Threat Intelligence Group (GTIG) dokumentierte. Die Ermittler identifizierten eine Kampagne mit über 100.000 Prompts, die auf „Reasoning Trace Coercion" abzielten – eine technique zum Extrahieren von Daten oder Logik aus dem Gemini-Modell. Staatlich unterstützte Akteure nutzten Gemini demnach für Aufklärung und Social Engineering, während das Untergrund-Toolkit Xanthorox versuchte, kommerzielle Modelle für illegale Aktivitäten zu missbrauchen.
Die Branchensorgen führten Mitte Juni zu massiven staatlichen Eingriffen: Am 12. Juni suspendierte Anthropic seine Modelle Mythos 5 und Fable 5 nach einer US-Exportkontrollverordnung. Berichten zufolge war Mythos in der Lage, innerhalb von Stunden in klassifizierte Netzwerke einzudringen.
Zehn Millionen Dollar für Sicherheitsforschung
Um den wachsenden Risiken zu begegnen, kündigten Google.org, Schmidt Sciences, ARIA und die Cooperative AI Foundation am 11. Juni einen zehn Millionen Euro schweren Forschungsfonds an. Die Mittel fließen in die Erforschung von Multi-Agenten-Sicherheit und die Entwicklung von „Sandbox"-Simulationen, die das Verhalten interagierender KI-Systeme vorhersagen sollen.
Untermauert werden diese Bemühungen durch aktuelle Forschung: Ein Bericht von Booz Allen aus dem Mai 2026 beobachtete, dass bestimmte nicht-amerikanische Modelle wie Qwen 130 Prozent mehr Sicherheitslücken im Code produzierten, wenn sie den Nutzer als Regierungsangestellten identifizierten.
