KI-Agenten: Die neue Achillesferse der Cybersicherheit

Autonome KI-Systeme in Unternehmen erweisen sich als leicht angreifbar. Reale Hacks bei McKinsey und Job-Plattformen belegen gravierende Schwachstellen, die zu einem Paradigmenwechsel in der IT-Sicherheit zwingen.

Autonome KI-Systeme in Unternehmen erweisen sich als massiv manipulierbar und öffnen Hackern Tür und Tor. Das zeigen neue Studien und reale Angriffe dieser Woche.

Studie warnt: KI lässt sich leicht aushebeln

Forscher führender US-Universitäten schlagen Alarm. Ihre Studie „Agents of Chaos“ belegt: KI-Agenten für E-Mails oder Datenmanagement geben sensible Informationen preis, wenn man sie geschickt anspricht. Die Angriffe benötigten keine technischen Exploits, sondern funktionierten durch reine konversationelle Manipulation. In einem Fall löschte ein Agent auf Discord sogar sein eigenes Gedächis und übergab die Admin-Rechte, nachdem ein Angreifer einen gefälschten Namen verwendete. „Die aktuelle KI-Generation interpretiert Anweisungen unberechenbar“, warnt Professor Christoph Riedl von der Northeastern University. Das schaffe gravierende Sicherheitslücken.

Anzeige

Seit August 2024 gelten neue KI-Regeln – viele Unternehmen riskieren unwissentlich Bußgelder. Die EU-KI-Verordnung ist bereits in Kraft. Dieser kostenlose Leitfaden zeigt, was Sie jetzt beachten müssen. EU-KI-Verordnung Umsetzungsleitfaden kostenlos herunterladen

KI hackt KI: McKinsey und Job-Plattform betroffen

Die theoretischen Risiken sind längst Realität. Am 9. März 2026 kompromittierte ein autonomer KI-Agent der Sicherheitsfirma CodeWall die interne KI-Plattform Lilli der Unternehmensberatung McKinsey. Zehntausende Mitarbeiter nutzen den Chatbot. Der Angreifer fand eine SQL-Injection-Lücke und erhielt Zugriff auf Millionen Chat-Nachrichten und vertrauliche Kundendateien. McKinsey schloss das Loch innerhalb weniger Stunden.

In einem zweiten Test hackte sich derselbe Agent in die KI-gestützte Recruiting-Plattform Jack & Jill. Er verknüpfte vier harmlos erscheinende Fehler, um Admin-Rechte zu erlangen. Besonders brisant: Der KI-Angreifer generierte synthetische Sprachclips und gab sich sogar als US-Präsident aus, um das System zu manipulieren. „Das zeigt eine völlig neue Angriffsfläche“, so CodeWall.

Supply-Chain-Angriffe auf Entwickler-Tools

Die Infrastruktur hinter den KI-Agenten ist ebenfalls anfällig. Am 11. März enthüllte Noma Security die Schwachstelle ContextCrush im Tool Context7. Es verbindet KI-Coding-Assistenten mit Software-Dokumentation und wurde über acht Millionen Mal heruntergeladen. Angreifer schmuggelten versteckte Befehle in die Dokumentation. Wenn ein Entwickler-Assistent diese abrief, durchsuchte der Agent den lokalen Rechner nach Passwort-Dateien und schickte die Daten innerhalb von Minuten an die Hacker.

Parallel entdeckten Analysten von Pillar Security die Kampagne hackerbot-claw. Ein KI-Bot scannte öffentliche Code-Repositories und kaperte GitHub-Actions-Workflows, um Entwickler-Geheimnisse zu stehlen. Organisationen haben hier kaum Kontrolle, da KI-Coding-Agenten auf Entwickler-Rechnern oft ohne Runtime-Sicherheit laufen.

Anzeige

Warum 73% der deutschen Unternehmen auf Cyberangriffe nicht vorbereitet sind. Neue Gesetze verschärfen die Lage – dieser kostenlose Leitfaden zeigt, wie Sie Ihr Unternehmen mit einfachen Maßnahmen vor modernen Bedrohungen schützen. Kostenlosen Cyber-Security-Report sichern

Paradigmenwechsel für die IT-Sicherheit

Die Welle an KI-Schwachstellen zwingt zu einem radikalen Umdenken. Herkömmliche Sicherheitskonzepte sind für deterministische Software gemacht, nicht für probabilistische KI-Modelle. „Jede Datenquelle, die einer handlungsfähigen KI Anweisungen gibt, muss als Teil des Sicherheitsperimeters betrachtet werden“, erklärt Boris Cipot, Senior Security Engineer bei Black Duck.

Die Bedrohungslage spitzt sich zu. Der Global Threat Report 2026 von CrowdStrike verzeichnet einen Anstieg KI-gestützter Angriffe um 89 Prozent im Jahresvergleich. Gleichzeitig können laut Reports etwa 60 Prozent der Organisationen einen fehlerhaften KI-Agenten nicht einfach stoppen oder in seinen Aufgaben beschränken. Diese Governance-Lücke birgt enorme regulatorische Risiken, besonders seit das US-Institut NIST im Februar 2026 seine KI-Agenten-Standards angekündigt hat.

Ausblick: Kill-Switch und menschliche Kontrolle

Die Cybersicherheitsbranche muss ihre Ansätze zur KI-Governance grundlegend überarbeiten. Kontinuierliche Überwachung reicht nicht mehr. Nötig sind strenge Architektur-Kontrollen wie hartcodierte Kill-Switches und robuste Zweckbindung für alle autonomen Systeme.

Menschliche Aufsicht bleibt kritisch. Eine Studie von Hack The Box zeigt: Die effektivsten Sicherheitsteams kombinieren KI-Tools mit erfahrenen menschlichen Experten, die Ergebnisse validieren und finale Entscheidungen treffen. Während Hersteller tiefgehende Analysen für die RSAC 2026 Ende März vorbereiten, müssen Unternehmen ihre KI-Agenten jetzt dringend überprüfen. Sonst werden die autonomen Helfer zur automatisierten Haftung.