Shadow AI: KI-Agenten umgehen 81% der Bot-Erkennung

XM Cyber und Wallarm präsentieren Tools gegen unerlaubte KI-Nutzung. Der EU AI Act treibt die Nachfrage nach Kontrolllösungen an.

Die heimliche Nutzung Künstlicher Intelligenz in Firmennetzen wird zum Sicherheitsrisiko – und zum Geschäftsfeld für Anbieter. Gleich zwei Unternehmen haben neue Lösungen vorgestellt, um sogenannte Shadow AI aufzuspüren und zu kontrollieren. Der Zeitpunkt ist kein Zufall: Der EU AI Act tritt im August 2026 in Kraft.

Anzeige

Der neue EU AI Act stellt Unternehmen vor komplexe Herausforderungen bei der Dokumentation und Risikobewertung ihrer KI-Systeme. Dieser kompakte Leitfaden hilft Ihnen, alle Fristen und Pflichten der neuen Verordnung rechtzeitig zu überblicken. EU AI Act in 5 Schritten verstehen

XM Cyber und Wallarm: Zwei Ansätze gegen die unsichtbare Gefahr

XM Cyber hat seine Plattform für kontinuierliches Bedrohungsmanagement (CTEM) aktualisiert. Die Neuerung: Eine KI-Expositionskarte zeigt, wo unerlaubte Tools im Einsatz sind. Besonderes Augenmerk liegt auf Hybrid-Cloud-Diensten wie AWS Bedrock und Google Cloud Vertex AI. Die Analyse nutzt Angriffsgraphen, um Schwachstellen sichtbar zu machen. Ein zentrales Problem: hartcodierte API-Schlüssel, die Angreifern den Zugriff auf sensible Cloud-Umgebungen ermöglichen.

Wallarm bringt mit seiner AI Control Platform eine andere Lösung an den Start. Die Plattform ist ab sofort im AWS Marketplace verfügbar und enthält einen sogenannten AI Hypervisor. Er entdeckt automatisch KI-Agenten, Modelle und APIs – durch lückenloses Session-Tracking. Das System liefert zudem die Nachweise, die für SOC 2 und die EU-Regulierung nötig sind. Wallarm plant, die Lösung auf dem AWS Summit in Los Angeles am 10. Juni 2026 vorzuführen.

KI-Agenten umgehen 81 Prozent der Bot-Erkennung

Die neuen Werkzeuge kommen nicht zu früh. Eine Studie von cside vom 6. Juni 2026 zeigt: KI-Agenten umgehen inzwischen 81 Prozent der traditionellen Bot-Erkennungssysteme. Die Angreifer nutzen sie für Kreditkartentests, die Erstellung von Fake-Konten und unbefugte Account-Sharing-Dienste.

Auch bei der Entwicklung selbst lauern Gefahren. Branchenanalysen zufolge enthalten 45 Prozent des von großen Sprachmodellen generierten Codes Sicherheitslücken. Ein drastisches Beispiel: Der Datenleck bei TVING, bei dem die Daten von 5 Millionen Nutzern durch einen hartcodierten AWS-Token offengelegt wurden. OpenAI reagierte am 6. Juni 2026 mit einem Lockdown-Mode für ChatGPT. Er erlaubt Unternehmen, Live-Webzugriff und Datei-Downloads zu deaktivieren – als Schutz vor Prompt-Injection-Angriffen.

Anzeige

Neue KI-Technologien bringen unvorhersehbare Cyberrisiken mit sich, die über klassische IT-Sicherheitskonzepte hinausgehen. Erfahren Sie im aktuellen Experten-Report, wie Sie Sicherheitslücken proaktiv schließen und Ihr Unternehmen vor modernen Bedrohungen schützen. Gratis-E-Book zu Cyber Security Awareness herunterladen

Unternehmen reagieren: Nutzungslimits und neue Führungsposten

Die interne Kontrolle wird strenger. Uber führte kürzlich monatliche Obergrenzen für die KI-Nutzung durch Mitarbeiter ein – zeitgleich mit einem Personalabbau von 23 Prozent. Dahinter steckt auch die Sorge der Versicherer vor versteckten Risiken. Experten warnen: Shadow AI schafft unkalkulierbare Gefahren, die klassische Versicherungsbewertungen aushebeln.

Die Infrastruktur zur Risikokontrolle wächst. Tumeryk hat eine Vertrauensinfrastruktur mit AI Trust Score und Shadow-AI-Erkennung vorgestellt. Das Unternehmen will die Tools auf der Identiverse Mitte Juni 2026 präsentieren. Parallel dazu besetzen Firmen neue Führungspositionen: CrowdStrike ernannte Dr. Bartley Richardson zum Chief AI and Autonomous Systems Officer – ein klares Signal für den Trend zu mehr Sicherheitsautonomie.

Der Wandel der Bedrohungslage

Die Entwicklung hin zur agentischen Orchestrierung verändert auch die Bedrohungsmessung. Eine Analyse der Daten von März 2025 bis März 2026 zeigt: Die Zahl spezifischer Angriffstechniken wird als Risikoindikator zunehmend unzuverlässiger. Dafür steigt der Einsatz von KI zur Malware-Erstellung massiv. Über 67 Prozent der beobachteten Hochrisiko-Akteure nutzen inzwischen KI-Tools für die Entwicklung von Schadsoftware.