KI-Sicherheit: 75% der Unternehmen verlieren Kontrolle über Agenten
Veröffentlicht: 16.07.2026 um 23:57 Uhr, Redaktion boerse-global.de
Während die Budgets für autonome KI-Systeme explodieren, hinken Kontrollmechanismen massiv hinterher.
Rendite ja – Kontrolle nein
Eine Studie von SAP und Oxford Economics vom 15. Juli zeigt die wirtschaftliche Dynamik: Deutsche Unternehmen investieren 2026 durchschnittlich 35 Millionen Euro in KI. Die erwartete Rendite liegt bei 24 Prozent – ein deutlicher Sprung gegenüber 17 Prozent im Vorjahr. Besonders agentische KI, also Software, die autonom im Netzwerk agiert, soll in zwei Jahren rund 18 Millionen Euro einbringen.
Doch die Kehrseite ist alarmierend. Rund 75 Prozent der Unternehmen führen KI-Agenten schneller ein, als sie diese kontrollieren können. Nur 4 Prozent fühlen sich vollständig vorbereitet. Besonders brisant: 57 Prozent der Betriebe haben keinen Prozess, der einen Menschen als letzte Kontrollinstanz vorsieht.
Tausende schadhafte KI-Erweiterungen entdeckt
Die Technologie schafft neue Angriffsflächen. Sicherheitsforscher von ESET untersuchten 900.000 sogenannte „AI Skills“ – Funktionserweiterungen für KI-Modelle. Das Ergebnis: rund 25.000 verdächtige und 3.000 schadhafte Anwendungen. Diese manipulierten Erweiterungen können sensible Daten abgreifen oder unbefugte Transaktionen durchführen.
Während Investitionen in KI-Systeme steigen, bringen neue EU-Regulierungen wie der AI Act weitreichende Dokumentationspflichten für Unternehmen mit sich. Dieser kostenlose Leitfaden hilft Ihnen, die komplexen Anforderungen und Risikoklassen der neuen KI-Verordnung rechtssicher umzusetzen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Hinzu kommt das Problem des „Permission Creep“. KI-Agenten sammeln im Laufe der Zeit immer weitreichendere Zugriffsrechte an. Ohne klare Identitätssteuerung entstehen „herrenlose“ Agenten, die unbemerkt im Firmennetzwerk aktiv bleiben. Experten fordern: KI-Agenten müssen wie normale Benutzer authentifiziert werden.
Neue Sicherheitslösungen für autonome Systeme
Die Industrie reagiert mit Patenten und neuen Technologien. Integrated Cyber Solutions meldete am 16. Juli ein US-Patent für MASQ (Machine Action Security Quotient) an – eine Infrastrukturschicht speziell für die Governance autonomer KI.
Parallel dazu reichte Versa ein Patent für eine Zero-Trust-Architektur ein, die auf das Model Context Protocol (MCP) zugeschnitten ist. Jede Aktion eines KI-Agenten wird vor der Ausführung anhand von Benutzeridentitäten geprüft. Das Startup Oak sicherte sich 60 Millionen US-Dollar für eine Plattform, die KI-Zugriffe in Echtzeit überwacht und bei Inaktivität automatisch stoppt.
Neue KI-Technologien verändern nicht nur die Produktion, sondern schaffen auch völlig neue Cyberrisiken, die Unternehmer jetzt kennen müssen. Erfahren Sie in diesem Gratis-Report, wie Sie Sicherheitslücken schließen und die neuen gesetzlichen Anforderungen proaktiv erfüllen. Kostenloses E-Book zu aktuellen Cyber-Security Trends sichern
IT-Sicherheit wird zum Vertrauenstest
KI verändert auch die Arbeit in der IT-Sicherheit grundlegend. Eine Untersuchung von ISC2 unter 856 Fachkräften zeigt: 65 Prozent verbringen mehr Zeit damit, über das Vertrauen in KI-generierte Empfehlungen zu entscheiden. Fast 90 Prozent haben bereits fehlerhafte KI-Vorschläge erlebt.
In der Finanzbranche stoßen klassische Kontrollmodelle an ihre Grenzen. Besonders kleinere Institute haben Probleme, die von der BaFin geforderte unabhängige Validierung von KI-Systemen personell zu stemmen. Als Lösung gelten mehrstufige Freigabeprozesse – von der Voranfrage über die technische Validierung bis zum kontinuierlichen Monitoring.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
