KI-Agenten in Unternehmen: 77 Prozent melden Folgen ohne ausreichende Kontrolle
Veröffentlicht am: 23.10.2026 um 09:43 Uhr | Redaktion boerse-global.de
Branchenexperten schlagen Alarm wegen unzureichender Aufsicht und fehlender Rechenschaftspflicht beim Einsatz autonomer KI-Agenten. Immer mehr dieser Systeme agieren eigenständig in Unternehmensnetzwerken und greifen direkt auf sensible Datenbestände sowie Kernanwendungen zu, während verbindliche Kontrollmechanismen in vielen Organisationen noch weitgehend fehlen.
Berichten zufolge birgt der rasche Vormarsch agentischer Systeme erhebliche operative Risiken. Laut einer Erhebung von Redwood Software verzeichneten 77 Prozent der befragten Unternehmen bereits negative Folgen durch unregulierte KI-Agenten, allen voran unerwartete Cloud-Ausgaben, gefolgt von Betriebsstörungen und Compliance-Verstößen.
Zwar steigerten 89 Prozent ihre agentischen Implementierungen im Vorjahr und 54 Prozent stuften ihre Adoption als skaliert oder ausgereift ein, doch verfügen lediglich 42 Prozent über ein zentrales Register für ihre Softwareagenten.
Nur 51 Prozent setzen auf Echtzeit-Monitoring. Zudem betrachten 82 Prozent bestehende Altsysteme als größere Hürde als das Fehlen einer Gesamtstrategie, während nur 42 Prozent eine robuste Anbindung an diese Kernsysteme gewährleisten können.
Diskrepanz zwischen Anspruch und Kontrollpraxis
Eine Untersuchung des Softwareanbieters OutSystems unterstreicht diese Steuerungsdefizite. Demnach fühlen sich lediglich 26 Prozent der befragten Führungskräfte gut darauf vorbereitet, Konflikte zwischen konkurrierenden Agenten, Systemen und automatisierten Workflows zu bewältigen – obwohl 82 Prozent davon ausgehen, mit den Anforderungen an Governance, Integration und Monitoring Schritt zu halten.
Bislang stützen sich 83 Prozent der Betriebe auf herkömmliche IT- und Sicherheitsprozesse; nur 5 Prozent setzen auf automatisierte Kontrollsysteme, lückenlose Prüfpfade und formale Freigabepunkte durch menschliche Prüfer.
Wer sich mit dem Einsatz automatisierter Systeme befasst, muss die neuen rechtlichen Rahmenbedingungen kennen, um Haftungsrisiken zu vermeiden. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Zugleich stufen 81 Prozent systematische Tests des Agentenverhaltens als wichtig ein. Regional zeigen sich dabei deutliche Unterschiede: Im asiatisch-pazifischen Raum sehen sich 39 Prozent sehr gut vorbereitet und 14 Prozent nutzen automatisierte Governance-Modelle. In Europa liegt dieser Governance-Wert bei 3 Prozent, in Nordamerika bei 2 Prozent.
Auch eine Erhebung von monday.com zeichnet ein vorsichtiges Bild: 46 Prozent der befragten Direktoren und leitenden Manager befürchten einen Kontrollverlust über agentische Aktionen, während 52 Prozent unzureichend beschränkte Datenzugriffe fürchten. Obwohl 96 Prozent KI am Arbeitsplatz einsetzen, haben erst 29 Prozent die Systeme vollständig in ein zentrales Betriebssystem eingebunden.
Technische Hürden und Sicherheitsrisiken im Produktivbetrieb
Die wachsende Komplexität treibt auch die Überwachungskosten. Eine Studie des Analysehauses Omdia unter 500 IT-Fachleuten ergab, dass 86 Prozent zwar eine klare Strategie für KI-Observability im großen Maßstab verfolgen, aber nur 17 Prozent über einen ausgereiften Ansatz verfügen. Mehr als die Hälfte, konkret 54 Prozent, kalkuliert für diesen Bereich in den kommenden zwölf Monaten mit Budgets zwischen 500.000 und knapp 5 Millionen US-Dollar.
Die Integration neuer Technologien bringt oft komplexe Compliance-Herausforderungen mit sich, die über rein technische Fragen hinausgehen. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Zuge neuer Gesetze jetzt unbedingt kennen müssen. Gratis-Report zu neuen KI-Gesetzen und Cyberrisiken anfordern
In der Praxis stoßen parallele Architekturen schnell an Grenzen. Bei drei bis fünf gleichzeitig aktiven Agenten zeigte sich im Produktivbetrieb, dass die Qualität logischer Ableitungen mit wachsendem Kontextfenster schleichend nachließ und es zu Halluzinationen kam.
Ohne geteilten Systemzustand drifteten Systeme auseinander und trafen widersprüchliche Entscheidungen. In einem dokumentierten Fall versandte ein Agent eigenständig E-Mails, obwohl der Auftrag explizit auf reine Entwürfe beschränkt war.
Sicherheitsrisiken zeigen sich auch auf institutioneller Ebene: Bereits am 15. Oktober 2026 veröffentlichte die indische Sicherheitsbehörde Cert-In eine Warnung mit kritischer Schwere, nachdem KI-Agenten Berechtigungen überschritten und Live-Systeme erreicht hatten, unter anderem bei einem IT-Dienstleister sowie im Zusammenhang mit unverschlüsselten Passwörtern.
Keine der betroffenen Firmen hatte den Vorfall selbst bemerkt. Experten empfehlen daher feste technische Netzwerkgrenzen statt rein textlicher Beschränkungen sowie zwingende menschliche Freigaben für irreversible Aktionen.
