Agent, Controls

Agent Controls: Microsoft überwacht KI-Agenten an sechs Entscheidungspunkten

Veröffentlicht am: 19.11.2026 um 17:33 Uhr | Redaktion boerse-global.de
Das Bündnis entwickelt offene Regeln für KI-Agenten; Microsoft ergänzt sie um Azure-Kontrollen und technische Einbindungen.
Ein minimalistischer, leerer moderner Innenraum mit klaren Linien und natürlichem Licht, der Transparenz und Ordnung symbolisiert. Illustration mit AI erstellt.

Gemeinsam mit mehr als 40 Partnerorganisationen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars, hat Microsoft auf seiner Konferenz Ignite die AI Transparency Initiative ins Leben gerufen. Wie das Unternehmen in einem Bericht vom 17. November 2026 mitteilte, zielt das Bündnis auf die Etablierung offener Standards für Transparenz, Sicherheit und Governance ab, die über verschiedene Modelle und Cloud-Anbieter hinweg greifen sollen.

Dreiteiliges Rahmenwerk für überprüfbare Systeme

Die neue Initiative stützt sich auf drei zentrale Säulen. Vorgesehen sind ein verstärktes Engagement in der NIST SI Agent Standards Initiative, die Ausarbeitung gemeinsamer offener Standards für rechenschaftspflichtige und unabhängig überprüfbare Systeme sowie die direkte technische Einbindung in Microsoft AI, Microsoft Foundry und Microsoft Copilot.

Das Leitprinzip folgt dem Ansatz, Systeme sichtbar, verifizierbar und kontrollierbar zu gestalten. Autonome Software-Agenten dürfen demnach nicht als alleinige Quelle über ihr eigenes Verhalten fungieren; die Verantwortung verbleibt stets bei der jeweiligen Organisation.

Ergänzend stellte Microsoft Agent Controls als verwalteten Azure-Dienst vor, der auf der quelloffenen Agent Control Specification sowie sogenannten Agent Hooks aufsetzt. Die Kontrollmechanismen greifen an festgelegten Entscheidungspunkten: beim Systemstart, bei Eingaben, Modellaufrufen, Werkzeugnutzungen, Ausgaben sowie beim Herunterfahren.

Anzeige

Wer sich mit dem Einsatz moderner Technologien befasst, muss heute auch die rechtlichen Rahmenbedingungen der EU-KI-Verordnung kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Risikoklassen für Unternehmen. EU AI Act Umsetzungsleitfaden kostenlos herunterladen

Eine Richtlinien-Engine wie Rego entscheidet über Freigabe, Verweigerung oder Transformation einer Aktion und generiert entsprechende Prüfbelege. In einem Praxisbeispiel der Caldova Bank erfordern finanzielle Überweisungen über 10.000 US-Dollar zwingend eine menschliche Überprüfung, während das Abfließen personenbezogener Daten in Ausgaben unterbunden oder redigiert wird.

Defizite bei der Übersicht über autonome Agentenflotten

Der Vorstoß adressiert erhebliche Lücken in der betrieblichen Praxis. Laut einer Umfrage von KPMG unter mehr als 2.100 Führungskräften in 20 Ländern setzen bislang nur elf Prozent der Organisationen künstliche Intelligenz messbar in Skalierung um.

Von diesen Vorreitern verfügen allerdings über 80 Prozent über Governance-Strukturen auf Vorstandsebene, um Risiken wie kaskadierende Halluzinationen, das Durchbrechen von Sicherheitsleitplanken oder das Ausbrechen von Agenten aus Testumgebungen zu kontrollieren.

Anzeige

Die technologische Entwicklung stellt Unternehmen vor neue Herausforderungen bei der Einhaltung gesetzlicher Kontrollpflichten und Fristen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko eingestuft werden und welche konkreten Schritte für eine rechtssichere Compliance jetzt notwendig sind. Kostenlosen Report zur KI-Verordnung anfordern

Untersuchungen von EY verdeutlichen zudem erhebliche Kontrolllücken: 41 Prozent der leitenden Entscheidungsträger gaben an, dass die Unternehmensführung keine vollständige Sicht auf alle genutzten Werkzeuge besitzt. 26 Prozent der befragten Nutzer von Systemen mit Handlungsautonomie können nicht autorisierte interne Agenten nicht erkennen.

Laut einer Erhebung von SAP LeanIX nutzen oder planen bereits 98 Prozent der befragten Unternehmen den Einsatz von KI-Agenten, doch weniger als die Hälfte verfügt über ein vollständiges Inventar.

Integration in die bestehende Sicherheitsarchitektur

Flankierend zur Initiative kündigten mehrere Partner eigene Governance-Lösungen an. Der Sicherheitsanbieter Cyera integriert Laufzeit-Warnungen bei Zugriffen auf sensible Daten in Microsoft Sentinel und das Microsoft-365-Ökosystem. EY eröffnete in London ein eigenes Cyber Defense Center, das auf Richtlinien basierende Kontrollen mit manipulationssicheren Aufzeichnungen von Agentenaktionen kombiniert.

Auch Aufsichtsbehörden wie die Bank of England, die PRA und die FCA hoben in einer gemeinsamen Veröffentlichung hervor, dass durch automatisierte Systeme Schwachstellen inzwischen binnen Stunden oder Tagen statt über Wochen ausgenutzt werden können. Ein Wandel hin zu einer kontinuierlichen Überwachung und schnelleren Entscheidungsprozessen gilt daher branchenübergreifend als notwendig.

Disclaimer...
de | wissenschaft | 70537279 |