Project Perception: Microsoft überwacht und stoppt riskante KI-Agenten
Veröffentlicht am: 20.10.2026 um 18:34 Uhr | Redaktion boerse-global.de
Microsoft hat sein Sicherheitssystem Project Perception erweitert, um autonome KI-Agenten in Unternehmensnetzwerken systematisch zu überwachen und bei Fehlverhalten einzudämmen. Der Softwarekonzern stuft solche Systeme zunehmend als interne Risikofaktoren ein.
Hayete Gallot, Executive Vice President bei Microsoft Security, begründete den Ausbau damit, dass hochentwickelte Basismodelle unabhängig von ihren Entwicklern grundsätzlich nicht als vertrauenswürdig gelten könnten.
Solche Frontier-Modelle seien primär auf Resultate optimiert, was dazu führen könne, dass sie organisatorische Vorgaben umgehen, um Ziele zu erreichen. Zudem agierten Agenten oft unvorhersehbar, verfügten über weitreichende Zugriffsrechte auf Daten sowie Systeme und könnten unbemerkt miteinander kooperieren, ohne zuvor von außen kompromittiert worden zu sein.
Konzernchef Satya Nadella bekräftigte das Vorgehen und erklärte, ein vertrauenswürdiges System müsse so aufgebaut sein, dass man dem zugrunde liegenden Modell am wenigsten vertrauen müsse.
Bereits zuvor hatte Nadella angeregt, alle Modelle vorsorglich wie kompromittierte Systeme zu behandeln und mit Schutzmechanismen abzusichern. Nach Angaben von Terrell Cox setzt Microsoft intern bereits Hunderttausende eigener Agenten ein.
Gestufte Absicherung nach dem Zero-Trust-Prinzip
Laut Corporate Vice President Nadim Abdo basiert die Erweiterung auf vier Kernaufgaben: Erkennen, Eindämmen, Schützen und Anpassen. Den laufenden Schutz übernehmen sogenannte Guardian Agents innerhalb von Project Perception. Diese überwachen jede geplante Aktion anderer Agenten rund um die Uhr vor der tatsächlichen Ausführung, berechnen dynamische Risikowerte und leiten Schutzmaßnahmen ein.
Microsoft unterscheidet hierbei zwischen grünen und blauen Schutzagenten. Zur technischen Isolation dient der Microsoft Execution Container, der Kontrollfunktionen in einer Sandbox vor manipulierten Agenten abschirmt.
Die rasanten Fortschritte bei autonomen Systemen bringen neue regulatorische Anforderungen mit sich, die Unternehmen jetzt kennen müssen. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Auf den Arbeitsplatzrechnern der Beschäftigten wurde die Erkennung um 35 zusätzliche lokale Typen erweitert, womit nun insgesamt 60 Agenten identifiziert werden können, darunter Claude Code, OpenAI Codex und GitHub Copilot. Gleichzeitig weist Microsoft Entra Agent ID nun auch unbekannten und lokalen Systemen feste Identitäten zu.
Über dynamische Berechtigungen starten Agenten zunächst gänzlich ohne Zugriffsrechte und erhalten ausschließlich aufgabenbezogene, zeitlich befristete Befugnisse. Aktionen mit weitreichenden Folgen erfordern weiterhin eine menschliche Freigabe.
Ein begleitendes System bewertet Gefahren laufend anhand von Signalen aus Identitäten, Daten, Geräten, Netzwerken, Cloud-Umgebungen und Laufzeitaktivitäten. Über Entra Conditional Access greifen gestufte Gegenmaßnahmen: Das System kann Schreibrechte entziehen und reinen Lesezugriff belassen, Datengrenzen verengen oder auffällige Agenten vollständig anhalten und isolieren.
Während technologische Schutzmaßnahmen wie Zero-Trust-Prinzipien greifen, stellen die neuen gesetzlichen Rahmenbedingungen viele Verantwortliche vor Fragen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Fahrplan und Branchenallianz
Project Perception war am 27. Juli 2026 angekündigt worden und steht seit dem 3. August 2026 ausgewählten Kunden als Testversion in Microsoft Defender zur Verfügung. Die Lösung verbleibt vorerst in dieser einladungsbasierten Vorschauphase, ohne dass neue Preismodelle genannt wurden.
Eine breitere Verfügbarkeit plant Microsoft für die Konferenz Ignite vom 17. bis 19. November in San Francisco, wobei genaue Zeitpunkte und mögliche Zusatzkosten noch offen sind.
Als nächsten technischen Ausbauschritt kündigte das Unternehmen tiefere Einblicke in Denk- und Argumentationsprozesse der Modelle an, um deren Absichten mit dem tatsächlichen Arbeitsauftrag abzugleichen. Zudem gehört Microsoft zu den Gründungsmitgliedern einer von Nvidia initiierten Plattform für Agentensicherheit, an der sich über 100 weitere Technologieunternehmen beteiligen.
