Microsoft Copilot: Gartner warnt vor KI-Risiken in Unternehmen

Analysten identifizieren Datenlecks, Prompt-Injections und menschliche Fehler als Hauptgefahren für KI-Tools im Unternehmenseinsatz und raten zu strikteren Kontrollen.

KI-Assistenten wie Microsoft 365 Copilot bergen erhebliche Sicherheitsrisiken – von Datenlecks bis zu bösartigen Prompt-Injection-Angriffen. Das ist das Fazit des Gartner Security & Risk Management Summit in Sydney, der am Dienstag zu Ende ging. Analysten raten zu strikteren Kontrollen und schlagen sogar vor, die Nutzung freitagnachmittags zu verbieten.

Anzeige

Seit August 2024 gelten neue KI-Regeln – viele Unternehmen riskieren unwissentlich Bußgelder. Die EU-KI-Verordnung ist bereits in Kraft. Dieser kostenlose Leitfaden zeigt, was Sie jetzt beachten müssen. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Warum Freitagnachmittag zur Gefahrenzone wird

Ein zentrales Risiko ist der menschliche Faktor, insbesondere Ermüdung. Dennis Xu, Research Vice President bei Gartner, identifizierte die Erzeugung toxischer Inhalte als kritische Gefahr. Selbst bei faktisch korrekten Informationen könnten Formulierungen im Unternehmenskontext inakzeptabel sein.

Die halb scherzhafte Empfehlung, Copilot freitagnachmittags zu sperren, unterstreicht ein psychologisches Problem: Erschöpfte Mitarbeiter am Wochenende prüfen KI-Ergebnisse seltener gründlich. Sie behandeln das Tool dann eher als unfehlbares Orakel denn als Entwurfs-Assistenten. Die Folge kann die Verbreitung anstößiger Inhalte sein.

Gegenmaßnahmen sind klar: Neben aktivierten Content-Filtern von Microsoft braucht es rigorose Schulungen. Sicherheitsverantwortliche müssen ihre Teams daran erinnern: Keine KI-Ausgabe ist ohne umfassende menschliche Prüfung für die Weitergabe geeignet – an keinem Tag der Woche.

KI als Verstärker bestehender Datenchaos

Das größte Problem ist jedoch nicht neu geschaffenes Risiko, sondern die Verstärkung bestehender Schwächen. Copilot legt offen, welche Inhalte unzureichende Freigabeberechtigungen haben. In typischen Unternehmen kontrollieren überlappende Systeme wie Sensitivity Labels den Dokumentenzugriff.

Historisch blieb ein vertrauliches Dokument in einem falsch freigegebenen SharePoint-Ordner oft unentdeckt. Copilot beendet diese Unklarheit. Die KI durchsucht alle Daten, auf die ein Nutzer technisch zugreifen darf – und fördert so sensibles Material zutage, das zuvor verborgen war.

Xu schilderte ein Szenario: Ein Mitarbeiter fragt nach allgemeinen Infos zu Unternehmensänderungen. Wegen laxer Berechtigungen auf einer HR-SharePoint-Seite fasst Copilot ein streng vertrauliches Dokument zur anstehenden Reorganisation zusammen. Analysten raten daher zu aggressivem Monitoring und einer Überholung der Datenklassifizierung vor der Copilot-Einführung.

Angriffe von außen: Prompt-Injection und unsichere Plugins

Externe Bedrohungen sind ebenso real. Gartner identifizierte Remote-Execution durch bösartige Prompts als großes Risiko. Angreifer könnten versteckten Text in einer E-Mail platzieren, der Copilot bei der Zusammenfassung des Postfachs anweist, sensible Daten weiterzuleiten.

Zur Abwehr empfehlen Sicherheitsexperten, Instruktionsfilter in Copilot zu nutzen und den Zugriff auf Hochrisiko-Umgebungen wie externe E-Mails streng zu begrenzen.

Ein weiteres Risiko liegt in Plugins von Drittanbietern. Das Web-Content-Plugin von Microsoft ist standardmäßig aktiviert und könnte Unternehmensanfragen nach außen exponieren. Andere Produktivitäts-Plugins werden zwar meist deaktiviert, aber von Nutzern schnell freigeschaltet. Gartner rät IT-Administratoren, diese Integrationen zu sperren und nur im absolut notwendigen, von der Security geprüften Fall zuzulassen.

KI-Sicherheit hinkt der Einführung hinterher

Die Warnungen aus Sydney spiegeln einen breiten Branchenkonsens wider: Die Sicherheitsmaßnahmen für KI können mit dem rasanten Einsatz nicht Schritt halten. Auf dem Gipfel diskutierten CISOs aus aller Welt Zero-Trust-Architekturen und spezielle KI-Security-Plattformen.

Die Realität zeigt: Viele Unternehmen haben ihre Copilot-Einführungen aus Angst vor Datenlecks bereits verschoben. Es gibt keinen magischen Firewall, der Prompt-Injections perfekt blockiert. Die Sicherung von Unternehmens-KI erfordert einen grundlegenden Wandel im Daten-Governance.

Anzeige

Warum 73% der deutschen Unternehmen auf Cyberangriffe nicht vorbereitet sind. Neue Gesetze verschärfen die Lage – dieser kostenlose Experten-Report enthüllt effektive Strategien für Ihre IT-Sicherheit ohne Budget-Explosion. Kostenlosen Cyber Security Report herunterladen

Die Geschwindigkeit der KI-Einführung überholt derzeit die Entwicklung passender Governance-Rahmenwerke. Mit der tiefen Integration von Tools wie Copilot in Arbeitsabläufe verschwimmt die Grenze zwischen menschlichem Fehler und Systemverwundbarkeit immer mehr.

Ausblick: Einheitliche Sicherheitsschicht nötig

Für die erfolgreiche Skalierung von KI-Assistenten braucht es laut Gartner-Analysten eine einheitliche De-Risking-Schicht. Diese müsste Berechtigungen, Prompts und Outputs über alle KI-Anwendungen hinweg verwalten. Bis solche Plattformen Standard sind, müssen Unternehmen mit einem Flickenteppich aus Zugriffskontrollen, kontinuierlicher Überwachung und strikten Schulungen auskommen.

Unternehmen müssen vor dem KI-Start ihre Datenhygiene in den Fokus rücken. In den kommenden Monaten werden Investitionen in Tools zur Verwaltung der Datenpostur steigen, die Berechtigungen vor der KI-Einführung kartieren und einschränken.

Die Idee eines Freitagnachmittag-Verbots mag scherzhaft gemeint sein. Sie erinnert jedoch an eine entscheidende Wahrheit: Der sichere Betrieb von Unternehmens-KI ist und bleibt fundamental von wachsamer menschlicher Aufsicht abhängig.