KI am Arbeitsplatz wird zum Sicherheitsrisiko

Nicht autorisierter KI-Einsatz führt zu teuren Datenpannen und Produktivitätsverlusten, während der EU AI Act ab 2026 neuen Regulierungsdruck schafft.

Eine aktuelle Analyse zeigt: Die sogenannte Schatten-KI ist in vielen Unternehmen längst Alltag – mit teuren Folgen.

Anzeige

Viele Firmen unterschätzen die neuen Anforderungen des AI Acts – ein kostenloser Leitfaden zeigt, was jetzt zu tun ist. Dieser kompakte Überblick hilft Ihnen, alle Pflichten und Fristen der EU-KI-Verordnung rechtssicher umzusetzen. EU AI Act Umsetzungsleitfaden kostenlos herunterladen

Schatten-KI kostet Hunderttausende pro Vorfall

Sicherheitsvorfälle, in die nicht autorisierte KI-Werkzeuge verwickelt sind, verursachen durchschnittlich 670.000 US-Dollar Extra-Kosten. Das geht aus einem IBM-Marktbericht zu Datenpannen im Jahr 2025 hervor. Solche Vorfälle machen mittlerweile rund 20 Prozent aller untersuchten Breaches aus.

Besonders kritisch: Mehr als 80 Prozent der Organisationen operieren ohne grundlegende Sicherheitsvorkehrungen, die das Abfließen sensibler Daten in öffentliche KI-Modelle verhindern. In Vorfällen mit Schatten-KI sind überdurchschnittlich oft Kundendaten oder geistiges Eigentum betroffen.

Dabei könnte der kontrollierte Einsatz genau das Gegenteil bewirken. Die Nutzung offiziell freigegebener und gesicherter KI-Systeme kann die Kosten einer Datenpanne um bis zu 1,9 Millionen US-Dollar senken. Unkontrollierter Einsatz verlängert dagegen die Zeit bis zur Identifizierung eines Angriffs erheblich.

In Deutschland ist das Phänomen besonders in MINT-Berufen verbreitet. Fast drei von vier Fachkräften aus diesen Bereichen gaben in einer Herbst-2025-Erhebung an, KI-Anwendungen wie ChatGPT ohne Genehmigung zu nutzen. Im öffentlichen Sektor nutzt fast die Hälfte der Bundesbediensteten nicht freigegebene Tools.

„Workslop“ und Halluzinationen fressen Produktivität

Neben Sicherheitsrisiken sorgt mangelnde Qualität für Probleme. Eine Stanford-Studie prägte dafür im Herbst 2025 den Begriff „Workslop“ – oberflächlich korrekter, aber substanzloser KI-generierter Content. Kollegen benötigen im Schnitt fast zwei Stunden, um eine solche Instanz zu korrigieren.

Für ein Unternehmen mit 10.000 Mitarbeitern führt das bei einer Verbreitung von rund 41 Prozent zu Produktivitätsverlusten in Millionenhöhe. Die Kosten entstehen durch Nachbearbeitung, Missverständnisse und Fehlentscheidungen.

Dazu kommt das anhaltende Problem der Halluzinationen. Zwar sanken die Fehlerquoten bei einfachen Zusammenfassungen Anfang 2026 auf unter 1,5 Prozent. Bei komplexen logischen Schlüssen oder Fachfragen in Domänen wie Medizin oder Technik liegen die Raten aber noch zwischen 10 und 33 Prozent. Das erzwingt aufwendige menschliche Kontrollen – und macht Effizienzgewinne zunichte.

EU AI Act erhöht den regulatorischen Druck

Der Handlungsdruck auf Unternehmen wächst auch von regulatorischer Seite. Ab August 2026 treten wesentliche Teile des EU AI Act in Kraft. Das Regelwerk sieht für Betreiber hochriskanter KI-Systeme strikte Auflagen vor: umfassende Risikomanagementsysteme, Dokumentationspflichten und menschliche Aufsicht.

Marktforscher wie Gartner prognostizieren, dass bis 2027 rund 75 Prozent der regulierten Unternehmen mit empfindlichen Bußgeldern rechnen müssen. Die Strafen können beträchtliche Anteile des weltweiten Jahresumsatzes erreichen.

Anzeige

Da die EU-KI-Verordnung neue Regeln aufstellt, die viele noch nicht kennen, bietet dieser kostenlose Report die nötige Aufklärung für Unternehmen. Erfahren Sie jetzt, welche KI-Systeme als Hochrisiko gelten und welche Dokumentationspflichten Sie erfüllen müssen. Kostenlosen Report zum EU AI Act anfordern

Vor diesem Hintergrund rücken integrierte Governance-Lösungen in den Fokus. Ziel ist die vollständige Sichtbarkeit aller genutzten Modelle und die Integration von Sicherheitsleitplanken in die Arbeitsabläufe.

Interne Risiken werden zur größeren Sorge

Die Wahrnehmung der größten KI-Gefahren verschiebt sich grundlegend. Dominierte früher die Sorge vor externen Bedrohungen wie KI-Phishing, nennen Daten des World Economic Forum Anfang 2026 nun interne Risiken als Hauptsorge. Datenlecks durch gutgläubigen, aber unkritischen KI-Einsatz in den eigenen Abteilungen werden häufiger genannt als Angriffe von außen.

Die technologische Einführung schreitet offenbar schneller voran als die Entwicklung von Unternehmenskultur und Governance. Die Allianz stuft KI in ihrem aktuellen Risikobarometer als eines der drei größten Geschäftsrisiken weltweit ein. Besonders Haftungsfragen bei KI-Fehlern und potenzielle Reputationsschäden bereiten Führungskräften Sorge.

Der Weg zur regulierten KI-Arbeitswelt

Analysten erwarten eine Konsolidierung des Marktes für KI-Sicherheitstools. Bis 2028 werden voraussichtlich mehr als die Hälfte aller Unternehmen spezielle KI-Sicherheitsplattformen nutzen. Ein zentraler Bestandteil wird „AI TRiSM“ (Trust, Risk and Security Management) sein.

Unternehmen, die solche Kontrollen konsequent anwenden, könnten die Menge fehlerhafter Informationen in ihren Systemen bis Ende 2026 um 50 Prozent reduzieren. Gleichzeitig wird kritisches Denken zur neuen Kernkompetenz. Der Wert von Mitarbeitern, die KI-Ergebnisse verifizieren und kontextualisieren können, steigt.

Bereits Ende 2026 wird die Hälfte aller großen Organisationen voraussichtlich spezielle Assessments einführen. Ihr Ziel: sicherstellen, dass Fachkräfte trotz hoher Automatisierung ihre unabhängige Urteilsfähigkeit bewahren.