Shadow AI: 66% deutscher Unternehmen betroffen von KI-Sicherheitsvorfällen

DFKI veröffentlicht Open-Source-Erweiterung, die sensible Nutzerdaten vor KI-Chatbots anonymisiert und lokal verarbeitet.

Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) hat eine Open-Source-Browsererweiterung vorgestellt, die sensible Daten bei der Nutzung von KI-Chatbots schützen soll. Das Tool namens „Privacy Guardrail" ist als öffentliche Beta für Google Chrome verfügbar und steht unter der Apache-2.0-Lizenz.

Die Erweiterung anonymisiert Namen, E-Mail-Adressen, IBANs und Kreditkartennummern, bevor diese an Dienste wie ChatGPT, Claude oder Gemini übermittelt werden. Damit reagiert das DFKI auf die Anforderungen der DSGVO und des EU AI Acts.

Anzeige

Der Einsatz von KI-Tools stellt Unternehmen vor neue rechtliche Herausforderungen durch den EU AI Act. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen, damit Ihre IT-Abteilung rechtlich auf der sicheren Seite bleibt. EU AI Act in 5 Schritten verstehen

Lokale Verarbeitung als Sicherheitsgarant

Die Forscher setzen auf einen „Local-First"-Ansatz: Sämtliche Datenverarbeitung und Anonymisierung findet direkt im Browser des Nutzers statt. Sensible Unternehmens- oder persönliche Informationen gelangen so gar nicht erst auf externe KI-Server.

Das ist ein entscheidender Vorteil gegenüber cloudbasierten Lösungen. Denn je mehr Daten den eigenen Rechner verlassen, desto größer das Risiko.

Shadow AI: Die unsichtbare Gefahr in deutschen Unternehmen

Die Veröffentlichung kommt zu einem Zeitpunkt, an dem eine Studie von Okta alarmierende Zahlen liefert. Rund 90 Prozent der Führungskräfte glauben demnach, die KI-Nutzung in ihren Unternehmen im Griff zu haben. Doch mehr als die Hälfte der Mitarbeiter gibt zu, nicht offiziell genehmigte KI-Dienste zu verwenden – ein Phänomen, das als „Shadow AI" bekannt ist.

Deutsche Mitarbeiter nutzen zwar seltener unerlaubte KI als ihre internationalen Kollegen. Dafür verzeichnet Deutschland die höchste Rate an KI-bezogenen Sicherheitsvorfällen. Über 66 Prozent der hiesigen Unternehmen waren bereits betroffen, fast die Hälfte meldet direkte Schäden.

Experten vermuten: Selbst offiziell freigegebene KI-Anwendungen sind oft unzureichend gesichert. Ihre Empfehlung: KI-Identitäten mit denselben Sicherheitsprotokollen behandeln wie menschliche digitale Identitäten.

Neue Sicherheitsplattformen für autonome KI-Agenten

Mehrere Technologieanbieter haben Anfang Juni spezialisierte Sicherheitsplattformen vorgestellt. KnowBe4 launchte am 2. Juni den „Agent Risk Manager" – ein System zur Echtzeit-Überwachung von KI-Agenten. Die Plattform erkennt Prompt-Injection-Angriffe und unautorisierte Aktionen und greift dabei auf 15 Jahre Verhaltensdaten zurück.

Parallel präsentierten Nvidia und TrustLogix neue Gegenmaßnahmen. Nvidias kommender RTX-Spark-Chip, der für Herbst 2026 erwartet wird, soll eine OpenShell-Runtime-Umgebung enthalten, die KI-Agenten auf Laptops isoliert. TrustLogix führte seine TrustAI-Plattform ein, die einen „Runtime-Kill-Switch" bietet – einen Notaus-Schalter für unerlaubte KI-Aktivitäten.

Der Bedarf ist enorm: Aktuelle Studien zeigen, dass auf jedes menschliche Konto in Unternehmensnetzwerken inzwischen mehr als 80 maschinelle Identitäten kommen.

Anzeige

Da immer mehr Unternehmen Opfer von Cyberangriffen durch unzureichend gesicherte KI-Schnittstellen werden, ist proaktiver Schutz essenziell. Erfahren Sie im kostenlosen E-Book, welche neuen rechtlichen Pflichten auf Sie zukommen und wie Sie Sicherheitslücken ohne teure Investitionen schließen. Gratis-Ratgeber zur Cyber-Security herunterladen

Fortschritte bei der Modellsicherheit

Auch die großen KI-Entwickler selbst melden Fortschritte. Ein Systembericht von Anthropic vom 28. Mai 2026 zeigt: Die Erfolgsrate von Prompt-Injection-Angriffen auf das Agent-Opus-4.8-Modell sank von 31,5 auf 0,5 Prozent – nach Tests in 129 verschiedenen Umgebungen. Zudem gewährte Anthropic der ENISA im Rahmen des Projekts „Glasswing" Zugriff auf sein Mythos-KI-Modell zur Schwachstellenforschung.

Microsoft nutzte seine Build-2026-Konferenz am 2. Juni für ein umfassendes Sicherheitspaket. Dazu gehören die „Multi-Model Agentic Scanning Harness" (MDASH) mit einer Erfolgsquote von 96,55 Prozent bei der Bedrohungserkennung und die „Microsoft Execution Containers" (MXC), eine abgeschottete Umgebung für KI-Agenten.

Diese Maßnahmen kommen gerade rechtzeitig: Neue Fristen des EU AI Acts stehen an, darunter verpflichtende Richtlinien für bedingten Zugriff ab dem 6. Juli 2026.

Wachsender Markt für KI-Sichtbarkeit

Der Markt für Mitarbeiterüberwachungs- und KI-Sichtbarkeitstools wächst rasant – Prognosen gehen von über 1,6 Milliarden Euro bis 2034 aus. Entsprechend viele neue Anbieter drängen auf den Markt:

• Adlumin stellte ein „Shadow AI Visibility"-Tool vor, das per DNS-Analyse unerlaubten KI-Verkehr identifiziert.
• FingerprintJS launchte eine KI-Assistenten-Erkennung, die Traffic von ChatGPT oder Gemini auf HTTP-Ebene erkennt – ohne clientseitiges JavaScript.
• Merge API Inc. und Workera veröffentlichten Plattformen für KI-Agenten-Interaktionen und KI-gestützte Mitarbeiterbewertung.

Während die meisten Firmen auf Integration und Sicherheit setzen, gehen einige Anbieter den umgekehrten Weg. DuckDuckGo brachte kürzlich eine „No-AI Search"-Erweiterung für Chrome und Firefox heraus, die KI-Funktionen deaktiviert. Das Portal verzeichnete Ende Mai eine Verdreifachung der Zugriffe. Auch Brave und Mozilla haben Initiativen angekündigt, die es Nutzern ermöglichen, KI-gesteuerte Browserfunktionen komplett zu umgehen.