Schatten-KI: 47,8% der Büros nutzen nicht freigegebene Tools
Veröffentlicht am: 17.08.2026 um 20:09 Uhr | Redaktion boerse-global.de
Generative Künstliche Intelligenz (KI) übernimmt zunehmend Aufgaben in der Finanz- und Rechtsberatung. Ein aktueller Bericht von FOCUS online zeichnet jedoch ein ambivalentes Bild der technologischen Unterstützung: Während Programme wie ChatGPT, Claude und Perplexity zwar praxisnahe Finanztipps liefern, weisen diese gleichzeitig gravierende inhaltliche Lücken auf.
Diese Erkenntnis korrespondiert mit Beobachtungen von Verbraucherschützern und Marktforschern, die vor einer ungeprüften Übernahme automatisierter Ratschläge warnen.
Fehlberatungen und ihre Folgen in der Praxis
Die Risiken unvollständiger oder falscher KI-Auskünfte zeigen sich bereits in konkreten Einzelfällen. Die Verbraucherzentrale Wuppertal berichtet von einem Vorfall, bei dem eine Nutzerin aufgrund eines fehlerhaften KI-Rats eine Telefonrechnung nicht beglich.
In der Folge wurde der Vertrag gekündigt und ein Inkassoverfahren eingeleitet. Solche Fälle verdeutlichen, dass die theoretische Anwendbarkeit der Tools oft nicht mit der notwendigen rechtlichen Belastbarkeit übereinstimmt.
Die Beratungsrelevanz solcher Themen ist hoch: Im Jahr 2025 verzeichnete die Beratungsstelle in Wuppertal insgesamt 9.680 Anliegen sowie 3.920 durchgeführte Rechtsberatungen. Parallel dazu zeigt eine Umfrage des Branchenverbands Bitkom, dass bereits 34 % der Nutzer KI-Systeme bei Gesundheitsfragen konsultieren, obwohl 43 % der Befragten gleichzeitig Sorgen hinsichtlich der Datensicherheit äußern.
Vertrauen versus Datenqualität in Unternehmen
Auch im professionellen Umfeld ist die Fehlerquote ein kritisches Thema. Eine Studie des Softwareanbieters Workiva belegt, dass 25 % der niederländischen Fachkräfte bereits KI-Fehler identifizierten, die bereits an externe Parteien oder bis in den Vorstand gelangt waren.
Trotz dieser Mängel gaben 81 % der Befragten an, der KI auch ohne menschliche Kontrolle zu vertrauen. Demgegenüber steht eine skeptische Bewertung der Grundlagen: Nur 14 % der Teilnehmer stuften die Qualität der zugrunde liegenden Daten als ausreichend ein.
Wer sich mit den rechtlichen Rahmenbedingungen und Risikoklassen beim Einsatz von künstlicher Intelligenz befasst, benötigt eine fundierte Übersicht über die neuen gesetzlichen Pflichten. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act unterstützt Unternehmen dabei, Compliance-Anforderungen und Fristen präzise einzuhalten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
In der Nutzung zeigt sich zudem ein deutliches Gefälle zwischen internationalen Konzernen und dem deutschen Mittelstand. Während laut Handelsblatt 58 % der Fortune-500-Unternehmen generative KI einsetzen, liegt dieser Anteil im deutschen Mittelstand lediglich bei 4 %.
Schatten-KI und mangelnde Regulierungen
Ein erhebliches Risiko für die Datensicherheit stellt die sogenannte Schatten-KI dar. In Kanzleien nutzen laut Erhebungen von iww.de 47,8 % der Büroangestellten KI-Tools, die nicht offiziell freigegeben sind. Dabei wurden in 42,7 % der Fälle interne E-Mails und in 15,7 % der Fälle strategische Informationen in die Systeme eingespeist.
Die regulatorische Infrastruktur in den Unternehmen hinkt dieser Entwicklung hinterher. Bitkom-Daten zeigen, dass lediglich 23 % der Unternehmen klare Regeln für den Umgang mit generativer KI aufgestellt haben, während nur 26 % einen offiziellen Zugang zu diesen Technologien bereitstellen.
Die Verbindung von neuen KI-Technologien und den damit einhergehenden Sicherheitsrisiken stellt viele Verantwortliche vor große Herausforderungen. Dieser kostenlose Report klärt darüber auf, welche rechtlichen Pflichten und Cyberbedrohungen Unternehmer jetzt kennen müssen, um ihre IT-Sicherheit zukunftssicher zu gestalten. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Eine Studie des Cyber Security Tribe ergänzt, dass zwar 70 % der Unternehmen über KI-Richtlinien verfügen, deren Durchsetzung jedoch als schwach bewertet wird. Als kritischster Angriffsweg wird dabei von 59 % der Experten der Browser angesehen.
Sicherheitsdefizite und die Frage der Verantwortung
Die technische Absicherung der KI-Modelle wird von Experten kritisch bewertet. Analysen von Telepolis weisen darauf hin, dass etwa Wasserzeichen beim Modell Claude kaum geeignet sind, KI-generierte Texte zuverlässig zu identifizieren. Die Verantwortung für die Inhalte müsse daher weiterhin primär bei den Entwicklern und den Endnutzern liegen.
Zusätzlich rückt der Datenschutz in den Fokus. Eine Untersuchung von Proton AI mittels des Tools „Paper Trail“ analysierte Chats von ChatGPT und Claude. Dabei wurde ein „Privacy Exposure Score“ ermittelt, der beispielsweise Werte von 31/100 erreichte und damit die potenzielle Offenlegung sensibler Informationen quantifizierte.
Ergänzend zeigen Messungen von Berger+Team, dass die Integration von KI in Suchen zwar zu hohen Abrufzahlen führt – gemessen wurden 23.500 Abrufe für kleine Betriebe innerhalb von 30 Tagen –, jedoch 68 % dieser Suchvorgänge ohne einen weiteren Klick auf die ursprünglichen Quellen enden, was die Überprüfung der Fakten für den Nutzer erschwert.
