KI-Regulierung: Bußgelder bis 35 Millionen Euro ab sofort
Veröffentlicht am: 06.08.2026 um 03:30 Uhr | Redaktion boerse-global.de
Seit dem 2. August gelten neue Transparenzpflichten für KI-Systeme in der EU. Nun fordern auch die europäischen Aufsichtsbehörden EBA, EIOPA und ESMA eine strengere Governance für KI-Risiken – besonders im Finanzsektor. Die Behörden drängen auf eine risikobasierte Aufsicht und mehr operative Resilienz.
Bußgelder bis 35 Millionen Euro
Der EU AI Act verpflichtet Unternehmen zur eindeutigen Kennzeichnung von KI-Interaktionen wie Chatbots und Voicebots. Banken und Versicherungen haben für Bestandssysteme noch bis zum 2. Dezember Zeit. Verstöße gegen verbotene KI-Praktiken kosten bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes. Bei Hochrisiko-KI drohen 15 Millionen Euro oder drei Prozent vom Umsatz.
Doch die Praxis zeigt: Viele Firmen sind auf die Regulierung schlecht vorbereitet. Eine IBM-Studie unter deutschen Führungskräften belegt, dass 87 Prozent die Abhängigkeiten von ihren KI-Systemen nicht vollständig verstehen. 85 Prozent sagen zudem, ein einwöchiger Ausfall hätte erhebliche Folgen für den Geschäftsbetrieb.
Schwachstellen in der KI-Lieferkette
Auch technisch gibt es Baustellen. Sicherheitslücken in Repositorien wie Hugging Face zeigen die Risiken in der KI-Lieferkette. „Shadow AI“ – die ungeprüfte Nutzung öffentlicher KI-Tools durch Mitarbeiter – erschwert die Kontrolle zusätzlich. Weniger als die Hälfte der Unternehmen hat laut Marktanalysen etablierte KI-Governance-Richtlinien.
Die neue EU-KI-Verordnung stellt Unternehmen vor komplexe Herausforderungen bei der Risikodokumentation und Kennzeichnung. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle neuen Pflichten, Fristen und Risikoklassen. EU AI Act in 5 Schritten verstehen
Besonders kritisch: KI-generierter Code. Laut einem CloudBees-Report vertrauen 92 Prozent der IT-Verantwortlichen automatisiert erstelltem Code – doch 81 Prozent melden zugleich mehr Produktionsfehler. Durchschnittlich 61 Prozent des Codes entstehen mittlerweile durch KI, was die Kosten für Tests und CI/CD-Pipelines steigen lässt.
KI-Agenten: Datenschutzrisiko ohne Haftungsregeln
Eine wachsende Gefahr sieht die französische Datenschutzbehörde CNIL in autonomen KI-Agenten. Da die EU-Verordnung keine spezifischen Haftungsregeln für diese Systeme enthält, empfiehlt die Behörde Sandboxing, einen „Kill Switch“ und das Prinzip „Human-in-the-Loop“ – der Mensch behält die letzte Entscheidung.
Der Handlungsbedarf ist enorm: Zwar nutzen 85 Prozent der Unternehmen KI, doch nur 18 Prozent haben aktive Governance-Maßnahmen implementiert. Im vergangenen Jahr meldeten 40 Prozent ungenaue KI-Ergebnisse, 27 Prozent erlebten Datenverstöße.
Wer KI-Systeme im Unternehmen einsetzt, muss die neuen gesetzlichen Anforderungen an die Dokumentation und Qualitätssicherung genau kennen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Einhaltung der Verordnung sicherstellen. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Open Source gegen das Regel-Chaos
Erste Projekte wollen Abhilfe schaffen. Am 5. August wurde „Asago“ gestartet – eine Open-Source-Plattform unter Federführung von Red Hat, mit IBM, Microsoft und NVIDIA als Partnern. Sie soll regulatorische Vorgaben automatisiert in technische Konfigurationen übersetzen und Prüfprotokolle dokumentieren.
Hilfe bieten auch die neuen EDSA-Leitlinien zur Anonymisierung vom Juli. Sie präzisieren, wann Daten als anonym gelten – die Risiken der Wiedererkennung stehen dabei im Fokus. Entscheidend sei die frühe Einbindung von Datenschutzbeauftragten, betonen Experten. Bisher werden sie nur bei 15 Prozent der KI-Projekte von Beginn an konsultiert.
