KI-Compliance: Neue Verbote für Social Scoring und Emotionserkennung
Veröffentlicht am: 12.08.2026 um 20:09 Uhr | Redaktion boerse-global.de
In der Bundesrepublik Deutschland gelten seit dem 12. August 2026 verschärfte Compliance-Vorgaben für die Implementierung von Systemen der Künstlichen Intelligenz (KI). Diese Regelungen zielen primär auf die Risikominimierung an Arbeitsplätzen ab und ergänzen das bestehende europäische Regelwerk. Bereits seit dem 27. Juli 2026 findet die geänderte EU-KI-Verordnung (EU) 2024/1689 Anwendung, die durch den Digital Omnibus (EU) 2026/1744 angepasst wurde. Flankierend dazu trat in Deutschland am 29. Juli 2026 das KI-Managementgesetz (KI-MIG) in Kraft.
Marktüberwachung und Kompetenzförderung im Betrieb
Als zentrale Instanz für die Marktüberwachung fungiert in Deutschland fortan die Bundesnetzagentur gemäß den Bestimmungen des KI-MIG. Mit der neuen Gesetzgebung wurde zudem der Hinweisgeberschutz für Beschäftigte, die Verstöße im Bereich der KI-Anwendungen melden, signifikant erweitert.
Ein wesentlicher Aspekt der regulatorischen Anforderungen betrifft die sogenannte KI-Kompetenz. Nach Artikel 4 der KI-Verordnung sind Unternehmen verpflichtet, die Kompetenz ihrer Mitarbeiter im Umgang mit KI-Systemen aktiv zu fördern. Juristen weisen darauf hin, dass es sich hierbei um eine Handlungspflicht und nicht um eine Erfolgspflicht handelt. Während ein Verstoß gegen diese Pflicht in Deutschland derzeit nicht bußgeldbewehrt ist – da entsprechende Tatbestände weder im KI-MIG noch in der EU-Verordnung verankert sind –, hat die Fortbildungspflicht arbeitsrechtliche Konsequenzen. Unter Verweis auf die Rechtsprechung des Europäischen Gerichtshofs (EuGH) gelten solche Pflichtfortbildungen als Arbeitszeit.
Verbote und Transparenzpflichten bei der KI-Nutzung
Bereits seit dem 2. Februar 2025 sind spezifische Verbote für KI-Praktiken sowie die Anforderungen an die KI-Kompetenz wirksam. Seit dem 2. August 2026 findet die Verordnung nun vollumfänglich Anwendung, einschließlich der strikten Transparenzpflichten. Untersagt sind insbesondere Praktiken wie Social Scoring, die biometrische Kategorisierung sowie die Emotionserkennung am Arbeitsplatz.
Wer sich mit den neuen gesetzlichen Anforderungen befasst, benötigt einen klaren Überblick über Fristen und Risikoklassen. Dieser kostenlose Download verschafft Ihnen die nötige Orientierung für Ihre Rechts- und IT-Abteilung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Verstöße gegen diese Verbote können drastische finanzielle Folgen haben. Der Bußgeldrahmen sieht bei Zuwiderhandlungen gegen Artikel 5 Strafen von bis zu 35 Millionen Euro oder bis zu 7 % des weltweiten Jahresumsatzes vor. Bei Verletzungen der Transparenzpflichten gemäß Artikel 50 drohen Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.
Um diesen Anforderungen gerecht zu werden, haben erste Anbieter technische Sicherheitsmaßnahmen implementiert. Das Unternehmen Anthropic setzt seit dem 2. August 2026 bei neuen Claude-Modellen unsichtbare Wasserzeichen ein, die als statistisches Signal in der Wortwahl fungieren. Diese Markierungen sollen Kopiervorgänge überstehen, sind jedoch bei Übersetzungen oder Formatwechseln nicht beständig. Anthropic hat zudem den Verhaltenskodex zur KI-Verordnung unterzeichnet. Die Hinweispflicht für KI-generierte Inhalte entfalle laut den Bestimmungen dann, wenn eine menschliche redaktionelle Kontrolle stattfindet.
Diskrepanz zwischen Entwicklung und Governance
Trotz der regulatorischen Verschärfung zeigt eine aktuelle Untersuchung von Vanta, dass das Vertrauen in die Technologie hoch bleibt; demnach vertrauen 92 % der Führungskräfte den KI-Anbietern. Eine Analyse von Axipro, die 3.519 Stellenanzeigen in acht EU-Ländern auswertete, offenbart jedoch eine personelle Lücke in der Verwaltung der Technologie: Auf sieben Stellen für KI-Entwickler kommt derzeit lediglich eine Position im Bereich Governance.
Die neuen EU-Regeln stellen viele Unternehmen vor große Herausforderungen bei der praktischen Umsetzung im Betrieb. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Zudem erwähnen weniger als 30 % der ausgeschriebenen Governance-Stellen explizit den EU AI Act. Große Unternehmen mit mehr als 5000 Mitarbeitern nehmen dabei eine marktbeherrschende Stellung ein und absorbieren 50 % der verfügbaren Fachkräfte im Bereich KI-Governance.
Zeitplan für Hochrisiko-Systeme
Während die ersten Verbote und Transparenzregeln bereits in Kraft sind, steht die Regulierung von Hochrisiko-KI-Systemen noch bevor. Die entsprechenden Pflichten gemäß Anhang III der KI-Verordnung greifen ab dem 2. Dezember 2027. Für KI-Systeme, die in regulierten Produkten verbaut sind, ist der Stichtag für die Anwendung der 2. August 2028. Zur Unterstützung der Compliance gestattet Artikel 4a der Verordnung künftig auch die Verarbeitung besonderer Datenkategorien, sofern dies explizit der Erkennung und Korrektur von Verzerrungen (Bias) in den Systemen dient.
