EU AI Act ab August: Bußgelder bis 35 Millionen Euro für Verstöße

Deutschland gründet ein spezialisiertes KI-Sicherheitsinstitut unter Federführung des Nationalen Sicherheitsrats.

Die Entscheidung fiel am Montag unter dem Vorsitz von Bundeskanzler Friedrich Merz.

Das neue Institut soll die Analysefähigkeiten moderner künstlicher Intelligenz bündeln. Bisher lagen diese Aufgaben primär beim Bundesamt für Sicherheit in der Informationstechnik (BSI). Künftig fungiert die neue Behörde als zentrale Schnittstelle für den Austausch mit ausländischen Partnerorganisationen.

Internationale Standards und verschärfte Bedrohungslage

Anzeige: Wer die neuen Bußgeldrisiken des EU AI Act bis 35 Mio. Euro vermeiden will, findet in diesem Report die wichtigsten Konformitäts-Hebel – von Kennzeichnungspflichten bis Schulungsplan. Jetzt kostenlosen Compliance-Report anfordern

Ein wesentlicher Schwerpunkt liegt auf der Entwicklung einheitlicher internationaler Prüfstandards für KI-Systeme. Ein geplantes Treffen dazu soll im Dezember in Seoul stattfinden.

Die Gründung erfolgt vor dem Hintergrund einer sich verschärfenden digitalen Bedrohungslage. Auch die sicherheitspolitische Lage im Nahen und Mittleren Osten war Gegenstand der Beratungen.

Neuer EU AI Act bringt strenge Regeln

Ab August 2026 treten wesentliche Bestimmungen des EU AI Act vollständig in Kraft. Unternehmen müssen dann weitreichende Transparenz- und Kennzeichnungspflichten für KI-Inhalte erfüllen. Bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder einem prozentualen Anteil des weltweiten Jahresumsatzes.

Bereits seit Anfang 2025 bestehen Schulungspflichten für Personal mit KI-Kontakt.

Neue Angriffsmethoden beunruhigen Experten

Forschende der Universität Toronto stellten Anfang Juni den Prototyp eines sogenannten KI-Wurms vor. Das System nutzt Large Language Models, um autonome Angriffsstrategien gegen IT-Systeme zu entwickeln.

Parallel dazu berichteten Sicherheitsanalysten von Sophos über den Einsatz autonomer KI-Agenten in Ransomware-Baukastensystemen. Diese können gezielt Schutzlösungen umgehen.

Kritik an mangelnder Schlagkraft

Anzeige: Fehlende internationale Prüfstandards und der Wettbewerb um KI-Sicherheitsfachkräfte setzen Ihr Unternehmen unter Zugzwang. Dieser Leitfaden liefert konkrete Schritte zur EU-AI-Act-Konformität und eine Risikoanalyse für Ihr KI-Portfolio. EU-AI-Act-Fahrplan jetzt sichern

Branchenbeobachter äußern Zweifel an der praktischen Umsetzung. Sie befürchten, das Institut könnte sich zu einer rein administrativen Einheit entwickeln.

Ein zentrales Problem: der Wettbewerb um hochqualifizierte Fachkräfte. Der öffentliche Dienst steht in direkter Konkurrenz zu finanzstarken Technologiekonzernen. Zudem fehlen dem Institut bisher spezifische Kapazitäten für Angriffssimulationen (Red-Teams) sowie ein direkter Zugang zu den Modellarchitekturen führender Anbieter.

Ohne diese technischen Voraussetzungen bleibt die Fähigkeit zur unabhängigen Sicherheitsbewertung begrenzt. KI-Pionier Stuart Russell warnte erneut vor den existenziellen Risiken unzureichend kontrollierter Systeme und forderte eine grundlegende Neuausrichtung in der Entwicklung sicherer KI-Architekturen.