EU AI Act: Verbindliche Pflichten für Unternehmen ab August

Die Bundesregierung beschließt ein neues Institut zur Analyse von KI-Risiken. Es startet virtuell und orientiert sich am britischen Vorbild.

Die neue Institution soll die Bundesregierung dabei unterstützen, Risiken im Bereich der Künstlichen Intelligenz besser zu analysieren und zu bewerten. Das Institut startet zunächst als virtuelle Einrichtung und greift auf bestehende Strukturen der Bundesnetzagentur und des BSI zurück.

Anzeige

Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern

Fokus auf Cybersicherheit und Produktsicherheit

Die Arbeit des neuen Instituts konzentriert sich auf zwei Pfeiler: KI-Security und KI-Safety. Während KI-Security die Cybersicherheit im Umgang mit den Systemen adressiert, befasst sich KI-Safety mit der Sicherheit von Produkten. Digitalminister Wildberger betonte, dass die Einrichtung auf internationale Spitzenkräfte setzen werde.

Die Gründung folgt auf Warnungen aus dem BSI. Präsidentin Claudia Plattner hatte Anfang Mai in einem Blogbeitrag vor der Zunahme KI-gestützter Cyberangriffe gewarnt und ein spezialisiertes Institut gefordert. Kritiker merken an: Die geplante personelle Ausstattung im unteren zweistelligen Bereich sei im Vergleich zur Komplexität der Aufgabe und zu internationalen Vorbildern gering.

Vorbild Großbritannien

Als direktes Vorbild dient das britische AI Security Institute, das im November 2023 startete. Die deutsche Variante soll schrittweise ausgebaut werden, um die Lücke zwischen technologischer Entwicklung und staatlicher Aufsicht zu schließen. Experten weisen darauf hin, dass für effektive Sicherheitsprüfungen der Zugriff auf Rechenkapazitäten und die zugrunde liegenden KI-Modelle nötig sei.

Das Institut wird eng mit der Bundesnetzagentur verzahnt, die künftig als zentrale Aufsichtsbehörde für den EU AI Act fungiert. Die Verordnung trat bereits im August 2024 in Kraft – wesentliche Pflichten für Unternehmen werden ab dem 2. August 2026 verbindlich.

Anzeige

Angesichts neuer KI-Gesetze und wachsender Cyberrisiken müssen Unternehmer genau wissen, welche rechtlichen Pflichten auf sie zukommen. Dieser kostenlose Report hilft Ihnen, Sicherheitslücken proaktiv zu schließen und Ihr Unternehmen langfristig zu schützen. Gratis-E-Book zu Cyber Security Awareness herunterladen

Druck auf Plattformbetreiber

Parallel dazu erhöht die EU-Kommission den Druck auf Plattformbetreiber. WhatsApp (Meta) wurde am Dienstag verpflichtet, KI-Assistenten anderer Anbieter wieder kostenlos zuzulassen. Meta muss den Zugang zu Schnittstellen innerhalb von fünf Werktagen wiederherstellen – andernfalls drohen Bußgelder von bis zu zehn Prozent des weltweiten Jahresumsatzes.

Sicherheitsbedenken und globale Initiativen

Die Notwendigkeit staatlicher Kontrollen wird durch aktuelle Marktanalysen unterstrichen. Branchenanalysten von Gartner prognostizierten am Montag: Bis 2027 werden rund 40 Prozent der Unternehmen ihre autonomen KI-Agenten aufgrund fehlender Governance-Strukturen wieder abschalten oder deren Kompetenzen einschränken.

Gleichzeitig weiten KI-Entwickler ihre Sicherheitsprogramme aus. Anthropic öffnete sein Projekt Glasswing für 150 Organisationen in über 15 Ländern, um die Sicherheitsforschung an Modellen wie Claude Mythos zu fördern. Bereits mehr als 10.000 schwerwiegende Sicherheitslücken konnten identifiziert werden. In den USA wurde zudem Anfang Juni eine Regierungsanordnung erlassen, die Behörden zur Etablierung eines Bewertungssystems für KI-Cyberrisiken verpflichtet.