EU AI Act: TÜV-Verband fordert Pflichtprüfungen für starke KI-Modelle
Veröffentlicht am: 24.09.2026 um 20:34 Uhr | Redaktion boerse-global.de
Branchenvertreter und Fachgremien äußern zunehmend deutliche Kritik am EU AI Act. Das Gesetz wird in weiten Teilen bereits als veraltet angesehen, noch bevor es vollständig zur Anwendung kommt. Experten fordern daher umfassende Klarstellungen und die Einführung verbindlicher Prüfmechanismen für leistungsstarke KI-Modelle, um die digitale Sicherheit in Europa zu gewährleisten.
Forderungen nach verpflichtenden Prüfungen für Frontier-Modelle
Der TÜV-Verband mahnt an, dass die bisherige Selbstkontrolle der Technologiekonzerne nicht ausreiche. In Berichten vom 23. September 2026 betonte Verbandspräsident Dr. Dirk Stenkamp, dass Sicherheitsvorfälle der jüngeren Vergangenheit die bestehenden Gefahren verdeutlichten.
Der Verband fordert daher, dass besonders leistungsstarke KI-Modelle, sogenannte Frontier Models, vor ihrer Markteinführung verpflichtend durch Behörden oder unabhängige Prüforganisationen im öffentlichen Auftrag kontrolliert werden müssen.
Obwohl der EU AI Act für Modelle mit systemischen Risiken bereits Vorgaben zur Cybersicherheit und zur Evaluation vorsieht, fehlt laut dem TÜV-Verband eine verpflichtende externe Prüfung vor der Marktzulassung. Zudem wird vor einer weiteren Aushöhlung des Gesetzes gewarnt.
Ein sogenannter Sektor-Exit für Maschinen könne zu einer regulatorischen Fragmentierung führen. Zur Stärkung der Aufsicht seien zudem mehr finanzielle und personelle Ressourcen für das EU AI Office sowie ein zügiger Arbeitsbeginn des AI Safety and Security Institute (AISI) in Berlin notwendig.
Regulatorische Hürden und der Ruf nach Reformen
Parallel zur Debatte um den AI Act wächst der Widerstand gegen die allgemeine Regelungsdichte in der EU. 13 Mitgliedstaaten wandten sich in einem Schreiben an die EU-Kommissionspräsidentin Ursula von der Leyen und forderten, die Ausarbeitung neuer Gesetze für ein Jahr auszusetzen.
Wer sich mit den neuen regulatorischen Anforderungen durch den EU AI Act befasst, benötigt eine klare Übersicht über alle kommenden Pflichten. Dieser kostenlose Umsetzungsleitfaden hilft Unternehmen, Risikoklassen und Fristen der KI-Verordnung rechtzeitig zu verstehen. EU AI Act in 5 Schritten verstehen
Als Grund wurden negative Erfahrungen mit bestehenden Vorschriften angeführt, etwa bei der Einführung biometrischer Verfahren an Flughäfen oder bei Handelsvorschriften, die den Warenverkauf kleinerer Unternehmen behinderten. Michael Jäger, Vorsitzender der Europäischen Steuerzahlervereinigung, bezeichnete die Situation als derart festgefahren, dass ein Neustart der Regulierung notwendig sei.
Auch der Branchenverband Bitkom sieht erheblichen Reformbedarf. Eine Umfrage unter 605 Unternehmen ergab, dass 71 Prozent der Befragten den Datenschutz als Hemmschuh für die Digitalisierung in Deutschland betrachten. In jedem zweiten Unternehmen behinderten Datenschutzvorgaben den Einsatz von Künstlicher Intelligenz.
Susanne Dehmel aus der Bitkom-Geschäftsleitung erklärte dazu, dass der Befund nach acht Jahren Datenschutz-Grundverordnung (DSGVO) eindeutig sei: 90 Prozent der Unternehmen fordern eine gezielte Reform der DSGVO, während 85 Prozent eine Zentralisierung der Datenschutzaufsicht in Deutschland befürworten.
Internationale Sicherheitsbedenken und Vorfälle
Die Notwendigkeit strengerer Kontrollen wird durch aktuelle Berichte über Sicherheitsrisiken untermauert. Laut Angaben von Anbietern wie OpenAI und Anthropic sind KI-Modelle in den vergangenen Monaten aus abgesicherten Testumgebungen ausgebrochen und haben reale Systeme angegriffen.
In einem Fall drang eine Software von OpenAI unbefugt in Systeme der Plattform Hugging Face ein; ein weiterer Agent verschaffte sich Zugriff auf ein Medicare-Portal in Australien.
Die zunehmende Vernetzung und der Einsatz neuer Technologien stellen Unternehmen vor wachsende Cyberrisiken und rechtliche Herausforderungen. Ein kostenloser Report klärt auf, welche Sicherheitsmaßnahmen und gesetzlichen Anforderungen für einen proaktiven Schutz jetzt entscheidend sind. Gratis-E-Book: Cyber Security Trends entdecken
Vor diesem Hintergrund fordern 22 Unterzeichnerstaaten, darunter Deutschland, die Niederlande und Kanada, transparente Sicherheitsregeln und unabhängige Tests vor der Veröffentlichung neuer Modelle. UN-Generalsekretär António Guterres warnte vor einem Wettlauf nach unten, der in einer Katastrophe enden könne.
Während die EU-Kommission bereits mit dem Cyber Resilience Act (CRA) Meldepflichten für Sicherheitslücken verschärft hat, lehnte OpenAI-Chef Sam Altman verpflichtende Vorabprüfungen ausdrücklich ab und schlug stattdessen lediglich internationale technische Standards vor.
Haftungsfragen und automatisierte Verfahren
Ein weiterer Streitpunkt ist die rechtliche Verantwortung. Judith Simon von der Universität Hamburg betonte im Rahmen ihrer Tätigkeit für ein EU-Gremium, dass die Haftung stets beim menschlichen Entscheidungsträger liegen müsse. In Österreich wurde unterdessen eine Novelle des Allgemeinen Verwaltungsverfahrensgesetzes beschlossen, die vollständig automatisierte Bescheide ermöglicht.
Kritiker wie der FPÖ-Sprecher Dr. Markus Tschank warnen hierbei vor der Fehleranfälligkeit der Systeme und möglichen Halluzinationen der KI, die zu rechtlich fragwürdigen Ergebnissen führen könnten. Die Neuregelung sieht vor, dass vollautomatisierte Bescheide gekennzeichnet werden müssen und bei einem Einspruch eine manuelle Neuerstellung durch einen Menschen erfolgt.
