TÜV fordert Sicherheitsabnahme: ChatGPT vor Marktstart prüfen
Veröffentlicht am: 18.09.2026 um 23:42 Uhr | Redaktion boerse-global.de
Das TÜV AI Lab setzt sich für eine signifikante Verschärfung der Regulierung von künstlicher Intelligenz ein. In einem aktuellen Vorstoß fordert die Organisation eine verpflichtende Sicherheitsabnahme für leistungsstarke Sprachmodelle, wie etwa ChatGPT, noch vor deren offizieller Markteinführung. Damit reagiert das Prüflabor auf die wachsende Bedeutung und die potenziellen Risiken, die von großflächig eingesetzten KI-Systemen ausgehen.
Nach Ansicht des TÜV AI Labs reicht die bisherige Praxis der Begleitung von Entwicklungsprozessen nicht aus, um die Sicherheit der Anwendungen umfassend zu garantieren.
Franziska Weindauer, die Leiterin des TÜV AI Labs, unterstrich in diesem Zusammenhang, dass eine rein entwicklungsbegleitende Prüfung durch Experten keine hinreichende Sicherheit biete. Vielmehr sei eine abschließende, verbindliche Kontrolle notwendig, bevor die Modelle für die breite Öffentlichkeit oder Unternehmen zugänglich gemacht werden.
Staatliche Initiativen zur KI-Sicherheit in Berlin
Die Forderungen des TÜV AI Labs fallen in eine Phase, in der auch die staatlichen Strukturen zur Überwachung von KI-Technologien massiv ausgebaut werden. Die Bundesregierung hat bereits auf die Notwendigkeit reagiert, spezialisierte Institutionen für die Bewertung von KI-Risiken zu schaffen.
Seit Ende August befindet sich ein neues KI-Sicherheitsinstitut (AISI) im Aufbau, das seinen Sitz in Berlin hat. Dieses Institut soll als zentrale Stelle fungieren, um die Sicherheit und Verlässlichkeit von KI-Systemen wissenschaftlich zu untersuchen und Standards zu definieren.
Wer sich mit der rechtssicheren Implementierung von KI-Technologien im Unternehmen befasst, benötigt einen klaren Überblick über die neuen gesetzlichen Rahmenbedingungen. Dieser kostenlose Umsetzungsleitfaden erläutert alle relevanten Anforderungen und Fristen des EU AI Acts für die Praxis. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die Gründung des AISI verdeutlicht, dass die Bundesregierung die Sicherheit von KI-Anwendungen als eine strategische Aufgabe der nationalen Digitalpolitik begreift. Das Institut soll dazu beitragen, technologische Risiken frühzeitig zu identifizieren und den regulatorischen Rahmen mit fachlicher Expertise zu unterfüttern.
Spannungsfeld zwischen Innovation und Regulierung
Trotz der verstärkten Rufe nach strengeren Kontrollen bleibt die politische Zielsetzung bestehen, den Standort Europa im Bereich der technologischen Entwicklung wettbewerbsfähig zu halten. Digitalminister Wildberger (CDU) machte deutlich, dass die europäische KI-Entwicklung trotz bestehender Sicherheitsbedenken entschlossen vorangetrieben werden müsse.
Der Minister sieht in der Förderung eigener technologischer Kapazitäten eine Notwendigkeit, um die digitale Souveränität Europas zu wahren. Die Herausforderung für die kommenden Monate wird darin bestehen, die von Fachleuten wie Weindauer geforderten Sicherheitsbarrieren so in den rechtlichen Rahmen zu integrieren, dass sie den Innovationsprozess nicht unverhältnismäßig bremsen.
Die Einordnung von KI-Systemen in verschiedene Risikoklassen ist ein zentraler Baustein der künftigen Regulierung und stellt viele Unternehmen vor große Herausforderungen. Erfahren Sie in diesem kostenlosen Report, welche konkreten Dokumentationspflichten auf Entwickler und Nutzer zukommen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Die Debatte verdeutlicht die aktuelle Zerreißprobe zwischen dem Wunsch nach maximaler technologischer Sicherheit und dem Druck, im globalen KI-Wettlauf nicht den Anschluss zu verlieren.
Ob die Forderung nach einer verbindlichen Markteintrittsprüfung, wie sie das TÜV AI Lab vorschlägt, Teil der künftigen Gesetzgebung wird, bleibt abzuwarten. Die Einrichtung des Berliner Sicherheitsinstituts ist jedoch ein deutliches Signal, dass die Überprüfung von Sprachmodellen und anderen KI-Systemen künftig eine deutlich zentralere Rolle in der deutschen und europäischen Digitalstrategie einnehmen wird.
