Hochrisiko-KI in Großbritannien: Abgeordnete fordern Verbotsbefugnisse
Veröffentlicht am: 18.11.2026 um 21:25 Uhr | Redaktion boerse-global.deDer Parlamentsausschuss für Wirtschaft, Innovation, Wissenschaft und Handel hat in einem Bericht mit dem Titel Guardrails for Growth: Making AI Safe vorgeschlagen, der britischen Regierung Befugnisse zur Verzögerung oder zum Verbot des Einsatzes von Hochrisiko-KI-Modellen einzuräumen. Um derartige Interventionen rechtlich abzusichern, fordert das Gremium ein umfassendes Sicherheitsgesetz, die sogenannte AI Safety and Security Bill.
Durchsetzungsstarke Aufsicht und strengere Pflichten
Der Gesetzentwurf soll einer zuständigen Aufsicht ermöglichen, das Training sowie Tests von Hochrisiko-Systemen zu unterbinden, deren Veröffentlichung zu blockieren und bestehende Dienste im Ernstfall zu suspendieren.
Bisher verfügt das britische AI Safety Institute über keine Befugnis, Entwicklungen oder Markteinführungen zu stoppen. Nach den Vorstellungen des Ausschusses soll das Institut künftig weiterhin für die technische Überprüfung zuständig bleiben, während die Durchsetzungsbefugnisse einer separaten Behörde übertragen werden.
Entwickler sogenannter Hochrisikosysteme müssten laut den Empfehlungen eigene Sicherheitsaussagen lückenlos belegen und unabhängigen Prüfern vollen Zugang gewähren. Sobald sich Fähigkeiten oder Schutzmechanismen eines Modells wesentlich verändern, soll eine erneute Sicherheitsbewertung verpflichtend vorgeschrieben sein.
Der Ausschussvorsitzende Liam Byrne mahnte mit Verweis auf die Dringlichkeit der vorgeschlagenen Maßnahmen, die Gesellschaft müsse sich vor modernen Frankensteins schützen.
Zehn Regulierungslücken und Risiken offener Modelle
Das Gremium identifizierte insgesamt zehn Lücken im bestehenden Rechtsrahmen des Vereinigten Königreichs. Dazu zählen das Fehlen verbindlicher Meldepflichten für Sicherheitsvorfälle sowie Beinahe-Vorfälle, begrenzte Zugangsrechte für Prüfer und unzureichende Schutzmechanismen für Hinweisgeber.
Künftig sollen Whistleblower Missstände auch ungeachtet vertraglicher Vertraulichkeitsklauseln direkt und geschützt an die Regulierungsbehörde weitergeben dürfen.
Während international über neue Sicherheitsgesetze debattiert wird, schafft die EU mit dem AI Act bereits verbindliche Fakten für alle Unternehmen. Welche KI-Systeme konkret als Hochrisiko eingestuft werden und welche neuen Regeln Sie jetzt kennen müssen, klärt dieser kostenlose Report auf. Die EU-KI-Verordnung und ihre Folgen jetzt verstehen
Im Rahmen der Untersuchung befragte das Gremium die Unternehmen OpenAI, Google DeepMind, Anthropic und Meta. Zwar versicherten alle befragten Firmen, keine als unsicher eingestuften Systeme zu veröffentlichen, sie wandten dabei jedoch unterschiedliche Sicherheitsmaßstäbe an.
Bislang schreibt das britische Recht vor dem Release in der Regel keine unabhängigen Überprüfungen vor. Zugleich sagten ehemalige Mitarbeiter von Anthropic und OpenAI aus, dass führende Entwickler die Risiken der Technologie nicht mit der gebotenen Ernsthaftigkeit angingen.
Besondere Risiken sieht der Bericht bei frei zugänglichen Open-Weight-Modellen. Diese stammten zunehmend auch von chinesischen Entwicklern und seien nach ihrer Bereitstellung kaum noch zu kontrollieren. Gegen Missbrauch schlägt der Ausschuss gezielte Maßnahmen gegen Hosting-Dienste und Plattformen vor sowie eine Kriminalisierung schädlicher Nutzungen.
Wirtschaftliche Perspektive und internationaler Rahmen
Trotz strengerer Regeln sieht der Ausschuss erhebliche wirtschaftliche Vorteile. Unter Verweis auf Schätzungen der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung könnte Künstliche Intelligenz die britische Wirtschaftsleistung im kommenden Jahrzehnt um bis zu 400 Mrd. £ steigern. Klare und verlässliche Schutzmaßnahmen könnten dabei insbesondere kleineren Unternehmen helfen, die Technologie vertrauensvoll einzusetzen.
Wer sich mit der Einführung sicherer KI-Prozesse befasst, muss neben technischen Aspekten auch die strengen Dokumentationspflichten im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen für Unternehmen. Kostenloses E-Book zum EU AI Act herunterladen
Das Gremium strebt die Verabschiedung des Gesetzes für die kommende Sitzungsperiode an, deren Beginn für den Sommeranfang erwartet wird. Zudem solle die britische G20-Präsidentschaft im Jahr 2027 genutzt werden, um international einheitliche Standards bei Modellprüfungen, Meldepflichten und Freigaben von Hochrisikosystemen zu verankern. Die vorgelegten Empfehlungen sind für die Regierung rechtlich nicht bindend, eine formelle Festlegung seitens der Regierung liegt bislang nicht vor.
