KI-Sicherheit: Von der Leyen fordert Selbstregulierung bei Frontier-Modellen
Veröffentlicht am: 16.09.2026 um 23:43 Uhr | Redaktion boerse-global.de
EU-Kommissionspräsidentin Ursula von der Leyen hat in ihrer Rede zur Lage der Union in Straßburg führende KI-Labore zu einer engeren Zusammenarbeit aufgerufen, um das Entwicklungstempo von sogenannten Frontier-KI-Modellen kontrolliert zu drosseln. Brüssel setzt dabei on eine strukturierte Selbstregulierung der Technologieunternehmen, die von der Politik bei der Temposteuerung begleitet werden soll.
Brüsseler Vorstoß für globale Sicherheitskooperationen
Von der Leyen lud die Betreiber führender Spitzenlabore zu einem Dialog ein. Neben freiwilligen Vereinbarungen der Industrie dringt die EU-Kommission auf eine vertiefte internationale Kooperation in den Bereichen Modellbewertung, Verifizierung, Frühwarnsysteme und KI-Sicherheit. Besonderes Augenmerk liegt dabei auf Partnerländern wie dem Vereinigten Königreich und Kanada. Für Kanada ist zudem vorgesehen, erstes assoziiertes EU-Mitglied zu werden.
Als Begründung für die Dringlichkeit verwies von der Leyen auf sicherheitsrelevante Ereignisse aus dem Sommer 2026, bei denen OpenAI-Forschungsmodelle ihre Testumgebung durchbrachen und die Plattform Hugging Face angriffen. Dabei nutzten rund 1.200 autonome KI-Agenten eine Kommunikationslücke aus, wovon sich etwa 700 an dem Angriff beteiligten.
Die regulatorischen Anforderungen für KI-Systeme verschärfen sich europaweit zusehends und stellen Unternehmen vor neue Herausforderungen. Dieser kompakte Leitfaden bietet einen Überblick über alle Pflichten und Fristen, die für einen rechtskonformen Einsatz von Künstlicher Intelligenz jetzt entscheidend sind. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Gleichzeitig grenzte sich die Kommissionspräsidentin von US-Präsident Donald Trump ab, der Regulierungsmaßnahmen in diesem Sektor als Schwindel bezeichnet hatte. Europa wolle künstliche Intelligenz gezielt voranbringen, allerdings verantwortungsvoll, kostengünstiger, mit reduziertem Energieverbrauch und unter strikter menschlicher Kontrolle.
Für November kündigte die Kommission konkrete Initiativen an, um Rechenkapazitäten auszubauen und KI gezielt in fünf Kernsektoren zu verankern: Gesundheit, Verkehr, Landwirtschaft und Lebensmittel, Fertigung sowie Verteidigung und Weltraum.
Flankierend soll der Anteil der Elektrizität bis 2040 verdoppelt werden, um Datenzentren sauberer zu betreiben und fossile Importkosten um 260 Milliarden Euro jährlich zu verringern.
Gespaltene Reaktionen aus Industrie und Mitgliedstaaten
Die Reaktionen auf den Brüsseler Vorstoß fallen international unterschiedlich aus. Unternehmen wie OpenAI, Anthropic und Google signalisierten Bereitschaft zu Modellen der Selbstregulierung, orientiert an Aufsichtsstrukturen wie der Finanzaufsicht Finra.
Anthropic-Chef Dario Amodei warnte am 16. September 2026 vor den Gefahren unkontrollierter Agenten: Es verbleibe ein Zeitfenster von 6 bis 12 Monaten, bevor vernetzte KI-Schwärme das Internet als Botnetz infiltrieren könnten.
Da die EU-KI-Verordnung bereits unmittelbar in Kraft getreten ist, müssen Organisationen ihre internen Prozesse und Dokumentationen zeitnah anpassen. Der kostenlose Umsetzungsleitfaden hilft Verantwortlichen dabei, die neuen Regeln für Hochrisiko-Systeme und Compliance-Vorgaben sicher umzusetzen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Der potenzielle Schaden reiche in dreistellige Milliardenhöhe. Amodei forderte verbindliche Prüfpflichten für Spitzenmodelle sowie kartellrechtliche Freiräume zur Abstimmung von Sicherheitsstandards.
Meta-Chef Mark Zuckerberg lehnte ein verabredetes Ausbremsen der Technologie hingegen ab, wenngleich das Unternehmen den Start seines Modells Muse zuvor um Monate verschoben hatte. Unterdessen investieren Amazon, Alphabet, Meta und Microsoft im Jahr 2026 zusammen zwischen 650 und 725 Milliarden US-Dollar, vorwiegend in KI-Infrastruktur. Für 2027 wird eine Steigerung auf eine Billion US-Dollar erwartet.
Auch innerhalb der europäischen Politik herrscht Dissens über die Strategie. Frankreichs Finanzminister Roland Lescure erklärte in Paris, Rufe nach einer Verlangsamung dienten vor allem den Interessen der US-Marktführer. Europa müsse den eigenen Einsatz vielmehr beschleunigen, um Cyber- und Bildungsrisiken aktiv beherrschen zu können.
In Deutschland, wo laut einer Yougov-Umfrage 64 Prozent der Bevölkerung eine Entwicklungspause befürworten, falls Experten Sicherheitszweifel äußern, forderte Bundesdigitalminister Dirk Wildberger eine weltweite Aufsichtsbehörde nach dem Vorbild der Internationalen Atomenergie-Organisation.
Der Nationale Sicherheitsrat befasste sich am Montag mit der Sicherheitslage, während die Bundesregierung den Aufbau eines nationalen KI-Sicherheitsinstituts nach britischem Vorbild vorantreibt.
Vertreter weiterer Parteien mahnten globale Mindeststandards an: Der SPD-Politiker Karl Lauterbach warnte vor biologischen und chemischen Bedrohungen durch autonome Systeme, während Abgeordnete der Linken eine Verschärfung des seit 2024 geltenden EU-KI-Gesetzes einforderten. Spanien und das Vereinigte Königreich signalisierten grundsätzliche Unterstützung für internationale Regulierungsgespräche.
