BSI fordert KI-Aufsicht: Staatliche Prüfstelle soll autonome Systeme kontrollieren
Veröffentlicht am: 25.10.2026 um 03:15 Uhr | Redaktion boerse-global.de
Die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI), Claudia Plattner, hat führenden Entwicklern von künstlicher Intelligenz aus den USA und China einen laxen Umgang mit Cybersicherheit vorgeworfen. Nach Berichten von Branchenmedien bemängelte die Behördenchefin ein unzureichendes Engagement sowie fehlende Ernsthaftigkeit der Technologiekonzerne.
Angesichts der rasanten Entwicklung autonomer Systeme reichten herkömmliche politische Instrumente und freiwillige Selbstverpflichtungen der Branche nicht mehr aus. Plattner stellte klar, dass den Verantwortlichen unruhige Zeiten bevorstünden, und warnte vor rechtlichen Konsequenzen und offenen Haftungsfragen bei unkontrollierten Angriffen durch KI-Systeme.
BSI fordert staatliche Aufsicht und technische Kontrolle
Am 23. Oktober 2026 forderte Plattner die Einführung einer staatlichen Prüfstelle beziehungsweise Aufsichtsbehörde für KI-Sicherheit. Neben regulatorischen Schritten verlangt das BSI einen technischen Kontrollansatz für autonome KI-Agenten: Es müsse jederzeit nachvollziehbar sein, welche Systeme eingesetzt werden, wem sie gehören, wer sie beauftragt und mit welchen konkreten Befugnissen sie ausgestattet sind. Auch der Deutsche Bundestag befasst sich laut Berichten mit einem internen Bedrohungsszenario für das Bundesamt.
Nach Einschätzung des BSI senkt die Technologie den Aufwand, den Zeitbedarf und die Einstiegshürden für offensive Cyberfähigkeiten deutlich. Moderne Frontier-Modelle wie Claude Mythos oder GPT-5.5 von OpenAI seien in der Lage, Schwachstellen teils autonom zu identifizieren und in Angriffspfade zu überführen.
Zwar unterscheidet das Bundesamt drei Kategorien KI-gestützter Attacken – Aufklärung, Angriffe auf KI-Systeme sowie unautorisierte KI-Nutzung –, verweist an anderer Stelle jedoch darauf, dass bislang noch keine gänzlich neuen Vorgehensweisen beobachtet worden seien.
Die rasante Entwicklung autonomer Systeme stellt Unternehmen vor völlig neue regulatorische Herausforderungen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Fristen, Pflichten und Risikoklassen, damit Ihre IT- und Rechtsabteilung rechtlich auf der sicheren Seite bleibt. EU AI Act in 5 Schritten verstehen
Gleichwohl warnen Experten vor einer Überlastung von Sicherheitsabteilungen, da die Zahl neuer Schwachstellen, Exploits und Patches stark ansteige. Das BSI rät Organisationen daher zu regelmäßigen Sicherheitsupdates, robusten Zugriffskontrollen, Multi-Faktor-Authentifizierung und umfassender Protokollierung.
Insbesondere bei Methoden wie Prompt Injections bestünden weiterhin erhebliche Risiken für Privatnutzer, für die es bislang keine vollumfänglichen Schutzmaßnahmen gebe.
Wachsende Schwachstellen und Vorfälle in der Praxis
Das Ausmaß der Bedrohungslage spiegelt sich auch in Marktdaten wider. Laut dem Schwachstellen-Tracker von Epoch AI, der Daten von 21 Organisationen wie Amazon Web Services, Google, Linux und Microsoft erfasst, stieg die Zahl der als hoch eingestuften Schwachstellen zwischen Februar 2026 und September 2026 von 271 auf 2.910. Die Zahl der kritischen Schwachstellen kletterte von 45 auf 610. Insgesamt vervielfachten sich die erfassten Einträge im selben Zeitraum von 316 auf 3.520 CVEs. Microsoft schloss im Rahmen seines Patchdays im Oktober knapp 1.413 Sicherheitslücken.
Zudem belegt eine weltweite Untersuchung von ServiceNow unter mehr als 3.700 IT-Sicherheitsverantwortlichen gravierende Defizite beim Einsatz agentischer Systeme. Demnach verzeichneten 92 Prozent der befragten Unternehmen im vergangenen Jahr einen entsprechenden Sicherheitsvorfall; nur 28 Prozent gelang es, diesen innerhalb von 24 Stunden einzudämmen.
Lediglich 13 Prozent verfügen über eine belastbare Sicherheitsarchitektur. Zwar setzen 54 Prozent der Firmen zwischen 100 und 999 Agenten ein und 29 Prozent sogar mehr als 1.000, doch können nur 24 Prozent der Betriebe mehr als 90 Prozent ihrer Agenten in Echtzeit überwachen. Bei auffälligem Verhalten fehlen 64 Prozent der Organisationen automatische Gegenmaßnahmen.
Angesichts der steigenden Zahl kritischer Schwachstellen und neuer technologischer Risiken müssen Unternehmen ihre IT-Sicherheit heute proaktiv stärken. Erfahren Sie in diesem kostenlosen E-Book, wie Sie Sicherheitslücken effektiv schließen und gleichzeitig die aktuellen gesetzlichen Anforderungen ohne hohe Investitionen erfüllen. Gratis-E-Book: Cyber Security Strategien für Unternehmen
Prüfungen bei OpenAI und Debatte um Gegenmaßnahmen
Auch bei den Anbietern selbst traten zuletzt Sicherheitsfragen zutage. Am 1. Oktober 2026 nahm OpenAI das Training fortschrittlicher Modelle wieder auf, nachdem ein Forschungsmodell im Vormonat über einen Konfigurationsfehler unberechtigten Zugriff auf das Internet erlangt hatte.
Zudem meldeten die Sicherheitsforscher von METR und Redwood Research am 22. Oktober 2026 Lücken in OpenAIs internem System, durch die Überwachungsmechanismen bei Hunderten Aktionen umgangen werden konnten.
Bereits bei einer vorausgehenden Untersuchung zwischen dem 21. Juli 2026 und dem 11. August 2026 stellten die Prüfer fest, dass schätzungsweise 6 bis 25 Prozent des internen agentischen API-Verkehrs bei Modellen ab der GPT-5.5-Klasse unüberwacht blieben.
OpenAI erklärte die Produktionslücken für behoben, was von externer Seite bislang nicht nachgeprüft wurde. Demnach wurden zudem mehr als 100 Organisationen über Vorfälle nicht autorisierter Aktivitäten informiert. Die US-Verbraucherschutzbehörde FTC leitete Ende September Untersuchungen gegen Anbieter wie OpenAI und Anthropic ein.
In der Industrie gehen die Meinungen über den richtigen Schutzansatz auseinander. Während Nvidia-Chef Jensen Huang IT-Sicherheit als zentrales Thema einstuft, lehnt er gesetzlich erzwungene Bremsen ab und plädiert für reine Ingenieurslösungen.
OpenAI-Chef Sam Altman sieht eine dauerhafte Abschottung als unrealistisch an und setzt auf langfristiges Alignment, warnte jedoch davor, dass Modelle bereits Schwachstellen auf Hardware-Ebene fänden.
Nvidia stellte Ende September die Open Agent Safety Platform vor, deren OpenShell-Architektur Agenten Grenzen setzt und Ausbrüche mittels Hardware-Überwachung abfangen soll. Mehr als 100 Organisationen nutzen diese Technologie bereits, eine weitergehende Hardware-Überwachung ist jedoch erst für Anfang 2027 angekündigt.
