BSI-Richtlinie TR-03185: KI-Codeassistenten werden Teil sicherer Entwicklung
Veröffentlicht am: 15.10.2026 um 22:45 Uhr | Redaktion boerse-global.de
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat den Einsatz künstlicher Intelligenz bei der Softwareentwicklung formal in seinen regulatorischen Rahmen aufgenommen. Wie das Portal itiko.de in einem Bericht vom 15. Oktober 2026 meldet, führt die Behörde Programmierassistenten, Schwachstellenscanner und große Sprachmodelle in der Technischen Richtlinie TR-03185 explizit auf.
Im neu eingefügten Abschnitt 0.1 zur Nutzung künstlicher Intelligenz werden diese Technologien als genutzte Ressourcen und Werkzeuge im Geltungsbereich verankert. Die zugrunde liegende Version 1.1.1 der Richtlinie ist auf den 2. Juli 2026 datiert und wird seit dem 21. August 2026 in der offiziellen Änderungsliste des BSI geführt.
Fünf Anforderungen erfassen KI-gestützte Entwicklung
Der neue KI-Abschnitt der Richtlinie verzichtet auf eine Einstufung nach zwingenden Vorgaben, Soll-Bestimmungen oder Kann-Kriterien. Stattdessen hält die Einleitung fest, dass die entsprechenden Systeme berücksichtigt werden sollen. Dennoch berühren fünf spezifische Anforderungen der TR-03185 den Umgang mit maschinell erstelltem Quellcode unmittelbar:
Im Rahmen der Anforderung PM.A.1 ist eine Entscheidung verpflichtend vorgegeben, während die Dokumentation als Soll-Vorgabe formuliert ist. Der Punkt DEV.F.2 betrifft die Code-Überprüfung und sieht vor, dass statische Analysen zum Einsatz kommen sollen. Nach der Richtlinie DEV.G.1 müssen alle verwendeten Fremdkomponenten zwingend vertrauenswürdig sein.
Die neuen regulatorischen Anforderungen an KI-Systeme stellen Unternehmen vor komplexe Herausforderungen bei der rechtssicheren Dokumentation. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle relevanten Pflichten, Risikoklassen und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Zudem verlangt die Vorgabe TEST.A.5 als Soll-Bestimmung eine personelle Trennung zwischen Softwareentwicklern und Testern. Mit der Anforderung TEST.A.17 wird schließlich die Freigabe des Systems als verbindlich zu dokumentierender Schritt festgeschrieben.
Empfehlungen für Scanner und Begrenzung der Zertifizierung
Neben den Vorgaben für Entwicklungsprozesse befürwortet das BSI den Einsatz automatisierter Sicherheitswerkzeuge. Unter Verweis auf Kapitel 1.3.2.4 der TR-03185 empfiehlt die Behörde den Einsatz KI-gestützter Schwachstellenscanner.
Hinsichtlich einer formalen Konformitätsprüfung bleibt der Anwendungsbereich jedoch beschränkt: Eine Zertifizierung nach der TR-03185 ist ausschließlich für Teil 1 der Richtlinie möglich, dessen deutschsprachige Fassung auf den 6. August 2024 datiert ist. Der zweite Teil des Regelwerks, der sich mit quelloffener Software befasst, ist von der Zertifizierung ausgenommen.
Da automatisierte Werkzeuge und KI-Modelle neue Einfallstore für Cyberangriffe öffnen können, ist eine proaktive Absicherung der IT-Infrastruktur heute unerlässlich. Erfahren Sie in diesem Gratis-E-Book, wie Sie aktuelle Sicherheitslücken schließen und neue gesetzliche Vorgaben effizient erfüllen. Kostenlosen Cyber-Security-Report herunterladen
Sicherheitsrisiken und Ausblick auf künftige Anpassungen
Die Aufnahme in die TR-03185 knüpft an frühere Bewertungen der Behörde an. Bereits am 4. Oktober 2024 hatten das BSI und die französische Cybersicherheitsbehörde ANSSI in einer gemeinsamen Empfehlung zu KI-Programmierassistenten betont, dass solche Werkzeuge keinen Ersatz für erfahrene Softwareentwickler darstellen.
Die beiden Institutionen wiesen dabei auf neuartige Angriffswege hin, darunter Paket-Halluzinationen, indirekte Prompt-Injektionen und Vergiftungsangriffe.
Auch das AI Safety Institute (AISI) Deutschland widmete sich der Thematik. In der Ausgabe 08/2026 vom 1. September 2026 hielt die Organisation fest, dass eine weitere Konkretisierung der Vorgaben möglich sei. Zudem seien hochentwickelte Frontier-Modelle für sicherheitskritische Aufgaben derzeit nur eingeschränkt geeignet.
