KI-Sicherheit: Open-Source-Komponenten in Agenten als Hauptrisiko
Veröffentlicht am: 03.08.2026 um 20:23 Uhr | Redaktion boerse-global.de
In der aktuellen Diskussion um die Sicherheit von Unternehmens-IT rücken zunehmend autonome KI-Agenten in den Fokus. Während diese Systeme Effizienzsteigerungen versprechen, weisen Sicherheitsanalysen auf erhebliche Risiken hin, die mit ihrer Implementierung verbunden sind. Insbesondere die Nutzung von Open-Source-Komponenten innerhalb dieser KI-Architekturen wird als potenzielle Schwachstelle identifiziert, die von Angreifern gezielt ausgenutzt werden kann.
Erweiterung der Angriffsfläche durch autonome Systeme
KI-Agenten unterscheiden sich von herkömmlichen Sprachmodellen vor allem durch ihre Fähigkeit, eigenständig Aufgaben in digitalen Umgebungen auszuführen. Diese gesteigerte Autonomie führt laut Einschätzungen des Sicherheitsdienstleisters KnowBe4 zu einer deutlichen Ausweitung der digitalen Angriffsfläche. Da diese Agenten häufig auf Open-Source-Bibliotheken und vorgefertigten Modellen basieren, können manipulierte Komponenten unbemerkt in die Infrastruktur von Unternehmen gelangen.
Das Risiko besteht hierbei primär in der Integrität der Software-Lieferkette. Wenn Entwickler auf frei verfügbare, aber unzureichend geprüfte KI-Bausteine zurückgreifen, könnten diese bereits mit Schadcode oder Hintertüren versehen sein. Die Komplexität dieser Systeme erschwert es IT-Abteilungen zudem, sämtliche Interaktionen und Entscheidungspfade der Agenten lückenlos zu überwachen.
Wer die Sicherheit seiner Unternehmens-IT angesichts neuer KI-Technologien stärken möchte, muss die rechtlichen Rahmenbedingungen und technischen Risiken genau kennen. Dieser kostenlose Report klärt auf, welche Pflichten und neuen Bedrohungen durch die EU-KI-Verordnung auf Unternehmer jetzt konkret zukommen. Welche KI-Systeme gelten als Hochrisiko? Jetzt Gratis-Report lesen
Spezifische Bedrohungsszenarien: Von Prompt Injection bis Data Poisoning
Dr. Kawin Boonyapredee, CISO Advisor bei KnowBe4, hat in aktuellen Analysen verschiedene Szenarien konkretisiert, die eine Bedrohung für die Compliance und Datensicherheit darstellen. Ein zentrales Problem bleibe die sogenannte Prompt Injection, bei der die Logik des KI-Modells durch gezielte Eingaben so manipuliert wird, dass es Sicherheitsvorgaben umgeht.
Ein weiteres kritisches Feld ist das sogenannte Data Poisoning. Hierbei werden die Trainingsdaten oder die während des Betriebs aufgenommenen Informationen manipuliert, um das Verhalten des KI-Agenten langfristig zu korrumpieren. Darüber hinaus warnte Boonyapredee vor bereits kompromittierten Modellen, die direkt aus öffentlichen Repositories bezogen werden. Solche Modelle könnten darauf programmiert sein, sensible Informationen nach außen zu leiten oder den Zugriff auf interne Systeme zu ermöglichen, sobald sie innerhalb eines Firmennetzwerks aktiv werden.
Strategien zur Risikominimierung in Unternehmen
Um den Gefahren durch unkontrollierte KI-Anwendungen und manipulierte Komponenten zu begegnen, werden verschiedene organisatorische und technische Maßnahmen empfohlen. KnowBe4 rät Unternehmen dringend dazu, eine vollständige Inventarisierung aller im Einsatz befindlichen KI-Systeme vorzunehmen. Nur durch eine transparente Erfassung lässt sich das Phänomen der sogenannten Shadow-KI – also der Einsatz von KI-Tools ohne Wissen der IT-Leitung – kontrollieren.
Neben technischen Schutzmaßnahmen wie der Inventarisierung von Systemen müssen Unternehmen auch die neuen gesetzlichen Anforderungen des EU AI Act im Blick behalten. Ein kostenloser Umsetzungsleitfaden verschafft Ihnen jetzt den notwendigen Überblick über Fristen, Pflichten und Risikoklassen für eine rechtssichere KI-Nutzung. EU AI Act in 5 Schritten verstehen: Kostenlosen Leitfaden herunterladen
Neben der technischen Überwachung spielt der Faktor Mensch eine entscheidende Rolle. Experten empfehlen regelmäßige Schulungen für Mitarbeiter, um das Bewusstsein für die specifichen Risiken autonomer Agenten zu schärfen. Für besonders kritische Geschäftsprozesse oder Aktionen mit weitreichenden Folgen wird die Einführung des „Human in the Loop“-Prinzips nahegelegt. Bei diesem Ansatz wird sichergestellt, dass autonome Agenten keine finalen Entscheidungen treffen dürfen, ohne dass eine menschliche Instanz die Aktion explizit geprüft und freigegeben hat. Dieser Kontrollmechanismus dient als wichtige Barriere gegen automatisierte Fehlentscheidungen oder durch Manipulation ausgelöste Fehlfunktionen.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf- oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
