KI-Sicherheit unterfinanziert: 2,5 Billionen Euro Investitionen, nur 3,4 Milliarden Schutz

Trotz weltweiter Milliardeninvestitionen in KI bleibt die Sicherheitsinfrastruktur dramatisch unterfinanziert. Neue Angriffsmethoden und Regulierungen prägen die Branche.

Die Welt investiert 2026 rund 2,5 Billionen Euro in Künstliche Intelligenz – doch die Sicherheit dieser Systeme bleibt dramatisch unterfinanziert. Während Unternehmen weltweit auf den KI-Zug aufspringen, geben sie nur einen Bruchteil für Schutzmaßnahmen aus: Gerade einmal 3,4 Milliarden Euro fließen in die Absicherung. Die Folgen sind alarmierend: 86 Prozent aller Organisationen melden bereits sicherheitsrelevante Vorfälle im Zusammenhang mit KI.

Anzeige

Angesichts der rasanten Entwicklung neuer KI-Anwendungen stehen viele Unternehmen vor der Herausforderung, die komplexen rechtlichen Anforderungen der EU-KI-Verordnung rechtzeitig umzusetzen. Dieser kostenlose Praxisleitfaden bietet einen kompakten Überblick über alle Fristen, Risikoklassen und Dokumentationspflichten des AI Acts. EU AI Act Umsetzungsleitfaden jetzt kostenlos herunterladen

Die Abliferation: Wenn Schutzmechanismen in Minuten fallen

Besonders brisant ist eine neue Angriffsmethode, die Sicherheitsexperten aufschrecken lässt. Mit einem Tool namens „Heretic" lassen sich Schutzmechanismen führender Open-Source-Modelle in wenigen Minuten entfernen – und das mit nur vier Zeilen Code. Betroffen sind unter anderem Metas Llama 3.3 und Googles Gemma 3. Die Folgen sind bereits sichtbar: Rund 3.500 „entschärfte" Modelle kursieren im Netz und wurden insgesamt 13 Millionen Mal heruntergeladen. Diese manipulierten Systeme geben gefährliche Anleitungen preis – von der Herstellung chemischer Kampfstoffe bis zum Kreditkartenbetrug.

Die Sicherheitslücken sind enorm. Ein aktueller Benchmark des Anbieters TELUS Digital, der 620.000 Angriffstests an 34 Modellen von zehn Anbietern durchführte, offenbarte ein erschreckendes Bild: Die Anfälligkeit für Angriffe schwankt zwischen 1,3 und 93 Prozent. Besonders verwundbar sind kleinere Modelle. „Reasoning"-Modelle, die logische Schlussfolgerungen ziehen, schnitten mit einer Angriffsrate von 19,9 Prozent deutlich besser ab als herkömmliche Systeme mit 55,1 Prozent.

Agentische KI: Das Sicherheitsproblem der nächsten Stufe

Die Branche bewegt sich rasant auf „agentische KI" zu – Systeme, die eigenständig in digitalen oder physischen Umgebungen handeln können. Damit verschiebt sich auch der Fokus der Sicherheitsforschung. Ein Konsortium aus Google, Gray Swan AI und mehreren Universitäten fordert in einer aktuellen Studie einen grundlegenden Paradigmenwechsel: Die Sicherheit von KI-Agenten müsse als systemische Herausforderung betrachtet werden, nicht als Problem einzelner Modelle.

Die Forscher schlagen drei zentrale Schutzmechanismen vor: die strikte Trennung von Anweisungen und ungeprüften Daten, minimale Berechtigungen für KI-Agenten sowie eine systemweite Kontrolle sensibler Datenflüsse. Ihre Empfehlung ist deutlich: KI-Agenten sollten als grundsätzlich unzuverlässige Komponenten innerhalb einer größeren Architektur behandelt werden.

Dass diese Warnung nicht aus der Luft gegriffen ist, zeigt der Fall des Krypto-Handelsassistenten Bankr. Das System musste am 20. Mai seine Transaktionsfunktion deaktivieren, nachdem ein Angreifer Zugriff auf mehrere Nutzerkonten erlangt hatte.

Anzeige

Da Cyberkriminelle gezielt die Schwachstellen neuer Technologien ausnutzen, benötigen vor allem kleine und mittelständische Unternehmen proaktive Schutzstrategien ohne explodierende Kosten. Erfahren Sie in diesem kostenlosen E-Book, wie Sie aktuelle Bedrohungen abwenden und Ihre IT-Infrastruktur langfristig absichern können. Gratis-Ratgeber zur Cyber-Security jetzt anfordern

Governance in der Krise: Vier von zehn Unternehmen droht der Rückzug

Die Kontrolle dieser autonomen Systeme bereitet zunehmend Kopfzerbrechen. Das Beratungshaus Gartner prognostiziert, dass bis 2027 rund 40 Prozent aller Unternehmen ihre autonomen KI-Agenten zurückstufen oder ganz abschalten werden – Grund sind gescheiterte Governance-Strukturen. Die Analysten empfehlen eine abgestufte Kontrolle über vier Autonomie-Level: Beobachten, Beraten, Handeln mit Genehmigung und vollständig autonomes Handeln. Sowohl Überregulierung als auch mangelnde Kontrolle führten derzeit zu erheblichen Betriebsausfällen.

Staatliche Regulierung: Indien, Großbritannien und die USA ziehen an

Die Politik reagiert auf die wachsenden Risiken mit neuen Regulierungen. Indiens CERT-In erließ am 25. Mai eine Direktive, die Unternehmen verpflichtet, aktiv ausgenutzte Sicherheitslücken innerhalb von zwölf Stunden zu schließen. Kritische externe Schwachstellen müssen innerhalb eines Tages behoben werden, jeder Cybervorfall ist binnen sechs Stunden zu melden.

International wächst die Zusammenarbeit. Am 26. Mai unterzeichneten Großbritannien und Australien ein Memorandum of Understanding zur vertieften Kooperation in der KI-Sicherheit. Das britische KI-Sicherheitsinstitut und die neu gegründete australische Behörde wollen Forschungsergebnisse teilen, gemeinsam Grenzmodelle testen und Personal austauschen.

In den USA trat am 19. Mai der „TAKE IT DOWN Act" in Kraft. Das Gesetz verpflichtet Plattformen, nicht-einvernehmliche KI-generierte Bilder innerhalb von 48 Stunden zu entfernen – bei Zuwiderhandlung drohen Strafen von rund 53.000 Euro pro Verstoß. Dass solche Gesetze notwendig sind, belegt eine Studie der University of Michigan: Während Plattformen wie X (ehemals Twitter) auf urheberrechtliche Löschanträge innerhalb von 25 Stunden reagierten, blieben vergleichbare Bilder bei internen Meldeverfahren drei Wochen lang online.

Die Achillesferse: Auch KI-Sicherheitstools sind verwundbar

Selbst die Werkzeuge zur Bedrohungsanalyse sind nicht gefeit. Eine Studie vom 26. Mai identifizierte drei kognitive Schwachstellen in großen Sprachmodellen: eingeschränkte Verallgemeinerungsfähigkeit, widersprüchliches Wissen und die Erzeugung falscher Korrelationen. Selbst Modelle wie GPT-5 und Claude-Sonnet-4 zeigten universelle Schwächen bei der Normalisierung von Kompromittierungsindikatoren und der Extraktion von Angriffsmustern.

Anthropics Projekt Glasswing offenbarte zudem das Ausmaß des Sicherheitsdefizits in der Softwarelandschaft. Mit dem Claude Mythos Preview identifizierte das Projekt 10.000 schwerwiegende Sicherheitslücken in über 1.000 Open-Source-Projekten. Zwar bestätigte die KI 90,6 Prozent der 1.752 untersuchten Schwachstellen – doch der Flaschenhals liegt woanders: Ende Mai waren trotz der Meldungen an die Projekte nur 75 Lücken geschlossen. Selbst mit KI-Unterstützung kommen menschliche Entwickler mit dem Tempo der notwendigen Reparaturen nicht hinterher.

Ausblick: Physische KI und die europäische Perspektive

Die Sicherheitsforschung richtet den Blick zunehmend auf die physischen und ethischen Implikationen. Singapur veröffentlichte mit seinem Model AI Governance Framework v1.5 spezifische Richtlinien für verkörperte KI in physischen Umgebungen. Erste Pilotprojekte mit autonomen Lieferrobotern laufen bereits. In Japan zeigt eine Reuters-Umfrage vom Mai 2026: Vier Prozent der Unternehmen setzen bereits KI-Roboter ein, weitere 25 Prozent erwägen die Einführung.

Für Europa steht der Gipfel „Shaping the Next Digital Frontier" am 17. Juni in Nikosia auf dem Programm. Mit Rednern wie Google-DeepMind-CEO Demis Hassabis wird die Balance zwischen rasanter KI-Entwicklung und robusten Sicherheitsstandards im Mittelpunkt stehen.

Die Botschaft der Experten ist eindeutig: Während KI-Tools wie der „DebunkBot" – der laut einer ADL-Studie Verschwörungstheorien wirksam entkräften kann – gesellschaftliches Potenzial bieten, bleibt die Sicherheitsinfrastruktur prekär. Die große Herausforderung für die Tech-Branche wird sein, die massiven Investitionen in KI-Fähigkeiten endlich mit einer angemessenen Finanzierung der Sicherheitsforschung in Einklang zu bringen.