KI-Sicherheit: Cyberkriminelle klonen jetzt KI-Modelle

Google und Microsoft warnen vor neuen KI-Bedrohungen durch Modell-Destillation und unüberwachte Agenten, während Unternehmen mit der Umsetzung von Schutzmaßnahmen kämpfen.

KI-Sicherheit erreicht einen kritischen Wendepunkt. Neue Angriffsmethoden und eine rasante, aber unkontrollierte Verbreitung autonomer KI-Agenten in Unternehmen schaffen massive Risiken für die deutsche Wirtschaft.

Google warnt vor neuer Angriffswelle: KI-Klonen per „Modell-Destillation“

Die Bedrohungslandschaft hat sich fundamental verändert. Während 2025 noch Prompt-Injection-Angriffe dominierten, identifiziert Google nun eine neue, gefährlichere Taktik: die „Modell-Destillation“. Dabei fragen Angreifer ein bestehendes KI-Modell systematisch ab, um seine Funktionalität und sein geistiges Eigentum zu kopieren – ohne je auf den ursprünglichen Code zugreifen zu müssen.

Laut dem am 12. Februar veröffentlichten Bericht des Google Threat Intelligence Group bedroht dies nicht nur Unternehmensgeheimnisse. Die Methode ermöglicht auch die Erstellung „unkontrollierter“ Schattenmodelle, die zur Generierung von Malware oder hochgradig personalisierten Phishing-Kampagnen genutzt werden. Staatlich unterstützte Akteure nutzen diese Technik bereits, um ihre Operationen zu skalieren und die Sicherheitsfilter kommerzieller Großsprachmodelle zu umgehen.

Anzeige

Die neue Welle an KI‑basierten Angriffen zeigt, wie schnell traditionelle Abwehrstrategien an ihre Grenzen geraten. Ein kostenloses E‑Book „Cyber Security Awareness Trends“ fasst aktuelle Bedrohungen (inkl. KI‑Angriffe und neue Gesetze) zusammen und liefert praxisnahe Schutzmaßnahmen, die auch kleine IT‑Teams sofort umsetzen können. Jetzt kostenloses Cyber-Security-E-Book herunterladen

Parallel dazu nutzen Kriminelle legale KI-Webseitenbauer wie Vercel, um in Minuten täuschend echte Kopien von Marken-Webseiten zu erstellen. Ein dokumentierter Fall zeigt eine perfekte Kopie der Seite eines Cybersicherheitsanbieters, die lediglich dazu diente, Login-Daten abzugreifen. KI senkt die Einstiegshürde für Betrug erheblich.

Microsoft-Report: 80% der Top-Unternehmen nutzen unkontrollierte KI-Agenten

Das Gefahrenpotenzial wird durch das explosive Wachstum der KI-Nutzung in Unternehmen vervielfacht. Ein am 10. Februar veröffentlichter Microsoft-Report liefert alarmierende Zahlen: 80 Prozent der Fortune-500-Unternehmen setzen bereits aktive KI-Agenten ein. Diese autonomen Softwareprogramme treffen Entscheidungen und führen Aufgaben ohne permanente menschliche Aufsicht aus.

Microsoft warnt vor einer kritischen „Sichtbarkeitslücke“: Die Agenten werden schneller eingesetzt, als Sicherheitsteams sie validieren können. Vielen Organisationen fehlen die nötigen Überwachungswerkzeuge. Ohne strikte Governance könnten diese produktiven Helfer so zu Einfallstoren für Angreifer werden – eine Art digitaler Insider-Bedrohung.

Diese „Schatten-KI“-Problematik wurde diese Woche schmerzhaft deutlich. Am 9. Februar offenbarten Sicherheitsforscher einen massiven Datenleck bei der populären Anwendung „Chat & Ask AI“. Eine falsche Firebase-Konfiguration legte rund 300 Millionen Nachrichten von 25 Millionen Nutzern offen, inklusive sensibler Firmendiskussionen und persönlicher Daten.

Studie: Unternehmen sind alarmiert, aber handlungsunfähig

Das Bewusstsein für die Gefahren ist da, die Umsetzung von Schutzmaßnahmen hinkt jedoch hinterher. Das zeigt eine globale Umfrage von Barracuda Networks und dem Weltwirtschaftsforum (WEF) vom 11. Februar. 87 Prozent der 873 befragten Führungskräfte sind überzeugt, dass die KI-Sicherheitsrisiken im vergangenen Jahr signifikant gestiegen sind.

Zwar setzen 77 Prozent der Organisationen KI bereits zur Verbesserung ihrer eigenen Abwehr ein, etwa zur automatisierten Phishing-Erkennung. Doch grundlegende Governance-Strukturen fehlen: Nur 64 Prozent haben einen formalen Prozess, um die Sicherheit von KI-Tools vor der Einführung zu bewerten. Datenlecks und Fortschritte bei Angriffsmethoden sind die Top-Sorgen des Managements für 2026.

Die Diskrepanz zwischen rasanter Einführung und mangelnder Sicherheitsreife schafft ein fragiles Umfeld. Die schnelle Adoption „agentischer“ Workflows überholt oft die Entwicklung von Compliance-Rahmenwerken – Lücken, die Angreifer sofort ausnutzen.

Die Antwort: „Defense-in-Depth“ für KI und Verhaltensüberwachung

Als Reaktion auf die eskalierenden Bedrohungen setzt die Industrie zunehmend auf mehrschichtige Sicherheitsstrategien („Defense-in-Depth“) speziell für KI. So kündigte die Agenten-Plattform OpenClaw am 9. Februar eine Partnerschaft mit Googles VirusTotal an. Ziel ist es, KI-„Skills“ auf bösartigen Code zu scannen, bevor sie ausgeführt werden – ähnlich wie bei traditionellen Software-Bibliotheken.

Experten sagen voraus, dass 2026 vom Kampf um die Sicherung des „agentischen Ökosystems“ geprägt sein wird. Da autonome Agenten Zugriff auf sensible Daten und Finanztransaktionen erhalten, verschiebt sich der Fokus der Cybersicherheit von der Perimeter-Verteidigung hin zur internen Verhaltensüberwachung.

Die Botschaft dieser Woche an die Wirtschaft ist eindeutig: Die Integration von KI ist kein reines IT-Projekt mehr, sondern ein zentrales Geschäftsrisiko. Angesichts von Modellklau und unkontrollierten Agenten müssen Unternehmen ihre KI-Abhängigkeiten sofort überprüfen und rigorose Aufsicht für alle autonomen Systeme etablieren.

@ boerse-global.de