Google warnt: KI wird zur Waffe der Cyberkriminellen

Google-Report zeigt systematischen Missbrauch von KI-Modellen für Cyberangriffe. Unternehmen müssen ihre Sicherheitsstrategien grundlegend überdenken und KI in die Abwehr integrieren.

KI-Modelle wie Gemini werden systematisch für Malware-Entwicklung und Phishing missbraucht – ein neues Wettrüsten beginnt. Das zeigt ein aktueller Bericht der Google Threat Intelligence Group. Die Analyse offenbart, wie staatliche Akteure und Kriminelle generative KI nutzen, um Angriffe zu beschleunigen und zu verschleiern. Für Unternehmen bedeutet das: Ihre Cybersicherheits-Strategien müssen grundlegend überdacht werden.

Destillationsangriffe und KI-generierte Malware

Der Google-Report liefert konkrete Beweise für den systematischen Missbrauch. Eine Methode ist der Modelldiebstahl durch Destillationsangriffe. Angreifer nutzen legale API-Zugänge, um die Fähigkeiten kommerzieller KI-Modelle zu kopieren. In einem Fall registrierte Google über 100.000 Anfragen, die darauf abzielten, das interne Wissen des Gemini-Modells abzuschöpfen.

Noch bedrohlicher sind neue Malware-Familien, die direkt auf KI setzen. Der Downloader HONESTCUE nutzt die Gemini-API, um bösartigen C#-Quellcode dynamisch zu generieren. Dieser wird direkt im Arbeitsspeicher kompiliert – eine „Just-in-Time“-Methode, die keine Spuren auf der Festplatte hinterlässt. Traditionelle Sicherheitssoftware steht damit vor einem fast unlösbaren Problem. Auch das Phishing-Kit COINBAIT, das Kryptobörsen imitiert, wurde vermutlich mit KI-Entwicklungsplattformen erstellt. Selbst bekannte staatliche Hackergruppen wie APT41 beschleunigen so ihre Angriffswerkzeuge.

Die interne Gefahr: Ungesteuerte „Schatten-KI“

Während externe Bedrohungen wachsen, entsteht im Unternehmen eine neue, unsichtbare Gefahr. Ein aktueller Microsoft-Report warnt vor „Schatten-KIs“. Das sind nicht genehmigte KI-Anwendungen, die Mitarbeiter eigenmächtig nutzen. Laut Bericht setzen bereits 29 Prozent der Angestellten solche nicht autorisierten Tools ein.

Diese Praxis schafft massive Risiken. Ungesteuerte KI-Agenten können auf sensible Daten zugreifen und folgenschwere Entscheidungen treffen – ohne jegliche Aufsicht in Sachen Datenschutz oder Compliance. Die mangelhafte Governance wird so zur kritischen Schwachstelle, die das gesamte Sicherheitskonzept untergräbt.

Paradigmenwechsel: Verteidigung muss KI integrieren

Klassische, regelbasierte Sicherheitssysteme sind gegen diese dynamischen Bedrohungen chancenlos. Die Verteidigung muss nachziehen und KI zum Kern der Abwehrstrategie machen. Experten fordern den Wechsel von reaktiven Werkzeugen zu KI-gestützten, cloudbasierten Plattformen, die mit Maschinengeschwindigkeit reagieren.

Moderne Ansätze im Cyber Risk und Exposure Management nutzen KI, um die gesamte digitale Angriffsfläche eines Unternehmens kontinuierlich zu scannen. KI-Systeme identifizieren und priorisieren Schwachstellen nach ihrem tatsächlichen Risiko. Bei einem Vorfall helfen sie bei der schnellen Analyse. Angesichts von KI-generierten Phishing-Mails, die von menschlichen Texten kaum zu unterscheiden sind, ist eine ebenso intelligente Verteidigung überlebenswichtig.

Anzeige

Wer sein Unternehmen gegen die neue Generation KI-gestützter Angriffe schützen will, braucht pragmatische Maßnahmen statt Buzzwords. Ein kostenloses E‑Book fasst die wichtigsten Cyber-Security-Trends zusammen, erklärt konkrete Schutzmaßnahmen gegen Phishing- und KI‑Malware-Angriffe und zeigt, welche rechtlichen Vorgaben (inkl. KI-Verordnung und NIS‑2) Sie jetzt kennen sollten. Gratis E-Book „Cyber Security Awareness Trends“ herunterladen

Das zweischneidige Schwert der KI

Die Entwicklung zeigt die duale Rolle der Technologie: KI ist zugleich Treiber komplexer Angriffe und mächtigstes Verteidigungswerkzeug. Der Global Cybersecurity Outlook 2026 des Weltwirtschaftsforums betont, dass KI der entscheidende Faktor für die Cybersicherheit der kommenden Jahre sein wird. Die Geschwindigkeit der Angriffe überfordert rein menschliche Teams zunehmend.

Diese Realität erhöht den Druck auf Unternehmen, ihre Sicherheitsarchitekturen zu modernisieren – auch vor dem Hintergrund strengerer EU-Regulierungen wie NIS-2 und dem Cyber Resilience Act. Eine widerstandsfähige Strategie muss heute externe Angriffe und interne „Schatten-KI“ gleichermaßen abdecken. Die lückenlose Übersicht über die eigene IT-Landschaft wird zum entscheidenden Wettbewerbsfaktor.

Ausblick: Auf dem Weg zum autonomen Sicherheitszentrum

Die Zukunft ist ein Wettrüsten zwischen angreifender und verteidigender KI. Experten prognostizieren die Entwicklung hin zum „agentenbasierten Security Operations Center (SOC)“. Hier ergänzen intelligente KI-Agenten menschliche Analysten und bearbeiten Bedrohungen in Echtzeit.

Um hier zu bestehen, reicht die Investition in Abwehrwerkzeuge nicht aus. Unternehmen müssen robuste Governance-Strukturen für den KI-Einsatz etablieren. Spezialisierte AI Security Platforms (AISP) gewinnen an Bedeutung, um KI-Nutzung zu kontrollieren und Anwendungen zu schützen. Proaktives, KI-gestütztes Risikomanagement ist keine Option mehr, sondern eine strategische Notwendigkeit für die digitale Souveränität.

@ boerse-global.de