Deepfakes verboten ab Dezember 2026: EU AI Act setzt Fristen
06.07.2026 - 22:49:13 | boerse-global.de
Der Vorfall markiert eine neue Eskalationsstufe in der Cyberkriminalität.
Der KI-Agent mit dem Namen „JadePuffer“ nutzte eine Schwachstelle in der Software Langflow (CVE-2025-3248). Er entwendete API-Schlüssel und Cloud-Zugangsdaten – und korrigierte fehlerhafte Login-Versuche innerhalb von nur 31 Sekunden selbstständig.
Insgesamt verschlüsselte der Angriff 1.342 Konfigurationseinträge in einer Datenbank. Trotz gezahltem Lösegeld blieben die Daten unwiederbringlich verloren, berichten die Experten von Sysdig.
Unternehmen unter Beschuss
Die Entwicklung deckt sich mit aktuellen Zahlen zur Bedrohungslage. 81 Prozent der befragten mittelständischen Unternehmen haben bereits KI-gestützte Angriffe bemerkt. Als größte Risiken gelten realistisches Phishing (94 Prozent), automatisierte Schwachstellensuche (81 Prozent) sowie Deepfakes und Betrugsversuche auf Managementebene (74 Prozent).
Angesichts autonomer Ransomware und KI-gestützter Attacken stehen Unternehmen vor völlig neuen Herausforderungen in der IT-Sicherheit. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um ihre Firma proaktiv abzusichern. Gratis-E-Book zur Cyber Security jetzt herunterladen
Eine Untersuchung von Bitdefender unter 1.200 IT-Fachleuten zeigt zudem: Fast die Hälfte der Unternehmen (47,4 Prozent) hat keine vollständige Sichtbarkeit über die im Haus verwendeten KI-Werkzeuge. 55,9 Prozent der Experten fürchten die Entstehung von KI-generierter, selbstanpassender Malware.
EU AI Act setzt Fristen
Parallel zur verschärften Bedrohungslage schreitet die Regulierung voran. Der EU AI Act verbietet Deepfakes ab dem 2. Dezember 2026. Hochrisiko-KI-Systeme müssen bis zum 2. Dezember 2027 konform sein, Sicherheitskomponenten haben bis zum 2. August 2028 Zeit.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat den Community Draft des Prüfkatalogs A5 vorgestellt. Der Standard bewertet die Vertrauenswürdigkeit von KI-Systemen und orientiert sich an bestehenden Cloud-Sicherheitskatalogen. Interessierte können den Entwurf bis zum 31. August 2026 kommentieren.
Gemeinsam mit dem Fraunhofer IOSB entwickelte das BSI zudem das Werkzeug „RealOrRender“. Es erkennt Deepfakes mit einer Genauigkeit von 85 bis 91 Prozent.
Warum reine Regeln nicht reichen
Das US-amerikanische NIST dämpft die Hoffnung auf rein regelbasierte Sicherheitslösungen. Statische Sicherheitsvorgaben („Guardrails“) reichen prinzipiell nicht aus, um alle Arten von manipulativen Eingaben abzuwehren. Stattdessen sei ein Übergang zu verhaltensbasierten Sicherheitsmodellen notwendig. Die Komplexität der Systeme mache eine lückenlose Absicherung durch feste Regeln technisch unmöglich.
Die neuen Regulierungen durch den EU AI Act bringen für Unternehmen zahlreiche Dokumentations- und Kennzeichnungspflichten mit sich. Ein kostenloser Umsetzungsleitfaden verschafft Ihnen jetzt den nötigen Überblick über alle Fristen und Risikoklassen der EU-KI-Verordnung. EU AI Act Umsetzungsleitfaden kostenlos sichern
In der Praxis ist KI längst im Produktivbetrieb angekommen. Laut dem F5 SOAS Report 2026 betreiben 78 Prozent der Unternehmen KI-Inferenzlösungen, im Durchschnitt sieben verschiedene Modelle. 88 Prozent berichten jedoch von KI-spezifischen Sicherheitsproblemen.
UN warnt vor Kontrollverlust
Ein aktueller UN-Bericht warnt vor katastrophalen Schäden durch unkontrollierte KI-Systeme. Anfang Juli 2026 findet in Genf der erste globale Dialog über KI-Governance statt. UN-Generalsekretär António Guterres fordert ein internationales Regelwerk, das Menschenrechte als Leitlinie verankert.
In Deutschland übernimmt die Bundesnetzagentur die Marktüberwachung für KI. International zeigen sich unterschiedliche Strategien: Während Europa auf Souveränität und Open-Source-Ansätze drängt, hat Alibaba die Nutzung des Modells Claude untersagt. Das Projekt „Stargate UK“ von OpenAI gilt derweil als gescheitert.
Eine Studie der Boston University gibt zudem zu denken: Die Zusammenarbeit mit KI-Agenten kann die menschliche Fehlererkennung senken. Nutzer verlassen sich zu stark auf maschinelle Empfehlungen.
