Microsoft erweitert KI-Sicherheit: Hash-Technik auf Teams und Xbox

Microsoft erweitert Sicherheitsmaßnahmen gegen nicht-einvernehmliche KI-Bilder mit neuen Meldewegen und Hash-Technologie.

Der US-Konzern weitet seine Sicherheitsmaßnahmen gegen nicht-einvernehmliche intime Bilder aus – mit Fokus auf KI-generierte Fälschungen.

Microsoft hat am 27. Mai ein umfassendes Update seiner digitalen Sicherheitsstrategie vorgestellt. Der Technologieriese reagiert damit auf die wachsende Bedrohung durch sogenannte „Nudification"-Apps und KI-Chatbots, die explizite Inhalte erzeugen können. Im Kern geht es um schnellere Meldewege und schärfere technische Kontrollen – ein Schritt, der auch für deutsche Nutzer und die europäische Regulierungsdebatte relevant ist.

Anzeige

Die rasante Entwicklung von KI-Technologien bringt nicht nur Innovationen, sondern auch neue rechtliche Risiken für Unternehmen mit sich. Dieser kostenlose Report klärt auf, welche Pflichten die neue EU-KI-Verordnung für den Einsatz und die Überwachung von KI-Systemen vorschreibt. EU AI Act in 5 Schritten verstehen

Neue Meldewege für KI-Inhalte

Im Zentrum der Neuerungen stehen intuitivere Meldeformulare, die es Betroffenen erlauben, explizit zwischen echten Aufnahmen und KI-generierten Inhalten zu unterscheiden. Das soll Moderationssystemen helfen, Fälle mit synthetischen Medien zu priorisieren – sie erfordern oft andere Prüfverfahren als traditionelles Bildmaterial.

Technisch setzt Microsoft verstärkt auf die Hash-Technologie von StopNCII.org. Diese digitalen Fingerabdrücke erkennen bekannte missbräuchliche Bilder, ohne dass die Plattform das Original einsehen muss. Nach Pilotversuchen seit Herbst 2024 wird die Technik nun auf Teams Free, OneDrive und Xbox ausgeweitet. Das schafft einen einheitlichen Sicherheitsstandard quer durch Produktivitäts- und Gaming-Sparten.

Der Konzern unterstützt zudem das US-Gesetz „Take It Down Act" sowie laufende EU-Gesetzesinitiativen zur Regulierung von Deepfake-Apps. Begleitend wurden Aufklärungsmaterialien für Großbritannien, Singapur, Südkorea und Japan veröffentlicht – zielgerichtet auf jüngere Nutzer und Pädagogen.

Internationaler Regulierungsdruck wächst

Microsofts Kurswechsel fällt in eine Phase verschärfter staatlicher Kontrolle. In den USA ist der „Take It Down Act" diesen Monat in Kraft getreten. Er stellt die Verbreitung nicht-einvernehmlicher intimer Bilder unter Strafe – mit bis zu zwei Jahren Haft, bei Minderjährigen bis zu drei Jahren. Plattformen müssen gemeldete Inhalte binnen 48 Stunden entfernen.

Die US-Handelsbehörde FTC hat zwölf große Tech-Firmen abgemahnt, darunter Microsoft, Google, Apple, Amazon, TikTok und X. Fehlende Schutzmaßnahmen gegen KI-gestützten Missbrauch könnten künftig als unlautere Geschäftspraxis gewertet werden.

In Großbritannien aktualisiert die Regulierungsbehörde Ofcom derzeit ihren Verhaltenskodex für Online-Plattformen. Die neuen Richtlinien, die für Herbst erwartet werden, schreiben den Einsatz von Hash-Matching vor. Premier Keir Starmer hat angedroht, Plattformen bei Nichteinhaltung der 48-Stunden-Frist mit Dienstsperren zu belegen.

Erste Verurteilungen zeigen Wirkung

Die Dringlichkeit der Maßnahmen unterstreichen aktuelle Strafverfahren. In New York wurden am 19. Mai zwei Männer angeklagt, die Tausende KI-generierte pornografische Bilder erstellt haben sollen. In Pennsylvania wurde ein 47-Jähriger identifiziert, der KI-manipuliertes Missbrauchsmaterial auf Amazon Photos hochgeladen hatte – nach einer Meldung des National Center for Missing and Exploited Children wurde er am 22. Mai festgenommen, die Kaution beträgt umgerechnet rund 11 Millionen Euro.

Die Justiz behandelt KI-generierte Bilder zunehmend mit derselben Härte wie traditionelles Missbrauchsmaterial. Parallel setzen sich branchenweit Standardisierungswerkzeuge durch. Googles SynthID-Wasserzeichen werden zum De-facto-Standard: OpenAI, ElevenLabs, Kakao und Nvidia nutzen sie bereits. Google zufolge wurden damit über 100 Milliarden Bilder und Videos sowie umgerechnet 60.000 Jahre Audiomaterial gekennzeichnet.

Anzeige

Neue KI-Gesetze und veränderte Bedrohungslagen erfordern von Unternehmen ein Umdenken in der digitalen Sicherheit. Erfahren Sie in diesem kostenlosen E-Book, welche rechtlichen Anforderungen und Cyberrisiken Unternehmer jetzt kennen müssen, um proaktiv geschützt zu bleiben. Kostenlosen Cyber-Security-Report jetzt herunterladen

Sicherheit versus Privatsphäre

Der Vorstoß für mehr Sicherheit trifft auf Widerstand von Datenschützern. In Kanada forderten der Datenschutzbeauftragte Philippe Dufresne sowie Vertreter von Apple und Google am 26. Mai deutliche Änderungen am geplanten „Lawful Access Act". Apple betonte, man werde die Verschlüsselung nicht für staatliche Zugriffe opfern. Google warnte vor überbordenden Befugnissen durch „Geheimanordnungen".

Dieser Konflikt bleibt die zentrale Herausforderung der Branche. Während Microsofts Maßnahmen dem Schutz Einzelner dienen, stehen die zugrundeliegenden Technologien – etwa automatische Scans und Geräteisolierung – unter Beobachtung. Das SANS Institute warnte kürzlich, Angreifer könnten die automatische Geräteisolierung in Microsoft Defender ausnutzen, um Nutzerkonten zu sperren.

Ausblick: Regulierung wird zum Wettbewerbsfaktor

Microsofts Aktie notierte am 27. Mai bei umgerechnet rund 380 Euro – ein Minus von etwa 0,76 Prozent an diesem Tag und rund 14,6 Prozent seit Jahresbeginn. Dennoch treibt der Konzern die Integration von KI-Sicherheitsfunktionen weiter voran. Erst am 26. Mai erschien das Mai-Update für Visual Studio mit neuen „Plan Agents" und „Agent Skills"-Panels.

Der Trend für den Rest des Jahres 2026 ist klar: Plattformen werden mit härteren Fristen für die Löschung von Inhalten konfrontiert sein, sobald die britischen Ofcom-Regeln und die US-Bundesgesetze greifen. Für Microsoft und seine Wettbewerber geht es darum, das Tempo der KI-Innovation zu halten und gleichzeitig Sicherheitsnetze zu knüpfen, die robust genug sind – bevor der nächste Missbrauchsfall die Schlagzeilen beherrscht.