KI-Sicherheit: Forscher knacken 85% der Programmierassistenten
22.06.2026 - 06:02:28 | boerse-global.de
Experten warnen: Der tiefe Systemzugriff, den autonome Agenten benötigen, könnte grundlegende Sicherheitsarchitekturen wie die Ende-zu-Ende-Verschlüsselung aushebeln.
Die rasanten technologischen Fortschritte werfen komplexe rechtliche Fragen auf, die viele Unternehmen derzeit vor große Herausforderungen stellen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zur EU-KI-Verordnung jetzt kostenlos herunterladen
„Keine Freunde, sondern Überwachungswerkzeuge“
Meredith Whittaker, Präsidentin des Messengerdienstes Signal, schlug am Sonntag im Interview Alarm. Sie bezeichnete KI-Chatbots als potenzielle Werkzeuge einer Überwachungsinfrastruktur – nicht als „Freunde der Nutzer“. Whittaker zielte damit auf die Vision von Microsoft-KI-Chef Mustafa Suleyman, wonach Assistenten wie Copilot künftig Weihnachtseinkäufe autonom erledigen sollen.
Das Problem: Für solche Aufgaben brauchen die Systeme Zugriff auf Kreditkartendaten, Browserverläufe, Kalender und private Nachrichten. Laut Whittaker schafft das eine funktionale Hintertür – Inhalte werden abgegriffen, bevor sie überhaupt verschlüsselt werden. Da Microsoft, Google und Apple die Betriebssysteme kontrollieren, sieht sie die Unabhängigkeit verschlüsselter Kommunikation bedroht. Signal selbst verzichtet bewusst auf KI-Integrationen und würde eher einen Markt verlassen, als die Verschlüsselung zu schwächen.
„Agentjacking“: Neue Angriffsmethode mit 85 Prozent Erfolgsquote
Neben den strukturellen Risiken zeigen Sicherheitsforscher konkrete Lücken auf. Tenet Security dokumentierte eine Methode namens „Agentjacking“ – in Tests knackten die Experten damit 85 Prozent der KI-Programmierassistenten. Zudem identifizierten sie 2.388 Organisationen, die aufgrund exponierter Datenquellen verwundbar sind.
Auch Microsofts Defender-Team wurde fündig: Am 19. Juni entdeckte es die Schwachstelle „AutoJack“ im AutoGen-Studio-Framework. Gleichzeitig treiben Anbieter die Funktionsvielfalt voran – OpenAI rollte Anfang Juni ChatGPT-Pro-Funktionen aus, die über Plaid Zugriff auf mehr als 12.000 Finanzinstitute ermöglichen. Mehr Komfort, größere Angriffsfläche.
Angesichts neuer KI-Gesetze und wachsender Cyberrisiken müssen Unternehmen ihre Sicherheitsstrategien dringend an die aktuelle Bedrohungslage anpassen. Dieses Gratis-E-Book enthüllt, wie Sie kritische Sicherheitslücken schließen und gleichzeitig die neuen gesetzlichen Anforderungen erfüllen. Kostenloses Cyber-Security E-Book jetzt sichern
KI-Halluzinationen vor Gericht – Anwälte bestraft
Die Unzuverlässigkeit von KI führt zu juristischen Konsequenzen. Vor einem Bundesgericht in Mississippi wurde am Sonntag bekannt: Anwälte beider Seiten hatten KI zur Erstellung ihrer Argumentation genutzt – die Software erfand nicht existierende Präzedenzfälle. Richterin Sharion Aycock entzog allen Beteiligten das Mandat, verhängte Geldstrafen zwischen 1.000 und 3.500 Dollar und sprach teilweise zweijährige Auftrittsverbote aus.
EU fordert Regeln für KI in der Versicherung
Die Aufsichtsbehörden reagieren. Heute wurde bekannt: EU-Aufseher fordern einheitliche Richtlinien für KI-Chatbots in der Versicherungsvermittlung. Da Modelle wie ChatGPT oder Claude bereits konkrete Tarife empfehlen, sehen Branchenverbände einen möglichen Rechtsverstoß gegen bestehende Vermittlungsvorschriften.
Das US-Handelsministerium erließ bereits am 12. Juni Exportkontrollen für spezifische Modelle des Anbieters Anthropic – namentlich Mythos und Fable 5. Anthropic selbst arbeitet an Sicherheit: Eine Mitte Juni veröffentlichte Version von Claude Code blockiert nun Befehle, die Programmierprojekte zerstören könnten.
