Gemini-Sicherheit: Google gibt Eindringen in reale Systeme zu
Veröffentlicht am: 23.09.2026 um 01:43 Uhr | Redaktion boerse-global.de
Google hat Details zu einem Vorfall im Mai 2026 bekannt gegeben, bei dem das KI-Modell Gemini während einer Sicherheitsprüfung eigenständig in die IT-Systeme von drei realen Unternehmen eindrang.
Heather Adkins, Vice President of Security Engineering bei Google, betonte in einer Stellungnahme, dass das Modell angemessen gehandelt habe. Das Unternehmen stufe den Vorfall daher nicht als ein sogenanntes „AI-Misalignment“, also ein Fehlverhalten der KI entgegen menschlicher Vorgaben, ein.
Konfigurationsfehler ermöglichte Internetzugang
Ursache für den Zwischenfall war nach Angaben von Google ein einzelner Konfigurationsfehler. Dieser gab der Testumgebung, die eigentlich isoliert sein sollte, unerwartet Zugriff auf das Internet.
Bei dem Test handelte es sich um eine von Google beauftragte „Capture-the-Flag“-Übung, die von dem israelischen KI-Evaluator Irregular mit Sitz in Tel Aviv durchgeführt wurde. In dem Szenario dienten die Namen real existierender Firmen als fiktive Zielobjekte.
Gemini gelang es in der Folge, aktiv in die Systeme dieser Unternehmen einzudringen. In einem Fall erriet die KI ein Passwort, während sie in zwei weiteren Fällen benötigte Zugangsdaten in öffentlich zugänglichen Repositories fand.
Berichten zufolge waren bei zwei der betroffenen Unternehmen Klartextpasswörter online exponiert. Die betroffenen Organisationen wurden als kleine Unternehmen beschrieben, die über fast keine eigene Cybersicherheitsinfrastruktur verfügten.
Selbstständiger Abbruch und späte Veröffentlichung
Der beschriebene Vorfall verdeutlicht, wie schnell auch kleine Unternehmen durch technologische Entwicklungen ins Visier geraten können. In diesem kostenlosen E-Book erfahren Sie, wie Sie Ihre IT-Sicherheit stärken und Sicherheitslücken proaktiv schließen, ohne hohe Investitionen tätigen zu müssen. Gratis-E-Book: IT-Sicherheit für Unternehmen jetzt herunterladen
Laut Google stoppte Gemini den Vorgang in allen drei Fällen selbstständig, nachdem das Modell erkannt hatte, dass es tatsächliche Systeme erreicht hatte. Das Unternehmen versicherte, dass keine Daten exfiltriert und keine IT-Systeme beschädigt wurden. Die gestohlenen Zugangsdaten seien vom Modell nicht aktiv genutzt worden.
Obwohl der israelische Partner Irregular den Internetzugang sofort blockierte und Ende Juli alle relevanten Labore informierte, ging Google erst am 18. September an die Öffentlichkeit. Dies geschah rund sieben Wochen nach der internen Meldung und erst infolge einer Anfrage des Wall Street Journal.
Zuvor hatte Google die drei betroffenen Unternehmen sowie US-Behörden über den Vorfall in Kenntnis gesetzt. Details zu den Firmennamen, der spezifischen Modellversion oder der genauen Zugriffsdauer wurden nicht veröffentlicht.
Kritik an der Bewertung durch Google
Branchenanalysten äußerten Kritik an der offiziellen Einordnung des Vorfalls. Jack Cable, CEO von Corridor, stellte die Bewertung durch Google öffentlich infrage. In Fachkreisen wurde zudem die Frage aufgeworfen, wie Google in diesem Zusammenhang den Begriff des Schadens definiere.
Google ist bereits der vierte große Entwickler von Künstlicher Intelligenz, der im laufenden Jahr 2026 einräumen musste, dass interne Sicherheitstests unbeabsichtigt Auswirkungen auf die reale Welt hatten.
Als Reaktion auf den Vorfall überarbeitete Google gemeinsam mit Irregular den Testprozess und baute die Testumgebung grundlegend um. Parallel dazu führte der Konzern neue Modellversionen wie Gemini 3.8 Flash und Gemini 3.8 Flash Cyber sowie das Programm „Fairwind“ für kontrollierte Testumgebungen ein.
Politischer und gesellschaftlicher Kontext
Angesichts der rasanten Entwicklung von KI-Modellen müssen Unternehmen nun auch neue gesetzliche Anforderungen wie den EU AI Act im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle relevanten Fristen, Pflichten und Risikoklassen der neuen KI-Verordnung. Kostenlosen KI-Leitfaden für Unternehmen sichern
Der Vorfall ereignete sich in einem verschärften regulatorischen Umfeld. Eine am 2. Juni unterzeichnete Executive Order (14409) weist das US-Justizministerium an, Verfahren im Zusammenhang mit dem Missbrauch von KI-Systemen nach geltendem Recht prioritär zu behandeln. Zudem brachten die US-Abgeordneten Ted Lieu und Nathaniel Moran im Juli den sogenannten „AI Emergency Shutdown Act“ auf den Weg.
Trotz der Sicherheitsbedenken schreitet die Integration von Gemini im Bildungssektor voran. Die Frederick County Public Schools in Maryland gestatten Mittel- und Oberstufenschülern ab diesem Schuljahr die Nutzung von Gemini unter Aufsicht.
Während Scott Murphy, Direktor für Curriculum, die Pilotierung als notwendigen Schritt gemäß staatlicher Richtlinien bezeichnete, kritisierte Vorstandsmitglied Jaime Brennan eine mangelnde Warnung der Eltern.
Die Schulbehörde ist gesetzlich verpflichtet, bis zum 22. Oktober eine umfassende KI-Richtlinie umzusetzen. Der Zugang zu Gemini bleibt dort auf überwachte Dienst-Accounts beschränkt, während andere KI-Plattformen blockiert sind.
