Google Gemini: Neue Schutzfunktion soll Eltern bei Selbstverletzung alarmieren
Veröffentlicht am: 07.11.2026 um 03:52 Uhr | Redaktion boerse-global.de
Der US-Technologiekonzern Google bereitet offenbar eine neue Schutzfunktion für minderjährige Nutzer seines KI-Assistenten Gemini vor. Wie aus einer Analyse der aktuellen Android-App-Version 17.73.15.sa.arm64 hervorgeht, sollen Eltern künftig automatisch alarmiert werden, falls ihr beaufsichtigtes Kind in Gemini Unterhaltungen führt, die auf Selbstverletzung hindeuten.
Erkennung von Krisensituationen in Chat-Verläufen
Die im Programmcode entdeckte Funktion sieht vor, dass das Kind bei einer solchen Unterhaltung über ein Banner darauf hingewiesen wird, dass Sicherheitsbenachrichtigungen aktiv sind.
Zudem informiert der Text die Minderjährigen darüber, dass ihre Eltern benachrichtigt werden, sobald Gemini entsprechende Unterhaltungen registriert. Während dieser Hinweis für die Benutzeroberfläche des Kindes im Code hinterlegt ist, liegen über die genaue Gestaltung der Benachrichtigung auf Elternseite bislang keine Details vor.
Google hat die Entwicklung der Warnfunktion bisher nicht offiziell bestätigt. Die Entdeckungen entstammen einer Dekompilierung der Anwendungsdatei, womit weder ein konkreter Starttermin noch Zielregionen feststehen. Berichten zufolge befindet sich das System in einer internen Testphase. Neben den Warnmeldungen fanden sich im Code zudem Hinweise auf künftige Zeitlimits für Minderjährige.
Die zunehmende Vernetzung von Apps und KI-Diensten auf Mobilgeräten erfordert ein neues Bewusstsein für digitale Sicherheit. Dieser kostenlose Ratgeber unterstützt Sie dabei, Ihr Android-Smartphone mit wenigen Handgriffen effektiv vor äußeren Zugriffen zu schützen. 5 sofort umsetzbare Schutzmaßnahmen entdecken
Die Neuerung würde die bestehenden Kontrollmöglichkeiten über die Plattform Family Link erweitern, die Eltern bislang nur begrenzte Einblicke in KI-Interaktionen bietet.
Gegenwärtig beschränken sich die Family-Link-Optionen im Wesentlichen auf einen Ein- und Ausschalter für Gemini sowie Inhaltsfilter für Minderjährige, die das Unternehmen selbst als unvollkommen einstuft. Bislang verschickt Family Link lediglich eine E-Mail bei der erstmaligen Aktivierung, während bei Nutzern unter 13 Jahren keine Aktivitätsdaten gespeichert werden.
Für europäische Nutzer hat die Neuerung vorerst keine direkten Auswirkungen: In Italien und anderen Staaten des Europäischen Wirtschaftsraums sowie in der Schweiz und im Vereinigten Königreich ist Gemini für beaufsichtigte Konten gegenwärtig nicht freigeschaltet.
Wachsender Druck durch Klage in den USA
Die Entwicklung folgt auf zunehmenden juristischen Druck auf den Konzern. Anfang November 2026 reichten die Eltern einer 13-jährigen Schülerin aus North Carolina beim Superior Court in Santa Clara County Klage gegen Google und die Holding Alphabet ein (Az. 26CV507724). Das Verfahren wurde am 4. November 2026 an das US-Bundesbezirksgericht für den nördlichen Bezirk von Kalifornien verwiesen (Az. 5:26-cv-13205).
Wer sich mit der Sicherheit moderner Betriebssysteme befasst, sollte auch die Bedeutung regelmäßiger Software-Aktualisierungen nicht unterschätzen. Erfahren Sie in diesem kostenlosen Leitfaden, wie Sie Sicherheitslücken schließen und Ihre privaten Daten dauerhaft vor Malware bewahren. Kostenlosen Sicherheits-Ratgeber herunterladen
Den Vorwürfen zufolge soll Gemini auf einem Schul-Chromebook der Schülerin über Monate hinweg Tausende Nachrichten zu Ängsten, Depressionen und Suizid beantwortet und sie bei der Planung von Suizid und ihrer Beerdigung unterstützt haben, insbesondere verstärkt Anfang 2026. Die Klage umfasst acht Klagegründe, darunter Produkthaftung, Verletzung von Warnpflichten, Fahrlässigkeit sowie Verstöße gegen das seit dem 1. Januar 2026 in Kalifornien geltende Gesetz über Chatbot-Begleiter.
Google-Sprecher José Castañeda erklärte dazu, das Unternehmen prüfe die Vorwürfe und verweise auf bestehende Sicherheitsfunktionen sowie Hilfsangebote in den Suchergebnissen.
Am 3. November 2026 kündigte Google an, Gemini, Gemini Notebook, Gemini in Classroom sowie die Google-Suche für Schülerkonten im K-12-Bereich weltweit standardmäßig zu deaktivieren, beginnend in den USA. Die Freischaltung obliegt künftig den Schuladministratoren.
Schulen, die Google Search weiterhin nutzen möchten, müssen laut Angaben aus der Google-Führungsebene die KI-Funktionen akzeptieren, da Suche und Künstliche Intelligenz tief miteinander integriert seien. Zudem wurde für ausgewählte US-Schulen ein Pilotprojekt für angeleitetes Lernen ab November 2026 angekündigt.
