Google stoppt KI-Gesundheitsfeature nach Kritik

Google hat sein KI-Feature zur Zusammenfassung von Forenbeiträgen zu Gesundheitsthemen eingestellt. Der Schritt folgt auf Kritik an unzuverlässigen und potenziell gefährlichen medizinischen Informationen.

Google zieht die Reißleine bei einem KI-Tool, das Gesundheitsratschläge aus Foren zusammenfasste. Der Schritt unterstreicht die wachsende Skepsis gegenüber KI-generierten medizinischen Informationen und markiert einen strategischen Rückzug in einem sensiblen Bereich.

Anzeige

Während KI-Zusammenfassungen oft den entscheidenden Kontext vermissen lassen, bietet dieser von Experten geprüfte Ratgeber verlässliche Orientierung bei der Deutung Ihrer Vitalwerte. Blutwerte endlich richtig verstehen – zum kostenlosen PDF-Report

Vom Launch zum Aus: Das Ende der „Crowd“-Ratschlags-KI

Im März 2025 führte Google das Feature „What People Suggest“ ein. Es sollte Nutzern in den USA über eine KI Zusammenfassungen von Diskussionen aus Plattformen wie Reddit oder X (früher Twitter) zu Gesundheitsthemen liefern. Die Idee: Erfahrungswissen von Leidensgenossen zugänglich machen. Doch die Grenze zwischen persönlicher Erfahrung und ungeprüftem medizinischem Rat verschwamm schnell. Google, das das Tool einst als Chance zur Transformation von Gesundheitsergebnissen weltweit pries, hat es still und leise zwischen Ende 2025 und Anfang 2026 eingestellt. Offiziell spricht das Unternehmen von einer „breiteren Vereinfachung“ der Suchseite. Branchenbeobachter sehen darin jedoch eine Reaktion auf anhaltende Bedenken.

Anhaltende Probleme mit KI-Übersichten

Die Abschaltung fällt in eine Phase intensiver Prüfung der generellen KI-Übersichten (AI Overviews) von Google bei Gesundheitsthemen. Eine Untersuchung des „Guardian“ im Januar 2026 deckte Fälle von „falschen und irreführenden Gesundheitsinformationen“ auf. So lieferten die Übersichten zu Leberbluttests vereinfachte Erklärungen ohne entscheidenden Kontext wie Alter oder Geschlecht. In einem besonders gravierenden Fall riet die KI fälschlicherweise Menschen mit Bauchspeicheldrüsenkrebs von fettreicher Nahrung ab – eine von Experten als „völlig falsch und potenziell gefährlich“ eingestufte Empfehlung.

Google reagierte darauf und entfernte KI-Übersichten für bestimmte sensible Anfragen. Ein Sprecher betonte, man verfeinere die Systeme kontinuierlich und nehme Übersichten heraus, wenn die Modelle die Qualitätsstandards noch nicht erfüllten. Die Episode zeigt die immense Herausforderung, KI in kritischen Domänen wie der Gesundheitsversorgung zuverlässig einzusetzen.

Anzeige

Verlassen Sie sich bei Ihrer Gesundheit nicht auf ungeprüfte Algorithmen – erfahren Sie stattdessen direkt von Experten, welche Laborwerte bei TSH, Cholesterin & Co. wirklich zählen. Gratis-Report: Laborwerte-Selbstcheck jetzt kostenlos herunterladen

Branchenweites Umdenken und vorsichtige Zukunft

Die jüngsten Schritte sind Teil eines branchenweiten Rückzugs von KI in hochsensiblen Bereichen wie Gesundheit, Recht und Finanzen. Der Spielraum für Fehler ist hier minimal. Während die Entfernung problematischer Features ein erster, wichtiger Schritt ist, reicht das allein nicht aus. Selbst ohne direkte Fehler können KI-Zusammenfassungen irreführend sein, wenn den Modellen das tiefe medizinische Verständnis fehlt. Patientenorganisationen begrüßen die Korrekturen, fordern aber weitere Verbesserungen.

Wie geht es weiter? Google will weiter in KI für Gesundheit investieren, nun aber vorsichtiger. Jüngste Ankündigungen, wie eine Investition von 10 Millionen Euro in die Aus- und Weiterbildung von Klinikpersonal im KI-Zeitalter oder verbesserte Fitbit-Features, zeigen den Kurs: KI soll etablierte Plattformen stärken und Fachleute unterstützen – nicht ungeprüftes Crowd-Wissen ersetzen. Die Lektion aus den gescheiterten Features ist klar: Bei Gesundheitsinformationen sind menschliche Aufsicht, Expertenprüfung und rigorose Tests unverzichtbar. Der Weg der Tech-Konzerne in diesem Spannungsfeld wird aufmerksam verfolgt werden.