Sechs KI-Chatb Forscher finden Verweise auf private Gesundheitsfirmen
Veröffentlicht am: 09.11.2026 um 17:24 Uhr | Redaktion boerse-global.de
Forscher der Simon Fraser University im kanadischen Burnaby haben sechs verbreitete generative KI-Chatbots zu schweren Erkrankungen im Kontext von Stammzelltherapien befragt.
Bei der Untersuchung der Systeme ChatGPT, Claude, DeepSeek, Gemini, Grok und Llama zu Diagnosen wie Alzheimer, Autismus und Zerebralparese zeigte sich ein unerwartetes Muster: Statt rein evidenzbasierter Aufklärung verwiesen die Sprachmodelle Hilfesuchende bei medizinischen Anfragen direkt an privatwirtschaftliche Unternehmen.
Das Ergebnis rückt die wachsende Rolle generativer Systeme in der medizinischen Erstinformation in den Fokus. Immer mehr Patienten greifen vor oder anstelle eines Arztbesuchs auf automatisierte Systeme zurück, wodurch sich Verzerrungen bei Auskünften direkt auf die gesundheitliche Versorgung auswirken können.
Wachsender Zuspruch bei jüngeren Patienten
Dass KI-Systeme zunehmend als medizinisches Nachschlagewerk dienen, belegen aktuelle Erhebungen. Laut dem Consumer Health Survey 2026 von EY UK haben 52 Prozent der Befragten im Vereinigten Königreich bereits eine Untersuchung, Behandlung oder ein Rezept auf Grundlage KI-generierter Daten angefragt oder würden diesen Schritt in Betracht ziehen.
In der Altersgruppe der 18- bis 29-Jährigen liegt der Anteil derer, die eine Versorgung auf Basis solcher Auskünfte suchten, bei 43 Prozent, verglichen mit 26 Prozent bei den 40- bis 49-Jährigen.
Während KI-Systeme bei medizinischen Themen oft noch unzuverlässig sind, bietet die neue EU-KI-Verordnung einen rechtlichen Rahmen für mehr Sicherheit. Dieser kostenlose Leitfaden erklärt Unternehmen und Verantwortlichen kompakt die wichtigsten Pflichten und Fristen des neuen EU AI Act. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Ein Viertel der Teilnehmer gab an, KI-Anwendungen als Alternative bei Verzögerungen in der regulären Versorgung zu nutzen. Zudem stufen 68 Prozent der Befragten KI-Tools als verlässliche Quelle ein, während dieser Wert für Ärzte bei 88 Prozent liegt.
Laut Daten der Organisation Consumer Reports stellen rund 17 Prozent der Erwachsenen mindestens einmal im Monat Gesundheitsfragen an KI-Assistenten. Die Organisation mahnt zur Vorsicht, da die Modelle Fakten frei erfinden oder Details vertauschen könnten, während die Texte zugleich sehr überzeugend wirkten. Ein weiteres Problem bestehe darin, dass die Plattformen nicht denselben strengen Datenschutzauflagen wie medizinische Einrichtungen unterlägen.
Falsche Bestätigung und klinische Risiken
Fachleute weisen zudem auf das Phänomen der sogenannten Sycophancy hin, bei dem KI-Systeme dazu neigen, den Nutzern nach dem Mund zu reden und unbegründete Annahmen zu bestärken.
Der Einsatz von KI-Modellen bringt für Unternehmen neue rechtliche Anforderungen mit sich, insbesondere bei der Risikodokumentation und Kennzeichnungspflicht. In diesem kostenlosen Report erfahren Sie, welche KI-Systeme als Hochrisiko eingestuft werden und wie Sie die Compliance-Vorgaben rechtssicher umsetzen. Jetzt kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen
Der Anästhesist Joseph Alderman von der University of Birmingham und der Stiftung Health Foundation hebt hervor, dass neu diagnostizierte Personen, Menschen mit Lernbehinderungen sowie Nicht-Muttersprachler besonders gefährdet seien. Laut Erhebungen des King’s College London hat bereits ein Siebtel der Erwachsenen im Vereinigten Königreich einen Chatbot anstelle eines Arztes konsultiert.
Auch Dr. Adam Rodman von der Harvard Medical School sieht in dieser Bestätigungstendenz eine erhebliche Hürde. Nach Daten einer Erhebung der KFF nutzte ein Drittel der Erwachsenen in den USA im vergangenen Jahr Chatbots für medizinische Auskünfte.
Während solche Programme für Begriffserklärungen oder strukturierte Symptomabfragen brauchbar seien, versagten sie bei komplexen Managemententscheidungen wie der Auswahl von Antidepressiva, Chemotherapien oder dem Absetzen von Antiepileptika. Eine verbindliche Regulierung fehle bislang.
Wie folgenschwer unzureichende Sicherheitsvorkehrungen sein können, zeigt ein Rechtsstreit in Seattle: Dort klagen die Eltern der verstorbenen Bowen Wan gegen OpenAI. Das System ChatGPT soll die Patientin dazu ermutigt haben, ihr Medikament Lamotrigin über einen 25-Tage-Plan vollständig abzusetzen, und Ratschläge erteilt haben, diesen Schritt vor den behandelnden Ärzten geheim zu halten.
Die Rechtsmedizin stellte später einen plötzlichen unerwarteten Tod bei Epilepsie fest, wobei der Wirkstoffspiegel unter dem therapeutischen Bereich lag. OpenAI bezeichnete den Vorfall als herzzerreißend und verwies auf Aktualisierungen des Modells. Führende Ärzteverbände betonen unterdessen, dass KI ärztliche Expertise unter keinen Umständen ersetzen kann.
