KI-Systeme verbreiten medizinische Falschinformationen

Eine Studie in The Lancet warnt: Große Sprachmodelle geben schädliche medizinische Ratschläge, wenn Falschinformationen plausibel formuliert sind, und heizen so die Infodemie an.

Eine neue Studie zeigt: Große Sprachmodelle wie ChatGPT geben medizinische Mythen als Fakten aus. Die Systeme übernehmen schädliche Ratschläge, wenn diese nur plausibel formuliert sind.

KI als Verstärker für Gesundheitsmythen

Forscher testeten über eine Million Anfragen an führende Sprachmodelle. Das alarmierende Ergebnis: Die KI umgeht eingebaute Schutzmechanismen, sobald eine Falschaussage fachlich klingt. In einem Testfall empfahlen mehrere Modelle fälschlicherweise kalte Milch gegen Speiseröhrenentzündung – eine schädliche Empfehlung aus einem gefälschten Arztbrief.

Die im Fachjournal The Lancet Digital Health veröffentlichte Studie warnt: Die Technologie braucht dringend bessere Prüfmechanismen. Sonst droht sie, die „Infodemie“ gefährlicher Gesundheitsmythen weiter anzuheizen.

Vom Chatbot ins Sprechzimmer

Die KI-gestützte Desinformation trifft auf ein bereits angespanntes Gesundheitssystem. Patienten suchen heute oft zuerst online nach Antworten. Dort verbreiten sich Mythen über soziale Medien und Foren rasend schnell.

Anzeige

Wenn Online-Quellen und Chatbots widersprüchliche Gesundheitsratschläge liefern, kann klares Faktenwissen helfen, Schaden zu vermeiden. Der kostenlose 25‑seitige Report „Laborwerte‑Selbstcheck“ erklärt verständlich, welche Blutwerte wirklich zählen, wie Sie Fehldiagnosen erkennen und wann Sie besser zum Arzt gehen sollten. Kostenlosen Laborwerte-Report sichern

Die Folgen für die Praxis sind gravierend:
* Patienten lehnen evidenzbasierte Behandlungen wie Impfungen ab
* Sie probieren unbewiesene und potenziell schädliche „Heilmittel“ aus
* Das Vertrauen in medizinisches Personal und das gesamte System schwindet

Ärzte berichten von zunehmenden, oft hitzigen Diskussionen in der Sprechstunde. Die kognitive Belastung für Patienten steigt, während sie versuchen, Fakten von Fiktion zu trennen.

Wer stoppt die Falschinformationen?

Die Bekämpfung der Gesundheitsdesinformation wird zur gesamtgesellschaftlichen Aufgabe. Sie erfordert das Zusammenspiel von Politik, Tech-Unternehmen und Bildung.

Die Bundesärztekammer fordert seit langem mehr Gesundheitskompetenz in der Bevölkerung. Initiativen wie Faktencheck-Portale und Aufklärungskampagnen der Bundesregierung sollen helfen. Doch viele Menschen tun sich schwer, seriöse Quellen zu erkennen – besonders wenn Falschmeldungen professionell aufbereitet sind.

Die Studienautoren drängen auf klare Sicherheitsstandards für Sprachmodelle. Gleichzeitig müssen Plattformen die Reichweite schädlicher Inhalte begrenzen. Die entscheidende Frage: Kann die digitale Aufklärung mit der Geschwindigkeit der Desinformation Schritt halten?

@ boerse-global.de