KI-Gesundheitsberatung: OpenAI lässt Antworten künftig von Ärzten prüfen
Veröffentlicht am: 09.10.2026 um 08:23 Uhr | Redaktion boerse-global.de
OpenAI führt neue Kontrollverfahren ein, bei denen Medizinerinnen und Mediziner KI-generierte Antworten zu Gesundheitsthemen überprüfen. Wie aus einem Branchenbericht hervorgeht, soll dieser Schritt die Verlässlichkeit und Qualität von Ratschlägen verbessern, die Nutzer über die Sprachmodelle des Unternehmens im medizinischen Kontext abrufen.
Die Maßnahme erfolgt vor dem Hintergrund einer intensivierten Debatte über Sicherheitsrisiken bei der automatisierten Gesundheitsberatung. Gleichzeitig wächst der Druck durch Verbraucherschützer. So forderte die Organisation Common Sense Media OpenAI dazu auf, das Angebot ChatGPT for Teens vorerst auszusetzen, bis die Sicherheits- und Lernfunktionen für Minderjährige verbessert werden.
Sicherheitsmängel und verfehlte Warnschwellen
Untersuchungen hatten zuvor erhebliche Lücken bei der Bewältigung kritischer Anfragen aufgezeigt. Das Youth AI Safety Institute überprüfte vor und nach einer Ankündigung am 18. August 2026 mehr als 4.000 Anfragen auf Konten von 13- bis 17-Jährigen, wobei Fachleute die Antworten analysierten. Bei neu erstellten Konten, die mit Eltern verknüpft waren, blieben demnach Warnhinweise zu Suizidgedanken, Selbstverletzung und Essstörungen aus.
Mehr als ein Viertel gerechtfertigter Kriseninterventionen wurde übersehen, und bei drei von fünf kritischen Beeinträchtigungen wurde die 95-Prozent-Schwelle verfehlt. Zudem ließ sich der Lernmodus umgehen, erledigte auf Wunsch Hausaufgaben und konnte durch das Löschen des Kürzels „@study“ deaktiviert werden.
Auch bei konkreten Gesundheitsdaten offenbarten KI-Systeme zuletzt Schwächen. Vorläufige, nicht peer-reviewte Forschungsergebnisse von den Hypertension Scientific Sessions der American Heart Association zeigten, dass ChatGPT, Copilot und Perplexity validierte Heim-Blutdruckmessgeräte nur in 63 bis 83 Prozent der Fälle korrekt erkannten.
Wer sich mit dem Thema Blutdruck befasst, sollte sich nicht allein auf automatisierte Tools verlassen, sondern fundiertes Expertenwissen nutzen. Dieser kostenlose Ratgeber zeigt Ihnen 8 natürliche Wege auf, wie Sie Ihre Werte auch ohne Medikamente und deren Nebenwirkungen verbessern können. 8 natürliche Maßnahmen gegen Bluthochdruck jetzt entdecken
Gemini erreichte je nach Formulierung der Frage 86 bis 91 Prozent, gab jedoch in etwa 10 bis 15 Prozent der Fälle falsche Antworten aus. Da alle vier geprüften Systeme auch offiziell validierte Geräte fälschlich als nicht konform einstuften, empfehlen Forschende unabhängige Register zur Überprüfung.
Hohe Nachfrage nach automatisierten Gesundheitsauskünften
Dass Anbieter wie OpenAI ihre Sicherheitsvorkehrungen anpassen, trifft auf eine breite Nachfrage in der Bevölkerung. Laut der Gesundheitsstudie 2026 der Wiener Städtischen Versicherung, für die das Meinungsforschungsinstitut Gallup 1.000 Personen im Alter von 16 bis 70 Jahren befragte, haben bereits 6 von 10 Menschen in Österreich künstliche Intelligenz für Gesundheitsfragen genutzt.
Unter den Anwendern greifen 66 Prozent zur Symptomeinschätzung darauf zurück, 55 Prozent zum Erklären von Befunden und 39 Prozent für Informationen zu Medikamenten.
Da die automatisierte Interpretation medizinischer Daten oft fehlerhaft sein kann, ist es wichtig, die eigenen Laborwerte selbst kritisch hinterfragen zu können. In diesem kostenlosen 25-Seiten-Report erfahren Sie, was Blutwerte wirklich bedeuten und wie Sie Fehldiagnosen vermeiden. Kostenlosen Laborwerte-Selbstcheck hier anfordern
Die Auswertung verdeutlicht zudem das Risiko von Fehlentscheidungen im Alltag: 31 Prozent der KI-Nutzenden setzten bereits eine Empfehlung um und verzichteten dafür auf einen Arztbesuch oder folgten dem System statt ärztlichem Rat. In der Altersgruppe der 16- bis 35-Jährigen lag dieser Wert bei 44 Prozent.
Zwar vertrauen 82 Prozent der Befragten ärztlichen Informationen nach wie vor mehr als der künstlichen Intelligenz, doch 13 Prozent schenken den Modellen bereits eher oder eindeutig größeres Vertrauen. Mit der Einführung fachärztlicher Prüfprozesse versucht OpenAI, gefährlichen Fehlinformationen in diesem sensiblen Bereich frühzeitig entgegenzuwirken.
