KI im Gesundheitswesen: Menschliche Bewertungen weichen bis zu 40 Prozent ab
Veröffentlicht am: 04.11.2026 um 23:34 Uhr | Redaktion boerse-global.de
Google hat in Kooperation mit externen Expertinnen ein Whitepaper für einen ganzheitlichen Bewertungsansatz von Künstlicher Intelligenz im Gesundheitsbereich vorgelegt. Die Veröffentlichung entstand in Partnerschaft mit Dr. Elizabeth McGlynn sowie Dr. Dana Gelb Safran. Ziel der Initiative ist es, die Verlässlichkeit medizinischer KI-Modelle durch standardisierte Prüfverfahren über den gesamten Entwicklungszyklus hinweg messbar zu machen.
Das Papier wurde am 03.11.2026 auf dem Preprint-Server arXiv eingereicht, gefolgt von einer offiziellen Vorstellung durch das Unternehmen. Zu den Verfassern gehört unter anderem Dr. Sarah Montgomery-Taylor, die bei Google for Health die klinische Evaluation leitet.
Das Unternehmen legte offen, dass die beteiligten Google-Autoren Firmenmitarbeiter sind und Alphabet-Aktien halten können, während für die externen Expertinnen keine derartigen Interessenkonflikte bestehen.
Drei Kernbereiche der Modellprüfung
Das vorgestellte Rahmenwerk gliedert die Begutachtung medizinischer Modelle in die drei Hauptdimensionen Genauigkeit, Sicherheit und Nützlichkeit. Die Dimension der Genauigkeit deckt den medizinischen Konsens, Evidenzgrundlagen, faktische Richtigkeit, klinische Schlussfolgerungen sowie die Kontextangemessenheit ab. Bei Zusammenfassungen fließt zudem die Quellentreue in die Bewertung ein.
Im Bereich der Sicherheit analysiert das Verfahren das Schadenspotenzial nach Schweregrad und Eintrittswahrscheinlichkeit infolge von Fehlinterpretationen oder Handlungen. Als besondere Herausforderung gilt hierbei das Erkennen übersehener Warnsignale, Allergien oder Kontraindikationen.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Das Kriterium der Nützlichkeit bewertet wiederum die Gesundheitskompetenz, Relevanz, Vollständigkeit und praktische Handlungsfähigkeit der Modellantworten, wenngleich die exakte Messung individueller Effekte gegenwärtig methodisch anspruchsvoll bleibt.
Kombination unterschiedlicher Prüfmethoden
Um sowohl alltägliche als auch risikoreiche Szenarien abzudecken, kombiniert der Ansatz drei methodische Säulen. Standardisierte Abfragen über vordefinierte Prüfkataloge ermöglichen kostengünstige und wiederholbare Tests, sind jedoch statisch und anfällig für Kontaminationen der Datensätze.
Der Einsatz automatisierter KI-Bewerter bietet Skalierbarkeit, birgt jedoch Risiken durch Verzerrungen zugunsten längerer Antworten oder der jeweils eigenen Modellfamilie. Komplexe Fälle, Grenzbereiche sowie gezielte Belastungstests verbleiben daher bei menschlichen Fachgutachtern.
Laut den Autoren können menschliche Bewertungen allerdings um 30–40 % oder mehr voneinander abweichen, weshalb automatisierte Bewertungsmodelle zwingend anhand fachlicher Referenzdaten validiert werden müssen.
Wer sich mit dem Einsatz komplexer Algorithmen befasst, muss auch die rechtlichen Rahmenbedingungen für neue Technologien im Blick behalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt braucht. EU AI Act in 5 Schritten verstehen
Ausgangspunkt einer Evaluierung bilden konkrete Nutzerreisen mit definierten Zielen und Prozessen, etwa bei Symptomabfragen, chronischen Erkrankungen oder der Erstellung von Entlassungsbriefen.
Die Prüfung erstreckt sich anschließend über drei Phasen: das Basismodell, die Produktentwicklung sowie das Monitoring nach der Bereitstellung. Klinische Teams und Entwickler legen Bestehensschwellen und Gewichtungen gemeinsam auf Basis des klinischen Risikoprofils fest, anstatt universelle numerische Grenzwerte anzuwenden.
Kontinuierliche Überwachung und Governance
Nach der Inbetriebnahme sieht das Framework eine fortlaufende Überwachung von algorithmischer Drift, Systemstabilität und Nutzungsmustern vor. Rein reaktive Signale wie Beschwerden oder schwerwiegende unerwünschte Ereignisse genügen nach Einschätzung der Autoren nicht für eine adäquate Risikokontrolle.
Google verwies auf Governance-Herausforderungen wie bestehende Datensilos, Datenschutzauflagen, technische und organisatorische Hürden sowie geteilte Verantwortlichkeiten und Implementierungskosten.
Der Technologiekonzern setzt das System weiterhin intern ein und begründet die Veröffentlichung mit dem Ziel, Transparenz zu schaffen sowie Entwickler, Forscher und das medizinische Personal angesichts der rasch steigenden Nutzung von Gesundheits-KI bei der Einschätzung von Systemgrenzen zu unterstützen.
