Medizinische KI: Patientensicherheit in nur 10,9% der Studien untersucht
Veröffentlicht am: 02.09.2026 um 18:48 Uhr | Redaktion boerse-global.de
Die Integration künstlicher Intelligenz (KI) in die Medizin schreitet technologisch rasant voran, doch die wissenschaftliche Aufarbeitung der Patientenperspektive hält mit diesem Tempo offenbar nicht Schritt.
Eine umfangreiche Analyse von 330 wissenschaftlichen Arbeiten, die Anfang September 2026 in der Fachzeitschrift Nature Health thematisiert wurde, legt systematische Defizite bei der Erforschung von Vertrauen, Sicherheit und der Einbindung von Betroffenen offen.
Die Ergebnisse deuten darauf hin, dass die tatsächlichen Bedürfnisse der Patienten in der Entwicklung klinischer KI-Anwendungen oft erst nachgelagert berücksichtigt werden.
Mangelnde Einbindung in der Entwicklungsphase
Ein zentraler Kritikpunkt der Studienautoren betrifft den Zeitpunkt, zu dem Patientenfaktoren in den Forschungsprozess einfließen. Laut der Untersuchung wurden diese Aspekte in 89,4 % der analysierten Arbeiten erst während der Validierungsphase berücksichtigt. Dies bedeutet, dass Rückmeldungen oder spezifische Anforderungen der späteren Anwender meist erst dann abgefragt werden, wenn das System bereits weitgehend fertiggestellt ist.
Besonders deutlich wird die Diskrepanz beim Blick auf die frühe Phase der Technologieentwicklung. Nur in 3,9 % der Studien wurden Patientenfaktoren bereits im Design- oder Entwicklungsprozess einbezogen. Diese späte Integration erschwert es, grundlegende Designentscheidungen an den realen Bedürfnissen oder Vorbehalten der Patienten auszurichten, was langfristig die Akzeptanz und Wirksamkeit der Systeme beeinträchtigen könnte.
Fokus auf Zufriedenheit statt auf Sicherheit und Vertrauen
Die Analyse der untersuchten Kriterien zeigt zudem ein Ungleichgewicht bei den Forschungsschwerpunkten. Die am häufigsten untersuchten Aspekte sind die allgemeine Zufriedenheit mit einem Wert von 70,6 % sowie die wahrgenommenen Vorteile der Technologie mit 69,4 %. Diese Metriken geben zwar Aufschluss über die Akzeptanz, lassen jedoch tiefgreifende ethische und sicherheitsrelevante Fragestellungen oft unbeantwortet.
Wer sich mit der Einführung neuer Technologien befasst, muss neben der Akzeptanz auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Cyberbedrohungen im Zusammenhang mit KI-Gesetzen für Unternehmen jetzt wichtig sind. KI-Gesetze und Cyberrisiken: Kostenlosen Report anfordern
Kritische Faktoren wie das Vertrauen der Patienten in die KI-Systeme wurden lediglich in 16,7 % der Studien untersucht. Noch geringer fiel das Augenmerk auf das Thema Sicherheit aus der spezifischen Sicht der Patienten: Dieser Aspekt wurde nur in 10,9 % der Arbeiten thematisiert.
Die Forscher sehen hierin ein Risiko, da technische Sicherheit nicht zwangsläufig mit dem subjektiven Sicherheitsempfinden der Nutzer korrelieren muss, welches für den klinischen Erfolg jedoch entscheidend ist.
Praktische Defizite am Beispiel von Ernährungs-Apps
Wie sich diese theoretischen Lücken in der Praxis auswirken können, zeigen begleitende Untersuchungen zu KI-gestützten Diät-Anwendungen. Sibylle Kranz von der University of Virginia hat entsprechende Applikationen getestet und weist auf konkrete Schwachstellen hin.
Zwar böten diese Anwendungen Vorteile bei der Protokollierung von Mahlzeiten, wiesen jedoch erhebliche Ungenauigkeiten auf. So berichtete die Forscherin, dass die KI-Systeme die aufgenommene Kalorienmenge teilweise unterschätzten.
Während die technologische Entwicklung voranschreitet, rücken proaktive Schutzmaßnahmen für digitale Anwendungen immer stärker in den Fokus. Experten erklären in diesem kostenlosen E-Book, wie Sie Sicherheitslücken schließen und Ihr Unternehmen langfristig absichern. E-Book: Cyber Security Strategien gratis herunterladen
Neben den rein funktionalen Mängeln identifizierte Kranz auch erhebliche Datenschutzrisiken bei der Nutzung dieser Anwendungen. Vor diesem Hintergrund mahnte sie eine vorsichtige Nutzung an: KI-gestützte Tools sollten lediglich als Ergänzung und keinesfalls als Ersatz für eine professionelle Ernährungsberatung betrachtet werden.
Die Ergebnisse unterstreichen die Forderung der Nature Health-Studie, die Perspektive und Sicherheit der Endnutzer deutlich stärker in den Fokus der Forschung und Produktentwicklung zu rücken.
