Perus KI-Regeln: Drei Risikostufen und strenge Kontrollen für Kliniken
Veröffentlicht am: 20.10.2026 um 02:53 Uhr | Redaktion boerse-global.de
Anlässlich des World Evidence-Based Healthcare Day steht die strukturierte und qualitätsgesicherte Einführung von Künstlicher Intelligenz im Gesundheitswesen im Zentrum internationaler Diskussionen. Fachorganisationen und Institutionen mahnen an, dass digitale Werkzeuge und KI-Modelle verbindlichen evidenzbasierten Kriterien unterliegen müssen, bevor sie in der klinischen Praxis und der unmittelbaren Patientenversorgung zur Anwendung kommen.
AMA formuliert Leitplanken für klinische KI-Systeme
Einen Schwerpunkt setzt die American Medical Association (AMA), deren Center for Digital Health and AI einen Governance-Rahmen für agentische KI mit klinischen Funktionen erarbeitet hat.
Das Konzept konzentriert sich auf vier zentrale Handlungsfelder: die Definition der klinischen Rolle des Systems, die Validierung von Leistung und Schutzmechanismen, die Festlegung von Befugnisgrenzen sowie die klare Zuweisung von Rechenschaftspflichten für Risiken und Ergebnisse.
AMA-CEO John Whyte hob in diesem Kontext hervor, dass sich die klinische Autorität von Algorithmen allein durch Evidenz erarbeiten und durch kontinuierlich nachgewiesene Leistung bewahren lasse. Bei der Versorgung von Patientinnen und Patienten dürfe es kein Vorgehen nach dem Prinzip von Versuch und Irrtum geben.
Feste Kontrollen und Risikostufen in der internationalen Regulierung
Auch auf regulatorischer Ebene gewinnen verbindliche Vorgaben an Bedeutung. In Peru erließ das Gesundheitsministerium Minsa Richtlinien, wonach staatliche Einrichtungen KI-Systeme erst beschaffen, entwickeln, erproben oder anwenden dürfen, wenn die zuständige Fachstelle OGTI diese registriert, bewertet und autorisiert hat.
Die Regelung unterscheidet drei Risikostufen: unzulässigen Missbrauch, hohes Risiko und akzeptables Risiko. Hochrisikoanwendungen – darunter Systeme für Notfall-Triage, Screening, Diagnostik, Behandlungsplanung oder die Handhabung sensibler Patientendaten – unterliegen strengen Auflagen wie Folgenabschätzungen, benannten menschlichen Aufsichtspersonen und mehrstufigen Kontrollen. Zudem ist es untersagt, Patientenakten, vertrauliche Dokumente oder Zugangsdaten in ungenehmigte oder frei zugängliche KI-Dienste einzugeben.
Wer im professionellen Umfeld mit KI-Systemen arbeitet, muss die neuen regulatorischen Anforderungen an Risikoklassen und Dokumentation genau kennen. Dieser kostenlose Report klärt auf, welche Systeme als Hochrisiko gelten und was jetzt konkret zu tun ist. EU AI Act in 5 Schritten verstehen
Wahrung menschlicher Kontrolle in der Versorgung
In Deutschland wird die Debatte um verbindliche Standards im Rahmen des Gesetzgebungsverfahrens zum Gesundheits-Digital-Gesetz (GeDIG) geführt. Die Bundesarbeitsgemeinschaft der Freien Wohlfahrtspflege (BAGFW) forderte in ihrer Stellungnahme, dass digitale Anwendungen keine eigenständigen, automatisierten Versorgungsentscheidungen treffen dürfen. Ebenso dürften automatisierte Ersteinschätzungen den persönlichen und aufsuchenden Zugang zur Versorgung nicht verdrängen.
Dass der Weg zur praxistauglichen Anwendung hohe Anforderungen stellt, unterstreichen auch Forschungseinrichtungen wie das Center for Artificial Intelligence in Medicine (CAIMed) und die Transferplattform HIHR in Hannover.
Die rechtssichere Einführung neuer Technologien erfordert neben der Risikoanalyse auch eine fundierte Kenntnis der gesetzlichen Übergangsfristen. Ein kostenloser Umsetzungsleitfaden bietet hierfür den notwendigen Überblick für Verantwortliche in IT- und Rechtsabteilungen. Kostenloses E-Book zum EU AI Act herunterladen
Für einen verantwortungsvollen Einsatz seien transparente Modelle, nachgewiesene klinische Evidenz und sichere Dateninfrastrukturen grundlegend. Zu den wesentlichen Herausforderungen zähle neben der Regulierung und dem Datenschutz vor allem die Frage, wie sich neue Systeme nahtlos in bestehende Arbeitsabläufe des klinischen Alltags integrieren lassen.
