KI-Gesetz zwingt Gesundheits-Apps zu mehr Sicherheit

Die EU schafft mit dem AI Act klare Regeln für KI in der Medizin, was Tech-Konzerne wie Apple zum Umdenken zwingt und etablierte Anbieter zu mehr Transparenz verpflichtet.

Die EU schafft einen klaren Rechtsrahmen für KI in der Medizin. Das zwingt Tech-Konzerne zum Umdenken und etablierte Anbieter zu mehr Transparenz. Ziel ist mehr Sicherheit für Patienten.

Diese Woche stellte die EU klar, wie die Medizinprodukteverordnung (MDR) und das neue KI-Gesetz (AI Act) zusammenspielen sollen. Die Positionierung soll Doppelregulierungen vermeiden und Entwicklern mehr Rechtsklarheit geben. Die Nachfrage nach digitaler, psychologischer Hilfe wächst stetig – doch die Branche steht vor großen Herausforderungen bei Wirksamkeit und Datenschutz.

Anzeige

Da die EU-KI-Verordnung bereits in Kraft ist, müssen Unternehmen im Gesundheitssektor jetzt schnell handeln, um folgenschwere Bußgelder zu vermeiden. Dieser kostenlose Leitfaden erklärt verständlich die neuen Kennzeichnungspflichten, Risikoklassen und Dokumentationsanforderungen für Ihre Systeme. EU-KI-Verordnung kompakt: Jetzt Gratis-Umsetzungsleitfaden sichern

Tech-Riesen stoßen an Grenzen

Auch große Player wie Apple müssen ihre Ambitionen drosseln. Das Unternehmen hat seine Pläne für einen eigenständigen, KI-gestützten Gesundheitscoach namens „Mulberry“ oder „Quartz“ deutlich zurückgefahren. Statt eines neuen Abo-Dienstes will Apple nun einzelne KI-Funktionen schrittweise in die bestehende Health-App integrieren. Der Kurswechsel zeigt: Selbst finanzstarke Konzerne tun sich schwer gegen etablierte Spezialanbieter – und die regulatorischen Hürden wachsen.

Vom Chatbot zur Angst-App

Abseits der Giganten existiert bereits ein vielfältiges Ökosystem. Apps wie Wysa und Woebot nutzen Techniken der kognitiven Verhaltenstherapie (KVT). Sie helfen Nutzern, negative Gedankenmuster zu erkennen und Bewältigungsstrategien zu lernen. Klinische Studien deuten auf positive Effekte bei leichten Depressionen und Ängsten hin.

Eine weitere etablierte Anwendung ist MindShift CBT, eine kostenlose App der kanadischen Organisation Anxiety Canada. Sie bietet evidenzbasierte Werkzeuge speziell gegen Angst und Panik. Solche Apps sind klar von Grundlagenforschung zu unterscheiden, wie sie etwa an der Universität Marburg betrieben wird.

Hilfe ja, aber mit Risiken

Der Aufstieg der Apps wird durch lange Therapie-Wartezeiten und den Wunsch nach niederschwelliger, anonymer Hilfe angetrieben. Sie bieten eine 24/7-Verfügbarkeit. Doch Experten warnen vor erheblichen Risiken: Datenschutz sensibler Gesundheitsdaten, algorithmische Voreingenommenheit und die mangelnde Fähigkeit, auf akute Krisen wie Suizidgedanken angemessen zu reagieren. Die fehlende menschliche Empathie bleibt eine zentrale Grenze. Die meisten Anbieter betonen daher: Ihre Angebote sind eine Ergänzung, kein Ersatz für eine professionelle Therapie.

Anzeige

Der Schutz sensibler Gesundheitsdaten ist angesichts neuer Gesetze und steigender Cyber-Risiken für Anbieter digitaler Hilfen wichtiger denn je. Erfahren Sie in diesem Experten-Report, wie Sie die IT-Sicherheit in Ihrem Unternehmen proaktiv stärken und sich effektiv gegen Angriffe wappnen. Kostenlosen Cyber-Security-Leitfaden für Unternehmen herunterladen

Was der AI Act bedeutet

Das seit August 2024 geltende KI-Gesetz der EU stuft viele medizinische KI-Anwendungen als Hochrisiko-Systeme ein. Ab August 2026 gelten die Kernvorschriften vollständig. Hersteller müssen dann strenge Auflagen zu Sicherheit, Transparenz und menschlicher Aufsicht erfüllen. Die aktuelle Positionierung der EU zielt darauf ab, diese Anforderungen nahtlos in die Medizinprodukteverordnung zu integrieren.

Die Zukunft ist hybrid

Die Zukunft liegt wahrscheinlich in einem hybriden Modell. KI-Systeme könnten als erste Anlaufstelle oder zur Überbrückung von Wartezeiten dienen. Die Technologie entwickelt sich hin zu immer stärkerer Personalisierung. Gleichzeitig beendet der AI Act die Ära des unregulierten Experimentierens. Klinische Validierung und nachweisbare Sicherheit werden zur Markteintrittsbedingung. Für Nutzer könnte das sicherere Anwendungen bedeuten – Entwickler müssen nun Innovation und strenge Regulierung unter einen Hut bringen.