KI in der Therapie: USA und Großbritannien schaffen neue Regeln

Kentucky verbietet eigenständige KI-Entscheidungen in der Therapie, während britische Verbände vor unkontrollierten Tools warnen. Ein globaler Trend zu konkreten Schutzvorschriften für sensible Gesundheitsdaten zeichnet sich ab.

Die Regulierung von Künstlicher Intelligenz in der psychischen Gesundheitsversorgung erreicht eine neue Stufe. Innerhalb weniger Tage haben Politiker in den USA und führende Hilfsorganisationen in Großbritannien konkrete Schritte für mehr Schutz und Kontrolle angekündigt. Der Druck wächst, den wild wachsenden Markt für KI-Therapie-Tools endlich zu bändigen.

Kentucky verbietet eigenständige KI-Entscheidungen

Den bisher konkretesten Vorstoß unternahm das Repräsentantenhaus des US-Bundesstaates Kentucky. Mit überwältigender Mehrheit von 88 zu 7 Stimmen verabschiedete es am Montag den Gesetzentwurf HB 455. Dieser soll KI in der Therapie an die Leine legen. Künftig wäre es verboten, dass KI-Systeme eigenständig therapeutische Entscheidungen treffen oder Behandlungspläne erstellen, ohne dass ein zugelassener Therapeut diese ausdrücklich prüft und absegnet. Auch für unterstützende Tätigkeiten wie die Transkription von Sitzungen müsste vorher die informierte Einwilligung der Patienten eingeholt werden. Das Ziel ist klar: Der Mensch soll im therapeutischen Prozess stets im Mittelpunkt bleiben.

Anzeige

Seit August 2024 gelten neue KI-Regeln – viele Unternehmen riskieren unwissentlich Bußgelder. Die EU-KI-Verordnung ist bereits in Kraft und dieser kostenlose Leitfaden zeigt, was Sie jetzt beachten müssen. EU-KI-Verordnung kompakt: Jetzt Umsetzungsleitfaden kostenlos sichern

Kentucky ist dabei kein Einzelfall, sondern Vorreiter eines landesweiten Trends. Ein aktueller Überblick zeigt, dass Dutzende ähnlicher „Chatbot-Gesetze“ in anderen Bundesstaaten auf dem Weg sind. In Oregon hat der Senat bereits ein Gesetz verabschiedet, das Begleit-Chatbots verpflichtet, auf Risiken der Selbstverletzung zu reagieren. In Virginia und Washington stehen ähnliche Vorlagen kurz vor der Verabschiedung. Auch in Kalifornien, Oklahoma, Maine und Alabama wird über Regulierungen nachgedacht, die KI-Chatbots kontrollieren, Transparenz vorschreiben und Minderjährige schützen sollen. Die Politik verlässt die Phase allgemeiner Grundsatzdebatten und schafft nun konkrete Regeln für Hochrisikobereiche wie die Gesundheit.

Britische Hilfsorganisationen warnen vor unkontrollierter KI

Parallel dazu formiert sich in Großbritannien der Widerstand. Die renommierte Mental-Health-Organisation Mind startete am 23. Februar eine einjährige Kommission zu „KI und psychischer Gesundheit“. Sie soll erforschen, wie Risiken durch KI-Tools, die als Therapie- oder Krisen-Ersatz genutzt werden, besser gemanagt und Schaden verhindert werden kann. Die Kommission will Sicherheitsvorkehrungen entwickeln, die sicherstellen, dass Innovation nicht auf Kosten des Patientenwohls geht.

Einen Tag zuvor hatte bereits die British Association for Counselling and Psychotherapy (BACP) schärfere Gesetze gefordert. In ihrer Stellungnahme zur Regierungsbefragung warnte der Berufsverband, die aktuellen Schutzmaßnahmen seien völlig unzureichend. Diese Forderung wird durch alarmierende Umfragedaten untermauert: Jeder f?nfte Therapeut, der mit Jugendlichen arbeitet, berichtet von Fällen, in denen Kinder schädliche Ratschläge von KI erhalten haben. 28 Prozent aller Therapeuten hatten Klienten, die von Tools wie ChatGPT unbrauchbare Empfehlungen bekamen. 43 Prozent sind überzeugt, dass KI-Technologien im vergangenen Jahr sogar zu einer Verschlechterung der öffentlichen mentalen Gesundheit beigetragen haben. Die BACP fordert mehr Transparenz bei der Regulierung, eine geteilte Verantwortung zwischen Entwicklern und Klinikern sowie eine robuste Marktüberwachung.

Anzeige

Warum 73% der deutschen Unternehmen auf Cyberangriffe nicht vorbereitet sind, ist angesichts der neuen Gesetzeslage ein kritisches Thema für die IT-Sicherheit. Dieser kostenlose Leitfaden zeigt, wie Sie Ihr Unternehmen mit einfachen Maßnahmen vor teuren Konsequenzen schützen. Kostenlosen Cyber-Security-Report für Unternehmen herunterladen

Treiber der Regulierung: Voreingenommenheit, Datenschutz und Sicherheit

Dieser globale Regulierungsdrang ist eine direkte Antwort auf zunehmende Beweise für die Gefahren unkontrollierter KI. Experten verweisen auf gravierende ethische Herausforderungen. Die größte Sorge ist, dass KI unsichere oder unangemessene Ratschläge gibt – besonders in Krisensituationen. Ohne menschliche Urteilskraft können Systeme Nuancen falsch deuten, mit fatalen Folgen.

Ein weiterer Treiber ist der Datenschutz. KI-Tools verarbeiten höchst sensible Patientendaten. Therapeuten tragen die ethische und rechtliche Verantwortung, diese Informationen gemäß Vorschriften wie HIPAA zu schützen. Die „Black-Box“-Natur vieler KI-Systeme, bei der undurchsichtig bleibt, wie sie zu Schlussfolgerungen kommen, erschwert Transparenz und Verantwortlichkeit. Zudem besteht die Gefahr, dass algorithmische Voreingenommenheit bestehende Ungleichheiten im Gesundheitswesen verstärkt. Der Konsens ist klar: KI soll das unersetzbare Urteil des menschlichen Therapeuten unterstützen, nicht ersetzen.

Analyse: Vom Prinzipiendenken zur konkreten Regelung

Die jüngste Flut an Gesetzesvorschlägen markiert eine entscheidende Wende in der Debatte. Jahrelang drehte sich die Diskussion um allgemeine ethische Grundsätze. Jetzt schaffen Politiker spezifische, durchsetzbare Regeln für die Praxis. Die rasante Verbreitung von KI-Chatbots, die oft ohne klinische Validierung für mentale Unterstützung genutzt werden, hat zu einem Gefühl der Dringlichkeit geführt.

Die Ära des „Gebraucher-bewahre-dich“ ist in einem so sensiblen Bereich wie der psychischen Gesundheit vorbei. Gesetzgeber und Gesundheitsorganisationen behandeln das Thema zunehmend als Frage der öffentlichen Sicherheit und beruflichen Integrität. Der Fokus auf informierte Einwilligung, menschliche Aufsicht und Entwickler-Verantwortung – wie in Kentuckys Gesetzentwurf – setzt eine neue Baseline für verantwortungsvolle Innovation.

Ausblick: Ein entscheidendes Jahr für die KI-Politik

Die Entwicklungen der letzten 72 Stunden sind nur der Anfang. Der Gesetzentwurf aus Kentucky geht nun an den Staatssenat. Sein Fortschritt wird in anderen Bundesstaaten genau beobachtet. In Großbritannien wird Minds Kommission im Laufe des Jahres regelmäßig Ergebnisse vorlegen, die die künftige Politik beeinflussen dürften.

Die Zeit, in der KI-Tools für mentale Gesundheit in einer regulatorischen Grauzone operieren, neigt sich dem Ende zu. Die zentrale Herausforderung für Entwickler, Kliniker und Politiker wird nun sein, die neuen Schutzvorkehrungen so umzusetzen, dass sie Patienten schützen, ohne das echte Potenzial der KI zu ersticken, die menschzentrierte Therapie zu unterstützen.