US-Staaten schränken KI-Beratung in Medizin und Recht ein
11.03.2026 - 00:00:26 | boerse-global.de
New York und Colorado gehen mit scharfen Gesetzen gegen KI-Chatbots vor, die professionellen Rat geben. Die Pläne entziehen den Anbietern den Haftungsschutz durch Standard-Hinweise und erlauben Nutzern Klagen. Damit verschärft sich der regulatorische Druck auf Tech-Konzerne – und ein Flickenteppich unterschiedlicher Vorschriften droht.
Während die USA auf lokale Gesetze setzen, schafft die EU mit dem AI Act bereits klare Fakten für Unternehmen. Dieser kostenlose Leitfaden erklärt kompakt die neuen Kennzeichnungspflichten und Risikoklassen, damit Sie rechtlich auf der sicheren Seite bleiben. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern
New York beendet den Haftungsschutz durch Disclaimer
Der US-Bundesstaat New York setzt ein klares Signal: Künstliche Intelligenz soll sich nicht als Anwalt oder Arzt ausgeben. Ein Gesetzentwurf, der Anfang März 2026 einstimmig durch einen Technologieausschuss kam, verbietet es Chatbots, substanzielle Antworten zu geben, die als unerlaubte Ausübung von Rechtsberatung oder Medizin gelten würden. Das betrifft auch Architektur, Ingenieurwesen und Sozialarbeit.
Der Kern des Vorstoßes ist eine private Klagebefugnis. Geschädigte Nutzer könnten damit direkt die Betreiber verklagen, um Schadensersatz und Anwaltskosten einzufordern. „Aktuelle Verbraucherschutzgesetze haben eine eklatante Lücke“, erklärt die demokratische Staatssenatorin Kristen Gonzalez. „Große Sprachmodelle können professionelle Kompetenz vorgeben, ohne die Haftung zu tragen, die ein ungelizenzierter Mensch tragen müsste.“
Für Tech-Unternehmen hat die Neuregelung eine dramatische Konsequenz: Die bislang üblichen Hinweise, dass es sich nicht um menschlichen Rat handelt, bieten vor Gericht keinen Schutz mehr. Haftungsausschlüsse in den Nutzungsbedingungen wirkten in solchen Fällen nicht, analysieren Branchenbeobachter. Die Unternehmen könnten sich nicht mehr hinter generischen Disclaimer-Texten verstecken.
Colorado schützt die menschliche Therapie
Parallel dazu zieht Colorado bei der psychologischen Beratung die Grenze. Ein Gesetzentwurf verbietet es lizenzierten Therapeuten, KI-Chatbots für die direkte Kommunikation mit Klienten einzusetzen. Auch für die Erstellung von Behandlungsplänen durch generative KI ist eine gründliche Prüfung und Freigabe durch einen menschlichen Profi vorgeschrieben.
„Das primäre Ziel ist, dass die therapeutische Beziehung strikt zwischen Menschen bleibt“, sagt die republikanische Abgeordnete Gretchen Rydin, die selbst als Therapeutin praktiziert. Es gehe nicht um ein pauschales Verbot digitaler Tools, sondern um transparente Offenlegung und strenge menschliche Aufsicht, ergänzt die demokratische Mit-Initiatorin Junie Josephs.
Unter dem Entwurf dürfen KI-Tools im Staat nicht mehr als eigenständige Psychotherapie-Dienste vermarktet werden – es sei denn, sie werden von einem lizenzierten Profi angeboten. Administrative Aufgaben wie Terminvereinbarungen bleiben erlaubt. Für die Transkription von Therapiesitzungen mit KI ist jedoch die ausdrückliche schriftliche Einwilligung des Patienten nötig.
Internationaler Trend: EU stuft Medizin-KI als hochriskant ein
Die US-Gesetzgeber reagieren auf eine wachsende Gefahreneinschätzung. Die unabhängige Patientensicherheits-Organisation ECRI stufte den Missbrauch von KI-Chatbots im Februar 2026 zur größten Gefahr durch Gesundheitstechnologie des Jahres ein. „Die Hauptgefahr liegt in der Normalisierung dieser Tools“, warnt ECRI-Präsident Dr. Marcus Schabacker. Die oft definitiv wirkenden Antworten könnten dazu verleiten, ihre Richtigkeit nicht zu hinterfragen.
Die zunehmende Regulierung von KI-Systemen führt zu komplexen Dokumentationspflichten für Entwickler und Anbieter. Erfahren Sie in diesem kostenlosen E-Book, wie Sie Ihr KI-System richtig klassifizieren und die notwendigen Unterlagen für die Marktüberwachung vorbereiten. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen
Auch international wird der regulatorische Rahmen enger. Die EU-KI-Verordnung tritt im August 2026 in eine entscheidende Phase. Dann werden KI-Systeme für den Gesundheitszugang, die Patiententriage und klinische Entscheidungsfindung offiziell als hochriskant eingestuft. Das hat strenge Konformitätsbewertungen, technische Dokumentationspflichten und eine kontinuierliche Marktüberwachung zur Folge.
Laut gemeinsamer Leitlinie europäischer Aufsichtsgremien unterfallen Chatbots mit medizinischen Funktionen künftig sowohl der KI-Verordnung als auch der Medizinprodukte-Verordnung – unabhängig von jeglichen Hinweisen der Software-Hersteller.
Konflikt mit Washington: Droht ein regulatorischer Flickenteppich?
Die Vorstöße der Einzelstaaten kollidieren zunehmend mit der Bundesebene. Die Trump-Administration hatte im Dezember 2025 eine Exekutivanordnung für einen möglichst unbürokratischen nationalen KI-Rahmen erlassen. Sie zielt darauf ab, die Aufsicht zu bündeln und aktiv davon abzuraten, lokale Regelungspatchworks zu schaffen. Eine eigens eingerichtete KI-Litigation-Task-Force im Justizministerium soll sogar gegen Landesgesetze vorgehen, die den zwischenstaatlichen Handel behindern.
Diese Reibung erzeugt, was Branchenanalysten als Compliance-Splinternet bezeichnen: einen zersplitterten Rechtsraum. Für Entwickler von Sprachmodellen und digitalen Produktivitätstools entsteht ein Flickenteppich. Ein Chatbot-Feature könnte in einem Bundesstaat legal sein, in einem anderen aber schwere Haftungsrisiken auslösen. Hinzu kommen Gesetze wie der Texas Responsible Artificial Intelligence Governance Act, der seit Januar 2026 KI-Systeme verbietet, die zu Selbstverletzung anstiften oder illegal diskriminieren.
Die Folge: Tech-Unternehmen müssen aufwändige Geolokalisierung und dynamische Inhaltsfilter implementieren. Beobachter erwarten für 2026 heftige Rechtsstreitigkeiten zwischen Bundesbehörden und Staatsanwälten über die letztendliche Regulierungshoheit für Künstliche Intelligenz.
Hol dir jetzt den Wissensvorsprung der Aktien-Profis.
Für. Immer. Kostenlos
