Gericht kippt Vertraulichkeit für KI-Chats – New York plant Haftung

Ein US-Bezirksgericht entschied, dass Gespräche mit öffentlichen KI-Chatbots nicht vertraulich sind. Parallel dazu treibt New York ein Gesetz voran, das Entwickler für unerlaubte Fachberatung haftbar macht.

Ein US-Bundesgericht hat entschieden: Gespräche mit öffentlichen KI-Chatbots sind nicht geschützt. Diese wegweisende Entscheidung warnt Privatpersonen und Unternehmen vor den Risiken sensibler KI-Diskussionen. Parallel dazu treibt New York ein Gesetz voran, das Entwickler für unerlaubte Fachberatung haftbar macht.

KI-Gespräche sind vor Gericht einsehbar

Das Urteil des Bezirksgerichts im Southern District of New York hat weitreichende Folgen für den Datenschutz und die Rechtsstrategie. Es bestätigt, dass Kommunikation mit öffentlich zugänglichen KI-Plattformen nicht unter den Schutz des Anwaltsgeheimnisses fällt. Nutzer, die einen Chatbot für rechtlich sensible Informationen einsetzen, können diesen Schutz damit unwiderruflich aufheben. Das Material wird in Gerichtsverfahren auffindbar.

Anzeige

Seit August 2024 gelten neue KI-Regeln – viele Unternehmen riskieren unwissentlich Bußgelder. Die EU-KI-Verordnung ist bereits in Kraft. Dieser kostenlose Leitfaden zeigt, was Sie jetzt beachten müssen. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Die Entscheidung fiel im Fall United States v. Heppner. Ein Angeklagter hatte eine öffentliche KI genutzt, um Dokumente für seine Verteidigungsstrategie zu erstellen. Das Gericht urteilte, dass diese Austausche nicht vor staatlicher Einsichtnahme geschützt seien. Seine Begründung stützt sich auf drei Grundsätze:
1. Ein KI-Chatbot ist kein Anwalt und unterhält keine entsprechende Beziehung zum Nutzer.
2. Es bestehe keine berechtigte Erwartung der Vertraulichkeit, da die Nutzungsbedingungen der KI-Firma die Erhebung und Weitergabe von Nutzerdaten explizit erlauben.
3. Die erstellten Materialien genießen keinen "Work Product"-Schutz, da sie nicht unter Anleitung eines Rechtsbeistands entstanden.

Rechtsexperten erwarten nun, dass gegnerische Anwälte routinemäßig die Herausgabe von KI-Konversationsverläufen beantragen werden.

New York will KI-Entwickler in Haftung nehmen

Parallel zur Rechtsprechung formiert sich der politische Druck. Im Staat New York hat der Gesetzentwurf S7263 eine erste Hürde genommen und steht zur Abstimmung im Senat. Die Initiative will verbieten, dass KI-Chatbots substanzielle Informationen oder Ratschläge liefern, die mit der Beratung durch lizenzierte Professionelle – wie Anwälte oder Ärzte – verwechselt werden könnten.

Besonders brisant: Das Gesetz sieht ein privates Klagerecht vor. Betroffene könnten somit Zivilklagen gegen die Betreiber der Chatbots einreichen und auf Schadensersatz sowie Anwaltskosten klagen. Diese Regelung gilt als wirksames Druckmittel. Zwar müssten die Betreiber Nutzer klar auf die KI hinweisen, doch diese Offenlegung befreit sie nicht von der Haftung für unerlaubte Fachberatung. Der Vorstoß zeigt die wachsende Sorge der Aufsichtsbehörden vor realen Schäden durch fehlerhafte KI-Ratschläge.

Flickenteppich an US-Gesetzen entsteht

New York ist kein Einzelfall. Allein in den ersten Wochen des Jahres 2026 wurden in 27 US-Bundesstaaten 78 KI-Chatbot betreffende Gesetzesvorlagen eingereicht. Es entsteht ein regulatorischer Flickenteppich mit sehr unterschiedlichen Ansätzen:

• Kalifornien setzt mit dem seit Ende 2025 geltenden SB 243 auf Transparenz und verlangt, dass "Companion-Chatbots" ihre künstliche Natur offenlegen, besonders gegenüber Minderjährigen.
• Tennessee erwägt hingegen schärfere Strafen. Ein Gesetzesvorschlag sieht vor, die Nutzung von KI zur Anstiftung bestimmter Straftaten als schweres Verbrechen einzustufen.
• Auch in Bundesstaaten wie Arizona und Iowa werden Gesetze diskutiert, die die Interaktion von Chatbots mit Minderjährigen regulieren sollen.

Für KI-Entwickler, die bundesweit agieren, wird die Einhaltung dieser unterschiedlichen Vorgaben zur komplexen Herausforderung.

Anzeige

Was Geschäftsführer über Cyber Security 2024 wissen müssen, betrifft zunehmend auch den rechtssicheren Umgang mit künstlicher Intelligenz. Dieser Experten-Report enthüllt effektive Schutzstrategien für Ihr Unternehmen. Kostenloses E-Book: Cyber Security Trends jetzt herunterladen

EU setzt auf Produkthaftung – Studie warnt vor Risiken

Die US-Entwicklungen stehen im Kontrast zum umfassenderen Ansatz der Europäischen Union. Die EU hat zwar ihre spezielle KI-Haftungsrichtlinie zurückgezogen, aber ihre Produkthaftungsrichtlinie von 2024 angepasst. Ab Ende 2026 gelten Software und KI-Systeme explizit als "Produkte". Entwickler können dann – ähnlich wie Hersteller physischer Waren – streng für Schäden haftbar gemacht werden, die ihre Systeme verursachen.

Die Dringlichkeit dieser Regulierungsbemühungen unterstreicht eine aktuelle Studie der Brown University vom März 2026. Selbst wenn sie angewiesen wurden, wie ausgebildete Therapeuten zu handeln, verstießen führende KI-Chatbots regelmäßig gegen ethische Grundstandards der psychologischen Betreuung. Die Forscher identifizierten ernste Risiken, darunter das Fehlverhalten in Krisensituationen und die Verstärkung schädlicher Überzeugungen. Die Studie zeigt eine gefährliche Verantwortungslücke, wenn KI-Systeme ohne professionelle Aufsicht Ratschläge erteilen.

Ausblick: Klare Firmenrichtlinien werden essenziell

Das Heppner-Urteil dürfte die Nutzung öffentlicher KI-Tools für sensible Unternehmens- und Privatangelegenheiten sofort abkühlen. Rechtsexperten raten Firmen dringend, klare Richtlinien zu implementieren, um zu verhindern, dass Mitarbeiter durch die Eingabe vertraulicher Daten in Chatbots das Anwaltsgeheimnis aufheben.

Die rechtliche Zukunft von KI-Gesprächen wird von zwei Trends geprägt sein: der weiteren Anwendung bestehender Rechtsgrundsätze durch die Gerichte und dem aggressiven Vorantreiben neuer, KI-spezifischer Gesetze durch die Bundesstaaten. Der Fortschritt des New Yorker Gesetzes S7263 wird ein wichtiger Indikator sein und könnte anderen Staaten als Modell für die direkte Haftung von KI-Ratschlägen dienen. Für Entwickler und Nutzer ist die Ära, in der Chatbot-Konversationen als folgenlose Interaktionen galten, definitiv vorbei.