Landgericht Köln: Ohne Einwilligung sind sensible KI-Chats unzulässig
Veröffentlicht am: 24.09.2026 um 15:18 Uhr | Redaktion boerse-global.de
Künstliche Intelligenz übernimmt im Alltag zunehmend die Rolle eines digitalen Gegenübers für persönliche Angelegenheiten. Eine Erhebung des Anbieters Proton, die zwischen dem 22. Juli und dem 2. August 2026 unter 4.014 aktiven Chatbot-Anwendern in Deutschland, Frankreich, Großbritannien und den USA durchgeführt wurde, zeigt ein ausgeprägtes Nutzungsverhalten bei vertraulichen Anliegen: In Deutschland gaben 68 Prozent der befragten Nutzer an, bereits mindestens ein sensibles Thema mit einem KI-System besprochen zu haben.
Psychische Gesundheit und persönliche Krisen im Chat
Den Auswertungen zufolge steht die eigene psychische Gesundheit an erster Stelle der mit Chatbots geteilten vertraulichen Inhalte. Darüber hinaus thematisieren Nutzer Fragen rund um Finanzen, Partnerschaft und das Arbeitsleben sowie Sexualität, persönliche Geheimnisse und Konflikte innerhalb der Familie.
Trotz dieser Offenheit gegenüber den Anwendungen bleiben Freunde und die eigene Familie die wichtigste Anlaufstelle für persönliche Herausforderungen.
Als wesentliche Gründe für den Rückgriff auf automatisierte Sprachmodelle nennen die Befragten die ständige Verfügbarkeit rund um die Uhr sowie das Gefühl, ohne zwischenmenschliche Verurteilung sprechen zu können. Dieser Effekt ist in der Forschung nicht neu.
Bei medizinischen Fachtagungen verwiesen Fachleute auf den seit 1966 bekannten ELIZA-Effekt sowie auf eine randomisierte Untersuchung in der Fachzeitschrift JAMA Internal Medicine, nach der Patienten schriftliche Antworten einer künstlichen Intelligenz mitunter sogar als empathischer wahrnahmen als Rückmeldungen von Medizinern.
Große Vorbehalte beim Datenschutz und der Datennutzung
Parallel zur Offenheit besteht bei vielen Anwendern eine erhebliche Skepsis hinsichtlich des Umgangs mit ihren privaten Eingaben. Laut der Proton-Erhebung besitzen 40,5 Prozent der Befragten nur geringes oder gar kein Vertrauen in eine ausreichende Absicherung ihrer Daten.
Der Schutz sensibler Informationen ist bei der Nutzung moderner Technologien wichtiger denn je, da viele Anwender die rechtlichen Rahmenbedingungen und Risiken kaum überblicken. Dieser kostenlose Report klärt auf, welche Pflichten und neuen Bedrohungen Unternehmer und Verantwortliche jetzt kennen müssen. Cyber Security Trends und rechtliche Pflichten entdecken
Mehr als die Hälfte, konkret 51 Prozent, befürchtet die Erstellung von Marketing- und Werbeprofilen auf Basis ihrer Konversationen. Zudem äußerten 43 Prozent der Teilnehmer die Sorge, dass ihre persönlichen Texte zum weiteren Training der KI-Modelle herangezogen werden.
Die Haltung der Nutzer gegenüber dem Schutz ihrer Privatsphäre beeinflusst dabei auch deren Nutzungsbereitschaft:
- 71 Prozent der Umfrageteilnehmer würden einen datenschutzorientierten Chatbot bevorzugen.
- 44 Prozent erklärten, eher intime Details offenzulegen, wenn garantiert ist, dass kein Modelltraining mit ihren Eingaben erfolgt.
Rechtliche Rahmenbedingungen für sensible Eingaben
Die Erfassung vertraulicher Gesprächsinhalte wirft auch rechtliche Fragen auf. Das Landgericht Köln stellte in einem Urteil vom 17. September 2026 (Az. 33 O 120/24) fest, dass die Verarbeitung sensibler Daten im Rahmen eines KI-Chatbots unzulässig ist, wenn keine ausdrückliche Einwilligung vorliegt. Dies gelte selbst dann, wenn Nutzer die entsprechenden Informationen von sich aus im Chatverlauf preisgeben.
Die rechtssichere Einbindung von KI-Systemen stellt Unternehmen vor komplexe Aufgaben bei der Einhaltung von Fristen und Dokumentationspflichten. Dieser kostenlose Umsetzungsleitfaden bietet Ihrer Fachabteilung einen kompakten Überblick über alle relevanten Anforderungen der EU-KI-Verordnung. Kostenlosen Leitfaden zum EU AI Act herunterladen
Voreingestellte Kontrollkästchen genügen nach Auffassung des Gerichts nicht den rechtlichen Anforderungen der Datenschutz-Grundverordnung. Anbieter stehen damit vor der Herausforderung, den Wunsch nach niederschwelliger Kommunikation mit strengen datenschutzrechtlichen Vorgaben in Einklang zu bringen.
