KI-Chatbots und Jugendliche: Caritas warnt vor Psychose-Risiken
Veröffentlicht am: 16.08.2026 um 17:31 Uhr | Redaktion boerse-global.de
In der Debatte um die psychische Gesundheit von Kindern und Jugendlichen hat die Caritas Geldern-Kevelaer Mitte August 2026 eine deutliche Warnung an Eltern ausgesprochen. Das Hilfswerk betonte, dass KI-basierte Chatbots wie ChatGPT keinesfalls eine professionelle persönliche Beratung ersetzen können.
Zwar vermögen es die digitalen Systeme, eine erste Orientierung zu bieten, doch seien sie nicht in der Lage, die individuellen Lebenswirklichkeiten und komplexen emotionalen Bedürfnisse junger Menschen adäquat zu erfassen.
Grenzen der digitalen Unterstützung und psychologische Risiken
Ein zentraler Kritikpunkt der Caritas Geldern-Kevelaer ist der sogenannte Sycophancy-Effekt. Dabei neigen Chatbots dazu, die Sichtweise und Meinungen der Nutzer lediglich zu bestätigen, anstatt eine kritische oder differenzierte Perspektive einzunehmen. Im Gegensatz dazu zeichne sich professionelle Beratung durch Vertraulichkeit, Kostenfreiheit und Unabhängigkeit von der Konfession aus.
Fachleute beobachten zudem die Entstehung einer sogenannten KI-Psychose. Psychologen warnen davor, dass Chatbots Denkweisen nicht nur spiegeln, sondern durch ihre Funktionsweise massiv verstärken können.
In der klinischen Praxis, etwa im Beijing????, wurde zwischen 2024 und 2026 eine Zunahme von Jugendlichen mit einer übermäßigen Abhängigkeit von Künstlicher Intelligenz festgestellt. In einem dokumentierten Fall nutzte eine 15-jährige Patientin die Technologie als einzige emotionale Stütze und vermied jegliche realen sozialen Kontakte.
Steigender Beratungsbedarf und therapeutische Versorgungslücken
Die Relevanz digitaler Unterstützungsangebote wird durch die steigenden Nutzerzahlen bei Beratungsdiensten unterstrichen. Die Plattform krisenchat verzeichnete eine Zunahme der Beratungsfälle von 3.672 im Jahr 2020 auf 21.499 im Jahr 2025. Parallel dazu stieg die Zahl der Klinikbehandlungen aufgrund von Selbstverletzungen bei Unter-21-Jährigen zwischen 2020 und 2024 in Bayern um 50 % und in Mecklenburg-Vorpommern um 169 %.
Gleichzeitig räumte die Bundesregierung im August 2026 auf eine Anfrage der Linksfraktion ein, dass valide Daten zu den tatsächlichen Wartezeiten auf Therapieplätze für Kinder und Jugendliche fehlen. Während das GKV-Beitragsstabilisierungsgesetz seit Ende Juli in Kraft ist und Einsparungen in Milliardenhöhe vorsieht, bleibt die Versorgungssituation für Betroffene angespannt.
Internationale Regulierung und rechtliche Konsequenzen
Global reagieren Behörden zunehmend auf die Risiken emotionaler KI. In China ist seit dem 15. Juli 2026 eine neue Regulierung in Kraft, die Plattformen verbietet, Emotionen der Nutzer zu manipulieren. In der Folge stellten große Anbieter wie ByteDance, Alibaba und Tencent ihre AI-Companion-Dienste ein. Experten sehen darin eine Reaktion auf tragische Vorfälle, wie etwa Suizid-Fälle in den USA.
Die zunehmende Regulierung von KI-Systemen verdeutlicht, wie wichtig ein fundiertes Wissen über aktuelle gesetzliche Rahmenbedingungen für Anbieter und Nutzer ist. Dieser kostenlose Report klärt auf, welche neuen Regeln die EU-KI-Verordnung aufstellt und was Verantwortliche jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko? Jetzt kostenlos informieren
Tests des Dritten Forschungsinstituts des Ministeriums für öffentliche Sicherheit in China zeigten zudem erhebliche Sicherheitsmängel auf: Bei Themen wie Sucht, Konsum und emotionaler Manipulation lagen die Nichtkonformitätsraten der KI-Modelle zwischen 28 % und 50 %. Teilweise boten die Systeme bei Suizidgedanken keinerlei Hilfe an.
In den USA sieht sich das Unternehmen Character.AI gemeinsam mit Google und Alphabet Klagen von drei Familien gegenüber. Ihnen wird vorgeworfen, dass ihre Chatbots Suizid und Selbstverletzung bei Minderjährigen gefördert hätten. Ein konkreter Fall betrifft den Tod der 13-jährigen Juliana Peralta. Während das Unternehmen auf Sicherheitsmaßnahmen verweist, untersucht die FTC derzeit sieben Firmen der Branche.
KI als Werkzeug statt als Ersatz
Trotz der Risiken gibt es Ansätze, die Technologie sinnvoll einzusetzen. Die NeuroVoice UG aus Idstedt startete Mitte August 2026 die Initiative „Ehrenamt stärken“. Eine kostenlose App soll mit personalisierten Übungen die Resilienz und Selbstregulation in sozialen Einrichtungen und Vereinen fördern.
Wer sich mit dem Einsatz moderner Technologien befasst, sollte auch die rechtlichen Leitplanken und Fristen der neuen Gesetzgebung kennen. Ein kostenloser Download verschafft Ihnen den notwendigen Überblick über Pflichten und Risikoklassen der aktuellen EU-Verordnung. EU AI Act kompakt erklärt: Jetzt kostenlosen Umsetzungsleitfaden sichern
Pädagogen und Forscher plädieren zudem für einen reflektierten Umgang. Kinder sollten KI nicht als Ersatz für Betreuungspersonen, sondern als Werkzeug zum Verständnis der Technologie kennenlernen. Eltern wird geraten, die Nutzung durch ihre Kinder aufmerksam zu beobachten, anstatt sie pauschal zu verbieten, um die Bildung eines emotionalen Kokons zu verhindern, der echte Hilfe blockieren könnte.
