KI-Beratung: Bot übernimmt nach einer Minute ohne menschliche Antwort
Veröffentlicht am: 04.10.2026 um 08:30 Uhr | Redaktion boerse-global.de
Die Nachfrage nach niederschwelliger psychosozialer Unterstützung über digitale Kanäle wächst stetig, bringt die Hilfsangebote jedoch an ihre personellen Kapazitätsgrenzen. Bei der Schweizer Organisation Dargebotene Hand kann die Chat-Beratung mittlerweile nur rund ein Drittel der eingehenden Anfragen beantworten.
Zugleich offenbaren die Daten eine deutliche Verlagerung der Problemlagen im Vergleich zur traditionellen Telefonseelsorge: Im Chat ist ein Viertel der Ratsuchenden minderjährig, während die Hälfte der Altersgruppe zwischen 19 und 40 Jahren angehört. Zudem betreffen rund 15 % der geführten Chat-Gespräche das Thema Suizidalität – am Telefon liegt dieser Anteil lediglich bei 4 %.
Automatisierte Brückenlösungen bei Engpässen
Um Ratsuchende in akuten Belastungsmomenten nicht unbeantwortet zu lassen, greift die Dargebotene Hand auf automatisierte Unterstützung zurück. Bleibt eine Anfrage länger als eine Minute ohne menschliche Antwort, wird ein finnischer KI-Bot zugeschaltet. Die Schweiz ist damit das zweite europäische Land, das dieses System implementiert.
Die Anwendung wurde für den Einsatz bei Erwachsenen angepasst und unterliegt festen Begrenzungen: Das System speichert keine Daten und beendet Dialoge nach rund 20 Minuten. Um das Entstehen einer problematischen emotionalen Abhängigkeit zu verhindern, ist die Software so programmiert, dass sie bewusst auf Distanz bleibt.
Fachleute bewerten diesen Ansatz differenziert. Die Psychologin Marisa Tschopp stuft den Einsatz eines solchen Bots grundsätzlich als hilfreich ein, da ein automatisiertes System Betroffene zunächst beruhigen könne. Gleichzeitig warnt sie jedoch vor der Gefahr, dass eine Künstliche Intelligenz bestehende negative Gedanken ungewollt bestärken könnte.
Wer sich mit dem Einsatz moderner Technologien befasst, muss die neuen rechtlichen Rahmenbedingungen für algorithmische Systeme kennen. Dieser kostenlose Report klärt auf, welche Regeln die EU-KI-Verordnung aufstellt und welche Systeme als Hochrisiko eingestuft werden. Kostenlosen Report zur KI-Verordnung herunterladen
Wachsender Nutzungsdruck auf digitale Beratungsangebote
Die Überlastung der Chat-Dienste fügt sich in einen übergeordneten Trend ein, der auch andere Schweizer Hilfswerke betrifft. Bei der Organisation Pro Juventute stiegen im 1. Halbjahr 2026 die Anrufe um 4 %, während die Kontakte über den Messenger-Dienst WhatsApp um 25 % zulegten. Wie eine jüngste Befragung der Organisation zeigt, sucht zudem bereits jeder Zehnte dort Rat bei kommerzieller Künstlicher Intelligenz.
Dass KI-Systeme für viele Heranwachsende bereits zum Alltag gehören, belegen auch Erhebungen aus Deutschland. Laut einer DAK-Studie nutzen mehr als 25 % der Minderjährigen entsprechende KI-Anwendungen mehrmals pro Woche. Mehr als die Hälfte verwendet die Technologie aus Neugier oder zur Unterhaltung. Allerdings geben bis zu 10 % der 10- bis 17-Jährigen an, KI gezielt zu nutzen, um sich weniger einsam zu fühlen.
Mahnungen vor Risiken für Kinder und Jugendliche
Der zunehmende Rückgriff auf automatisierte Systeme ruft Nichtregierungsorganisationen auf den Plan. In einer gemeinsamen Studie warnen die Organisationen SOS-Kinderdörfer weltweit und Terre des Hommes vor den Gefahren von KI für Kinder und Jugendliche. Die aktuelle Risikobelastung übersteige derzeit die vorhandenen Schutzmaßnahmen.
Die Organisationen listen konkrete Risikofaktoren auf, darunter Fehlinformationen, Voreingenommenheit, Abhängigkeit, kommerzielle Ausbeutung, Deepfakes sowie manipulative Algorithmen.
Angesichts der rasanten Entwicklung von KI-Anwendungen stehen Verantwortliche vor der Herausforderung, Fristen und Dokumentationspflichten rechtssicher zu wahren. Ein kostenloser Umsetzungsleitfaden verschafft Ihnen den notwendigen Überblick über alle relevanten Anforderungen der neuen EU-Verordnung. EU AI Act Umsetzungsleitfaden jetzt gratis sichern
Als Konsequenz fordern SOS-Kinderdörfer weltweit und Terre des Hommes einen konsequenten Kinderschutz von Beginn an bei neuen KI-Anwendungen, verbindliche „Safety-by-Design“-Standards, eine wirksame Alterskontrolle sowie eine systematische Beteiligung von Kindern an der künftigen KI-Regulierung.
Darüber hinaus mahnt SOS-Kinderdörfer weltweit an, die Kompetenzen von Kindern und Jugendlichen für eine sichere und kritische Nutzung digitaler Räume gezielt zu fördern.
