ChatGPT for Teens: OpenAI startet Jugendversion mit Sicherheitsbeschränkungen
Veröffentlicht am: 18.08.2026 um 14:13 Uhr | Redaktion boerse-global.de
Der KI-Entwickler OpenAI hat eine spezialisierte Version seines Sprachmodells für Jugendliche im Alter von 13 bis 17 Jahren vorgestellt. Das neue Angebot, das unter dem Namen „ChatGPT for Teens“ geführt wird, soll den spezifischen Sicherheitsbedürfnissen minderjähriger Nutzer Rechnung tragen.
Die Einführung erfolgt zu einem Zeitpunkt, an dem das Unternehmen aufgrund tragischer Vorfälle und rechtlicher Auseinandersetzungen verstärkt unter Beobachtung steht.
Fokus auf Sicherheit und Hausaufgabenhilfe
Die neue Version für Jugendliche integriert weitreichende Inhaltsbeschränkungen, um die Interaktion mit dem Chatbot sicherer zu gestalten. OpenAI gibt an, dass Themenbereiche wie Suizid, Selbstverletzung sowie sexuelle oder romantische Konversationen in dieser Version blockiert oder stark reglementiert sind. Das Unternehmen positioniert ChatGPT for Teens primär als unterstützendes Werkzeug für schulische Aufgaben und die Erledigung von Hausaufgaben.
Ein zentraler Bestandteil des Dienstes sind neue Kontrollfunktionen für Erziehungsberechtigte. Diese umfassen unter anderem die Einrichtung von Ruhezeiten, in denen die Anwendung nicht genutzt werden kann, sowie automatisierte Sicherheitsbenachrichtigungen an die Eltern. Begleitend zur Produkteinführung hat OpenAI spezifische U18-Prinzipien veröffentlicht, die als Leitlinien für den Umgang mit dieser Altersgruppe dienen sollen.
Juristischer Druck und tragische Einzelfälle
Die Veröffentlichung der Jugendversion fällt zusammen mit Berichten über schwerwiegende Vorfälle im Zusammenhang mit der Nutzung der Künstlichen Intelligenz. In einem aktuellen Rechtsstreit werfen Eltern dem Unternehmen Fahrlässigkeit vor, nachdem ihr 16-jähriger Sohn Adam Rain Suizid begangen hatte.
Wer sich mit dem Einsatz von Künstlicher Intelligenz befasst, muss heute komplexe rechtliche Vorgaben wie den EU AI Act im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen
Die Klage wegen unrechtmäßigen Todes stützt sich auf die Behauptung, die Interaktion mit ChatGPT habe den Jugendlichen in seiner Absicht bestärkt. OpenAI drückte sein Beileid aus und erklärte dazu, dass das System darauf trainiert sei, Nutzer in Krisensituationen an professionelle Hilfsdienste zu verweisen.
Weitere Fälle belasten die öffentliche Wahrnehmung der Technologie. Im Februar 2025 verstarb die 29-jährige Sophie Rottenberg durch Suizid, nachdem sie monatelang intensiv mit dem Chatbot kommuniziert hatte.
Interne Daten zeigen zudem die Dimension der Herausforderung: Rund 0,15 % der wöchentlichen Nutzer – was etwa 1,35 Millionen Menschen entspricht – äußern in ihren Chats suizidale Absichten. Zwar empfahl die KI im Fall von Sophie Rottenberg die Notrufnummer 988, konnte jedoch keine direkte Verbindung zu menschlichen Helfern herstellen.
Zusätzlich sorgt ein Kriminalfall aus Massachusetts für Aufsehen. Der 17-jährige Arjun Aravind wird beschuldigt, Mitglieder seiner Familie ermordet zu haben. Den Ermittlungen zufolge soll er ChatGPT zuvor genutzt haben, um Fantasiegeschichten über die Tötung seiner Angehörigen zu verfassen.
Die rasante Entwicklung von KI-Systemen stellt Unternehmen vor völlig neue Compliance-Fragen bezüglich Risikoklassen und Dokumentationspflichten. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie rechtlich auf der sicheren Seite bleiben. Kostenlosen Report zu KI-Risikoklassen anfordern
Wirtschaftliche Perspektive und Börsengang
Trotz der Sicherheitsbedenken und rechtlichen Risiken bleibt die wirtschaftliche Dynamik des Unternehmens ungebrochen. Branchenberichten zufolge bereitet OpenAI einen Börsengang vor, bei dem das Unternehmen voraussichtlich mit einer Bewertung von etwa 1 Billion US-Dollar eingestuft wird.
Mit der Einführung von ChatGPT for Teens versucht OpenAI offenbar, die regulatorischen Anforderungen an den Jugendschutz proaktiv zu erfüllen und gleichzeitig eine junge Nutzerbasis in einem gesicherten Rahmen an seine Technologie zu binden.
