ChatGPT for Teens: Common Sense Media testet Sicherheit für 13- bis 17-Jährige
Veröffentlicht am: 26.08.2026 um 09:44 Uhr | Redaktion boerse-global.de
Das Youth AI Safety Institute der Organisation Common Sense Media hat eine umfassende Testreihe für die Anwendung ChatGPT for Teens angekündigt. Im Mittelpunkt der Untersuchung stehen Maßnahmen zum Schutz des Lernprozesses, die Effizienz von Benachrichtigungssystemen für Erziehungsberechtigte sowie die Auswirkungen anpassbarer Sprachoptionen.
Die Initiative folgt auf eine vorangegangene Bewertung durch Common Sense Media, bei der ChatGPT insgesamt als risikoreich und speziell für die Unterstützung der psychischen Gesundheit als inakzeptables Risiko eingestuft wurde.
Fokus auf Hausaufgabenschutz und Benachrichtigungsgeschwindigkeit
Die geplanten Tests sollen bewerten, wie effektiv die von OpenAI implementierten Schutzmechanismen für schulische Aufgaben funktionieren. Ein kritischer Aspekt der Untersuchung betrifft die Geschwindigkeit, mit der Eltern über Aktivitäten informiert werden. Frühere Tests ergaben nach Angaben der Organisation, dass Sicherheitsbenachrichtigungen teilweise bis zu zwei Tage benötigten, um die Erziehungsberechtigten zu erreichen.
Parallel dazu verdeutlicht eine Umfrage von Common Sense Media unter 1.000 US-Jugendlichen die Relevanz solcher Prüfungen. Demnach nutzen 70 % der Jugendlichen im Alter von 13 bis 17 Jahren Künstliche Intelligenz für ihre Schularbeiten. Dabei übernehmen 25 % der Befragten die Antworten unverändert, während 31 % die Inhalte umschreiben und 35 % sie als Ergänzung nutzen.
Nur 27 % der Jugendlichen gaben an, von Lehrkräften im effektiven Umgang mit KI unterrichtet worden zu sein. Zudem erklärten 38 %, dass der Einsatz von KI zu weniger eigenen Ideen führe, und 39 % hatten das Gefühl, durch die Nutzung der Technologie nicht effektiv zu lernen.
Der zunehmende Einsatz von Künstlicher Intelligenz erfordert nicht nur im Bildungssektor klare Regeln, sondern stellt auch Unternehmen vor neue rechtliche Herausforderungen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
OpenAIs Sicherheitsfunktionen für Minderjährige
OpenAI hat ChatGPT for Teens speziell für Nutzer im Alter von 13 bis 17 Jahren eingeführt und stattet diese Konten automatisch mit Schutzeinstellungen aus. Zu den Funktionen gehören Erinnerungen an Pausen, sobald eine Aktivität von 90 Minuten innerhalb eines Zeitfensters von drei Stunden erreicht wird.
Zudem wurden Ruhezeiten und ein spezieller Lernmodus implementiert. Das System enthält zudem Einschränkungen für Inhalte, die Selbstmord, Selbstverletzung, Essstörungen, Gewalt sowie romantische oder sexuelle Interaktionen betreffen.
Die Elternkontrollen bei diesem Dienst setzen die Zustimmung der Jugendlichen voraus und können von diesen auch wieder deaktiviert werden. Bei der Altersverifizierung setzt OpenAI nicht auf amtliche Dokumente, sondern auf eine KI-basierte Alterserkennung, die rund 2.000 verschiedene Metriken analysiert.
Rechtlicher Druck und regulatorische Beobachtung
Trotz der eingeführten Sicherheitsmaßnahmen sieht sich OpenAI erheblichem rechtlichem Widerstand gegenüber. Das Unternehmen ist derzeit mit sieben Klagen konfrontiert, in denen Vorwürfe wie Beihilfe zum Suizid, Fahrlässigkeit und widerrechtliche Tötung erhoben werden.
Während Behörden die Sicherheitsmechanismen von KI-Systemen prüfen, müssen Betriebe bereits jetzt konkrete Dokumentationspflichten erfüllen, um rechtlich abgesichert zu sein. Erfahren Sie in diesem kostenlosen E-Book, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche nun tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
OpenAI bestreitet diese Vorwürfe und betont, mit Experten für psychische Gesundheit zusammenzuarbeiten. Das System werde explizit darauf trainiert, menschliche Notlagen zu erkennen und entsprechende Unterstützung anzubieten.
Zusätzlich zu den zivilrechtlichen Klagen wird die Branche durch die US-Handelsbehörde FTC beobachtet, die Untersuchungen zu KI-Chatbots eingeleitet hat. Während Fachleute wie Meaghan B. Murphy das Potenzial der Werkzeuge für kritisches Denken hervorheben, äußern andere Beobachter wie Abby McCloskey Bedenken.
Die Sicherheitsfunktionen seien demnach unzureichend, und die Hauptsorge gelte der langfristigen Wirkung auf die soziale Entwicklung und das kritische Denken junger Nutzer. In den USA reagieren bereits viele Bildungseinrichtungen auf diese Entwicklung: Etwa 40 % der High Schools blockieren derzeit den Zugang zu KI-Tools.
