OpenAI verschiebt ChatGPT-Erwachsenenmodus nach internem Widerstand

OpenAI verzögert den Start seines Erwachsenenmodus für ChatGPT aufgrund technischer Mängel bei der Altersprüfung und Warnungen von Experten vor psychologischen Risiken.

OpenAI hat den Start seines umstrittenen Erwachsenenmodus für ChatGPT verschoben. Grund sind massive Bedenken von Sicherheitsexperten und technische Probleme bei der Altersprüfung.

Psychologen warnen vor emotionalen Abhängigkeiten

Die Verschiebung folgt einem heftigen internen Streit. Mitglieder des firmeneigenen Beratergremiums für KI und Wohlbefinden äußerten schwere Vorbehalte. Psychologen und Neurowissenschaftler warnten, erotische Chatbot-Interaktionen könnten zwanghaftes Nutzungsverhalten und ungesunde emotionale Bindungen fördern. Die Experten fürchten, Nutzer könnten reale zwischenmenschliche Beziehungen durch künstliche ersetzen. Besonders für vulnerable Personen bestehe die Gefahr, dass hochpersonalisierte, intime Interaktionen psychische Probleme verschlimmern.

Anzeige

Der Einsatz von KI-Systemen unterliegt seit August 2024 strengen EU-weiten Regeln, um Risiken für Nutzer zu minimieren. Dieser kostenlose Leitfaden erklärt kompakt die neuen Anforderungen an Risikoklassifizierung und Dokumentation. EU-KI-Verordnung kompakt: Jetzt kostenlos herunterladen

Die Bedenken sind nicht theoretisch: OpenAI steht bereits unter Druck wegen Klagen im Zusammenhang mit Nutzern, die sich selbst schadeten. Als Reaktion hat das Unternehmen nun Psychologen eingestellt und ein Team für Jugendwohlbefinden gebildet. Dessen Aufgabe: die Langzeitfolgen intimer KI-Interaktionen zu erforschen.

Altersprüfung versagt in jedem achten Fall

Das größte praktische Hindernis ist jedoch technischer Natur. Das System zur Altersvorhersage, das Minderjährige von expliziten Inhalten fernhalten soll, fiel in internen Tests durch. Die Algorithmen stuften Minderjährige in etwa zwölf Prozent der Fälle fälschlich als Erwachsene ein.

Diese Fehlerquote ist alarmierend. Schätzungen zufolge nutzen wöchentlich rund 100 Millionen Nutzer unter 18 Jahren ChatGPT. Eine zwölfprozentige Fehlerrate könnte somit Millionen Minderjährige explizitem Material aussetzen. OpenAI räumt ein, dass kein Altersprüfsystem perfekt sei. Dennoch seien weitere Verbesserungen nötig, bevor der Erwachsenenmodus sicher freigegeben werden könne. Die Ingenieurteams priorisieren nun diese Absicherungstechnologie über den schnellen Launch der umstrittenen Funktion.

Strategiewechsel: Text statt Bilder

Sollte der Modus je starten, wird er stark eingeschränkt sein. OpenAI plant einen rein textbasierten Ansatz. Das System wird keine expliziten Audio-, Bild- oder Videoinhalte generieren.

Anzeige

Während OpenAI technische Hürden bei der Altersprüfung bekämpft, müssen Unternehmen bereits heute die geltenden Fristen der neuen Gesetzgebung einhalten. Der kostenlose Download erklärt Ihnen die wichtigsten Kennzeichnungspflichten und Übergangsfristen für KI-Anbieter. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung sichern

Diese Beschränkung hat mehrere Vorteile. Text ist einfacher zu moderieren als Multimedia-Inhalte. Verbotene Szenarien wie nicht einvernehmliche oder illegale Themen lassen sich so effektiver blockieren. Zudem hilft der Text-Fokus, komplexe globale Regularien wie den britischen Online Safety Act einzuhalten. Dieser stellt strenge Anforderungen an die Verbreitung pornografischer Bilder. Indem sich OpenAI auf schriftliche Erotik konzentriert, will es das Risiko minimieren, Deepfakes oder andere schädliche visuelle Medien zu erzeugen.

Wettbewerbsdruck vs. Sicherheitsanspruch

Die Verschiebung spiegelt einen strategischen Kurswechsel wider. Das Unternehmen priorisiert derzeit Kernverbesserungen an der allgemeinen Intelligenz, Personalisierung und proaktiven Features des Chatbots. Durch die Verzögerung des Erwachsenenmodus können Ingenieur-Ressourcen auf Projekte umgelenkt werden, die der gesamten Nutzerbasis zugutekommen.

Dies geschieht unter massivem Wettbewerbsdruck. Konkurrenten entwickeln ihre Modelle rasant weiter, einige bieten bereits weniger restriktive Inhalte-Tools an. Trotzdem scheint OpenAIs Führung bereit, vorübergehend im Rennen um Erwachseneninhalte zurückzufallen. Das Ziel: eine robuste Sicherheitsinfrastruktur aufzubauen. Der Balanceakt zwischen Wettbewerbsfähigkeit und Sicherheit wird hier besonders sichtbar.

Ein Präzedenzfall für die gesamte KI-Branche

Branchenbeobachter sehen in der Verzögerung ein Symptom für die grundlegenden Herausforderungen der KI-Branche. Der Umgang mit expliziten Inhalten in generativen Modellen ist ein definierendes Problem für moderne Tech-Konzerne. Die zwölfprozentige Fehlerrate bei der Altersprüfung offenbart eine systemische Schwachstelle in der aktuellen KI-Governance.

Regulierungsbehörden weltweit beobachten schärfer, wie Tech-Giganten Minderjährige schützen. Ein Fehler bei der Freigabe von Erwachsenenfunktionen könnte schwere rechtliche und finanzielle Folgen haben. Indem OpenAI den Launch verschiebt, sendet es eine Botschaft an Regulierer und Öffentlichkeit: Verantwortungsvolle Entwicklung geht vor schnelle Monetarisierung. Dieser Schritt könnte einen Präzedenzfall für den gesamten Umgang der Branche mit sensiblen Inhalten setzen.

Wann der Erwachsenenmodus tatsächlich startet, ist ungewiss. Die für das erste Quartal 2026 geplante Einführung wurde um mindestens einen Monat verschoben. Eine definitive neue Deadline gibt es nicht. Der weitere Prozess wird von schrittweisen regionalen Tests und intensiver Beobachtung der Sicherheitsvorkehrungen geprägt sein. Der Erfolg oder Misserfolg dieses Vorhabens könnte die Zukunft der Inhaltsmoderation in der generativen KI auf Jahre hinaus prägen.