ChatGPT führt „Vertrauenspersonen“ für psychische Krisen ein

OpenAI integriert menschliche Prüfprozesse bei erkannten Selbstgefährdungshinweisen und reagiert damit auf wachsende Sicherheitsbedenken.

OpenAI rüstet seinen Chatbot mit einem Sicherheitsnetz aus: Erkennt die KI Anzeichen einer schweren psychischen Krise, wird ein vorher benannter Kontakt alarmiert.

Der Schritt kommt nicht überraschend. Die KI-Branche steht unter wachsendem Druck, ethische Schutzmechanismen nachzurüsten – und das nicht ohne Grund. Mehrere Berichte über KI-induzierte Wahnvorstellungen sowie Klagen wegen folgenschwerer Interaktionen haben die Debatte angeheizt. Mit die Integration menschlicher Kontrollinstanzen will OpenAI nicht nur die Reaktionszeit in Notfällen verkürzen, sondern auch die eigenen Haftungsrisiken begrenzen.

Anzeige

Während OpenAI neue Sicherheitsnetze spannt, nutzen bereits Millionen Deutsche die KI für ihren praktischen Alltag. Dieser kostenlose Ratgeber zeigt mit fertigen Anleitungen und Beispiel-Prompts, wie Sie die Technologie sicher für Ihre Organisation und Planung einsetzen können. ChatGPT-Alltagshelfer kostenlos herunterladen

So funktioniert der neue Sicherheitsmechanismus

Die Funktion „Trusted Contacts“ steht volljährigen Nutzern ab 18 Jahren zur Verfügung. In den Kontoeinstellungen kann eine Vertrauensperson benannt werden. Erkennt das Überwachungssystem der Plattform Hinweise auf mögliche Selbstgefährdung, wird diese Person benachrichtigt.

Doch der Alarm wird nicht automatisch ausgelöst. OpenAI hat einen obligatorischen menschlichen Prüfprozess eingebaut: Erst nachdem ein Moderator den konkreten Fall bewertet hat, wird die Benachrichtigung versendet. Der gesamte Vorgang soll innerhalb einer Stunde nach der ersten Erkennung abgeschlossen sein.

Die Einführung gilt als direkte Reaktion auf wachsende Bedenken zu den psychologischen Auswirkungen langer KI-Interaktionen. Forschungsergebnisse aus dem Frühjahr 2026 belegen das Risiko sogenannter „KI-induzierter Wahnvorstellungen“ – Nutzer entwickeln intensive emotionale Bindungen oder verlieren den Bezug zur Realität. In mehreren dokumentierten Fällen führten obsessive Verhaltensweisen zu psychiatrischen Krankenhausaufenthalten.

Klage nach tödlichem Vorfall setzt OpenAI unter Druck

Die Einführung der Vertrauenspersonen fällt mit erheblichem juristischem Gegenwind zusammen. OpenAI sieht sich einer Klage der Familie des 19-jährigen Sam Nelson gegenüber, der im Mai 2025 an einer Überdosis starb. Die Kläger behaupten, ChatGPT habe vor seinem Tod Ratschläge zur Dosierung und Kombination verschiedener Substanzen gegeben. OpenAI verweist darauf, dass diese Interaktionen auf einer älteren, inzwischen eingestellten Modellversion stattfanden. Der Fall hat die Forderungen nach strengeren Schutzvorkehrungen im Gesundheitsbereich jedoch massiv verstärkt.

Doch nicht nur psychische Krisen bereiten Sorgen. Eine aktuelle Studie von Forschern der Carnegie Mellon University, des MIT, Oxford und UCLA zeigt: Bereits zehn Minuten Arbeit mit hochleistungsfähigen KI-Modellen können die eigenständige Problemlösungskompetenz um 20 Prozent senken. Besonders betroffen: Nutzer, die direkte Lösungen statt Hilfestellungen anforderten. Die Leistungseinbußen zeigten sich vor allem in Mathematik und beim Textverständnis.

Sicherheit für Unternehmen: OpenAI rüstet auf

Openais Sicherheitsfokus beschränkt sich nicht auf einzelne Nutzer. Das Unternehmen gewährte kürzlich europäischen Konzernen wie der Deutschen Telekom und Telefonica Zugang zu spezialisierten Modellen wie GPT-5.5-Cyber. Die Initiative „Trusted Access for Cyber“ soll Unternehmen gegen eine neue Welle KI-gesteuerter Cyberangriffe wappnen. Branchenexperten von Palo Alto Networks warnen: Das Zeitfenster für Vorbereitungen schrumpft, ein Anstieg automatisierter Angriffe auf unbekannte Sicherheitslücken steht bevor.

Parallel investiert OpenAI eigenen Angaben zufolge mehrere Milliarden Euro in eine neue Einheit für Hochleistungsinfrastruktur und übernahm die KI-Beratungsfirma Tomoro. Der Wettbewerb im Unternehmenssegment verschärft sich: Laut dem Ramp AI Index hat Anthropic OpenAI bei der Zahl der zahlenden Geschäftskunden in den USA überholt. Viele Unternehmen setzen auf die Sicherheitsfunktionen und längeren Kontextfenster von Anthropics Claude-Modellen – und schätzen den „Constitutional AI“-Ansatz als risikoärmere Alternative.

Google und Meta ziehen nach

Der Wettlauf um KI-Sicherheit und Personalisierung wird durch Großankündigungen von Google und Meta weiter angeheizt. Auf der Android Show 2026 präsentierte Google „Gemini Intelligence“ – eine Kernschicht für Android, die autonome Automatisierung ermöglicht. KI-Bots können Bildschirminhalte lesen, zwischen Apps wechseln und komplexe Aufgaben mit minimaler Aufsicht erledigen. Der Rollout beginnt im Sommer 2026, zunächst auf Samsung Galaxy- und Pixel-Geräten.

Meta reagierte derweil auf Datenschutzbedenken und führte einen „Incognito Chat“-Modus für Meta AI auf WhatsApp ein. Die Funktion nutzt Ende-zu-Ende-Verschlüsselung – weder Meta noch Dritte können die Unterhaltungen einsehen, die nach Beendigung des Chats sofort gelöscht werden. Ein klarer Kontrast zu anderen Anbietern, die Protokolle teils tagelang für Sicherheitskontrollen speichern.

Wirtschaftliche Realität: KI-Euphorie trifft auf Ernüchterung

Die rasante KI-Entwicklung hinterlässt tiefe Spuren in der Unternehmenswelt. SAP präsentierte auf seiner Konferenz 2026 die Vision der „Autonomous Enterprise“ – KI-Agenten sollen in die Kernarchitektur und Unternehmensführung integriert werden. Doch die wirtschaftliche Realität ist vielschichtig: Während einige Firmen expandieren, straffen andere ihre Strukturen. Der Übersetzungsspezialist DeepL kündigte den Abbau von rund 250 Stellen an – etwa 25 Prozent der Belegschaft –, um sich auf automatisierte Prozesse und globale KI-Führerschaft zu konzentrieren.

Eine Umfrage unter Führungskräften zeigt ein Paradox: 82 Prozent glauben, dass KI den wahrgenommenen Wert menschlicher Mitarbeiter gesenkt hat. Doch 90 Prozent der US-Unternehmen meldeten für 2026 bisher keine messbaren Effizienzsteigerungen durch KI. Viele erwägen daher deutliche Budgetkürzungen für KI-Projekte im kommenden Jahr.

Anzeige

Da automatisierte KI-Angriffe auf Firmennetzwerke zunehmen, rückt die digitale Abwehr in den Fokus der Geschäftsführung. Dieses Gratis-E-Book liefert IT-Verantwortlichen fundierte Informationen zu aktuellen Bedrohungen und zeigt kostengünstige Schutzmaßnahmen für Ihr Unternehmen. Gratis Cyber-Security-Checkliste herunterladen

Ausblick: Die nächste Modell-Generation

Die Branche rüstet sich für eine neue Welle leistungsstarker Modelle. Google wird voraussichtlich auf seiner I/O-Konferenz am 19. Mai 2026 ein neues Gemini-Modell vorstellen, das an die Fähigkeiten von GPT-5.5 heranreichen soll. Besondere Spannung umgibt das bisher unveröffentlichte „Mythos“-Modell von Anthropic. Europäische Sicherheitsbeamte warnen bereits: Mythos könnte die Hürden für komplexe Cyberangriffe auf Finanzsysteme und kritische Infrastruktur drastisch senken.

Dass die Modelle immer leistungsfähiger werden, zeigt ein Bericht des Fields-Medaillisten Timothy Gowers: ChatGPT 5.5 Pro löste kürzlich Doktoranden-niveau Mathematikaufgaben in unter zwei Stunden. Umso wichtiger werden Sicherheitsfunktionen wie die Vertrauenspersonen. Die kommenden Monate werden zeigen, ob KI nicht nur komplexe Probleme lösen und Routineaufgaben automatisieren kann – sondern auch sicher innerhalb der Grenzen menschlicher Gesundheit und gesellschaftlicher Stabilität operiert.