OpenAI: KI-Firma meldete tödlichen Chat vor Massaker nicht

OpenAI hatte den späteren Täter von Tumbler Ridge bereits sieben Monate vor der Tat gesperrt, informierte die Behörden aber nicht. Der Fall löst eine Grundsatzdebatte über die Verantwortung von KI-Unternehmen aus.

OpenAI sperrte den Account des späteren Amokläufers von Tumbler Ridge bereits sieben Monate vor der Tat – doch das Unternehmen informierte die Behörden nicht. Diese Entscheidung entfacht eine Grundsatzdebatte über die Verantwortung von KI-Unternehmen.

San Francisco. Die KI-Firma OpenAI hatte den Nutzer, der für das tödliche Massaker im kanadischen Tumbler Ridge verantwortlich ist, bereits im Juni 2025 gesperrt. Das bestätigte das Unternehmen hinter ChatGPT nun. Intern waren die verstörenden Chats des Nutzers diskutiert worden, doch die Führung entschied, die Behörden nicht zu alarmieren. Erst nach der Bluttat vom 10. Februar 2026, bei der acht Menschen starben, nahm OpenAI Kontakt zur Polizei auf. Der Fall wirft drängende Fragen nach der ethischen Verantwortung und den Meldeschwellen von Tech-Giganten auf.

Anzeige

Der Fall verdeutlicht die wachsende regulatorische Verantwortung von Unternehmen beim Einsatz künstlicher Intelligenz. Welche rechtlichen Anforderungen und Dokumentationspflichten die neue EU-KI-Verordnung konkret für Anbieter und Nutzer vorsieht, erklärt dieser kompakte Leitfaden. EU-KI-Verordnung kompakt: Jetzt kostenloses E-Book sichern

Interner Alarm und eine folgenschwere Entscheidung

Die automatischen Sicherheitssysteme von OpenAI hatten die Interaktionen des Nutzers Jesse Van Rootselaar im Sommer 2025 als bedenklich eingestuft. Über mehrere Tage hinweg soll der Mann Szenarien mit Schusswaffengewalt beschrieben haben. Die Inhalte wurden zur manuellen Überprüfung eskaliert und lösten bei etwa einem Dutzend Mitarbeitern Besorgnis aus.

In der internen Debatte plädierten einige Beschäftigte dafür, die kanadische Polizei zu informieren. Die Führung von OpenAI entschied jedoch dagegen. Man kam zu dem Schluss, dass die Chats zwar verstörend seien, aber keinen „glaubwürdigen und unmittelbaren Risiko schwerer körperlicher Schädigung“ darstellten. Dies ist der interne Standard für eine Meldung an Strafverfolgungsbehörden. Stattdessen sperrte das Unternehmen lediglich das Konto.

Kanadische Behörden zeigen sich „zutiefst beunruhigt“

Die Enthüllung, dass OpenAI seit Monaten über potenziell relevante Informationen verfügte, stößt in Kanada auf scharfe Kritik. Der Premier von British Columbia, David Eby, nannte die Berichte „zutiefst beunruhigt“. Die Royal Canadian Mounted Police (RCMP) habe inzwischen Anordnungen zur Sicherung aller digitalen Beweise erwirkt, auch bei sozialen Medien und KI-Plattformen.

OpenAI verteidigt seine Politik. Das Unternehmen betont, man wolle Behörden nur bei unmittelbarer Gefahr alarmieren, um ungewollte Folgen für Nutzer und ihre Familien zu vermeiden. Die Systeme seien darauf trainiert, Anstiftung zu realer Gewalt abzulehnen. Doch genau diese Meldeschwelle steht nun im Zentrum der Kontroverse.

Größeres digitales Warnmosaik wird untersucht

Die Chats bei ChatGPT waren offenbar nur ein Teil eines größeren digitalen Warnsignals. Die Ermittler untersuchen die gesamte Online-Präsenz des Täters. So bestätigte die Gaming-Plattform Roblox, ein mit dem Vorfall verbundenes Nutzerkonto gelöscht zu haben. Dort soll Van Rootselaar ein Amoklauf-Szenario in einem virtuellen Einkaufszentrum simuliert haben. Auch YouTube entfernte einen Kanal des Verdächtigen.

Dieses Muster verstörender Online-Aktivitäten ist ein Schlüsselelement für die Ermittler, um den Weg zur Tat nachzuvollziehen. Es zeigt, wie sich Bedrohungen über mehrere Plattformen hinweg zusammensetzen können – eine enorme Herausforderung für präventive Maßnahmen.

KI als Gatekeeper: Die Gratwanderung zwischen Sicherheit und Privatsphäre

Der tragische Fall katapultiert KI-Unternehmen wie OpenAI in eine neue, heikle Rolle als Gatekeeper der öffentlichen Sicherheit. Die interne Debatte des Unternehmens spiegelt eine gesellschaftliche Grundsatzfrage wider: Wo verläuft die Grenze zwischen notwendiger Bedrohungserkennung und dem Schutz der Privatsphäre?

Automatisierte Systeme können besorgniserregende Inhalte zwar identifizieren. Die menschliche Einschätzung, ob daraus eine „glaubwürdige und unmittelbare“ Gefahr erwächst, bleibt jedoch eine Grauzone. Unternehmen fürchten Übermeldungen, die das Vertrauen der Nutzer beschädigen und Strafverfolgungsbehörden mit untauglichen Hinweisen überfluten könnten.

Anzeige

Während die ethische Debatte anhält, schafft der Gesetzgeber bereits Fakten für die digitale Sicherheit in Unternehmen. Was Geschäftsführer jetzt über die neuen KI-Gesetze und Cyber-Security-Trends wissen müssen, erfahren Sie in diesem Experten-Report. Kostenlosen Cyber-Security-Leitfaden für Unternehmen herunterladen

Doch der Vorfall in Tumbler Ridge wird zum Prüfstein für die bestehenden Branchenrichtlinien. Experten erwarten, dass der Fall Diskussionen über eine Meldepflicht für Tech-Firmen beschleunigen wird, ähnlich wie in anderen Berufsgruppen. Die Forderung nach klareren Protokollen für die Zusammenarbeit mit den Behörden wird lauter.

Ausblick: Politik unter Druck, OpenAI in der Überprüfung

Als Reaktion auf die Tragödie hat OpenAI angekündigt, den Vorfall intern zu überprüfen und mit Experten die eigenen Meldekriterien zu schärfen. Das Ergebnis der polizeilichen Ermittlungen wird entscheidend sein, um zu bewerten, ob ein früheres Eingreifen den Ausgang hätte verhindern können.

Der Druck auf KI- und Social-Media-Unternehmen wächst. Politiker und Öffentlichkeit fordern verbesserte Threat-Detection-Systeme. Dies könnte Investitionen in ausgefeiltere KI-Modelle zur Identifikation gefährdeter Personen und transparentere Eskalationsrichtlinien bedeuten. Die zentrale Herausforderung bleibt: Wie schafft man Systeme, die Gewalt verhindern, ohne die Privatsphäre der ungefährlichen Mehrheit der Nutzer zu opfern? Die Antwort auf diese Frage wird das nächste Kapitel der KI-Sicherheit und -Ethik definieren.