OpenAI verpflichtet sich zu strengeren Sicherheitsmaßnahmen nach Amoklauf

OpenAI richtet direkten Kommunikationskanal zur kanadischen Polizei ein und prüft frühere Fälle nach. Eine gerichtsmedizinische Untersuchung beleuchtet die Rolle von KI vor der Tat.

Nach einem verheerenden Amoklauf in Kanada hat sich OpenAI zu umfassenden Sicherheitsreformen verpflichtet. Die Zusage folgt hochrangigen Gesprächen zwischen dem KI-Unternehmen und kanadischen Regierungsvertretern.

Direkter Draht zur Polizei und Nachschau alter Fälle

Der kanadische KI-Minister Evan Solomon bestätigte am Donnerstag konkrete Zugeständnisse von OpenAI. Das Unternehmen wird einen direkten Kommunikationskanal zur Royal Canadian Mounted Police einrichten. Zudem will es neue Risikobewertungsstandards rückwirkend auf bereits bekannte Fälle anwenden. Eine umfassende Nachprüfung früherer Verstöße soll klären, ob Strafverfolgungsbehörden hätten informiert werden müssen.

Anzeige

Der Fall in Kanada verdeutlicht die drängende Notwendigkeit klarer Regeln für den Einsatz künstlicher Intelligenz. Dieser kostenlose Leitfaden erklärt verständlich, welche Anforderungen und Fristen die neue EU-KI-Verordnung für Anbieter und Nutzer vorsieht. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Hintergrund ist der Amoklauf vom 10. Februar 2026 in Tumbler Ridge. Die 18-jährige Täterin, Jesse Van Rootselaar, hatte dort acht Menschen getötet, bevor sie sich selbst das Leben nahm. Ermittlungen ergaben, dass ihr erster Account bereits im Juni 2025 wegen Verstoßes gegen Richtlinien zu Gewaltinhalten gesperrt worden war. Die Behörden erhielten jedoch keine Benachrichtigung.

Systemversagen: Sperre wurde einfach umgangen

OpenAI räumte ein weiteres gravierendes Problem ein. Die Täterin umging die Sperre ihres ersten Accounts problemlos, indem sie einfach einen zweiten erstellte. Dieser wurde erst entdeckt, nachdem die Polizei die Identität der Schützin öffentlich gemacht hatte.

„Diese systemischen Versagen werfen erhebliche Fragen für die Aufsicht über Technologieplattformen auf“, betonte Niki Sharma, Justizministerin von British Columbia. Das Unternehmen hatte intern argumentiert, die Aktivitäten hätten nicht die Schwelle für eine „unmittelbare und glaubwürdige Bedrohung“ erreicht.

Gerichtsmedizinische Untersuchung mit Fokus auf KI

Die rechtlichen Konsequenzen weiten sich aus. Der Chefgerichtsmediziner der Provinz, Dr. Jatinder Baidwan, kündigte eine offizielle Untersuchung an, die ausdrücklich die Rolle der Künstlichen Intelligenz vor der Tat beleuchten wird. Es ist ein Präzedenzfall.

Die kanadische Regierung hatte zuvor klargemacht, dass sie notfalls gesetzgeberisch tätig wird, wenn die Branche ihre Sicherheitsprotokolle nicht freiwillig und schnell verbessert. Minister Solomon betonte, alle Optionen lägen weiter auf dem Tisch.

KI als neuer, privater „öffentlicher Raum“

Der Fall offenbart ein grundsätzliches Spannungsfeld. KI-Plattformen wie ChatGPT fungieren zunehmend als eine Art privater öffentlicher Raum, in dem Interaktionen nur zwischen Nutzer und Maschine stattfinden. Das erschwert die Bedrohungserkennung erheblich.

Anzeige

Während Behörden weltweit über schärfere Gesetze diskutieren, müssen Unternehmen ihre KI-Systeme bereits heute rechtssicher klassifizieren und dokumentieren. Erfahren Sie in diesem kostenlosen E-Book, wie Sie die neuen Kennzeichnungspflichten und Risikoklassen der KI-Verordnung erfolgreich umsetzen. Kostenlosen Umsetzungsleitfaden für die KI-Verordnung herunterladen

Experten weisen darauf hin, dass der bisherige Maßstab für Meldungen an die Polizei – der Nachweis einer unmittelbaren, konkreten Gefahr – für generative KI möglicherweise nicht ausreicht. Diese kann Nutzer in langandauernde, interaktive Szenarien verstricken, die traditionelle soziale Medien nicht bieten.

Kriminologen sehen im mangelnden Austausch zwischen OpenAI und der Polizei eine verpasste Chance. Den Behörden waren psychische Probleme der Täterin bekannt; sie hatten bereits früher Waffen aus dem Haushalt entfernt – und später zurückgegeben.

Blaupause für globale Regulierung erwartet

Die Entwicklung in Kanada wird weltweit aufmerksam verfolgt. Die versprochenen Sicherheitsüberholungen von OpenAI und der Bericht über neue Bedrohungserkennungssysteme könnten zur Blaupause für eine globale Branchenregulierung werden.

Die Ergebnisse der gerichtsmedizinischen Untersuchung und der rückwirkenden Überprüfung werden vorausschlich die künftige Gesetzgebung in Kanada und darüber hinaus prägen. Die Ära der reinen Selbstregulierung für KI-Chatbots scheint zu Ende zu gehen. Der Weg hin zu verbindlichen Transparenzvorschriften und Meldepflichten an die Polizei ist geebnet.