OpenAI verschärft Sicherheitsprotokolle nach tödlichem Amoklauf

OpenAI verpflichtet sich zu direkten Meldungen an Behörden und rückwirkenden Kontrollen, nachdem Warnsignale einer späteren Täterin nicht weitergeleitet wurden. Eine unabhängige Instanz soll künftig Risiken bewerten.

OpenAI überarbeitet nach einem Amoklauf in Kanada seine Sicherheitsrichtlinien und Meldepflichten grundlegend. Das Unternehmen reagiert damit auf massive Kritik, weil es Warnsignale des späteren Täters nicht an Behörden weiterleitete.

Regierung erzwingt konkrete Maßnahmen

Der KI-Konzern hat sich gegenüber der kanadischen Regierung zu strengeren Sicherheitsstandards verpflichtet. Bei einem Krisentreffen mit KI-Minister Evan Solomon sagte OpenAI-Chef Sam Altman am 4. März umfassende Änderungen zu. Kern der Vereinbarung: Das Unternehmen wird künftig verdächtige Nutzeraktivitäten direkt an die kanadische Bundespolizei melden.

Anzeige

Die rasanten Entwicklungen bei KI-Sicherheitsstandards und gesetzlichen Meldepflichten stellen Unternehmen vor neue Herausforderungen. Dieser kostenlose Leitfaden fasst die wichtigsten Anforderungen und Fristen der aktuellen Regulierungen verständlich zusammen. EU-KI-Verordnung kompakt: Jetzt kostenloses E-Book sichern

Zudem muss OpenAI alle zuvor gemeldeten Nutzerkonten mit den neuen, schärferen Kriterien rückwirkend überprüfen. Ziel ist es, verpasste Bedrohungen doch noch aufzudecken. Als unabhängige Kontrollinstanz wird das Kanadische KI-Sicherheitsinstitut die Modelle von OpenAI technisch untersuchen und Risikobewertungen vorlegen.

Verhängnisvolles Versäumnis bei Warnsignalen

Auslöser der Krise ist ein Amoklauf vom 10. Februar in Tumbler Ridge, British Columbia. Die 18-jährige Täterin erschoss acht Menschen, darunter sechs Kinder, bevor sie sich selbst tötete. Ermittlungen offenbarten ein fatales Sicherheitsversagen: OpenAI hatte den account der Jugendlichen bereits im Juni 2025 gesperrt.

Grund waren besorgniserregende Chats über Gewaltszenarien. Die KI erkannte die Verstöße gegen die Nutzungsbedingungen – doch menschliche Prüfer stuften die Äußerungen nicht als konkrete Bedrohung ein. Die Sperrung erfolgte, eine Meldung an die Polizei unterblieb. Noch gravierender: Die Täterin umging das Verbot einfach durch ein zweites, unerkanntes Konto, das sie bis zur Tat nutzte.

KI soll künftig Hilfe anbieten statt nur zu sperren

OpenAI reagiert mit einem Systemumbau. Künftig würde ein vergleichbarer Chatverlauf sofort eine Polizeimeldung auslösen. Die Meldeschwelle wurde deutlich gesenkt. Auffällige Verhaltensmuster sollen bereits dann gemeldet werden, wenn kein konkretes Ziel oder Datum genannt wird.

Die KI selbst wird weiterentwickelt: Statt Nutzer nur zu sperren, soll sie Menschen in Notlagen künftig auf lokale Hilfsangebote und psychosoziale Dienste verweisen. Parallel arbeitet OpenAI an technischen Lösungen, um die Umgehung von Kontosperren zu verhindern. Die Identifizierung von Mehrfachtätern wird zur Priorität.

Debatte über gesetzliche Meldepflichten entbrannt

Der Fall hat eine grundsätzliche Debatte über die Verantwortung von KI-Entwicklern entfacht. Kanada hat bisher keine gesetzliche Pflicht für KI-Unternehmen, potenzielle Gewalttaten zu melden. Juristen ziehen Parallelen zum Tarasoff-Prinzip, das Therapeuten zur Warnung Dritter verpflichtet.

Anzeige

Während weltweit über neue Sicherheitsstandards diskutiert wird, gelten für Unternehmen bereits heute strikte Regeln zur Risikobewertung von KI-Systemen. Erfahren Sie in diesem Praxis-Leitfaden, wie Sie Ihr System richtig klassifizieren und Dokumentationspflichten rechtssicher erfüllen. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen

Die Provinz British Columbia hat eine öffentliche Untersuchung eingeleitet, die explizit die Rolle der KI aufklären soll. Die kanadische Bundesregierung macht deutlich: Reichen die freiwilligen Maßnahmen nicht aus, wird sie verbindliche Gesetze für KI-Sicherheit erlassen. Die Selbstregulierung der Branche steht auf dem Prüfstand.

Neue Branchenstandards in Sicht

Die Vereinbarungen könnten zum Maßstab für die gesamte KI-Branche werden. Marktbeobachter erwarten, dass andere Anbieter ähnliche Meldesysteme und Identitätsprüfungen einführen müssen. Die geplanten Überprüfungen durch das KI-Sicherheitsinstitut werden die künftige Regulierung maßgeblich beeinflussen.

Die Balance zwischen Nutzerdatenschutz und öffentlicher Sicherheit steht vor einer Neudefinition. Während OpenAI versucht, mit technischen Korrekturen Vertrauen zurückzugewinnen, bereiten Gesetzgeber auf beiden Seiten des Atlantiks strengere Rahmenbedingungen vor. Der Druck auf die KI-Branche wächst – nicht nur in Kanada.