OpenAI verschärft Sicherheitsregeln nach Druck aus Kanada

Nach einer Kontosperre und scharfer Regierungskritik führt OpenAI neue Meldepflichten für Gewaltrisiken ein. Kanada prüft regulatorische Schritte für die gesamte KI-Branche.

Nach einem tödlichen Amoklauf in Kanada und scharfer Kritik der Regierung in Ottawa hat OpenAI seine Sicherheitsrichtlinien grundlegend überarbeitet. Der KI-Riese reagiert damit auf das Versäumnis, Behörden über ein gesperrtes Konto des späteren Täters zu informieren.

Die neuen Maßnahmen wurden in einem Schreiben an Kanadas KI-Minister Evan Solomon detailliert. Kernpunkt ist eine direkte Meldeschneise zu kanadischen Strafverfolgungsbehörden, wenn die Systeme ein Risiko für reale Gewalt identifizieren. Zudem räumte das Unternehmen ein, der Täter habe trotz einer Kontosperre im Juni 2025 ein Zweitkonto erstellen können. Die Erkennungssysteme für solche Umgehungen sollen nun verstärkt werden.

Anzeige

Der Fall OpenAI verdeutlicht, wie schnell technologische Risiken zu neuen gesetzlichen Anforderungen für Unternehmen führen. Was Geschäftsführer jetzt über Cyber-Security und die neuen KI-Gesetze wissen müssen, erfahren Sie in diesem Experten-Report. Gratis-Report zur Cyber Security 2024 herunterladen

Ein tragischer Fall als Weckruf

Auslöser der Reformen sind die Ereignisse vom 10. Februar in Tumbler Ridge, British Columbia. Ein 18-Jähriger tötete acht Menschen, bevor er sich das Leben nahm. Später wurde bekannt, dass OpenAI das Konto des Täters bereits Monate zuvor gesperrt hatte – wegen Verstoßes gegen Richtlinien zu Gewaltinhalten.

Intern diskutierten Mitarbeiter eine Meldung an die Behörden. Doch das Unternehmen entschied damals, die Aktivitäten erreichten nicht die Schwelle einer „glaubwürdigen und unmittelbaren“ Bedrohung. Diese Einschätzung löste in Ottawa Empörung aus. Minister Solomon zeigte sich nach einem Treffen mit OpenAIs Sicherheitsteam enttäuscht über das Fehlen neuer Schutzmaßnahmen. Der deutliche Druck der Regierung, die auch mit Gesetzen drohte, zwang den KI-Pionier nun zum Handeln.

Balanceakt zwischen Privatsphäre und Schutzpflicht

Der Fall wirft grundsätzliche Fragen auf: Welche Verantwortung tragen KI-Unternehmen für die Sicherheit ihrer Nutzer und der Öffentlichkeit? Experten sehen eine Parallele zu sozialen Medien, die seit Jahren mit diesem Dilemma kämpfen. Der Unterschied: KI-Chatbots werden oft als vertrauliche Gesprächspartner genutzt. Die Frage, wann ein Eingreifen geboten ist, wird dadurch noch dringlicher.

Kanada erwägt nun regulatorische Schritte. Premier David Eby von British Columbia fordert einen nationalen Meldestandard. Sein Argument: KI-Firmen, die Behörden nicht über geplante Gewalttaten informieren, sollten in Kanada nicht operieren dürfen. Ein Treffen mit OpenAI-Chef Sam Altman steht bereits an.

Ein Präzedenzfall für die Branche

Die kommenden Wochen werden richtungsweisend sein. Die kanadische Regierung prüft OpenAIs Vorschläge parallel zur Entwicklung eigener Maßnahmen gegen Online-Gefahren. Das Ergebnis könnte einen neuen Sorgfaltsmaßstab für die gesamte KI-Branche setzen – nicht nur in Nordamerika.

Anzeige

Während weltweit über neue Standards diskutiert wird, setzt die EU-KI-Verordnung bereits verbindliche Pflichten für den Einsatz von KI-Systemen. Dieser kompakte Leitfaden erklärt Ihnen verständlich die Risikoklassen und Dokumentationsanforderungen für Ihr Unternehmen. Kostenlosen Leitfaden zur KI-Verordnung sichern

OpenAI betont seine Kooperationsbereitschaft mit den Ermittlern und der Regierung. Die weltweite Tech-Industrie wird genau beobachten, ob die neuen Protokolle ausreichen, um ähnliche Tragödien künftig zu verhindern. Die Gretchenfrage bleibt: Wo verläuft die ethische Grenze zwischen Datenschutz und der Pflicht zur Gefahrenabwehr? Kanada sucht jetzt nach einer Antwort.