OpenAI verschärft Sicherheitsregeln nach Druck aus Kanada

OpenAI reagiert auf Kritik nach einem Amoklauf mit strengeren Meldeprotokollen an Behörden. Die kanadische Regierung setzte den KI-Konzern unter Druck und droht mit gesetzlichen Vorgaben.

OpenAI reagiert auf kanadischen Regierungsdruck mit strengeren Sicherheitsprotokollen, nachdem ein gesperrter ChatGPT-Account vor einem Amoklauf nicht gemeldet wurde.

Die KI-Firma kündigte am Donnerstag eine Reihe wesentlicher Verbesserungen ihrer Sicherheitsvorkehrungen an. Der Schritt folgt Enthüllungen, dass das Unternehmen den Account des späteren Amokläufers von Tumbler Ridge bereits Monate vor der Tat gesperrt, aber nicht die Behörden informiert hatte. Die neuen Zusagen sollen kritische Lücken in der Bedrohungserkennung schließen.

Anzeige

Der Fall OpenAI verdeutlicht, wie schnell KI-Anwendungen in den Fokus strenger Regulierungen und neuer Gesetze rücken. Was Geschäftsführer jetzt über Cyber Security und die aktuelle Rechtslage wissen müssen, erklärt dieser Experten-Report. Cyber Security 2024: Jetzt Experten-Bericht kostenlos lesen

Eine angekündigte Tragödie?

Auslöser für die Überarbeitung der Richtlinien war der Amoklauf vom 10. Februar 2026 in Tumbler Ridge, British Columbia. Der 18-jährige Jesse Van Rootselaar tötete acht Menschen, darunter Schüler einer örtlichen Schule, bevor er sich selbst das Leben nahm. Medienberichte enthüllten später, dass OpenAIs Systeme den Account des Täters bereits im Juni 2025 identifiziert hatten.

Die KI hatte Szenarien mit Schusswaffengewalt generiert. Das verstieß gegen die Nutzungsbedingungen, weshalb der Account gesperrt wurde. Doch das Unternehmen sah damals keine „glaubwürdige oder unmittelbare“ Bedrohung, die eine Meldung an die Behörden rechtfertigte. Diese Entscheidung und das Verschweigen der Informationen bei einem geplanten Treffen am Tag nach der Tat lösten scharfe Kritik aus.

Ultimatum aus Ottawa

Die kanadische Regierung reagierte umgehend. KI-Minister Evan Solomon zeigte sich „zutiefst beunruhigt“ und bestellte das Sicherheitsteam von OpenAI am 25. Februar nach Ottawa ein. Die Minister zeigten sich enttäuscht, dass das Unternehmen keine konkreten Vorschläge zur Änderung mitbrachte.

Justizminister Sean Fraser stellte ein klares Ultimatum: OpenAI müsse schnell Änderungen umsetzen. Andernfalls würde die Regierung sie per Gesetz vorschreiben. Der Druck auf den Tech-Riesen, Verantwortung zu zeigen, war enorm.

Neue Sicherheitszusagen unter Druck

Unter dieser Drohung legte OpenAI am 26. Februar einen neuen Aktionsplan vor. Ann O'Leary, Vizepräsidentin für globale Politik, skizzierte mehrere Kernzusagen.

Das Unternehmen will flexiblere Kriterien für Meldungen an Strafverfolgungsbehörden anwenden. Laut O'Leary würde der im Juni 2025 gesperrte Account unter dem neuen Protokoll heute gemeldet werden. Zudem richtet OpenAI direkte Ansprechpartner für kanadische Behörden ein.

Weitere Zusagen: Systeme zur Weiterleitung hilfesuchender Nutzer an lokale Unterstützungsdienste und verbesserte Erkennung von Umgehungsversuchen. Die Maßnahmen werden als „erster Schritt“ einer Partnerschaft mit der kanadischen Regierung bezeichnet.

Weitreichende Folgen für die KI-Regulierung

Die Tragödie wirft ein grelles Licht auf das ethische Dilemma von KI-Entwicklern. Sie zeigt die Grauzone, in der Unternehmen zwischen Nutzerdatenschutz und einer möglichen Meldepflicht für schädliche Inhalte balancieren. Kritiker argumentieren, dass lebenswichtige Entscheidungen nicht internen Firmenrichtlinien überlassen bleiben dürfen.

Die kanadische Regierung steht nun unter Druck, ihre eigenen Regulierungsbemühungen zu beschleunigen. Dazu gehört der vorgeschlagene Artificial Intelligence and Data Act, der im Parlament ins Stocken geraten war. Provinzpremier David Eby und andere fordern einen einheitlichen nationalen Standard, der KI-Firmen gesetzlich zur Meldung gewaltandrohender Personen verpflichtet.

Anzeige

Während Kanada über neue Gesetze debattiert, ist die EU-KI-Verordnung bereits in Kraft und definiert klare Pflichten für Anbieter und Nutzer von KI-Systemen. Dieser kostenlose Leitfaden hilft Unternehmen, die komplexen Anforderungen und Fristen ohne juristische Fachkenntnisse zu verstehen. Kostenloses E-Book zur KI-Verordnung herunterladen

Beginn einer stärker überwachten Ära?

OpenAIs Zusagen sind ein bedeutendes Entgegenkommen. Doch die kanadische Regierung kündigte an, die Umsetzung genau zu überwachen. Minister Solomon machte klar, dass Ottawa für den Fall unzureichender Maßnahmen gesetzgeberisch aktiv werden wird.

Der Fall könnte einen internationalen Präzedenzfall schaffen. Er wirft eine grundlegende Frage auf: Wo verläuft die Grenze zwischen einer privaten Plattform und einer Einrichtung mit öffentlicher Schutzpflicht? Die Zusagen dieser Woche markieren möglicherweise den Beginn einer stärker regulierten Ära für die gesamte KI-Branche.