OpenAI verstärkt ChatGPT mit neuen Sicherheits-Features

OpenAI führt einen optionalen Hochsicherheitsmodus für Unternehmen und standardisierte Risikowarnungen ein, um KI-Systeme vor Prompt-Injection-Angriffen zu schützen.

OpenAI stattet ChatGPT mit einem neuen Sicherheitsmodus und Risiko-Warnungen aus, um Daten vor Angriffen zu schützen. Die Maßnahmen zielen auf die wachsende Bedrohung durch sogenannte Prompt-Injection-Angriffe, bei denen KI-Systeme manipuliert werden.

Lockdown Mode ist ein optionaler Hochsicherheitsmodus für Unternehmen und Organisationen mit sensiblen Daten. Er schränkt die Interaktion mit externen Systemen stark ein. So wird etwa der Webzugriff auf zwischengespeicherte Inhalte limitiert, um keine Live-Netzwerkanfragen zuzulassen. Das soll verhindern, dass die KI durch manipulierte Anfragen zu ungewollten Aktionen oder zum Ausspähen von Daten verleitet wird. Verfügbar ist der Modus zunächst für Geschäftskunden wie ChatGPT Enterprise, Edu und für den Gesundheitssektor. Eine Freigabe für Privatnutzer ist für die kommenden Monate geplant.

Anzeige

Unternehmen, die sensible Daten mit generativer KI verarbeiten, stehen jetzt vor neuen Sicherheits- und Compliance‑Aufgaben. Ein kostenloser Cyber‑Security‑Leitfaden erklärt aktuelle Bedrohungen (inkl. KI‑bezogener Angriffsvektoren) und zeigt praktische Schutzmaßnahmen, die IT‑Teams sofort umsetzen können. Jetzt kostenlosen Cyber‑Security-Report herunterladen

Parallel führt OpenAI standardisierte „Elevated Risk“-Warnhinweise ein. Sie erscheinen, wenn Nutzer Funktionen aktivieren, die das Sicherheitsrisiko erhöhen – etwa den Zugriff auf das Internet oder Drittanbieter-Apps. Die Labels sollen Transparenz schaffen und Nutzer zu informierten Entscheidungen zwischen Funktionalität und Sicherheit befähigen.

Hintergrund: KI-Sicherheit unter regulatorischem Druck

Die neuen Features kommen zu einem kritischen Zeitpunkt. Mit der zunehmenden Integration von KI in Geschäftsprozesse wachsen die Risiken für Unternehmensdaten. Gleichzeitig verschärft sich die regulatorische Aufsicht, insbesondere durch Gesetze wie den EU AI Act. Während ChatGPT als allgemeines System nicht automatisch als Hochrisiko-KI gilt, kann der Einsatz in sensiblen Bereichen wie Personalwesen oder Gesundheitswesen strengere Auflagen nach sich ziehen.

OpenAI reagiert mit den Ankündigungen auf diese Entwicklung. Für Unternehmen, die etwa mit Finanzprognosen oder proprietärem Quellcode arbeiten, bieten die Tools dringend benötigte, robustere Kontrollen. Die schrittweise Einführung – erst für Unternehmen, dann für Verbraucher – zeigt, wo der dringendste Handlungsbedarf gesehen wird.

Branche setzt neue Maßstäbe

Die Einführung von Lockdown Mode und Risiko-Labels markiert einen Reifeprozess im KI-Sicherheitsbereich. OpenAI setzt damit einen neuen Standard für generative KI-Plattformen. Branchenbeobachter werden nun verfolgen, ob Wettbewerber mit ähnlich gehärteten Sicherheitsoptionen nachziehen.

Die Debatte über die Verantwortungsteilung für KI-Sicherheit – zwischen Plattformanbieter und Nutzer – wird durch diese Entwicklung neu befeuert. Klar ist: Robuste, transparente und vom Nutzer konfigurierbare Sicherheitskontrollen werden zu einem entscheidenden Wettbewerbsfaktor im KI-Markt.

@ boerse-global.de