ChatGPT: OpenAI startet Lockdown Mode gegen Datenabflüsse

OpenAI führt optionalen Lockdown Mode ein, der Datenabflüsse per Prompt-Injection unterbindet und Webzugriffe sperrt.

Der KI-Entwickler OpenAI führt eine optionale Sicherheitsfunktion ein, die Datenabflüsse und Manipulationen verhindern soll.

Der neue Lockdown Mode steht ab sofort allen ChatGPT-Nutzern zur Verfügung – vom kostenlosen Account bis zum Business-Tarif. Das Sicherheitsfeature, das am heutigen Samstag ausgerollt wird, soll verhindern, dass Angreifer durch sogenannte Prompt-Injection-Angriffe sensible Daten aus dem KI-System extrahieren.

Anzeige

Während neue Sicherheitsfeatures wie der Lockdown Mode technische Barrieren schaffen, regelt die EU-KI-Verordnung nun auch den rechtlichen Rahmen für den sicheren Einsatz von KI in Unternehmen. Dieser kostenlose Leitfaden hilft Ihnen, Risikoklassen und Dokumentationspflichten des EU AI Act sofort richtig einzuordnen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Was der Lockdown Mode blockiert

Im aktivierten Zustand schränkt die Funktion die Interaktionsmöglichkeiten der KI drastisch ein. Live-Webzugriffe werden deaktiviert, das System greift nur noch auf zwischengespeicherte Informationen zurück. Auch leistungsstarke Features wie Deep Research, Agent Mode und das Canvas-Netzwerk sind dann nicht mehr nutzbar.

Besonders wichtig für Unternehmen: Datei-Downloads werden unterbunden, um automatischen Datenabfluss zu verhindern. Manuelle Uploads und die Bildgenerierung bleiben dagegen weiterhin möglich.

Die Einstellung findet sich im Account-Menü unter „Advanced Security". Wer für eine einzelne Sitzung doch auf die gesperrten Funktionen zugreifen möchte, kann den Lockdown Mode pro Chat deaktivieren. Nicht kompatibel ist das Feature mit dem Developer Mode.

Mehr Kontrolle über aktive Sitzungen

Parallel zum Sicherheits-Update führt OpenAI ein Dashboard für das aktive Sitzungsmanagement ein. Nutzer sehen dort alle Geräte, die gerade mit ihrem Account verbunden sind, und können den Zugriff gezielt steuern. Die Funktion folgt auf eine Aktualisierung des Sicherheitsrahmens vom vergangenen Donnerstag.

Politischer Druck auf KI-Entwickler wächst

Die neuen Schutzmaßnahmen kommen nicht zufällig. Die Sicherheitsdebatte um KI-Modelle hat sich zuletzt verschärft. Erst am Donnerstag warnte ein ehemaliger Berater der US-Cybersicherheitsbehörde CISA vor dem US-Repräsentantenhaus: KI-Modelle könnten Schwachstellen schneller identifizieren, als Sicherheitsupdates sie schließen können. Er forderte einen „Secure-by-Design"-Ansatz statt nachträglicher Reparaturen.

Das britische KI-Sicherheitsinstitut in London bestätigte diese Einschätzung. In aktuellen Red-Teaming-Übungen blieben Modelle von OpenAI, Anthropic und Google anfällig für Abfragen, die sensible Informationen wie Hacking-Anleitungen oder Anweisungen zur Herstellung biologischer Waffen preisgaben.

Anzeige

Da KI-Modelle laut Experten neue Einfallstore für Cyberrisiken öffnen können, stehen Unternehmen vor der Herausforderung, ihre IT-Infrastruktur proaktiv abzusichern. Erfahren Sie in diesem Gratis-Report, welche rechtlichen Pflichten und Bedrohungen durch moderne Technologien jetzt auf Sie zukommen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?

Auch die Gesetzgebung nimmt Fahrt auf. Am Donnerstag legten US-Abgeordnete einen Diskussionsentwurf für den Great American Artificial Intelligence Act vor. Das Gesetz würde große KI-Entwickler mit mehr als 500 Millionen Dollar Umsatz verpflichten, Sicherheitsrahmen vorzulegen und sich von unabhängigen Prüfern zertifizieren zu lassen.

Milliardenschwere Verhandlungen mit dem Weißen Haus

Während OpenAI seine Sicherheitsprotokolle verschärft, laufen hinter den Kulissen hochkarätige Finanzgespräche. Seit Freitag verhandeln OpenAI-Führungskräfte mit dem Weißen Haus über eine mögliche staatliche Beteiligung an dem Unternehmen, das derzeit mit rund 850 Milliarden Dollar bewertet wird.