KI-Giganten unter Druck: OpenAI und Google verstärken Kampf gegen Missbrauch

Globale Datenschutzbehörden fordern strengere KI-Kontrollen, während OpenAI eine kritische Sicherheitslücke in ChatGPT schließt und Länder wie Indien schärfere Gesetze einführen.

Führende KI-Entwickler reagieren auf globale Warnungen von Datenschützern und schärfere Gesetze weltweit. Eine kritische Sicherheitslücke bei ChatGPT ist bereits geschlossen.

Die weltweite Regulierungsoffensive gegen missbräuchlich erzeugte KI-Bilder zwingt die Tech-Riesen zum Handeln. Nach einer gemeinsamen Mahnung von 61 internationalen Datenschutzbehörden und neuen, harten Gesetzen etwa in Indien intensivieren OpenAI und Google ihre Sicherheitsanstrengungen. Der Druck ist enorm: Eine kürzlich aufgedeckte Schwachstelle in ChatGPT, die die Erstellung intimer Bilder ermöglichte, zeigt das akute Risiko.

Anzeige

Während Tech-Giganten ihre Sicherheitsvorkehrungen verschärfen, müssen auch Unternehmen die rechtlichen Rahmenbedingungen der neuen EU-KI-Verordnung meistern. Dieser kostenlose Leitfaden erklärt verständlich, welche konkreten Pflichten und Risikoklassen für Ihren Betrieb gelten. EU-KI-Verordnung kompakt: Jetzt Gratis-E-Book sichern

Globale Datenschützer fordern Transparenz und Schutz

Ein Bündnis aus 61 Aufsichtsbehörden, darunter die britische ICO und die irische DPC, hat am 23. Februar klare Kante gezeigt. In einer gemeinsamen Erklärung fordern sie die Einhaltung bestehender Datenschutzgesetze durch KI-Entwickler. Besondere Sorge gilt Systemen, die realistische Bilder identifizierbarer Personen ohne deren Einwilligung generieren können – eine massive Gefahr besonders für Kinder. Die Forderungen: robuste Schutzvorkehrungen, mehr Transparenz für Nutzer und die Verhinderung nicht einvernehmlicher oder diffamierender Inhalte.

OpenAI schließt kritische ChatGPT-Lücke

Parallel zu dieser globalen Warnung hat OpenAI eine bedeutende Sicherheitslücke in seinem KI-Chatbot ChatGPT geschlossen. Cybersicherheitsforscher des Unternehmens Mindgard hatten die Schwachstelle Anfang Februar entdeckt. Mit einer als „Adversarial Prompting“ bekannten Technik umgingen sie die Sicherheitsfilter der KI und konnten so nicht einvernehmliche intime Bilder generieren. OpenAI bestätigte, das Problem bereits am 10. Februar behoben zu haben, noch bevor Mindgard es öffentlich machte. Das Unternehmen dankte den Forschern und betonte die Bedeutung solcher externer Sicherheitstests.

Das regulatorische Netz zieht sich weltweit zu

Die Mahnung der Behörden erfolgt in einer Phase verschärfter Gesetze. Die Staaten gehen von Ankündigungen zur Durchsetzung über:
* Indien hat seine IT-Regeln verschärft. Seit dem 20. Februar müssen Plattformen illegale Inhalte wie Deepfakes nicht mehr innerhalb von 36, sondern schon in drei Stunden löschen. Zudem muss KI-generiertes Material technische Metadaten zur Rückverfolgung enthalten.
* Großbritannien plant eine Gesetzesänderung, die Tech-Konzerne verpflichten soll, nicht einvernehmliche intime Bilder binnen 48 Stunden nach Meldung zu entfernen. Bei Verstößen drohen Geldstrafen von bis zu 10 Prozent des globalen Umsatzes.
* Spanien hat am 17. Februar eine nationale Untersuchung gegen große Digitalplattformen eingeleitet, die sich mit der Verbreitung KI-generierten Kindesmissbrauchsmaterials befasst.

Anzeige

Angesichts der rasanten Entwicklung von KI-Technologien und neuen Gesetzen stehen viele Geschäftsführer vor der Frage, wie sie ihre IT-Infrastruktur 2024 effektiv schützen können. Dieser Experten-Report enthüllt Strategien, wie mittelständische Unternehmen sich gegen Cyberkriminelle wappnen, ohne dass das Budget explodiert. Kostenlosen Cyber-Security-Report herunterladen

Paradigmenwechsel für KI-Sicherheit steht bevor

Der jüngste Skandal um den KI-Assistenten Grok von xAI, mit dem Millionen sexualisierter Bilder erstellt wurden, wirkt als Weckruf für die gesamte Branche. Die Vorfälle erhöhen den Erwartungsdruck an alle großen Entwickler, widerstandsfähigere Sicherheitsmaßnahmen vorzuweisen. Die Debatte verschiebt sich grundlegend: KI-Plattformen werden nicht mehr nur als neutrale Hosts gesehen, sondern als aktive Verantwortungsträger für die öffentliche Sicherung. Eine interne Diskussion bei OpenAI darüber, ob gewalttätige Äußerungen eines Nutzers an Strafverfolgungsbehörden gemeldet werden sollten, markiert eine neue Schwelle dieser Verantwortung.

Für die Branche bedeutet dies eine Ära der verbindlichen Rechenschaftspflicht. Proaktives Schließen von Sicherheitslücken wird zum Standard. Die von den globalen Datenschützern formulierten Prinzipien – Transparenz, Nutzereinwilligung und Sicherheit von Grund auf – werden wahrscheinlich die Basis künftiger Regulierungen bilden. Die Herausforderung für Google, OpenAI und andere wird sein, die Sicherheitsinnovation mit derselben Geschwindigkeit voranzutreiben wie die Fähigkeiten der KI selbst. Die Kosten für Nichtbeachtung der Regeln, finanziell wie reputationsbedingt, werden zu einem Haupttreiber der künftigen KI-Entwicklung.