Südafrika zieht KI-Politik nach Fälschungsskandal zurück

Südafrikas Regierung stoppt ihre KI-Politik, nachdem erfundene, von KI generierte Quellen entdeckt wurden. Minister leitet Untersuchung ein.

**

Südafrikas Regierung hat ihr Flaggschiff-Dokument zur Künstlichen Intelligenz zurückgezogen. Grund: Die Grundlage des Papiers besteht teilweise aus erfundenen wissenschaftlichen Quellen. Kommunikationsminister Solly Malatsi bestätigte am Sonntag, dass mehrere zentrale Referenzen offenbar von KI-Tools generiert wurden – und nicht von menschlichen Forschern stammen.

Der Skandal wirft ein Schlaglicht auf die bittere Ironie des Falls: Ausgerechnet ein Dokument, das den ethischen und verantwortungsvollen Umgang mit KI regeln soll, basiert auf ungeprüften KI-Outputs. Die 86-seitige „Nationale KI-Politik“ war erst vor wenigen Wochen zur öffentlichen Konsultation veröffentlicht worden – als Meilenstein für Südafrikas Technologie-Regulierung.

Anzeige

Während Regierungen weltweit mit der rechtssicheren Regulierung kämpfen, müssen Unternehmen bereits jetzt konkrete Compliance-Anforderungen erfüllen. Wer die neuen Regeln und Fristen des AI Acts ignoriert, riskiert empfindliche Strafen. Compliance-Leitfaden zum EU AI Act kostenlos herunterladen

Erfundene Studien im Detail enttarnt

Die Affäre nahm ihren Lauf, als Technikexperten und Journalisten das Literaturverzeichnis des Entwurfs unter die Lupe nahmen. Ein Bericht des Nachrichtenportals News24 enthüllte am Wochenende: Von den 67 Referenzen existieren mindestens sechs überhaupt nicht. Die erfundenen Quellen täuschten durch professionelles Format – doch in keiner Datenbank oder Bibliothek ließen sie sich nachweisen.

Ein besonders dreistes Beispiel: Der angebliche Aufsatz „Challenges and Opportunities in Regulating AI: Perspectives from South Africa“ von „Babatunde, O., & Mnguni, P. (2023)“ sollte in einem „AI Policy Journal“ erschienen sein. Doch die Autoren haben nie zu diesem Thema publiziert, und die angegebene Zeitschrift existiert nicht. Auch renommierte Fachjournale wie das „South African Journal of Philosophy“ bestätigten, dass die ihnen zugeschriebenen Arbeiten nie veröffentlicht wurden.

Bereits am 24. April hatte die Bürgerrechtsgruppe Article One Alarm geschlagen. In einem Brief an das Ministerium wies sie darauf hin, dass die Fehler eindeutig auf den Einsatz eines Large Language Models (LLM) hindeuten. Experten warnten: Die sogenannten „Halluzinationen“ – ein bekanntes Phänomen, bei dem KI-Modelle plausibel klingende, aber falsche Informationen generieren – hätten die gesamte Beweisbasis des Papiers unbrauchbar gemacht.

Minister verspricht Konsequenzen

Nach den Enthüllungen leitete Minister Malatsi eine interne Untersuchung ein, die die Vorwürfe bestätigte. In einer Stellungnahme am Sonntagabend bezeichnete er das Versagen als mehr als einen bloßen technischen Fehler: Die Aufnahme erfundener Daten habe die Glaubwürdigkeit des gesamten Entwurfs untergraben. „Die Südafrikaner verdienen einen höheren Standard von der Institution, die mit der Führung der digitalen Politik des Landes betraut ist“, so der Minister.

Die plausibelste Erklärung: KI-generierte Zitate wurden ohne menschliche Überprüfung in den Entwurf eingefügt. Malatsi betonte die Ironie der Situation – genau die Wachsamkeit, die das Dokument fordern sollte, fehlte bei seiner Erstellung.

Der Minister hat nun den kommissarischen Generaldirektor des Ministeriums, Omega Shelembe, mit einer umfassenden Untersuchung des Entstehungsprozesses beauftragt. Malatsi verspricht „Konsequenzmanagement“ für die Verantwortlichen. Auch die ANC-Abgeordnete Khusela Diko, Vorsitzende des parlamentischen Kommunikationsausschusses, forderte, das Dokument komplett zu verwerfen und ohne KI-Tools wie ChatGPT neu zu erstellen.

Rückschlag für Südafrikas Digitalstrategie

Der Rückzug ist ein herber Schlag für den Zeitplan der KI-Regulierung. Der Entwurf war am 25. März vom Kabinett verabschiedet und am 10. April offiziell veröffentlicht worden – als Höhepunkt eines mehrjährigen Prozesses. Dieser begann im August 2024 mit dem Nationalen KI-Politikrahmen und sollte von allgemeinen Grundsätzen zu konkreten Anwendungen führen.

Das zurückgezogene Papier sah die Gründung neuer Institutionen vor: eine Nationale KI-Kommission, ein KI-Ethikrat und eine KI-Regulierungsbehörde. Geplant waren auch Steuererleichterungen und Zuschüsse für private Unternehmen. Die öffentliche Konsultation sollte bis zum 10. Juni laufen – dieser Zeitraum ist nun auf unbestimmte Zeit ausgesetzt.

Kritiker hatten bereits vor dem Zitaten-Skandal Bedenken geäußert. Der Technologieinvestor Stafford Masie warnte in einem offenen Brief, der vorgeschlagene Rahmen riskiere, Südafrikas Teilnahme an der globalen KI-Wirtschaft zu ersticken, indem er Governance über Infrastruktur und Innovation stelle. Die Entdeckung der erfundenen Quellen hat die Skepsis gegenüber der Kompetenz des Ministeriums weiter verstärkt.

Lehrstunde für Regierungen weltweit

Der Vorfall ist zu einem warnenden Beispiel für Regierungen geworden, die generative KI in Verwaltungsprozesse integrieren. Das Ministerium für Kommunikation und digitale Technologien (DCDT) hatte die Politik als Mittel dargestellt, historische Ungleichheiten zu überwinden und sicherzustellen, dass KI-Innovation dem Wohl aller Bürger dient. Stattdessen führte die Abhängigkeit von ungeprüfter Automatisierung zu einem peinlichen Rückschlag.

Anzeige

Der Fall in Südafrika zeigt, wie fatal ChatGPT-Fehler sein können, wenn die KI falsch angewendet wird. Dieser kostenlose Ratgeber erklärt Ihnen verständlich, wie Sie KI-Tools für Ihre Alltagsaufgaben sicher nutzen und dabei Zeit sparen – ganz ohne Vorkenntnisse. Kostenlosen ChatGPT-Report für Einsteiger sichern

Rechtsexperten von Kanzleien wie Baker McKenzie und Adams & Adams hatten zuvor angemerkt, der Entwurf sei eher ein „Ausgangspunkt“ als ein endgültiges Regelwerk. Doch die Aufnahme „halluzinierter“ Daten zeigt, dass dieser Ausgangspunkt auf wackligem Fundament stand. Der kommissarische Generaldirektor Shelembe hatte im Vorwort des Papiers noch Bekenntnisse zu Fairness und Datensouveränität formuliert – die fehlende Überprüfung der eigenen Quellen wirft nun Fragen zur Sorgfalt der internen Forschung auf.

Ausblick: Neustart von null

Einen konkreten Termin für einen überarbeiteten Entwurf nannte der Minister nicht. Er kündigte jedoch an, das Ministerium werde die Angelegenheit mit der gebotenen Ernsthaftigkeit behandeln. Der Prozess werde voraussichtlich in die Entwurfsphase zurückkehren, in der menschliche Forscher die Beweisbasis von Grund auf neu aufbauen müssen.

Diese Verzögerung könnte Südafrikas Ziel gefährden, die KI-Politik bis zum Haushaltsjahr 2027/28 umzusetzen. Für die Technologiebranche ist der Rückzug eine deutliche Erinnerung an die „Halluzinations“-Risiken aktueller KI-Modelle. Branchenvertreter fordern, die Regierung müsse nun das Vertrauen der Öffentlichkeit zurückgewinnen – durch den Nachweis, dass künftige Politiken das Ergebnis rigoroser menschlicher Denkarbeit sind und nicht ungeprüfter automatisierter Outputs. Der Rückzug des Dokuments, so peinlich er auch ist, gilt vielen als notwendiger Schritt, um zu verhindern, dass Südafrikas rechtlicher Rahmen für KI auf Fiktion basiert.