OpenAI entlässt Prüfer: Unerlaubte KI-Tools bei ChatGPT-Training
Veröffentlicht am: 22.09.2026 um 22:33 Uhr | Redaktion boerse-global.de
Das US-amerikanische Technologieunternehmen OpenAI hat mehrere externe Prüfer entlassen oder von Trainingsprojekten abgezogen, weil diese unerlaubt eigene KI-Werkzeuge zur Beurteilung von Sprachmodellen eingesetzt haben.
Wie das Onlinemagazin 404 Media am 22. September 2026 berichtete, richtete sich die Maßnahme gegen Dienstleister, die menschliche Bewertungen für die Trainingsdaten von ChatGPT liefern sollten, stattdessen jedoch automatisierte Hilfsmittel nutzten.
Ein betroffener Mitarbeiter legte ein Kündigungsschreiben vor, in dem Zweifel an der Authentizität der eingereichten Arbeit als Kündigungsgrund angegeben wurden. Dem Bericht zufolge gilt der Einsatz externer Sprachmodelle intern als direkter Grund für einen sofortigen Ausschluss. Zahlreiche Arbeitskräfte seien bereits bei Verstößen erfasst worden.
Strenge Richtlinien und Prüfkriterien
Interne Dokumente untersagen den Hilfskräften ausdrücklich die Verwendung jeglicher künstlicher Intelligenz bei der Erstellung von Rückmeldungen und Kommentaren. Zu den verbotenen Anwendungen gehören auch Korrekturprogramme wie Grammarly sowie KI-gestützte Übersetzungsprogramme.
Zur Überprüfung sollen vorgesetzte Prüfer jedoch keine Erkennungstools wie GPTZero einsetzen, sondern auf typische Muster achten: auffällig rasche Bearbeitungszeiten, repetitive Formulierungen oder eine ungewöhnliche Häufung von Gedankenstrichen.
Zwei der entlassenen Auftragnehmer waren über die Plattform Mercor tätig. Mercor erklärte hierzu, dass bestehende Verträge den Einsatz von Large Language Models ausdrücklich verböten und ein entsprechender Nachweis zur unmittelbaren Entfernung aus dem Projekt führe.
Während Technologieunternehmen wie OpenAI bereits strikte Regeln für den Umgang mit künstlicher Intelligenz anwenden, müssen viele hiesige Betriebe ihre internen Richtlinien erst noch definieren. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Kontext neuer KI-Gesetze jetzt kennen müssen. Kostenlosen Report zu KI-Risiken und Gesetzen herunterladen
Die Rekrutierung für das Projekt läuft laut einem Bericht von Gadget Review über die Agentur Crossing Hurdles, während die Abrechnung über Mercor organisiert wird. OpenAI lehnte eine Stellungnahme zu den Vorfällen ab.
Datenprüfung im Projekt Lily
Die betroffenen Vorhaben haben beträchtliche Dimensionen: Aus internen Dokumenten geht hervor, dass an den jeweiligen Projekten mehr als 10.000 Auftragnehmer beteiligt sind.
Im sogenannten Projekt Lily sichten die externen Fachkräfte echte Konversationen aus ChatGPT, fassen die Absichten der Nutzer zusammen und bewerten die Modellantworten auf einer Skala von 1 bis 7 Punkten. Ziel dieser Evaluierungen ist es unter anderem, übermäßige Schmeicheleien der KI sowie eine Vermenschlichung der Systemausgaben einzudämmen.
Der Einsatz von KI-Systemen in der Arbeitswelt erfordert nicht nur technische Expertise, sondern vor allem die Einhaltung neuer gesetzlicher Rahmenbedingungen wie dem EU AI Act. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen für Unternehmen. Kostenloses E-Book zum EU AI Act sichern
Einzelne nordamerikanische Prüfer erhalten für diese Tätigkeit einen Stundenlohn von über 50 US-Dollar. Berichten zufolge kam es neben der unerlaubten Tool-Nutzung vereinzelt auch zu vorsätzlicher Sabotage: Mindestens ein Mitarbeiter wählte nach eigenen Angaben teils gezielt minderwertige Modellantworten aus. Ein messbarer Schaden an den finalen Modellen von OpenAI ist bislang jedoch nicht belegt.
Hintergrund zum Nutzertraining
Die Trainingsdaten stammen direkt aus dem regulären Betrieb der Chat-Plattform. Bei Konten der Kategorien Free, Plus und Pro ist die Option zur Modellverbesserung standardmäßig aktiviert, lässt sich von Nutzern über die Datenschutzeinstellungen jedoch deaktivieren.
Auch ein temporärer Chat-Modus verhindert die Weiterverwendung der Eingaben für Trainingszwecke. Nach Angaben in den FAQ von OpenAI haben autorisierte Mitarbeiter und Dienstleister seit mindestens 2023 Einblick in Nutzerkonversationen.
Ähnliche Verfahren nutzen auch andere Branchenakteure: Anthropic lässt Konversationen mit dem System Claude bei entsprechenden Einstellungen von Menschen überprüfen, anonymisiert diese Daten jedoch vorab. Auch Google gestattet menschlichen Prüfern unter bestimmten Bedingungen den Zugriff auf Gemini-Chatverläufe.
