OpenAI: Jakub Pachocki schlägt gemeinsame Obergrenzen für KI-Entwicklung vor
Veröffentlicht am: 22.11.2026 um 22:56 Uhr | Redaktion boerse-global.deOpenAI-Chefwissenschaftler Jakub Pachocki hat vorgeschlagen, dass führende Entwickler künstlicher Intelligenz branchenweite Standards und gemeinsame Obergrenzen für Entwicklungsschwellenwerte vereinbaren. Wie aus einem Essay des Forschers hervorgeht, sollten bestimmte Leistungsgrenzen nicht überschritten werden, bevor konkrete Meilensteine bei der Überwachung der Systeme erreicht sind.
Als gemeinsame Kennzahl für die Modellentwicklung und künftige Sicherheitsstandards schlug Pachocki die sogenannte Perplexity beziehungsweise den Cross-Entropy-Loss vor.
In diesem Zusammenhang veröffentlichte OpenAI erstmals interne Log-Perplexity-Werte, die auf einem festen unternehmenseigenen Code-Datensatz ermittelt wurden. Demnach erreichte GPT-3.5 einen Wert von rund 0.99, was flüssige Konversationen ermöglichte, während GPT-4 bei etwa 0.91 lag und Chain-of-Thought-Reasoning erlaubte.
Unterhalb eines Werts von 0.8 traten nach Angaben des Chefwissenschaftlers transformative Fähigkeiten in den Bereichen Cybersicherheit und Mathematik auf. Ein Modell bei rund 0.76 habe bereits langjährige offene mathematische Probleme gelöst.
Warnung vor einer Eigendynamik in der Forschung
Für das Fenster zwischen 0.68 und 0.70 Log-Perplexity erwartet Pachocki weitere transformative Fähigkeiten. Er schlug vor, diese Schwelle nicht zu durchbrechen, bis entsprechende Kontroll- und Monitoring-Techniken nachgezogen haben – etwa Weiterentwicklungen von Chain-of-Thought-Monitoren.
Die rasante Entwicklung leistungsfähiger KI-Systeme führt bereits heute zu neuen regulatorischen Anforderungen für Unternehmen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über Pflichten, Fristen und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Pachocki warnte vor einem möglichen Lawineneffekt in der Pretraining-Forschung bereits im Jahr 2027. In einem solchen Szenario könnte eine künstliche Intelligenz ihre eigene Weiterentwicklung schneller beschleunigen, als menschliche Forscher bei der Entwicklung von Kontrollmechanismen Schritt halten können.
Bei OpenAI habe sich die Fortschrittskurve im Jahr 2026 stark beschleunigt, was überwiegend auf Forschungsfortschritte und Rechenkapazitäten sowie zu einem kleineren Teil auf Automatisierung zurückgeführt wird.
Um Risiken zu minimieren, regte Pachocki an, dass sogenannte Frontier-Labs vergleichbare Messungen aus dem Pretraining veröffentlichen, einheitliche Evaluierungen sowie Sicherheitstests vereinbaren und vor dem ersten praktischen Einsatz umfassende Sicherheitsprüfungen im Rahmen von Red-Teaming durchführen.
Wer sich mit dem verantwortungsvollen Einsatz von Algorithmen befasst, muss neben technischen auch rechtliche Leitplanken kennen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen nun konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Unterstützung durch das Management und methodische Hürden
OpenAI-Chef Sam Altman stellte sich hinter den Vorstoß des Chefwissenschaftlers. Altman bezeichnete Pachockis Beitrag als die wichtigste Veröffentlichung des Unternehmens seit einiger Zeit und betonte, dass eine Einigung auf gemeinsame Obergrenzen der allgemeinen Sicherheit und Kontrolle diene.
Gleichzeitig räumte Pachocki methodische Grenzen seines Ansatzes ein. So seien die Messergebnisse zwischen verschiedenen Laboren aufgrund unterschiedlicher Trainingsdatensätze nur schwer vergleichbar.
Zudem bilde die Perplexity keine konkreten Aufgabenstellungen ab. Auch methodische Verbesserungen im Post-Training sowie bei Chain-of-Thought-Verfahren könnten die Fähigkeiten eines Modells steigern, ohne dass der eigentliche Loss-Wert sinkt.
Darüber hinaus sei die absolute theoretische Untergrenze der Metrik unbekannt. Einen konkreten Schwellenwert für ein erstes verbindliches Limit, potenzielle Kooperationspartner oder einen Zeitplan für die Umsetzung nannte Pachocki bislang nicht.
