OpenAI kauft Sicherheits-Startup Promptfoo für KI-Agenten

OpenAI integriert die Sicherheitstechnologie von Promptfoo in seine Unternehmensplattform Frontier, um autonome KI-Agenten verlässlicher und compliance-fähig zu machen.

OpenAI will mit der Übernahme des Sicherheitsspezialisten Promptfoo die Vertrauenswürdigkeit seiner Unternehmens-KI massiv erhöhen. Der Deal unterstreicht einen strategischen Branchenpivot: Von reinen Sprachmodellen hin zu sicheren, autonomen Agenten.

Die Ankündigung vom 9. März 2026 markiert einen Wendepunkt für die kommerzielle KI-Nutzung. Künftig sollen Sicherheitstests direkt in die Plattform OpenAI Frontier integriert werden – das Flaggschiff für autonome KI-Assistenten in Unternehmen. Finanzielle Details blieben offiziell unter Verschluss. Branchendaten deuten jedoch auf eine Bewertung des Startups von rund 86 Millionen Euro vor der Übernahme hin.

Anzeige

Angesichts der rasanten Entwicklung autonomer Agenten wird die Einhaltung gesetzlicher Leitplanken für Unternehmen zur Pflichtaufgabe. Dieser kostenlose Leitfaden zur EU-KI-Verordnung hilft Ihnen, Kennzeichnungspflichten und Risikoklassen für Ihre Systeme rechtssicher zu definieren. Kostenloses E-Book zur KI-Verordnung herunterladen

Eingebaute Sicherheit für KI-Mitarbeiter

Hinter dem Deal steckt eine klare Strategie: OpenAI will Sicherheit zur Grundausstattung machen, nicht zum nachträglichen Add-on. Promptfoos Technologie identifiziert systematisch Risiken wie Prompt-Injections, Tool-Missbrauch oder Datenlecks. Diese Fähigkeiten sollen nun nahtlos in Frontier einfließen.

„Die Expertise von Promptfoo wird entscheidend sein, um Unternehmen bei der Bereitstellung zuverlässiger KI-Anwendungen zu helfen“, sagte Srinivas Narayanan, CTO für B2B-Anwendungen bei OpenAI. Für Entwickler bedeutet das: Automatisierte Sicherheitstests, Compliance-Nachweise und überwachbare Protokolle des Agenten-Verhaltens werden direkt in der Plattform verfügbar.

Denn die Anforderungen haben sich radikal geändert. Moderne KI-Agenten führen nicht nur Gespräche, sondern steuern komplexe Workflows. Sie greifen auf firmeninterne Daten und Software zu. Ein Sicherheitsleck hätte damit ganz andere Dimensionen. Promptfoo bietet hierfür auch eine gesicherte Proxy-Lösung für Model Context Protocol (MCP)-Server – essentielle Bausteine für die Interaktion mit externen Systemen.

Vom Geheimtipp zum Branchenstandard

Die Karriere des 2024 gegründeten Startups verlief atemberaubend schnell. Gründer Ian Webster (ehemals Discord) und Michael D'Angelo trafen mit ihren Tools für KI-Evaluation den Nerv der Zeit. Noch vor der Übernahme hatte Promptfoo etwa 23 Millionen Euro Kapital eingesammelt, zuletzt 18,4 Millionen Euro in einer Series-A-Runde im Juli 2025.

Der Markterfolg gab ihnen recht: Über 25 Prozent der Fortune-500-Unternehmen nutzten bereits Promptfoos Suite. Die Open-Source-Tools des Unternehmens erfreuten sich riesiger Beliebtheit in der Entwicklergemeinde mit über 350.000 Nutzern. Beide Unternehmen betonten, dieses Open-Source-Projekt auch nach der Übernahme weiter zu pflegen.

Der große Wandel: Von der Leistung zur Verantwortung

Die Akquisition spiegelt einen fundamentalen Branchenwandel wider. Lag der Fokus 2024 noch auf roher Modellleistung und Benchmark-Rekorden, so dreht sich 2026 alles um Governance, Sicherheit und Rechenschaftspflicht.

Anzeige

Die zunehmende Vernetzung von KI-Systemen mit sensiblen Unternehmensdaten erfordert eine neue Ebene der IT-Sicherheit. Erfahren Sie in diesem Experten-Report, wie Sie Ihre Infrastruktur ohne explodierende Budgets gegen moderne Cyber-Bedrohungen absichern. Gratis Cyber-Security-Leitfaden sichern

„Die Absicherung von KI-Agenten wird immer komplexer, je mehr sie mit realen Systemen verbunden werden“, so Promptfoo-CEO Ian Webster. Der Beitritt zu OpenAI werde die Entwicklung stärkerer Sicherheitswerkzeuge weltweit beschleunigen.

Cybersicherheitsexperten sehen hier den Übergang vom manuellen „Prompt-Basteln“ zu einer professionellen, sicheren-by-Design-Engineering-Philosophie. Kontinuierliche Tests werden – wie in der traditionellen Softwareentwicklung – früh in den Entwicklungszyklus integriert.

Konsolidierung im KI-Sicherheitsmarkt

OpenAI verfolgt mit dieser Übernahme eine bewährte Strategie: Statt jede Funktion selbst zu bauen, schließt man Plattformlücken durch Zukäufe etablierter Startups. Erst im Januar 2026 hatte das Unternehmen das Healthtech-Startup Torch für etwa 100 Millionen Euro übernommen.

Der gesamte KI-Sicherheitsmarkt befindet sich in einer Konsolidierungsphase. Allein 2025 gab es laut SecurityWeek 426 Mergers & Acquisitions in der Cybersicherheitsbranche, viele davon im KI-Segment. Dieser Trend setzt auch Konkurrenten wie Google und Anthropic unter Druck, vergleichbare, überprüfbare Sicherheitsstandards vorzulegen.

OpenAI positioniert sich damit ähnlich wie große Cloud-Anbieter, die Kern-Sicherheitsfunktionen direkt in ihre Infrastrukturschicht einbauten, um die Enterprise-Adoption zu vereinfachen. Am Tag der Promptfoo-Ankündigung lancierte OpenAI zudem „Codex Security“ – einen Vulnerability-Scanner für Agenten-Code. Die Botschaft ist klar: Das Unternehmen will den Markt für sichere Unternehmens-KI dominieren.

Was bedeutet das für die Praxis?

Die Transaktion unterliegt noch den üblichen regulatorischen Genehmigungen. Die vollständige technische Integration in Frontier dürfte jedoch in den kommenden Quartalen schnell voranschreiten, urteilen Branchenbeobachter angesichts von OpenAIs agilen Release-Zyklen.

Spannend wird die Frage der Herstellerneutralität. Promptfoos Open-Source-Tools erlauben heute die Evaluation von Modellen verschiedener Anbieter. Wird diese Neutralität im Open-Source-Zweig erhalten bleiben? Für Unternehmen mit Multi-Model-Strategien ist das eine Schlüsselfrage.

Letztlich setzt dieser Deal einen neuen Standard. In einer Zeit sich verdichtender KI-Regulierung weltweit werden eingebaute Compliance, Datenleck-Prävention und automatisierte Sicherheitstests wohl bald nicht mehr Nice-to-have, sondern Grundvoraussetzung für den Betrieb autonomer KI-Systeme sein.