OpenAI übernimmt Promptfoo und integriert Sicherheits‑Tools direkt in Frontier.
In Kürze
- Automatische Tests gegen Prompt‑Injections, Jailbreaks und Datenlecks
- Mehr Kontrolle, Nachvollziehbarkeit und Compliance für Unternehmen
- Promptfoo‑Open‑Sourceprojekt bleibt weiter verfügbar
OpenAI übernimmt Promptfoo – Sicherheitschecks für KI wandern in Frontier
OpenAI hat das Start‑up Promptfoo übernommen. Promptfoo bietet Werkzeuge, mit denen Firmen Sicherheitslücken in KI‑Anwendungen frühzeitig finden und schließen können. Nach Abschluss der Übernahme soll die Technologie direkt in Frontier integriert werden, OpenAIs Plattform zum Erstellen und Betreiben von KI‑Assistenten für Unternehmen.
Was Frontier künftig prüft
Frontier soll automatische Sicherheitstests erhalten, die gezielt drei Problemklassen erkennen:
- Prompt Injections: manipulierte Eingaben, die eine KI zu falschem oder gefährlichem Verhalten verleiten können.
- Jailbreaks: Methoden, mit denen Schutzmechanismen einer KI ausgehebelt werden.
- Datenlecks: unbeabsichtigte Offenlegung sensibler Informationen.
Die Integration zielt darauf ab, Unternehmen mehr Kontrolle über ihre KI‑Systeme zu geben, Nachvollziehbarkeit zu verbessern und die Einhaltung regulatorischer Vorgaben zu unterstützen.
Open Source bleibt erhalten
Promptfoo betreibt außerdem ein vielgenutztes Open‑Source‑Projekt. OpenAI kündigte an, dieses Projekt weiterzuführen, sodass Entwicklerinnen und Entwickler weiterhin Zugriff auf die quelloffenen Tools haben sollen.
Finanzielles und Status der Übernahme
Die Übernahme ist noch nicht abgeschlossen, finanzielle Details wurden nicht veröffentlicht. Promptfoo hatte zuvor insgesamt 23 Millionen US‑Dollar eingesammelt und wurde im Sommer 2025 mit 86 Millionen US‑Dollar bewertet.
Quelle:
Quellen
- Quelle: OpenAI / Promptfoo
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
