Drei Ex‑Sicherheitsforscher bei OpenAI entlassen; sie bestreiten Leaks.
In Kürze
- Untersuchung zu sensiblen Daten
- Streit um CoT‑Spuren und Transparenz
- Externe Prüfer melden Sicherheitsmängel
Drei ehemalige Sicherheitsforscher von OpenAI entlassen — Streit um Transparenz und Leak‑Ermittlungen
Drei frühere Sicherheitsforscher von OpenAI — Tomek Korbak, Mikita Balesni und Jasmine Wang — sind nach einer internen Untersuchung gekündigt worden. Die drei bestreiten, vertrauliche Informationen an externe Personen weitergegeben zu haben, und vermuten, dass ihre Kritik am Umgang mit der Transparenz von Modellen zur Entlassung beigetragen hat.
Was genau vorgeworfen wird
OpenAI sagt, die Kündigungen basierten auf Verstößen gegen interne Regeln zum Umgang mit sensiblen Informationen. Im Rahmen der Untersuchung mussten die Betroffenen Privattelefone entsperren; Ermittler fanden Signal‑Chats, in denen Nachrichten verschwanden. Zugleich betont OpenAI, dass die Existenz dieser Signal‑Chats nicht der alleinige oder ausschlaggebende Grund für die Kündigungen gewesen sei. Die drei Entlassenen hingegen geben an, nie eine schriftliche Aufstellung der konkreten Vorwürfe erhalten zu haben.
Hintergrund: Transparenz der Modelle
Korbak, Balesni und Wang hatten sich öffentlich — unter anderem in einem 2025 erschienenen Paper — für Modelle ausgesprochen, die überprüfbare Zwischenschritte ihres „Denkens“ offenlegen. Solche sogenannten Chain‑of‑Thought‑Spuren sind interne Notizen eines Modells, die nachvollziehbar machen sollen, wie es zu einer Lösung kommt; sie sind besonders bei Sicherheitsprüfungen nützlich. Die drei widersetzten sich Vorschlägen innerhalb von OpenAI, diese Spuren zu reduzieren, weil das die Nachvollziehbarkeit und damit die Überprüfbarkeit erschweren würde.
Wie die Untersuchung entstand
Auslöser für das größere Misstrauen war ein Bericht der The Information vom 1. September über OpenAIs neues Modell „Astra“: demnach leistungsfähig, aber weniger offen in seinen Denkprozessen. Kurz darauf startete OpenAI eine Untersuchung zu möglichen Leaks. Interne Ermittler vermuteten, dass Details zur internen Modell‑Architektur an einen externen Forscher (Ryan Greenblatt) gelangt sein könnten; Greenblatt bestreitet, Informationen an Journalisten weitergegeben zu haben.
Einzelne Vorwürfe gegen Jasmine Wang
Gegen Wang wurde unter anderem vorgebracht, wiederholt auf das E‑Mail‑Postfach einer Führungskraft zugegriffen zu haben. Wang sagt, sie habe zuvor darum gebeten, den Zugriff zu entziehen, und einen versehentlich geöffneten sensiblen E‑Mail‑Inhalt sofort gemeldet. OpenAI kommentierte, dass der bloße Zugriff nicht das alleinige Problem gewesen sei.
Reaktionen der Entlassenen und interne Folgen
Die drei warnen vor einem Einschüchterungseffekt: Kolleginnen und Kollegen hätten inzwischen Angst, mit externen Sicherheitsforschern zu sprechen oder interne Sicherheitsbedenken offen anzusprechen. In einem Brief an den OpenAI‑Vorstand forderten Korbak, Balesni und Wang eine stärkere formelle Zusammenarbeit mit unabhängigen Prüfstellen.
Externe Prüfungen und OpenAIs Maßnahmen
Teams von METR und Redwood Research führten eine Vor‑Ort‑Prüfung durch. OpenAI schwärzte danach fast die Hälfte des Abschlussberichts; die externen Prüfer dokumentierten dennoch zahlreiche Sicherheitsmängel in der Infrastruktur. Parallel veröffentlichte OpenAI einen eigenen Bericht zur neuen Sicherheitsarchitektur — etwa Systeme ohne Internetzugang — und erklärte, die identifizierten Fehler seien behoben worden; das Training sei Anfang Oktober wieder aufgenommen worden. OpenAI kündigte außerdem an, bald mehrere Kooperationen mit externen Sicherheitsorganisationen zu starten.
Warum das für dich wichtig sein kann
Der Fall berührt grundlegende Fragen, wie offen KI‑Firmen mit unabhängigen Prüfungen umgehen und wie kontrollierbar große KI‑Systeme bleiben. Wenn Beschäftigte aus Angst vor Konsequenzen nicht mehr mit externen Expertinnen und Experten sprechen, könnte das die Sichtbarkeit und Behebung von Sicherheitsproblemen verringern.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
