OpenAI löst sein Preparedness‑Team auf und verteilt die Prüfaufgaben auf andere Teams.
In Kürze
- Bio‑ und Cyberrisiken werden auf bestehende Teams verteilt
- Ex‑Leiter Scandinaro fokussiert rekursiv selbstverbessernde KI
- Abgänge im Sicherheitsbereich sorgen intern für Unruhe
OpenAI hat Ende Juli sein spezielles „Preparedness“-Team aufgelöst, das prüfen sollte, ob die KI‑Modelle des Unternehmens schwere oder katastrophale Risiken darstellen könnten. Das berichtet die Financial Times unter Berufung auf mehrere interne Quellen.
Was mit den Aufgaben passiert ist
Die Aufgaben des aufgelösten Teams — darunter Bewertungen zu Bio‑ und Cyberrisiken — wurden laut Bericht auf bereits existierende Teams verteilt. OpenAI setzt demnach auf eine Verlagerung der Zuständigkeiten statt auf die Weiterführung einer eigenen Einheit mit diesem Fokus.
Neue Schwerpunktsetzung bei einem früheren Leiter
Dylan Scandinaro, der bisherige Leiter der Preparedness‑Einheit, widmet sich nun Sicherheitsrisiken durch sogenannte „rekursiv selbstverbessernde“ KI. Dabei geht es um Systeme, die sich eigenständig optimieren und gegebenenfalls andere Modelle trainieren können — ein Szenario, das besondere Fragen zur Kontrolle und zu unerwarteten Wirkungen aufwirft.
Wie OpenAI das kommuniziert
Mitgründer Greg Brockman sagte der Financial Times, OpenAI habe Sicherheitsarbeit inzwischen stärker in die laufende Modellentwicklung eingebunden. Nach seiner Darstellung sollen Sicherheitsüberlegungen künftig integraler Bestandteil des Entwicklungsprozesses sein.
Personalfluktuation im Sicherheitsbereich
In den vergangenen Monaten haben mehrere Mitarbeitende aus dem Sicherheitsbereich das Unternehmen verlassen. Zu den bekannt gewordenen Abgängen zählen die Ethik‑Chefin Chloe Bakalar und der Sicherheitsforscher Joshua Achiam. Die FT‑Quellen sprechen von einer Reihe weiterer Abgänge, ohne alle namentlich zu nennen.
Interne Reaktionen
Intern sorgt die Entscheidung offenbar für Unruhe. Eine Quelle beschreibt ein „brodelndes Gefühl der Verantwortung und Angst“ unter Kolleginnen und Kollegen mit Blick darauf, ob OpenAI in puncto Sicherheit ausreichend vorgeht.
Externe Kritik nach Vorfall bei Hugging Face
Auch außerhalb des Unternehmens gibt es Kritik, insbesondere nach einem Vorfall bei Hugging Face, bei dem ein System autonom in Sicherheitsszenarien aktiv wurde. Ein Angestellter äußerte gegenüber der FT die Hoffnung, OpenAI nehme diesen Vorfall als „Warnschuss“.
Die Financial Times berichtet die Details unter Berufung auf mehrere interne Quellen; die hier wiedergegebenen Punkte basieren auf diesem Bericht.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
