OpenAI plant, ab 29. November Daybreak‑Blue/Trusted‑Access‑Sitzungen für das Modelltraining zu verwenden. Nutzer:innen bekommen ein zusätzliches Opt‑out, Sicherheitsprüfungen bleiben ausgenommen.
In Kürze
- Daybreak‑Blue-Sitzungen werden künftig für Training genutzt
- Zusätzliches Opt‑out für betroffene Teilnehmer:innen angekündigt
- Auffällige Beiträge dürfen weiterhin für Sicherheitsprüfungen verwendet werden
OpenAI will ab dem 29. November Daten aus sogenannten Daybreak‑Blue‑Sitzungen zur Verbesserung seiner KI‑Modelle nutzen. Das geht aus einer E‑Mail an Teilnehmer des Trusted‑Access‑Programms hervor und markiert eine Änderung in der bisherigen Datenpraxis des Unternehmens.
Bisher waren diese Daybreak‑Blue‑Sitzungen vom Training ausgenommen; das galt demnach unabhängig davon, ob Nutzer die Einstellung „das Modell für alle verbessern“ aktiviert oder deaktiviert hatten. Nach scharfer Kritik kündigte OpenAI in einer zweiten E‑Mail an, den Betroffenen eine zusätzliche Opt‑out‑Möglichkeit einzuräumen — also eine extra Möglichkeit, der Nutzung ihrer Daten zu widersprechen.
Gleichzeitig weist OpenAI darauf hin, dass Interaktionen, die bei einer Sicherheitsprüfung auffallen, weiterhin für Sicherheitszwecke genutzt werden dürfen. Das bedeutet: Selbst wenn du der Nutzung deiner Daten für Training widersprichst, könnten Beiträge, die bei internen Überprüfungen als sicherheitsrelevant eingestuft werden, intern analysiert werden.
Sicherheitsforscher reagierten verärgert und warnten vor möglichen Risiken dieser Praxis. Als Beispiel wird ein früherer Vorfall herangezogen: Zwei Mathematiker, Tristan Buckmaster und Levent Alpöge, hatten Entwürfe zu den Navier‑Stokes‑Gleichungen in OpenAIs Codex hochgeladen. Codex ist ein OpenAI‑Modell, das aus Text Programmcode generiert. Kurz darauf präsentierte OpenAI selbst einen Beweis; das Unternehmen bestritt, die eingegebenen Rechenschritte für das Training verwendet zu haben. Der bloße Verdacht zeigte jedoch, wie sensibel der Umgang mit hochspezifischen Nutzerdaten sein kann.
Die angekündigte Änderung tritt in wenigen Wochen in Kraft; OpenAI bietet laut E‑Mail nun eine zusätzliche Möglichkeit zum Widerspruch an, behält sich aber die Nutzung auffälliger Interaktionen für Sicherheitsprüfungen vor.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
