OpenAI bietet neuen Lockdown Mode zum Schutz vor Prompt‑Injection‑Angriffen.
In Kürze
- Stoppt Live‑Web‑Browsing und das Laden von Web‑Bildern
- Deaktiviert Deep Research und Agenten‑Modus
- Reduziert Risiko, eliminiert aber nicht alle Gefahren
OpenAI führt mit dem „Lockdown Mode“ einen neuen Schutzmechanismus ein, der Nutzer:innen vor sogenannten Prompt‑Injection‑Angriffen abschirmen soll. Diese Angriffe verstecken bösartige Anweisungen in Webseiten oder anderen Inhalten, um das Verhalten von Sprachmodellen zu beeinflussen.
Was der Modus deaktiviert
- Live‑Web‑Browsing: Das Modell greift nicht mehr in Echtzeit auf Websites zu, sondern nur noch auf zwischengespeicherte (gecachete) Kopien.
- Web‑Bilder: Das Abrufen und Anzeigen von Bildern aus dem Web ist ausgestellt. Bilder können weiterhin vom Modell generiert werden.
- Deep Research und Agenten‑Modus: Funktionen für tiefere Recherchen sowie der Agenten‑Modus werden abgeschaltet.
Warum OpenAI das so konzipiert hat
Der Lockdown Mode soll die Wahrscheinlichkeit reduzieren, dass sensible Informationen ungewollt preisgegeben werden, wenn ein Modell auf manipulierte Inhalte stößt. Er richtet sich vor allem an Personen und Organisationen, die mit schützenswerten Daten arbeiten und deshalb einen strengeren Schutz gegen Datenabfluss durch Prompt‑Injection wünschen.
Einschränkungen des Schutzes
OpenAI betont, dass der Modus keine perfekte Garantie darstellt. Prompt‑Injections können weiterhin in gecachten Inhalten oder in hochgeladenen Dateien lauern und die Antworten beeinflussen. Lockdown Mode senkt also das Risiko, eliminiert es aber nicht vollständig.
Verfügbarkeit
Der Rollout läuft aktuell für selbstverwaltete ChatGPT Business‑Konten und für berechtigte persönliche Konten. OpenAI bezeichnet den Modus als gezielte Option für Anwender:innen mit erhöhtem Sicherheitsbedarf.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
