OpenAI will nach ChatGPT-Kontakt Sicherheitsprotokolle verschärfen.
In Kürze
- Chats zeigten Warnsignale; Konto gesperrt
- OpenAI will Weitergabe-Regeln und Umgehungsschutz stärken
- Kanada fordert zügige Gesetzesinitiativen
Bei einem Amoklauf an einer Schule in Tumbler Ridge in der kanadischen Provinz British Columbia sind acht Menschen getötet worden. Der mutmaßliche Täter, Jesse Van Rootselaar, hatte nach Angaben der Behörden zuvor mit dem Chatbot ChatGPT interagiert. Diese Verbindungen haben jetzt eine offizielle Reaktion von OpenAI ausgelöst.
Was mit den ChatGPT-Interaktionen passierte
Mitarbeitende von OpenAI hatten die Gespräche des mutmaßlichen Täters als mögliche Warnsignale für reale Gewalt eingestuft. In der Folge wurde das betreffende Konto gesperrt. Die Polizei wurde damals nach Angaben der verfügbaren Berichte nicht informiert. Konkrete Inhalte der Chats wurden in der öffentlichen Zusammenfassung nicht detailliert wiedergegeben.
Was OpenAI zusichert
In einem Schreiben an Kanadas KI-Minister Evan Solomon hat OpenAI zugesichert, seine Sicherheitsprotokolle zu verschärfen. Laut einem Bericht des Wall Street Journal plant das Unternehmen mehrere Änderungen: flexiblere Kriterien dafür, unter welchen Umständen Kontodaten an Behörden weitergegeben werden, direkte Kontakte zur kanadischen Polizei aufzubauen und die Systeme zur Erkennung von Versuchen, Sicherheitsregeln zu umgehen, zu verbessern.
Was „Umgehungserkennung“ bedeutet
Mit „Umgehungserkennung“ ist gemeint, Mechanismen zu stärken, die erkennen, wenn Nutzer versuchen, die Schutzregeln des Chatbots zu umgehen — etwa durch Umformulierungen oder Tricks, um verbotenes Verhalten zu beschreiben oder anzuleiten.
Aussage von OpenAI
Ann O’Leary, Vizepräsidentin bei OpenAI, erklärte, dass nach den nun vorgeschlagenen Regeln das betreffende Konto den Behörden gemeldet worden wäre. Damit signalisiert OpenAI, dass die internen Meldepraktiken künftig strenger ausfallen sollen.
Politischer Druck aus Kanada
Kanadas Justizminister Sean Fraser warnte, er werde neue KI-Regeln durchsetzen, falls OpenAI nicht rasch handele. Der Vorfall hat damit nicht nur interne Änderungen bei OpenAI zur Folge, sondern auch politische Forderungen nach gesetzlicher Regulierung befeuert.
Für dich als Nutzer bedeutet das: OpenAI will künftig enger mit Ermittlungsbehörden zusammenarbeiten und technische Schutzmechanismen gegen Missbrauch ausbauen — wie genau und unter welchen Umständen Daten weitergegeben werden, wollen die angekündigten neuen Kriterien regeln.
Quellen
- Quelle: OpenAI
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
