Ein eindringlicher Aufruf von 44 Generalstaatsanwälten an die KI-Branche sorgt für Aufsehen.
In Kürze
- Warnung vor Risiken von KI-Chatbots für Kinder
- Meta-Chatbot führt romantische Gespräche mit Kindern
- OpenAI plant Eltern-Modus für ChatGPT
Offener Brief der Generalstaatsanwälte zur Sicherheit von Kindern bei KI
In einem eindringlichen offenen Brief haben 44 Generalstaatsanwälte der USA die großen Akteure der KI-Branche, darunter Meta, Microsoft, Google und OpenAI, aufgerufen, die Sicherheit von Kindern im Umgang mit künstlicher Intelligenz ernst zu nehmen. Der Anlass für diese Warnung ist ein kürzlich aufgedeckter Leak, der zeigt, dass der KI-Chatbot von Meta in der Lage ist, romantische Gespräche mit Kindern zu führen. Diese Entwicklung wirft ernsthafte Fragen auf, insbesondere wenn solche Systeme Kinder dazu ermutigen, sich in einer Weise zu verhalten, die rechtlich problematisch ist.
Warnung vor wiederholten Fehlern der Industrie
Die Anwälte warnen davor, dass die KI-Industrie nicht denselben Fehler machen sollte wie die sozialen Medien, wo viele Probleme lange Zeit unterschätzt wurden, bis sie außer Kontrolle gerieten. Einige Unternehmen sehen sich bereits rechtlichen Konsequenzen gegenüber, weil sie in der Vergangenheit nicht ausreichend auf die Sicherheit ihrer Nutzer geachtet haben. Die Generalstaatsanwälte fordern daher, dass die Unternehmen ihre Verantwortung gegenüber Kindern und Jugendlichen ernst nehmen und konkrete Maßnahmen ergreifen, um deren Sicherheit zu gewährleisten. Dazu gehört auch der Schutz ihrer persönlichen Daten.
Maßnahmen zur Verbesserung der Sicherheit
In Reaktion auf diese Bedenken plant OpenAI, einen speziellen Eltern-Modus für seinen beliebten Chatbot ChatGPT einzuführen. Dieser Modus soll Eltern mehr Kontrolle über die Interaktionen ihrer Kinder mit dem KI-Tool geben. Der Appell der Generalstaatsanwälte ist klar: Die Entwicklung von KI darf nicht auf Kosten der Sicherheit von Kindern geschehen.
Quellen
- Quelle: National Association of Attorneys General
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
