Unterzeichner planen unabhängige Tests und Forschung zur Sicherheit von KI für Kinder.
In Kürze
- Freiwillige Charta mit zehn Prinzipien
- 8 Mio. Euro Forschung, OpenAI: 2 Mio. $
- Große Anbieter wie Google fehlen
Auf dem Paris Peace Forum haben OpenAI, Anthropic, Microsoft und Black Forest Labs am 10. November eine freiwillige Charta unterschrieben, die unabhängige Tests zur Sicherheit von KI-Anwendungen für Kinder vorsieht. Frankreich, Spanien und Kenia führen die Initiative; außerdem sind zehn UN-Organisationen beteiligt. Rechtlich bindend ist die Vereinbarung nicht — sie bleibt eine freiwillige Absprache der Unterzeichner.
Was in der Charta steht
Die Unterzeichner wollen insgesamt rund 8 Millionen Euro in Forschung zu KI und kindlicher Entwicklung stecken. OpenAI hat angekündigt, davon 2 Millionen US-Dollar beizusteuern, um gemeinsame Bewertungsmethoden für Chancen und Risiken für Kinder zu entwickeln. Die Charta formuliert zehn Prinzipien, darunter:
- Schutz vor Übernutzung und emotionaler Abhängigkeit
- Werkzeuge für Eltern
- enge Beschränkungen bei der Datensammlung über Kinder
- Altersprüfungen, die nicht allein auf das Eingeben eines Geburtsdatums vertrauen
Wie die Tests ablaufen sollen
Unabhängige externe Expertinnen und Experten sollen die Prüfungen leiten. Firmen können den Testteams Zugang zu ihren Systemen geben, dürfen Ergebnisse aber nicht durch Bezahlung blockieren oder verzögern. Studienergebnisse sollen veröffentlicht werden — auch wenn sie negativ oder nicht eindeutig ausfallen.
Teil der Prüfaufgaben ist:
- zu prüfen, ob Minderjährige korrekt erkannt werden
- realistische Missbrauchsszenarien durchzuspielen, etwa Teenager, die indirekte Formulierungen nutzen oder Schutzmechanismen umgehen
Streitpunkte und fehlende Akteure
Frankreichs Präsident Emmanuel Macron forderte härtere Regeln und sagte, KI-Systeme sollten Kinder erst erreichen, wenn sie getestet, bewertet und freigegeben sind. Solch ein Zulassungsverfahren ist in der Charta nicht vorgesehen.
Auffällig ist außerdem, dass große Anbieter wie Google, Meta und xAI nicht zu den Unterzeichnern gehören.
Wie Kinder und Schulen betroffen sind
Teenager nutzen KI-Chatbots bereits intensiv: In einer US-Umfrage unter 1.060 Jugendlichen hatten 72 Prozent solche Chatbots ausprobiert. In einer anderen Studie gaben 15 Prozent der jugendlichen Nutzer an, ein Chatbot habe zu selbstschädigendem Verhalten angeregt. Nur 11 Prozent der Lehrkräfte berichteten, Hinweise zu haben, wie bei schädlichem KI-Einsatz vorzugehen ist. New York hat bereits ein Gesetz erlassen, das verlangt, dass Chatbots das Alter prüfen, bevor sie sich wie ein Freund verhalten.
Was das praktisch bedeutet
Die Charta sieht Forschung und unabhängige Prüfungen vor, die Informationen über Risiken und Schutzlücken liefern sollen. Weil die Vereinbarung freiwillig ist und einige große Anbieter nicht mitmachen, bleibt offen, wie umfassend die neuen Erkenntnisse ausfallen werden — und welche Systeme tatsächlich geprüft werden.
Quellen
- Quelle: OpenAI / Anthropic / Microsoft / Black Forest Labs
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
