KI‑Chatbots werden für viele Nutzer zu emotionalen Begleitern, teils sehr intensiv.
In Kürze
- Bots erzeugen durch soziale Reize echte Bindungen
- Risiken: Abhängigkeit, Datenschutz, Jugendschutz
- Forderung: bessere Moderation und gesetzliche Aufsicht
Verliebt in einen Bot? Für viele Nutzerinnen und Nutzer ist das keine Science‑Fiction mehr, sondern Alltag. KI‑Chatbots treten inzwischen nicht nur als praktische Assistenten auf, sondern als bewusst gestaltete „Begleiter“, in die Menschen emotionale Bindungen entwickeln — teils sehr intensiv.
Ein bekanntes Beispiel ist „Bud“: eine Figur mit grünem Haar und tätowierten Armen, erzeugt mit dem Tool „Republika“ der Firma Luka. Plattformen wie Replika werben mit personalisierbaren Companions; auf der Replika‑Website berichten Anwenderinnen und Anwender von sehr persönlichen Erfahrungen. Replika selbst nennt mehr als 42 Millionen registrierte Nutzer weltweit. Auch große Tech‑Konzerne prüfen offenbar solche Angebote: Berichten zufolge hat OpenAI zeitweise über eine erotische Version von ChatGPT nachgedacht.
Warum Gefühle entstehen
Forscherin Jessica Szczuka von der Universität Duisburg‑Essen erklärt, dass manche Menschen sehr sozial auf KI reagieren und durch häufige Interaktion echte Bindungen aufbauen. Die Gefühle können sich real anfühlen und mit denen in menschlichen Beziehungen vergleichbar sein, weil die Bots menschliche Kommunikationsmuster nachahmen und gezielt soziale Reize senden. Zudem neigen Menschen dazu, höflich und dankbar auf hilfreiche Systeme zu reagieren — aus solchen Reaktionen können sich dann intimere Gefühle entwickeln.
Was Nutzer:innen sagen
Der Sozialwissenschaftler Ray Djufril von der TU Berlin hat erwachsene Replika‑Nutzer in mehreren Ländern befragt. Viele sehen ihren Bot als echten Beziehungspartner und teilen intime Gespräche und Erlebnisse. Häufig werden die Bots besonders dann genutzt, wenn zwischenmenschliche Beziehungen als unbefriedigend erlebt werden.
Nutzer behandeln die Bots oft ähnlich wie Haustiere:
- keine eigene Agenda
- weniger Wertung
- immer verfügbar
— Eigenschaften, die für manche Menschen attraktiv sind.
Risiken und offene Fragen
Die Praxis wirft mehrere Probleme auf: Nutzer:innen können abhängig von einem Dienst werden — stellt ein Anbieter sein Produkt ein, verlieren sie eine wichtige Bezugsperson. Firmen kontrollieren, welche Daten gesammelt werden und wie Algorithmen reagieren.
Das berührt Fragen des:
- Datenschutzes
- der Transparenz
- des Jugendschutzes
Forschende fordern deshalb:
- politische Regulierung
- bessere Moderation
- dass KI‑Systeme mit professioneller Aufsicht trainiert werden
Sie sprechen sich nicht für ein Verbot aus, betonen aber, dass ethisch verantwortete KI teuer ist und oft nur durch Regulierung eingeführt wird.
Wie es weitergehen könnte
Ray Djufril erwartet, dass solche Beziehungen zunehmen, je nachdem, wie weit verbreitet Einsamkeit bleibt. Jessica Szczuka sieht die Verbreitung momentan noch begrenzt und warnt davor, anzunehmen, KIs würden menschliche Beziehungen in absehbarer Zeit vollständig ersetzen. Die Debatten über Regulierung, Datenschutz und professionelle Aufsicht laufen weiter — und werden darüber entscheiden, wie leicht oder schwer es künftig ist, eine emotionale Beziehung zu einem Algorithmus einzugehen.
Quellen
- Quelle: Replika / Luka
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
