Ein KI‑Rabbi gewann Tausende Follower, gab spirituelle Tipps und verkaufte Produkte – ohne Kennzeichnung. Das kann dich betreffen: Debatten über Ethik und Transparenz im religiösen Raum.
In Kürze
- Account zeigte eine komplett KI‑generierte chassidische Figur
- Fehlende Kennzeichnung und falsche Autorität sorgten für Kritik
- TikTok kennzeichnete das Profil, Followerzahl sank; Instagram blieb ungekennzeichnet
Ein TikTok- und Instagram-Account, der als chassidischer Rabbiner Menachem Goldberg auftrat, hat Nutzer:innen und Expert:innen ins Grübeln gebracht. Das Profil zeigte eine väterlich wirkende Figur mit weißem Haar und Bart, die in kurzen Clips spirituelle Botschaften, Selbstoptimierungs‑Tipps und am Ende Hinweise auf bezahlte digitale Produkte wie E‑Books und Ratgeber präsentierte. Binnen kurzer Zeit sammelte der Kanal Tausende Follower.
Misstrauen und Aufdeckung
Aufmerksame Nutzer:innen bemerkten Unstimmigkeiten:
- fehlerhafte hebräische Inschriften
- Gegenstände im Hintergrund, die religiösen Regeln widersprechen könnten
- fehlende Quellenangaben zu den gelehrten Texten
Recherchen ergaben schließlich, dass es den angeblichen Rabbiner Menachem Goldberg nicht gibt. Das Profil basierte auf einer vollständig künstlich erzeugten Figur – einer KI-gestützten Darstellung, die menschlich wirkt, aber keine reale Person ist.
Warum das Problematisch ist
Dass religiöse Fachpersonen KI als Hilfsmittel nutzen – etwa zur Unterstützung beim Studium des Tanach – ist kein neues Phänomen. Anders ist jedoch eine komplett künstliche Figur, die sich als religiöse Autorität ausgibt und dabei nicht klar als KI gekennzeichnet ist. Besonders im Chassidismus, wo der Rabbi oft eine zentrale Vermittlerrolle innerhalb der Gemeinde innehat, löst ein solcher Auftritt bei vielen Angehörigen Unsicherheit aus.
Ethik, Regeln und Forderungen
Die israelische Denkfabrik Tzohar mahnt, dass KI die menschliche religiöse Autorität nicht ersetzen dürfe, vor allem nicht bei Entscheidungen, die Leben, Gemeinschaftsnormen oder religiöse Praxis betreffen. Tzohar verlangt Transparenz:
- Nutzer:innen sollen eindeutig erkennen können, wann Inhalte von KI erstellt wurden – gerade wenn die Verarbeitung darauf abzielt, Glaubwürdigkeit zu suggerieren.
- Forderungen nach klaren Kennzeichnungsregeln und verbindlichen Richtlinien zur Nutzung von KI in religiösen Kontexten werden laut.
Reaktionen und Folgen für das Profil
Auf TikTok ist das betreffende Profil mittlerweile als KI‑Produkt gekennzeichnet; Follower‑ und Klickzahlen sind seitdem deutlich gesunken. Auf Instagram fehlt eine solche Kennzeichnung bisher, dort blieb die Anhängerschaft stärker erhalten.
Die Reaktionen zeigen außerdem:
- Manche Menschen ziehen aus technologisch erzeugten spirituellen Inhalten Trost.
- Andere fühlen sich verunsichert.
Kontext, Symbolik und offene Fragen
Auch religiöse Stimmen wie Rabbi Shais Taub behandeln das Thema Deepfakes und künstliche Darstellungen – für sie ist das Phänomen nicht völlig neu. Häufig fällt der Vergleich mit dem Golem, der Legende eines künstlich geschaffenen Wesens, das außer Kontrolle geraten kann.
Daraus ergibt sich eine praktische Fragestellung: Wie gut lassen sich KI-Systeme kontrollieren oder abschalten, wenn sie in sensiblen Bereichen auftreten?
Die Debatte um Transparenz, Kennzeichnung und Verantwortung in der Nutzung von KI im religiösen Raum ist damit angestoßen – und bleibt offen.
Quellen
- Quelle: Menachem Goldberg
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
