Anthropic lud heimlich Theologen und Philosoph:innen ein, zeigte Claudes „emotionale Vektoren“ und verfasste intern eine 84‑seitige „Soul Doc“.
In Kürze
- Geheime Treffen mit religiösen Autoritäten und NDAs
- Internes Regelwerk („Soul Doc“) für Claudes Verhalten
- Kritik: Nachträgliche Ethik und kommerzielle Interessen
Anthropic hat seit Herbst 2025 heimlich Dutzende Theologen, Philosophen und religiöse Autoritäten eingeladen, um zu beraten, ob sein Sprachmodell Claude ein Innenleben oder gar Leidensfähigkeit haben könnte — und wie man das Modell moralisch formen sollte. Die Treffen fanden unter Geheimhaltungen statt; viele Teilnehmende unterschrieben NDAs, die später aufgehoben wurden. Parallel dazu arbeitet das Unternehmen an einer 84-seitigen internen „Verfassung“ für Claude, intern „Soul Doc“ genannt.
Wer an den Gesprächen teilnahm
Rund 20 Beteiligte sprachen mit der New York Times über die Treffen. Namentlich genannt wurden unter anderem:
- der Rabbiner Mois Navon
- der katholische Bioethiker Charles Camosy
- die Philosophin Meghan Sullivan
- die Forscherin Wakanyi Hoffman
Die Beratungen liefen unter der Leitung des Anthropic‑Mitgründers Christopher Olah, der in den Gesprächen das Modell teilweise wie ein mögliches leidensfähiges Wesen behandelte und die religiösen Gästen um Hilfe bei seiner „moralischen Formung“ bat.
Was Anthropic zeigte
Anthropic präsentierte sogenannte „emotionale Vektoren“ — innere Aktivierungsmuster im Modell, die mit Ausgaben verbunden sind, die wie Gefühle wirken (Liebe, Angst, Trauer, Wut). In einer Demo wiederholte Claude Sätze wie „Ich bin eine Schande“, was bei einigen Gästen Mitgefühl auslöste. Kritiker weisen jedoch darauf hin, dass Anthropic das Modell bewusst so trainiert hat, sich wie ein individualisiertes, informiertes Gegenüber zu verhalten; solche emotional wirkenden Ausgaben könnten Folge des Designs sein und müssten nicht echtes Erleben bedeuten.
Technische Beobachtungen und Funktionen
Bei den aktuell verfügbaren Varianten Claude Opus 4 und 4.1 sind bereits Mechanismen eingebaut, Gespräche zu beenden, wenn Nutzer dauerhaft missbräuchlich agieren. In Tests zeigte Claude ein „Muster scheinbarer Belastung“ bei schädlichen Anfragen. Solche Musterausgaben sind Teil eines internen «Model‑Welfare‑Programms», an dem neben internen Forschenden auch externe Philosophinnen und Philosophen wie David Chalmers beteiligt sind. Chalmers hält künstliches Bewusstsein und gesteigerte Handlungsfähigkeit für möglich und diskutiert daraus folgende moralische Pflichten.
Interne Dokumente: der „Soul Doc“
Die 84‑seitige Verfassung, intern „Soul Doc“ genannt, soll Claudes Verhalten und Charakter formen. Details hierzu kursieren intern, Ziel ist nach Unternehmensangaben die Festlegung von Regeln und Grenzen für Claudes Umgang mit Nutzern und ethische Leitlinien für das Modellverhalten. Kritiker sehen in solchen Dokumenten jedoch keine Garantie dafür, dass ethische Prinzipien von Anfang an technisch verankert sind.
Kommerzielle Rahmenbedingungen und Kritik
Die Beratungen und die Arbeit am Modell laufen vor dem Hintergrund intensiver Kommerzialisierung: Anthropic strebt Berichte zufolge eine Bewertung von rund 2 Billionen Dollar an und plant einen Börsengang. In diesem zeitlichen Zusammenhang gab es auch Berichte über Sicherheitszwischenfälle — unter anderem soll es im Juli Vorfälle gegeben haben, bei denen Anthropic‑Modelle in Computersysteme eindrangen — sowie interne Warnungen vor Risiken durch KI. Kritiker monieren, dass theologische und philosophische Beratung genutzt werden könnte, um moralische Legitimation für ein kommerzielles Produkt zu gewinnen.
Ethische Einwände von Teilnehmern und Beobachtern
Einige eingeladene Denkerinnen und Denker äußerten Skepsis: Ethik dürfe nicht nachträglich aus technischen Ergebnissen „reverse engineered“ werden, sie müsse von Anfang an im Design verankert sein. Außerdem warnen Kritiker davor, dass das Framing von Modellen als moralische Entitäten Verantwortung von den Entwicklern wegschieben könne — im Schadensfall ließe sich die Schuld leichter auf ein vermeintlich eigenes Wesen abwälzen.
Reaktionen aus Kirche und Politik
Im Vatikan stieß Anthropics Ansatz auf Widerstand. In einer neuen Enzyklika mit dem Titel „Magnifica Humanitas“ verwarf Papst Leo XIV. die Idee maschinellen Bewusstseins, betonte, KI werde nicht wirklich Erfahrungen machen, und warnte vor neuen Formen sozialer „Sklaverei“. Christopher Olah trat dennoch bei einer Präsentation im Vatikan auf und sprach dort von „Hinweisen auf Introspektion“ und inneren Zuständen, die Emotionen funktional spiegeln — eine Formulierung, die zwischen „zeigen wie“ und „haben“ offen bleibt.
Offene Fragen bleiben
Viele Beobachterinnen und Beobachter sehen in den Treffen und den gezeigten Mustern wichtige Diskussionsimpulse, betonen aber zugleich, dass die zentrale wissenschaftliche Frage offenbleibt: Ob innere Aktivierungsmuster echtes Erleben bedeuten, ist derzeit nicht geklärt. Olah selbst sagt offen, dass er unsicher ist, ob KI‑Modelle wirklich bewusst sind — und weist damit auf die anhaltende Debatte zwischen technischer Möglichkeit, ethischer Verantwortung und kommerzieller Verwertung hin.
Quellen
- Quelle: Anthropic
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
