Im Vatikan präsentierten Papst Leo XIV. und Anthropic-Mitgründer Christopher Olah die Enzyklika ‚Magnifica Humanitas‘ zu KI, Verantwortung, inneren Zuständen und Verbotsfragen.
In Kürze
- Olah: Sprachmodelle zeigen Hinweise auf Introspektion und proto-Emotionen.
- Papst fordert Verantwortung, rechtliche Kontrolle und betont: KI ist kein Mensch.
- Enzyklika verbietet delegierbare Tötungsentscheidungen und verlangt Gesetze statt abstrakter Appelle.
Im Vatikan trafen Kirche und Silicon Valley aufeinander: Christopher Olah, Mitgründer des KI-Forschungsunternehmens Anthropic, stellte gemeinsam mit Papst Leo XIV. die Enzyklika „Magnifica Humanitas“ vor. Die Präsentation ist als Video dokumentiert (Dauer: 1:01:40).
Olah: Sprachmodelle vielleicht mehr als Statistik
Olah brachte eine markante These ein: Die heutigen Sprachmodelle seien vielleicht nicht bloß statistische Werkzeuge. Sie wirkten weniger wie klassische Maschinen, die nach Plan „gebaut“ wurden, sondern vielmehr wie Systeme, die in einer groben Anlehnung an Gehirnstrukturen „gewachsen“ seien. Deshalb blieben Teile ihres Inneren für Entwickler rätselhaft.
Anthropic-intern fänden sich Hinweise auf sogenannte Introspektion — also eine Form innerer Selbstbeobachtung — und auf Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer oder Unbehagen ähneln. Olah warnte zudem davor, dass KI in großem Umfang menschliche Arbeit ersetzen könne.
Der Papst: Verantwortung, Grenzen und Rechtliches
Inhaltlich blieb die Enzyklika im Kern erwartbar: Papst Leo XIV. forderte Verantwortung aller Beteiligten entlang der gesamten KI-Kette. Er betonte, dass künstliche Systeme nie neutral seien, da sie die Werte ihrer Entwickler und Geldgeber widerspiegelten, und wies darauf hin, dass KI keine eigenen Erfahrungen habe — weder Körper noch echtes moralisches Urteilsvermögen.
Wörtlich stellte er klar: Man dürfe diese „Intelligenz“ nicht mit menschlicher gleichsetzen; die Systeme imitierten nur bestimmte Funktionen menschlicher Intelligenz. Er wies auch auf ökologische Folgen hin: Der Betrieb großer KI-Systeme verursache erheblichen Energie- und Wasserverbrauch.
Keine delegierbaren Tötungsentscheidungen
Ein zentraler Punkt der Enzyklika betraf den militärischen Einsatz: Tödliche oder unumkehrbare Entscheidungen dürften nicht an Maschinen delegiert werden. In deutlichen Worten schrieb der Papst: „Kein Algorithmus kann Krieg moralisch akzeptabel machen.“
Kritik am Alignment-Diskurs: Gesetze statt abstrakter Ethik
Zur Debatte um das sogenannte Alignment — also die Frage, wie man KI an menschliche Werte anpasst — mahnte der Papst, dass eine rein „moralischere“ KI nicht ausreiche, wenn diese Moral von wenigen bestimmt werde. Statt abstrakter ethischer Appelle verlangte er robuste Gesetze und unabhängige Aufsicht.
Kontext: Ein US-amerikanischer Papst setzt ein Thema auf die Agenda
Papst Leo XIV. — als erster US-amerikanischer Pontifex — macht KI zu einem wiederkehrenden Thema seines Pontifikats und hat mehrfach vor Risiken gewarnt. Zugleich suchen Anthropic und andere Vertreter aus dem Silicon Valley den Austausch mit religiösen Führern; der Vatikan ist Teil dieser Gespräche.
Die komplette Vorstellung, inklusive der Beiträge von Olah und der Ausführungen des Papstes, ist als Video mit einer Länge von 1:01:40 verfügbar.
Quellen
- Quelle: Anthropic / Vatican
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
