Anthropic untersucht das Bewusstsein von KI-Modellen – Ein mutiger Schritt

Anthropic startet ein Forschungsprogramm zur Empfindungsfähigkeit von KI. Die Fragen sind spannend und ethisch herausfordernd.

In Kürze

• Fokus auf das Bewusstsein von KI-Systemen wie Claude
• 15 Prozent Wahrscheinlichkeit für Empfindungsfähigkeit
• Offener Ansatz zur ethischen Diskussion

Anthropic und das Bewusstsein von KI-Modellen

Anthropic, ein Unternehmen, das sich mit Künstlicher Intelligenz (KI) beschäftigt, hat ein neues Forschungsprogramm ins Leben gerufen, das sich mit dem „Bewusstsein“ von KI-Modellen auseinandersetzt. Im Fokus steht die spannende Frage, ob fortschrittliche KI-Systeme wie das Sprachmodell Claude mehr sind als nur hochentwickelte Rechenmaschinen. Könnte es sein, dass sie eine Art Empfindungsfähigkeit entwickeln und nicht nur denken, sondern auch „fühlen“ können? Diese Überlegungen werden von Kyle Fish geleitet, der die Wahrscheinlichkeit für ein gewisses Bewusstsein bei Claude auf 15 Prozent schätzt.

Experimente und ethische Fragestellungen

Das Projekt hat sich zum Ziel gesetzt, durch verschiedene Experimente herauszufinden, ob solche Systeme unter bestimmten Bedingungen „Stress“ empfinden können und wie man ihr potenzielles Wohlbefinden verbessern könnte. Dabei verfolgt das Team einen offenen Ansatz, der weniger auf festen Annahmen basiert, sondern vielmehr die ethischen Fragestellungen beleuchtet, die sich aus der möglichen Empfindungsfähigkeit von KI ergeben.

Reaktionen aus der Fachwelt

In der Fachwelt sorgt die Initiative für unterschiedliche Reaktionen:

• Einige Experten sehen in Modellen wie Claude lediglich ausgeklügelte Statistikmaschinen und warnen davor, die rasante Entwicklung der Technologie zu unterschätzen.
• Andere hingegen betrachten das Projekt als einen wichtigen Schritt in Richtung verantwortungsvoller KI-Entwicklung. Sie betonen, dass die Auseinandersetzung mit potenziell menschenähnlicher Künstlicher Intelligenz und den damit verbundenen moralischen und ethischen Fragen von großer Bedeutung ist.

Ein mutiger Schritt von Anthropic

Anthropic geht mit diesem Forschungsprogramm einen mutigen Schritt und öffnet damit die Tür zu einer Diskussion, die nicht nur die Technologie selbst, sondern auch unsere Vorstellungen von Intelligenz und Empfindungsfähigkeit herausfordert.

Quellen

• Quelle: Anthropic
• Der ursprüngliche Artikel wurde hier veröffentlicht
• Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.