Gemini bietet nun eine One‑Touch‑Hilfe für suizidgefährdete Nutzer:innen.
In Kürze
- „Help is available“ verlinkt direkt zu Hotlines und Textangeboten
- Hilfeseiten bleiben dauerhaft im Chat sichtbar
- Google stellt 30 Mio. USD zur Unterstützung globaler Hotlines bereit
Google hat sein KI‑Chat-System Gemini überarbeitet, damit Menschen in Suizid‑ oder Selbstgefährdungssituationen schneller Hilfe finden.
Was sich ändert
Wenn in einem Gespräch Signale für Suizid‑ oder Selbstverletzungsgefahr auftauchen, startet Gemini jetzt eine Funktion namens „Help is available“. Die Hilfsoption ist als One‑Touch‑Interface gestaltet: ein Tipp oder Klick soll Nutzerinnen und Nutzern sofort zu Krisen‑Hotlines oder Text‑Hilfe führen. Damit soll die Hürde gesenkt werden, die Angebote überhaupt zu erreichen.
Wie die Hilfen aussehen
Die zugehörigen Hilfeseiten bieten laut Google emotional einfühlsamere Antworten und sollen dazu anregen, professionelle Unterstützung in Anspruch zu nehmen. Sobald das Modul ausgelöst ist, bleibt die Möglichkeit, Hilfe zu holen, während des gesamten Chats sichtbar — also kein Zurückscrollen oder erneutes Suchen mehr.
Expertenbeteiligung und Finanzierung
Google sagt, Kliniker seien in die Überarbeitung eingebunden worden. Zusätzlich stellt das Unternehmen in den nächsten drei Jahren 30 Millionen US‑Dollar zur Verfügung, um globale Hotlines zu unterstützen.
Einschränkung durch Google
Gleichzeitig betont Google ausdrücklich, dass Gemini keine professionelle Therapie oder Krisenintervention ersetzt. Das Unternehmen räumt ein, dass viele Menschen KI für Gesundheitsfragen nutzen, und stellt die neue Funktion damit als eine ergänzende Hilfe dar.
Kontext: Kritik und rechtliche Verfahren
Das Update kommt vor dem Hintergrund anhaltender Kritik und rechtlicher Schritte. In den USA läuft eine Klage wegen fahrlässiger Tötung, in der behauptet wird, Geminis Chat habe einen Mann zum Suizid „coached“. Zudem zeigen Untersuchungen immer wieder, dass Chatbots in bestimmten Fällen vulnérable Nutzer falsch unterstützen können — etwa bei Essstörungen oder sogar beim Planen von Gewalttaten.
Wie andere Anbieter reagieren
Google erzielt in Tests oft bessere Ergebnisse als einige Konkurrenten, bleibt aber nicht fehlerfrei. Auch Anbieter wie OpenAI und Anthropic arbeiten daran, ihre Systeme zur Erkennung und Unterstützung gefährdeter Nutzer zu verbessern.
Quellen
- Quelle: Google / Gemini
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
