Google hat KI‑Zusammenfassungen zu Leber-Blutwerten entfernt, nachdem sie teils irreführende Normbereiche lieferten.
In Kürze
- AI Overviews zeigten Durchschnittswerte ohne Alter, Geschlecht oder Herkunft
- Google entfernte einige Overviews nach Recherchen des Guardian
- Das Grundproblem bleibt: KI-Antworten zu Gesundheitsfragen können fehleranfällig sein
Wenn du bei Google nach normalen Werten für Leber-Bluttests suchst, könnten dir kurze KI‑Zusammenfassungen erschienen sein — und laut einer Recherche des Guardian waren diese Antworten in einigen Fällen irreführend.
Der Vorwurf:
Googles sogenannte AI‑Overviews, also kurze, von KI erzeugte Zusammenfassungen in der Suche, lieferten bei Fragen wie „what is the normal range for liver blood tests“ Zahlen, die wichtige Faktoren wie Alter, Geschlecht, Ethnie oder Herkunft nicht berücksichtigten. Nutzer konnten dadurch fälschlich annehmen, ihre Werte lägen im grünen Bereich, obwohl das nicht unbedingt zutraf.
Nach dem Guardian-Bericht hat Google offenbar die AI‑Overviews für einige der beanstandeten Suchanfragen entfernt — unter anderem für „what is the normal range for liver blood tests“ und „what is the normal range for liver function tests“. Zu Einzelfällen äußert sich Google in der Regel nicht; das Unternehmen teilte jedoch mit, dass es allgemein an Verbesserungen arbeite.
Der Guardian fand außerdem, dass leicht veränderte Formulierungen wie „lft reference range“ noch KI‑Zusammenfassungen liefern konnten. Stunden nach Erscheinen des Guardian-Artikels testete der Autor die betreffenden Suchanfragen erneut und sah keine AI‑Overviews mehr; Google bot jedoch weiterhin an, die Frage im „AI Mode“ zu stellen. In vielen Fällen war der Guardian‑Artikel selbst als oberstes Suchergebnis zu sehen.
Intern hat Google laut Aussage eines Sprechers ein ärztliches Team die beanstandeten Abfragen prüfen lassen. Dieses Team sei zu dem Schluss gekommen, dass die Informationen in vielen Fällen nicht ungenau seien und durch hochwertige Webseiten gestützt würden. TechCrunch bat Google um weiteren Kommentar.
Zur Einordnung:
Google hatte bereits im vergangenen Jahr neue Suchfunktionen und gesundheitsorientierte KI‑Modelle angekündigt, um die Info‑Suche im Gesundheitsbereich zu erweitern. Vanessa Hebditch von der British Liver Trust nannte die Entfernung einzelner irreführender Overviews „ausgezeichnete Nachricht“, wies aber zugleich darauf hin, dass das Problem dadurch nicht grundsätzlich gelöst werde — Google könne einzelne Ergebnisse abschalten, ohne das grundsätzliche Risiko von KI‑Zusammenfassungen zu Gesundheitsfragen anzugehen.
Quellen
- Quelle: Google
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
