KI transkribiert Arztgespräche – Berichte zeigen gefährliche Fehler.
In Kürze
- Medikamenten- und Diagnosefehler
- Patient:innen entdeckten Fehler
- Tests in Deutschland laufen
KI-gestützte Assistenten sollen Ärztinnen und Ärzten die lästige Dokumentationsarbeit abnehmen. Sie hören Arzt‑Patient‑Gespräche mit, transkribieren sie automatisch und erstellen Zusammenfassungen. Laut Berichten der Patientenvertretung Healthwatch England und Recherchen des Guardian führt das in mehreren Fällen zu gefährlichen Fehlern.
Was genau schiefgeht
- Systeme verwechseln Medikamentennamen
- fügen falsche Diagnosen hinzu
- lassen wichtige Informationen weg
In dokumentierten Fällen entdeckten nicht die Ärztinnen und Ärzte, sondern die Patientinnen und Patienten die Fehler. Ein Beispiel: In einer automatisch erstellten Zusammenfassung stand fälschlich „Demyelinisierung“ — eine schwere Nervenschädigung — obwohl das MRT ausdrücklich „keine Demyelinisierung“ gezeigt hatte. In einem anderen Fall wurde ein Wirkstoff mit einem ähnlich klingenden Präparat vertauscht.
Warum das wichtig ist
Fehler in elektronischen Notizen sind nicht nur ärgerlich. Sie können konkret beeinflussen:
- welche Medikamente die Apotheke abgibt
- welche Auskünfte bei Versicherungen gespeichert werden
- damit später über Zulassungen, Kostenerstattungen oder Ansprüche mitentscheiden
Was Studien zeigen
Eine Umfrage von Dr. Charlotte Blease von der Universität Uppsala unter 1.003 britischen Hausärztinnen und Hausärzten ergab: Unter denen, die solche KI‑Systeme nutzen, berichten 32 % von häufigen Fehlern, 14 % von Fehlern mit schwerwiegenden Folgen.
Fehler treten demnach besonders häufig auf, wenn:
- mehrere Personen gleichzeitig sprechen
- Patientinnen und Patienten eine komplexe Vorgeschichte haben
- nicht Englisch als Muttersprache sprechen
Gleichzeitig gaben mehr als die Hälfte der Befragten an, die KI‑Notizen seien genauer als ihre eigene Dokumentation — ob KI insgesamt mehr oder weniger fehleranfällig ist, bleibt damit offen.
Was in Deutschland passiert
Auch in Deutschland werden solche Systeme getestet und angeboten. Die Charité startete im Mai 2025 eine sechsmonatige Testphase mit „Microsofts Dragon Copilot“, einem KI‑Tool zur Dokumentation.
Der große Praxissoftware‑Anbieter Doctolib bietet ähnliche Systeme an und plant, in Frankreich Gesundheitsdaten zur Modellweiterbildung zu nutzen — per Opt‑out, also mit Nutzung sofern Betroffene nicht aktiv widersprechen. Dieses Vorgehen ist umstritten und stößt auch in Deutschland auf kritische Stimmen.
Wohin die Diskussion führt
Anbieter testen und Patientenschutzorganisationen melden Fehler — die Debatte um Nutzen, Sicherheit und den Umgang mit Gesundheitsdaten bleibt lebhaft.
Quellen
- Quelle: Healthwatch England / National Health Service (NHS) / Doctolib / Charité
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
