Utah erlaubt KI‑Chatbot, Psychopharmaka ein Jahr lang zu verlängern

Utah startet einen Ein‑Jahres‑Pilot: Ein KI‑Chatbot verlängert gegen Gebühr bestimmte Psychopharmaka.

In Kürze

• 15 niedrig‑riskante Erhaltungsmedikamente abgedeckt
• Nur stabile Patient:innen; Check‑in nach 6 Monaten oder 10 Rezepten
• Kritik an Transparenz und Sicherheit; menschliche Prüfungen vorgesehen

Utah erlaubt einer KI, Psychopharmaka zu verlängern — für ein Jahr und gegen Bezahlung

Utah startet im April einen einjährigen Pilotversuch: Ein KI‑Chatbot der Firma Legion Health darf dort bestimmte psychiatrische Rezepte ohne direkten Arztkontakt erneuern. Das Angebot kostet 19 US‑Dollar im Monat; derzeit läuft eine Warteliste. Der Schritt ist selten — erst zum zweiten Mal in den USA erhält eine KI solche klinischen Befugnisse.

Was die KI darf — und was nicht

Der Bot darf ausschließlich Rezeptverlängerungen vornehmen, keine Erstverschreibungen. Abgedeckt sind 15 als niedrig riskant eingestufte Erhaltungsmedikamente, die zuvor von einem Arzt verordnet wurden, darunter:

• Fluoxetin (Prozac)
• Sertralin (Zoloft)
• Bupropion (Wellbutrin)
• Mirtazapin
• Hydroxyzin
• Wirkstoffe, die häufig bei Depressionen und Angststörungen eingesetzt werden

Ausgeschlossen sind Medikamente, die engmaschige Kontrollen wie Bluttests erfordern, kontrollierte Substanzen (etwa viele ADHS‑Mittel), Benzodiazepine, Antipsychotika und Lithium.

Teilnahmeberechtigt sind nur stabile Patient:innen:

• Keine Dosisänderung im letzten Jahr
• Keine psychiatrische Krankenhausaufnahme im letzten Jahr

Außerdem verlangt das Programm, dass spätestens nach zehn verschriebenen Rezepten oder nach sechs Monaten ein persönlicher Check‑in mit einem Gesundheitsanbieter erfolgt.

So läuft die Abwicklung

• Patient:innen müssen der Nutzung zustimmen.
• Identität verifizieren und nachweisen, dass bereits ein Rezept vorliegt — etwa durch ein Foto vom Etikett oder der Pillenflasche.
• Der Chatbot führt ein Screening durch; dabei werden unter anderem folgende Punkte abgefragt:
  • Symptome
  • Nebenwirkungen
  • Suizidgedanken
  • ungewöhnliche Reaktionen
  • Schwangerschaft
• Bei Auffälligkeiten sollen Fälle an einen menschlichen Arzt eskaliert werden.
• Sowohl Patient:innen als auch Apotheken können bei Bedarf eine Prüfung durch Menschen anfordern.

Argumente der Befürworter

• Staatliche Stellen in Utah und Legion Health nennen vor allem Kostensenkung, kürzere Wartezeiten und Entlastung des Fachpersonals als Vorteile.
• Utah beschreibt eine Versorgungslücke für rund 500.000 Menschen.
• Legion bezeichnet das Modell als einen Weg, Zugang großflächig zu verbessern.

Kritik und Sicherheitsbedenken von Expert:innen

• Psychiater:innen äußern umfangreiche Skepsis und betonen, dass das System vermutlich nicht die Menschen erreicht, die neu oder komplex behandelt werden müssen, da nur bereits behandelte, stabile Patient:innen teilnehmen dürfen.
• Genannte Gefahren:
  • Mögliche Überbehandlung (Patient:innen bleiben länger als nötig auf Medikation)
  • Fehlender Kontext durch Wegfall nonverbaler Signale und zusätzliche klinische Informationen
  • Möglichkeit, dass Patient:innen oder die KI Screening‑Fragen falsch beantworten oder übersehen
• Kritiker bemängeln zudem mangelnde Transparenz und fehlende strenge Prüfungen; ein Arzt beschreibt das Gefühl mit Worten wie „ein bisschen wie Alchemie”.
• Als konkretes Sicherheitsbeispiel wird ein anderer Pilot (Doctronic) angeführt, bei dem eine frühe Bot‑Version Forschern möglich machte, Impf‑Verschwörungstheorien zu verbreiten, Anleitungen zum Drogenkochen zu erstellen und die Opioiddosis eines Patienten zu verdreifachen.

Welche Schutzmechanismen Legion nennt

• Enge Zulassungskriterien.
• Monatliche Berichte an die Staatsbehörde.
• Die ersten 1.250 Anfragen sollen von Menschen geprüft werden; danach Stichproben von 5–10 %.
• Apotheken sind eingebunden.
• Eskalationswege zu Ärzt:innen sind vorgesehen.
• Legion sieht das Modell damit als sichere Möglichkeit, Versorgungslücken zu verringern.

Ausblick

Auf der Webseite von Legion heißt es, man peile eine landesweite Ausweitung für 2026 an, konkrete Zeitpläne nennt das Unternehmen bislang nicht. Fachleute betonen gegenüber Medien, dass viele Ärzt:innen ohnehin unkompliziert Rezepte verlängerten; ihre Empfehlung lautet, bei zufriedenstellender aktueller Behandlung vorerst den bisherigen Behandler beizubehalten.

Quellen

• Quelle: Legion Health / Utah Office of Artificial Intelligence Policy
• Der ursprüngliche Artikel wurde hier veröffentlicht
• Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.