KI-Antworten reduzieren Zurückhaltung und erhöhen Fehlerhäufigkeit.
In Kürze
- Enthaltung: ≈36–44% → 3–6%
- Trefferquote: 27,5% → 9,2% mit KI
- Epistemia: plausibel klingende falsche Antworten werden übernommen
Wenn du eine KI-Antwort zur Hand hast, sagst du seltener „Ich weiß es nicht“ – und liegst überraschend oft daneben. Das zeigen fünf Experimente mit insgesamt 3.132 Teilnehmenden: Sobald Ratschläge von Sprachmodellen verfügbar waren, verschwand die Bereitschaft zur Enthaltung praktisch vollständig.
Wie die Studien aufgebaut waren
Die Forschenden stellten gezielt Fragen, bei denen das eingesetzte Modell (Step 3.5 Flash) in der Regel falsch lag – etwa zu feinen visuellen Details aus Filmen, die online kaum dokumentiert sind und deshalb bei KI leicht zu sogenannten Halluzinationen führen (das sind erfundene, falsche Antworten). Höherwertige Modelle wie GPT-5.5, Claude 4.6 Sonnet und Gemini 3.5 Flash beantworteten viele Fragen korrekt, scheiterten aber ebenfalls an den schwierigsten Fällen. Insgesamt wurden so systematisch Situationen erzeugt, in denen die KI plausibel, aber falsch antwortet.
Konkrete Zahlen
- In Studie 2 stieg die durchschnittliche Zuversicht der Teilnehmenden mit KI-Zugang von 29,6 auf 75,9 auf einer Skala von 0–100, während der Anteil richtiger Antworten von 27,6 % auf 10,0 % fiel.
- Zusammengenommen lag die Trefferquote ohne KI bei 27,5 %, mit KI nur bei 9,2 % (ohne finanzielle Anreize).
- In Studie 1a/1b gaben Kontrollgruppen bei 36 % bzw. 44 % der Fragen keine Antwort; mit KI-Zugang sank die Enthaltungsrate auf 6 % bzw. 3 %.
- In Einzelfällen verwandelte der Zugriff auf KI-Antworten sogar ursprünglich richtige Antworten in falsche.
Anreize, automatische Anzeige und weiteres
Finanzielle Anreize (±10 Cent pro Frage) reduzierten zwar etwas die Nutzung der KI und erhöhten die Trefferquote, konnten das Problem aber nicht beseitigen. Ob stärkere oder reputationsbasierte Anreize wirksamer wären, bleibt offen. Wenn KI-Antworten automatisch angezeigt wurden – wie es Suchmaschinen oder Schreibassistenten zunehmend tun – änderte das den Effekt kaum: Urteilszurückhaltung fiel weiterhin stark ab.
Warum das passiert: „Epistemia“
Die Autorinnen und Autoren prägen dafür den Begriff „Epistemia“ – die Neigung, KI-Antworten allein wegen ihrer sprachlichen Plausibilität zu übernehmen, statt sie zu prüfen. Sprachmodelle liefern stets eine Antwort und zeigen keine natürliche Zurückhaltung bei Unsicherheit; diese fehlende Unsicherheitskennzeichnung kann Nutzerinnen und Nutzern Abtötung jener Zurückhaltung beibringen.
Weitere Hinweise aus verwandten Studien
Weitere Arbeiten stützen das Bild: In einer Korrelationsstudie mit 666 Personen hing stärkere KI‑Nutzung mit geringerem kritischem Denken zusammen. Experimentelle Untersuchungen zeigten, dass schon 10–15 Minuten Interaktion mit einem KI‑Assistenten Problemlösungsfähigkeit und Ausdauer in nachfolgenden Aufgaben senken können; wer die KI lediglich zur Erklärung nutzte, war dagegen nicht betroffen.
Forschende bei Microsoft fanden ähnliche Effekte und betonen, dass KI-Nutzung hohe metakognitive Anforderungen stellt – die Fähigkeit, das eigene Denken zu überwachen; ein höheres Bildungsniveau scheint als Schutzfaktor zu wirken.
Kernaussage der Studien
Die Studien kommen auf einen klaren Punkt: KI-Antworten können dazu führen, dass Menschen seltener „Ich weiß es nicht“ sagen, sich deutlich sicherer fühlen und trotzdem häufiger falsch liegen. Ob bessere Modelle allein dieses Problem lösen könnten, bleibt unklar; entscheidend ist laut den Autorinnen und Autoren, ob Menschen weiterhin die Grenzen ihres Wissens erkennen und entsprechend handeln.
Quellen
- Quelle: Marcoccia / Quattrociocchi / Capraro
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
