Eine neue Studie der Karlsuniversität Prag zeigt, dass KI-Modelle häufig KI-generierte Texte bevorzugen, was Fragen zur Fairness aufwirft.
In Kürze
- KI-Modelle wählen oft KI-generierte Inhalte über menschliche Texte
- Besonders hohe Präferenz bei Produktbeschreibungen festgestellt
- Risiko der Benachteiligung von Menschen in automatisierten Systemen
Eine neue Studie der Karlsuniversität Prag
Eine neue Studie der Karlsuniversität Prag sorgt für Aufsehen: Künstliche Intelligenz (KI) hat offenbar eine Vorliebe für Texte, die von anderen KIs verfasst wurden. In Tests mit verschiedenen Modellen, darunter GPT-3.5, GPT-4 sowie Systeme von Meta, Mistral und Alibaba, zeigte sich, dass diese KI-Modelle bei der Auswahl von Inhalten wie Produktbeschreibungen, wissenschaftlichen Texten und Filmzusammenfassungen deutlich häufiger zu KI-generierten Inhalten griffen als menschliche Testpersonen.
Ergebnisse bei Produktbeschreibungen
Besonders auffällig war das Ergebnis bei Produktbeschreibungen. Hier entschied sich GPT-4 in beeindruckenden 89 Prozent der Fälle für Texte, die von anderen KIs erstellt wurden. Im Vergleich dazu wählten Menschen nur in 36 Prozent der Fälle KI-Inhalte. Das wirft Fragen auf: Welche Kriterien nutzen KIs, um Texte zu bewerten? Die Forscher der Studie vermuten, dass diese Bewertung nicht auf objektiven Qualitätsmerkmalen basiert, was potenziell problematisch ist.
Mögliche Benachteiligung von Menschen
Ein zentrales Anliegen der Forscher ist die mögliche Benachteiligung von Menschen in automatisierten Entscheidungssystemen, wie etwa bei der Vorauswahl von Bewerbungen. Wer seine Dokumente nicht mit KI-Tools optimieren kann, könnte ins Hintertreffen geraten. Dies könnte zu einer digitalen Klassengesellschaft führen, in der einige besser abschneiden als andere, nur weil sie Zugang zu bestimmten Technologien haben.
Notwendigkeit weiterer Studien
Um diesen sogenannten „Bias“ besser zu verstehen und die Vorliebe von KIs für andere KI-generierte Texte zu untersuchen, sind weitere Studien erforderlich. Besonders in sensiblen Bereichen wie der Personalauswahl ist es wichtig, beim Einsatz von KI in Entscheidungssystemen vorsichtig zu sein, um Diskriminierung zu vermeiden. Die Entwicklungen in diesem Bereich könnten weitreichende Auswirkungen haben, und es bleibt abzuwarten, wie sich die Forschung weiterentwickelt.
Quellen
- Quelle: Karlsuniversität Prag
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
