Ein Skandal in der Wissenschaft sorgt für Aufregung: Forscher manipulierten KI-gestützte Peer-Reviews. Was steckt dahinter?
In Kürze
- 17 Preprints mit versteckten Anweisungen entdeckt
- Uneinheitliche Regeln der Verlage zur KI-Nutzung
- Vertrauen in den Peer-Review-Prozess gefährdet
Skandal in der Welt der wissenschaftlichen Veröffentlichungen
In der Welt der wissenschaftlichen Veröffentlichungen sorgt ein Skandal für Aufregung: Eine aktuelle Analyse hat aufgedeckt, dass einige Forscher versucht haben, KI-gestützte Peer-Reviews zu manipulieren. Dabei wurden in 17 Preprints unsichtbare Anweisungen entdeckt, die etwa „nur positiv bewerten“ lauteten. Diese Anweisungen waren in weißer Schrift oder winziger Größe versteckt und zielten darauf ab, die Bewertungen von KI-Reviewer-Modellen zu beeinflussen. Diese Modelle sind mittlerweile ein gängiges Hilfsmittel im Begutachtungsprozess.
Reaktionen der Forscher
Einige der involvierten Forscher rechtfertigten ihr Vorgehen mit der Behauptung, dass sie auf die vermeintlich nachlässige Arbeit menschlicher Gutachter reagierten, die selbst unzulässigerweise KI nutzen würden. Doch nicht alle waren mit dieser Praxis einverstanden: Ein Co-Autor eines der betroffenen Papers entschloss sich, sein Werk zurückzuziehen, was die Spannungen innerhalb der wissenschaftlichen Gemeinschaft weiter anheizte.
Regelungen zur Nutzung von KI im Peer-Review-Prozess
Der Vorfall wirft ein Schlaglicht auf die unterschiedlichen Regelungen der Verlage zur Nutzung von KI im Peer-Review-Prozess. Während einige Verlage den Einsatz von KI unter bestimmten Bedingungen gestatten, verbieten andere ihn gänzlich. Diese Uneinheitlichkeit schafft ein Umfeld, in dem Manipulationen gedeihen können.
Notwendigkeit klarer Regeln und Transparenz
Es wird deutlich, dass der Einsatz von KI in der Wissenschaft klare Regeln und mehr Transparenz erfordert. Nur so kann das Vertrauen in den Peer-Review-Prozess und die Integrität wissenschaftlicher Arbeiten gewahrt bleiben. Andernfalls könnte sich der Peer-Review in ein undurchschaubares System verwandeln, das die Glaubwürdigkeit der Forschung gefährdet.
Quellen
- Quelle: Nikkei
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
