KI-Forschung: Warum wissenschaftliche Papers plötzlich zu oft zitiert werden

Im vergangenen Sommer bat Peter Degen seinen Postdoktoranden-Vorgesetzten zu einem ungewöhnlichen Gespräch. Einer seiner veröffentlichten Studien wurde plötzlich ungewöhnlich häufig zitiert. Nicht hunderts, sondern tausende Male innerhalb weniger Wochen. Normalerweise ein Grund zur Freude – doch in diesem Fall löste die Flut an Verweisen Alarm aus.

Degen, Forscher an der Universität Basel, hatte 2017 eine Studie veröffentlicht, die sich mit der Genauigkeit statistischer Analysen in epidemiologischen Daten befasste. Über Jahre hinweg wurde die Arbeit moderat zitiert – bis plötzlich automatisierte Systeme begannen, sie als Referenz zu nutzen. Nicht aus wissenschaftlicher Notwendigkeit, sondern aufgrund algorithmischer Empfehlungen. Was zunächst wie ein Erfolg aussah, entpuppte sich als Symptom eines tieferen Problems: die zunehmende Verbreitung von KI-generierten Forschungsarbeiten.

KI-Papers überschwemmen die Wissenschaft – mit potenziell gefährlichen Folgen

Die Zunahme an KI-generierten oder -optimierten Forschungsarbeiten hat in den letzten Monaten eine Diskussion in der akademischen Welt ausgelöst. Tools wie Large Language Models (LLMs) und automatisierte Schreibhilfen ermöglichen es Forschenden, Studien schneller zu verfassen – doch mit einem erheblichen Preis. Peer-Review-Prozesse, einst das Fundament wissenschaftlicher Integrität, geraten unter Druck, wenn Algorithmen entscheiden, welche Arbeiten publiziert werden.

Ein zentrales Problem: KI-Systeme neigen dazu, bestimmte Zitiermuster zu verstärken. Da sie auf bestehenden Datensätzen trainiert werden, reproduzieren sie häufig zitierte Arbeiten – unabhängig von deren tatsächlicher Relevanz. Dies führt zu einer gefährlichen Rückkopplungsschleife:

• KI-generierte Texte zitieren oft dieselben hochfrequentierten Papers.
• Diese Papers werden dadurch noch öfter zitiert.
• Neue KI-Tools nutzen diese Daten für ihre eigenen Trainings, was den Zyklus perpetuiert.

Besonders betroffen sind junge Forscher wie Degen, deren eigene Arbeiten plötzlich in Rankings auftauchen, die sie nie angestrebt haben. Die Gefahr: Wissenschaftliche Karrieren könnten durch algorithmische Verzerrungen beeinflusst werden – nicht durch Qualität, sondern durch Sichtbarkeit.

Warum Peer-Review unter KI-Druck gerät

Der traditionelle Peer-Review-Prozess soll sicherstellen, dass nur fundierte, überprüfte Forschung veröffentlicht wird. Doch wenn KI-Systeme den Schreibprozess beschleunigen und gleichzeitig die Zitationsdatenbanken füllen, wird die Unterscheidung zwischen seriöser und maschinell generierter Arbeit immer schwieriger. Einige Experten warnen sogar vor einem neuen Phänomen: der *„Slop“-Publikation – wissenschaftliche Werke, die zwar formal korrekt wirken, aber inhaltlich wenig Substanz bieten.

Ein Beispiel aus der Praxis: Im vergangenen Jahr identifizierte ein Team von Forschern der Universität Stanford Dutzende Papers in KI-Fachzeitschriften, die auffällig ähnliche Formulierungen und Strukturen aufwiesen. Eine nähere Untersuchung ergab, dass diese Arbeiten mit Hilfe von KI-Tools erstellt worden waren – und dennoch den Review-Prozess durchliefen, ohne als solche erkannt zu werden.

Die Konsequenzen sind weitreichend:

• Verzerrte Metriken: Zitationszahlen verlieren an Aussagekraft, da sie nicht mehr zwangsläufig Qualität widerspiegeln.
• Falsche Priorisierung: Forschungsgelder könnten an Projekte fließen, die nur scheinbar innovativ sind.
• Vertrauensverlust: Die Öffentlichkeit und Politik könnten das Vertrauen in wissenschaftliche Erkenntnisse verlieren, wenn Ergebnisse undurchsichtig werden.

Wie die Wissenschaft auf den KI-Boost reagiert

Angesichts dieser Entwicklungen suchen Universitäten und Fachzeitschriften nach Lösungen. Einige Verlage haben bereits Richtlinien eingeführt, die explizit die Nutzung von KI-Tools in der Forschung regeln. So verlangt etwa die renommierte Zeitschrift Nature, dass Autoren offenlegen müssen, wenn sie KI-gestützte Tools beim Verfassen von Manuskripten eingesetzt haben.

Auch in der akademischen Community formiert sich Widerstand. Eine Gruppe von 18 Wissenschaftlern veröffentlichte kürzlich ein Positionspapier, in dem sie vor den Risiken von KI-gestützter Forschung warnen und strengere Kontrollen fordern. Ihr Appell: Peer-Review-Prozesse müssen transparenter und widerstandsfähiger gegen algorithmische Verzerrungen werden.

Doch die Herausforderung bleibt komplex. Einerseits versprechen KI-Tools, die Forschung zu beschleunigen und neue Erkenntnisse zu generieren. Andererseits droht die Gefahr, dass sie die Grundprinzipien der Wissenschaft – Transparenz, Überprüfbarkeit und Reproduzierbarkeit – untergraben. Die Balance zwischen Innovation und Integrität zu finden, wird eine der drängendsten Aufgaben der kommenden Jahre sein.

Was bedeutet das für die Zukunft der Forschung?

Die aktuellen Entwicklungen deuten darauf hin, dass KI die Art und Weise, wie Wissenschaft betrieben wird, grundlegend verändern wird. Während einige Forscher optimistisch sind und in der Automatisierung eine Chance sehen, die Forschung effizienter zu gestalten, warnen andere vor den Risiken einer „Zitationsinflation“ – einer Überflutung des wissenschaftlichen Publikationsmarktes mit inhaltsleeren oder redundanten Arbeiten.

Ein möglicher Ausweg könnte in der Entwicklung neuer Bewertungskriterien liegen. Statt sich solely auf Zitationszahlen zu verlassen, könnten Fachzeitschriften vermehrt auf andere Metriken setzen, wie etwa die Reproduzierbarkeit von Ergebnissen oder die direkte Einbindung von Peer-Feedback. Auch die verstärkte Nutzung von Open-Source-Tools und offenen Datenbanken könnte helfen, die Transparenz zu erhöhen.

Eines ist sicher: Die wissenschaftliche Gemeinschaft steht vor einer Zäsur. Die Frage ist nicht mehr, ob KI die Forschung verändert, sondern wie wir sicherstellen können, dass diese Veränderung zum Wohl der Wissenschaft und der Gesellschaft erfolgt – und nicht zu ihrem Nachteil.

Die nächsten Monate und Jahre werden zeigen, ob die Balance gelingt oder ob die „Slop“-Publikationen die Oberhand gewinnen.