Steven Rosenbaum, Journalist und Autor des Buches Die Zukunft der Wahrheit: Wie KI die Realität verändert, steht vor einem Dilemma: Sein Werk thematisiert die Manipulation von Wahrheit durch KI – doch nun wurde auch in seinem eigenen Buch auf KI basierende, gefälschte Zitate entdeckt. Eine aktuelle Untersuchung der New York Times deckte auf, dass einige Zitate in Rosenbaums Buch nicht authentisch sind.
Rosenbaums Buch analysiert, wie schnelle, gewinnorientierte KI-Systeme die Grenzen zwischen Fakt und Fiktion verwischen. Doch die Technologie, die er eigentlich kritisiert, scheint nun auch seine eigene Arbeit beeinflusst zu haben. Die betroffenen Zitate wurden durch KI-generierte Inhalte ersetzt, die weder von den genannten Personen stammen noch jemals geäußert wurden.
Gefälschte Zitate: Wer ist betroffen?
Laut dem Bericht der New York Times stammen einige der fragwürdigen Passagen aus Interviews, die Rosenbaum mit Technologieexpert:innen geführt haben soll. Besonders auffällig ist ein Zitat, das der bekannten Tech-Journalistin Kara Swisher zugeschrieben wird. Swisher selbst erklärte gegenüber der Zeitung, sie habe den Satz „niemals gesagt“. Ein weiteres Beispiel betrifft die Neurowissenschaftlerin Lisa Feldman Barrett, die bestätigte, dass die zitierten Aussagen „weder in ihrem Werk noch in irgendeinem Interview“ vorkommen.
Die betroffenen Zitate wurden durch KI-Tools generiert, die auf Basis von Textmustern und Kontext ähnliche Formulierungen erstellten. Rosenbaum räumte ein, dass diese Technik „die Grenzen zwischen Originalität und Fälschung“ verwische.
Wie KI die Recherche verändert – und welche Risiken entstehen
KI-Tools wie Sprachmodelle werden zunehmend in der Recherche eingesetzt, um große Mengen an Texten zu analysieren und Zusammenfassungen zu erstellen. Sie ermöglichen es Autor:innen und Journalist:innen, effizienter zu arbeiten – doch die Technologie birgt auch erhebliche Risiken.
- Fehlende Überprüfung: KI-Systeme generieren Inhalte oft ohne menschliche Kontrolle, was zu falschen oder irreführenden Zitaten führen kann.
- Vertrauensverlust: Wenn Leser:innen feststellen, dass Zitate gefälscht sind, leidet die Glaubwürdigkeit des gesamten Werks.
- Rechtliche Konsequenzen: Unautorisierte Zitate können zu Urheberrechtsverletzungen oder Verleumdungsklagen führen.
Rosenbaum betonte, dass er die Zitate „nicht bewusst“ gefälscht habe, sondern vielmehr auf die Technologie vertraute. Doch die Vorfälle zeigen, wie schwer es ist, die Qualität von KI-generierten Inhalten zu gewährleisten.
Rosenbaums Reaktion: Eine umfassende Überprüfung
Nach Bekanntwerden der Vorfälle kündigte Rosenbaum an, eine vollständige „Zitataudit“ seiner Quellen durchzuführen. Ziel ist es, zukünftige Auflagen seines Buches von fehlerhaften oder gefälschten Zitaten zu bereinigen.
Der Autor erklärte gegenüber Medien, er wolle die KI-Technologie weiterhin nutzen, da sie „die Recherche beschleunigt“. Gleichzeitig räumte er ein, dass eine strengere Kontrolle notwendig sei. „Wir müssen sicherstellen, dass jede Information, die wir veröffentlichen, korrekt und überprüfbar ist“, so Rosenbaum.
Die Zukunft der KI in der Literatur
Die Vorfälle um Rosenbaums Buch werfen grundsätzliche Fragen zur Nutzung von KI in der wissenschaftlichen und journalistischen Arbeit auf. Während die Technologie das Potenzial hat, die Recherche zu revolutionieren, zeigt sie auch ihre Schwächen.
Autor:innen und Verlage stehen vor der Herausforderung, KI-Tools verantwortungsvoll einzusetzen. Eine Kombination aus menschlicher Überprüfung und technologischer Unterstützung könnte der Schlüssel sein, um die Glaubwürdigkeit von Inhalten zu wahren.
Für Steven Rosenbaum bedeutet das: Er wird seine Arbeit fortsetzen – aber mit mehr Vorsicht. Die Debatte über KI in der Literatur hat gerade erst begonnen.
KI-Zusammenfassung
Yazar Steven Rosenbaum’un kitabında yapay zeka tarafından üretilmiş alıntılar ortaya çıktı. İşte AI’nın yayıncılıkta yol açtığı güvenilirlik sorunları ve gelecekteki etkileri.
