Margaret Atwood: Warum KI nur so gut sein kann wie ihre Daten

Die kanadische Autorin Margaret Atwood, bekannt für ihre dystopischen Werke wie Der Report der Magd und Der blinde Mörder, hat sich erneut kritisch zur künstlichen Intelligenz geäußert. Bei einer Veranstaltung des Babell Literatur- und Kulturfestivals in Porto, Portugal, thematisierte sie die Grenzen moderner Sprachmodelle – und ihre persönlichen Erfahrungen damit.

Wenn KI auf fehlerhaften Daten basiert

Atwood, die 2026 bereits ihr 80. Lebensjahr vollendet, berichtete, dass sie selbst nur einmal mit einem KI-Chatbot interagiert habe: mit Claude von Anthropic. Ihr Ziel war denkbar simpel: Sie suchte nach Informationen zur britischen Krimireihe Father Brown. Das Ergebnis enttäuschte sie jedoch zutiefst. Statt korrekter Fakten lieferte der Chatbot fehlerhafte Angaben – ohne dies zu erkennen.

„Claude gab mir die falsche Antwort oder log sogar. Natürlich wusste es selbst nicht, dass es lügt, denn es ist kein Mensch, sondern ein Sprachmodell. Es hatte einfach die Informationen nur flüchtig durchgeblättert …“

Diese Erfahrung bestätigte in ihren Augen ein grundlegendes Problem der heutigen KI-Systeme: Garbage in, garbage out – ein Prinzip, das längst aus der Informatik bekannt ist. Die Qualität der Ausgabe hängt entscheidend von der Qualität der Eingabedaten ab. Doch während ein Mensch solche Fehler oft bemerkt, fehlt KI dieses Bewusstsein vollständig.

Literarische Parallelen: Warum KI keine echte Kreativität besitzt

Atwood, die sich seit Jahrzehnten mit den Auswirkungen von Technologie auf die Gesellschaft auseinandersetzt, zog eine direkte Verbindung zwischen KI und Literatur. Sie betonte, dass selbst die fortschrittlichsten Sprachmodelle keine neuen Ideen generieren können – sie kombinieren lediglich bestehende Informationen auf neue Weise.

• Keine wahre Innovation: KI kann keine originären Gedanken hervorbringen, sondern nur Muster erkennen und reproduzieren.
• Abhängigkeit von menschlichen Vorbildern: Ohne die Werke von Autoren oder die Daten der Entwickler wäre kein Sprachmodell denkbar.

Die Schriftstellerin unterstrich, dass Kreativität immer mit Erfahrung, Emotionen und einer einzigartigen Perspektive verbunden sei – Eigenschaften, die Maschinen schlichtweg fehlen.

Die Verantwortung der Entwickler und Nutzer

Atwoods Kritik richtete sich nicht nur an die Technologie selbst, sondern auch an diejenigen, die sie einsetzen. Sie forderte mehr Transparenz darüber, welche Daten für das Training von KI-Modellen verwendet werden.

• Qualitätskontrolle der Trainingsdaten: Ohne sorgfältige Prüfung der Eingabedaten sei die Qualität der KI-Ergebnisse fragwürdig.

• Nutzeraufklärung: Nutzer müssten sich bewusst sein, dass KI-Systeme keine unfehlbaren Quellen sind – besonders bei sensiblen Themen.

Die Autorin warnte davor, KI blind zu vertrauen, und verglich die Situation mit der Nutzung von Wikipedia: Auch hier sei kritisches Hinterfragen unerlässlich.

Ein Blick in die Zukunft: Wird KI jemals die Literatur revolutionieren?

Trotz ihrer Skepsis gegenüber den aktuellen Anwendungen von KI zeigte sich Atwood offen für zukünftige Entwicklungen. Sie betonte, dass Technologie an sich weder gut noch schlecht sei, sondern von den Menschen abhängt, die sie gestalten und nutzen.

Doch solange KI-Systeme auf unvollständigen, verzerrten oder fehlerhaften Daten basieren, bleibt ihr Potenzial begrenzt. Atwoods Appell an Entwickler und Nutzer, Verantwortung zu übernehmen, könnte daher zum Schlüssel für eine verantwortungsvolle Weiterentwicklung werden.

Die Debatte um KI und ihre Grenzen wird zweifellos weitergehen – und Persönlichkeiten wie Margaret Atwood werden dabei eine entscheidende Rolle spielen.