KI-Kennzeichnungssysteme stehen vor entscheidendem Test

Die Bilder gingen um die Welt: Ein Papst in einer weißen Daunenjacke, ein Politiker auf einem Wahlplakat mit übertriebenen Proportionen oder ein Prominenter in einer absurden Szene. Innerhalb von Stunden wurden sie millionenfach geteilt, bevor klar wurde, dass es sich um KI-generierte Fälschungen handelte. Solche Vorfälle zeigen, wie dringend verlässliche Systeme zur Kennzeichnung von KI-Inhalten sind. Zwei vielversprechende Ansätze, SynthID und C2PA Content Credentials, erhalten jetzt eine historische Ausweitung – und könnten die Lösung sein.

Warum verlässliche KI-Kennzeichnung jetzt entscheidend ist

KI-generierte Inhalte sind längst kein Nischenthema mehr. Von Deepfakes in Wahlkämpfen bis hin zu gefälschten Social-Media-Posts von Prominenten: Die Manipulation durch künstliche Intelligenz wird immer raffinierter. Doch während die Technologie zur Erstellung solcher Inhalte rasant wächst, hinkt die Erkennung und Kennzeichnung hinterher. Aktuell gibt es kaum Möglichkeiten, auf den ersten Blick zu erkennen, ob ein Bild, Video oder Audio echt ist oder von einer KI stammt.

Genau hier setzen SynthID von Google und C2PA Content Credentials an. Beide Systeme nutzen unsichtbare Markierungen, um Inhalte mit Informationen über ihre Herkunft zu versehen. Während SynthID direkt in Googles KI-Modelle integriert ist und automatisch Watermarks auf generierte Inhalte anwendet, verfolgt C2PA einen offenen Standardansatz, der von mehreren Unternehmen unterstützt wird. Doch die Frage bleibt: Können diese Systeme die Flut an ungekennzeichneten KI-Inhalten eindämmen?

Wie die neuen Technologien funktionieren

SynthID arbeitet als unsichtbare digitale Signatur, die direkt in den Inhalt eingebettet wird. Diese Markierung bleibt auch bei Kompression oder Bearbeitung der Datei erhalten und kann mit speziellen Tools ausgelesen werden. Google hat die Technologie bereits in einigen seiner KI-Dienste wie Imagen und MusicLM integriert. Nutzer erhalten so die Möglichkeit, Inhalte gezielt zu überprüfen – zumindest theoretisch.

C2PA Content Credentials hingegen setzt auf einen dezentralen Ansatz. Hier werden Metadaten in einer standardisierten Form gespeichert, die von jedem gelesen werden kann, der über die entsprechende Software verfügt. Die Technologie wird von einem Konsortium unterstützt, zu dem auch Adobe, Microsoft und die BBC gehören. Im Gegensatz zu SynthID erfordert C2PA keine zentrale Instanz, was die Akzeptanz und Verbreitung erleichtern könnte.

Beide Systeme haben jedoch mit ähnlichen Herausforderungen zu kämpfen:

• Akzeptanz in der Praxis: Selbst wenn die Technologien verfügbar sind, müssen sie von Plattformen wie sozialen Medien, Nachrichtenportalen und Suchmaschinen unterstützt werden.
• Umgehung durch Manipulation: Kriminelle könnten versuchen, die Markierungen gezielt zu entfernen oder zu fälschen.
• Nutzerfreundlichkeit: Die meisten Menschen wissen nicht, wie sie solche Kennzeichnungen überprüfen können. Ohne einfache Tools bleibt die Technologie wirkungslos.

Die ersten großen Tests stehen bevor

Google hat kürzlich auf seiner Entwicklerkonferenz I/O angekündigt, SynthID auf weitere KI-Modelle auszuweiten. Gleichzeitig wird C2PA Content Credentials in mehreren Pilotprojekten getestet, darunter bei Adobe Photoshop und der BBC. Die Hoffnung ist, dass diese Systeme bald flächendeckend eingesetzt werden und so die Transparenz im digitalen Raum erhöhen.

Doch die Zeit drängt. Allein im ersten Quartal 2024 wurden über 20.000 KI-generierte Bilder und Videos auf Plattformen wie Reddit und Twitter verbreitet, die ohne Kennzeichnung blieben. Ohne eine schnelle und umfassende Einführung dieser Technologien droht die Gefahr, dass die Glaubwürdigkeit von digitalen Inhalten weiter sinkt – mit gravierenden Folgen für die öffentliche Meinungsbildung.

Ein Schritt in die richtige Richtung – aber noch lange nicht genug

Die Expansion von SynthID und C2PA ist ein wichtiger Meilenstein im Kampf gegen KI-Fälschungen. Doch sie allein werden das Problem nicht lösen. Es braucht eine Kombination aus technologischen Lösungen, gesetzlichen Vorgaben und einer breiten Aufklärung der Nutzer. Plattformen wie Meta und X müssen ihre Algorithmen so anpassen, dass sie automatisch nach solchen Kennzeichnungen suchen und verdächtige Inhalte kennzeichnen oder entfernen.

Langfristig könnte eine globale Standardisierung der KI-Kennzeichnungssysteme der Schlüssel sein. Nur so lässt sich sicherstellen, dass Inhalte unabhängig von ihrer Herkunft überprüfbar bleiben. Die nächsten Monate werden zeigen, ob die Technologieindustrie und die Politik schnell genug handeln, um der Flut an KI-Manipulationen Einhalt zu gebieten.