Tiefenfälschungen: Warum Unternehmen ihre Identitätsprüfung neu denken müssen

Die Fähigkeit von Verbrauchern, KI-generierte Inhalte zu erkennen, ist erschreckend gering – und das hat direkte Folgen für Unternehmen.

Eine aktuelle Untersuchung von Veriff und Kantar mit über 3.000 Teilnehmern aus den USA, Großbritannien und Brasilien offenbart ein alarmierendes Bild: Amerikanische Nutzer liegen bei der Unterscheidung zwischen echten und gefälschten Inhalten nur knapp über dem Zufallsniveau. Auf einer Skala, bei der 0 für reine Ratenleistung steht, erreichten sie einen Wert von gerade einmal 0,07. Diese Ergebnisse zeigen, dass selbst technikaffine Gesellschaften wie die USA nicht ausreichend auf die Bedrohung durch manipulierte Medien vorbereitet sind.

Doch warum ist das ein Problem für Unternehmen? Viele digitale Dienstleister verlassen sich bei der Identitätsprüfung auf visuelle Verifizierungsmethoden – etwa bei der Kontoeröffnung, Transaktionsfreigaben oder Zugangskontrollen. Wenn Nutzer nicht mehr zwischen echt und gefälscht unterscheiden können, wird auch die Authentizität des Gegenübers fragwürdig. Die Folgen sind bereits heute spürbar: Synthetische Identitätsbetrugsfälle verursachen in den USA jährlich Milliardenverluste. Gleichzeitig werden die Tools zur Erstellung überzeugender Fälschungen immer zugänglicher.

Das Vertrauen in menschliche Wahrnehmung ist trügerisch

Die Studie identifiziert eine besonders gefährliche Gruppe: etwa 7 % der Nutzer erkennen Fälschungen systematisch falsch, sind aber gleichzeitig überzeugt von ihren Fähigkeiten. Diese Personen überprüfen verdächtige Inhalte kaum – und werden so zu idealen Zielen für Betrüger. Ira Bondar-Mucci, Leiterin der Betrugsplattform bei Veriff, warnt: "Wenn Menschen glauben, nicht getäuscht werden zu können, hören sie auf, nach Anzeichen zu suchen. Genau das macht sie verwundbar – sei es durch gefälschte Identitäten oder manipulierte Videos."

Selbst in direkten Vergleichen zwischen echten und gefälschten Videos scheiterten die meisten Teilnehmer. Echte Inhalte wurden häufig als Fälschungen eingestuft, während gefälschte Videos als authentisch wahrgenommen wurden. Diese Ergebnisse unterstreichen: Visuelle Inspektion allein ist kein verlässlicher Schutz mehr.

USA hinken in der KI-Aufklärung hinterher

Obwohl die USA als globaler Vorreiter in der KI-Entwicklung gelten, zeigt die Studie ein überraschendes Defizit: Nur 63 % der amerikanischen Erwachsene kennen den Begriff „Deepfake“ – deutlich weniger als im Vereinigten Königreich (74 %) oder in Brasilien (67 %).

Bondar-Mucci erklärt diesen Widerspruch: "Es gibt eine paradoxe Situation: Die USA treiben die KI-Entwicklung voran, doch die Nutzer sind am wenigsten mit einer ihrer gefährlichsten Nebenwirkungen vertraut. Traditionell vertrauen Amerikaner digitalen Inhalten stärker als andere Gesellschaften, wobei Betrugsdebatten oft auf Datenschutz statt auf Inhaltsauthentizität fokussieren. Doch wer Deepfakes nicht erkennt, wird sie auch nicht hinterfragen – und das erhöht das Risiko."

Übermäßiges Vertrauen in Plattformen verschärft die Krise

Interessanterweise äußern 79 % der US-Nutzer Besorgnis über Betrug und Identitätsdiebstahl durch KI-Manipulationen. Gleichzeitig vertrauen sie digitalen Plattformen stärker als andere Länder, diese Probleme in den Griff zu bekommen. Doch diese Delegation von Verantwortung könnte die individuelle Wachsamkeit untergraben – genau in dem Moment, in dem die Bedrohung wächst.

Bondar-Mucci warnt: "Wir beobachten bereits Fälle, in denen synthetische Identitäten für Kontoeröffnungen missbraucht oder Deepfake-Videos genutzt werden, um grundlegende Sicherheitsprüfungen zu umgehen. Die Kombination aus hoher Besorgnis und blindem Plattformvertrauen ist besonders gefährlich."

Automatisierte Lösungen werden zur Notwendigkeit

Für Unternehmen bedeutet das: Identitätsprüfungen dürfen sich nicht länger auf menschliche Einschätzungen verlassen. Bondar-Mucci betont: "Die menschliche Wahrnehmung ist keine zuverlässige Verteidigungslinie mehr. Unternehmen und politische Entscheidungsträger müssen jetzt handeln – sowohl durch Aufklärung als auch durch den Einsatz automatisierter Verifizierungstechnologien."

Während die Studie zeigt, dass die USA noch Nachholbedarf in der KI-Aufklärung haben, ist der Trend global: Die Grenzen zwischen echt und gefälscht verschwimmen. Unternehmen, die ihre Verifizierungsprozesse nicht anpassen, riskieren nicht nur finanzielle Verluste, sondern auch den Verlust des Kundenvertrauens. Die Zukunft der digitalen Sicherheit liegt nicht im menschlichen Urteilsvermögen, sondern in intelligenten Systemen, die Betrugsmuster erkennen – bevor sie Schaden anrichten.

Die Zeit für halbherzige Maßnahmen ist vorbei. Wer heute noch auf visuelle Prüfungen setzt, handelt fahrlässig – und spielt Betrügern in die Hände.