Derin sahte içerikler artık tespit edilemiyor: İşletmelerin karşılaştığı yeni tehdit

Günümüzde yapay zeka destekli içerikler o kadar gerçekçi hale geldi ki, artık insan gözüyle sahte ile gerçeği ayırt etmek neredeyse imkansız. Bu durum sadece tüketiciler için değil, dijital hizmet sunan işletmeler için de ciddi bir risk oluşturuyor. Yeni yayınlanan bir araştırma, Amerikalıların derin sahte içerikleri tespit etme yeteneğinin neredeyse rastgele bir tahmin düzeyinde olduğunu ortaya koyuyor.

Veriff ve Kantar tarafından 2026 yılında gerçekleştirilen anket, ABD, İngiltere ve Brezilya'da yaşayan 3.000 katılımcıyla yapıldı. Araştırmaya göre, Amerikalıların derin sahte içerikleri ayırt etme başarısı sadece 0,07 puan olarak ölçüldü. Bu puan, tamamen rastgele bir tahminin bile altında kalıyor. Uzmanlar, bu durumun insanların dijital kimlik doğrulama sistemlerine olan güveni ciddi şekilde sarsabileceği uyarısında bulunuyor.

Dijital kimlik doğrulama sistemleri tehlike altında

İnsanların gerçek ile yapay içerikleri ayırt edememesi, dijital hizmet sağlayıcıları için ciddi bir tehdit oluşturuyor. Müşteri onboarding işlemlerinden hesap kurtarma süreçlerine, çevrimiçi alışverişten sosyal medya doğrulamasına kadar birçok alanda görsel doğrulama sistemlerine güveniliyor. Ancak bu sistemler artık güvenilirliğini yitirmeye başladı.

ABD'de sentetik kimlik sahtekarlığı yılda milyarlarca dolarlık kayıplara neden oluyor. Bu kayıplar, yapay zeka destekli sahte içerik üretme araçlarının yaygınlaşmasıyla birlikte daha da artıyor. Araştırmaya göre, ABD'de faaliyet gösteren işletmelerin yüzde 7'si derin sahte içerikleri tespit etmekte zorlanan ancak buna rağmen kendilerine fazla güvenen kullanıcılardan oluşuyor. Bu küçük grup, milyonlarca hesap anlamına geliyor ve dolandırıcılar için kolay hedef haline gelebiliyor.

Veriff'teki dolandırıcılık platformu lideri Ira Bondar-Mucci, "Yapay zeka destekli içerikler gerçeğe o kadar benziyor ki, artık insan gözüyle ayırt etmek neredeyse imkansız hale geldi. Bu durumda, insanların kendi kendilerini doğrulamasına dayanan sistemler artık güvenilir değil" diyor.

ABD'de derin sahte içerik farkındalığı endişe verici düzeyde

Araştırma, ABD'nin küresel yapay zeka geliştirme merkezi olmasına rağmen, tüketicilerin derin sahte içeriklere dair farkındalığının diğer ülkelere göre daha düşük olduğunu gösteriyor. ABD'de yetişkinlerin sadece yüzde 63'ü derin sahte içerik terimini biliyor. Bu oran İngiltere'de yüzde 74, Brezilya'da ise yüzde 67 olarak ölçüldü.

Bondar-Mucci, "ABD yapay zekanın küresel merkezi olabilir, ancak tüketicilerin bu teknolojinin tehlikeli bir yan ürünü olan derin sahte içeriklere dair farkındalığı oldukça düşük" diyor. "Tüketicilerin dijital içeriklere daha fazla güven duyduğu bir geçmiş var. Bu da dolandırıcılık tartışmalarını daha çok veri gizliliği odaklı hale getirmişti. Ancak artık içerik doğruluğu kadar önem taşıyan bir konu daha var: derin sahte içerikler."

İnsanlar derin sahte içerikleri neredeyse rastgele tespit ediyor

Araştırmaya katılanların derin sahte içerikleri ayırt etme yeteneği, içerik türüne göre değişiklik gösteriyor. Video içerikleri özellikle zorlu bir kategori olarak öne çıkıyor. Katılımcılar, sahte videoları gerçek olarak işaretlerken, gerçek videoları da sahte olarak değerlendirme eğiliminde oldular. Hatta yan yana karşılaştırmalarda bile katılımcıların kararları neredeyse eşit şekilde dağıldı. Bu durum, sadece görsel incelemeye dayanan doğrulama yöntemlerinin artık güvenilir olmadığını gösteriyor.

Aşırı güven, riskleri daha da artırıyor

Araştırmaya katılanların yaklaşık yarısı, derin sahte içerikleri tespit etme konusunda kendilerine güveniyor. Ancak bu güven, gerçek performanslarıyla karşılaştırıldığında büyük bir boşluk oluşturuyor. Bu durum, insanların kendi yeteneklerine dair yanlış bir güven duymasına neden oluyor.

Özellikle riskli bir grup ise yüzde 7'lik bir kesim oluşturuyor. Bu grup, derin sahte içerikleri tespit etmekte başarısız olmalarına rağmen kendilerine aşırı güveniyor ve şüpheli içerikleri nadiren doğrulama yoluna gidiyor.

Bondar-Mucci, "Bu güven-yetkinlik uçurumu, dolandırıcılara mükemmel bir fırsat sunuyor. İnsanlar kendilerini kandırılamayacaklarına inandıklarında, sahte içerikleri fark etme konusunda daha az dikkatli oluyorlar. Bu da onları finansal dolandırıcılıklar veya güven manipülasyonu için kolay hedefler haline getiriyor" diyor.

ABD'li kullanıcılar platformlara güveniyor, bireysel tedbiri azalıyor

Araştırmaya göre, ABD'li kullanıcıların yüzde 79'u derin sahte içerikler nedeniyle kişisel dolandırıcılık ve kimlik hırsızlığı konusunda oldukça endişeli. Ancak bu endişe, diğer ülkelere göre farklı bir şekilde yönlendiriliyor. ABD'li kullanıcılar, derin sahte içeriklerin tespit edilmesi ve yönetilmesi konusunda sosyal medya platformlarına ve dijital hizmet sağlayıcılarına daha fazla güveniyor. Bu da bireysel tedbirlerin azalmasına neden oluyor.

Bondar-Mucci, "Sentetik kimliklerin kullanılarak sahte hesapların açılması ve işlemlerin gerçekleştirilmesi, derin sahte videoların temel doğrulama kontrollerini atlatmak için kullanılması gibi durumlar giderek yaygınlaşıyor. Endişenin yüksek olmasıyla birlikte platformlara duyulan güvende artış olması, riskin daha da büyümesine neden oluyor" diyor.

Günümüzde, yapay zeka destekli içeriklerin tespit edilmesi giderek zorlaşıyor. Bu durum, hem bireylerin hem de işletmelerin dijital ortamda güvenliği sağlama konusunda yeni stratejiler geliştirmesi gerektiğini gösteriyor. Artık insanların kendi kendilerini doğrulamasına dayanan sistemler yeterli değil. İşletmelerin, otomatik doğrulama teknolojilerine yatırım yapması ve kullanıcıların güvenini sadece platformlara bırakmaması gerekiyor. Gelecekte, güvenlik sistemlerinin insan müdahalesine bağımlı olmadan çalışması zorunlu hale gelecek.