Yapay zeka destekli bir araç kullanırken, aslında hiçbir zaman kaybedecek bir şeyi olmayan bir danışmana güveniyorsunuz. Para kaybetmiyor, itibarınız sarsılmıyor, işiniz riske girmiyor. Bu basit fark, modelin çıktılarını tamamen ters yönlere çekiyor. Geliştiriciler olarak bu önyargıyı bilmek ve yönetmek zorundayız.
"Oyunun içinde olmak" ne anlama geliyor?
Nassim Nicholas Taleb’in 2018 yılında yayınlanan Skin in the Game adlı kitabında yer alan bu kavram, kararların sonuçlarına katlanmanın önemini vurgular. Bir kişi hem karar alma hem de sonuçlarından sorumlu olduğunda, daha adil ve sağlam yargılara ulaşılır. Sorun şu ki: yapay zeka bu denklemde yer almıyor. Model, danışman rolünde olmasına rağmen hiçbir bedel ödemiyor. Taleb’in deyimiyle, bu durum sistemde kötü kararların temel nedenlerinden biri olan sonuç ve kazanç arasındaki asimetriyi yaratır.
Bu asimetri, yapay zekanın karar mekanizmalarına doğrudan işliyor. Model, örneğin hukuki riskler barındıran bir soruya yanıt verirken aşırı temkinli davranabilir ya da maliyetli bir öneride bulunurken gereğinden cesur olabilir. Her iki durumda da, sonuçları hissetmeyen bir sistemle çalışıyoruz.
İki temel önyargı: Aşırı korumacılık ve kayıp körlüğü
Yapay zekanın karar alma süreçlerindeki en yaygın önyargılarından biri, aşırı reddiyedir. Bu durum, modelin yasal ya da riskli algıladığı sorgulara otomatik olarak
Yapay zeka özeti
Yapay zeka karar verirken asla bedel ödemez. Bu durum, sistemin aşırı temkinli ya da gereğinden cesur davranmasına yol açıyor. Peki geliştiriciler bu önyargıyı nasıl dengeleyebilir?
