Florida eyaletinde yaşayan Robert Dillon, 2024 yılının Ağustos ayında, Jacksonville Beach’teki bir McDonald’s’tan alınan görüntülerdeki zanlıya ait olduğu iddia edilen yüz tanıma algoritmasının %93’lük bir eşleşme oranıyla kendisini hedef göstermesi üzerine, çocuklara yönelik taciz girişimiyle suçlandı. Ancak Dillon, dava dosyasındaki belgelerin de ortaya koyduğu üzere, bu olayın yaşandığı sırada Fort Myers’de bulunuyordu ve Jacksonville Beach’e hiç gitmemişti.
Dillon’ın avukatları tarafından dün federal mahkemeye sunulan dava, polislerin yapay zeka destekli yüz tanıma sisteminin hatalı sonuçlarını sorgulamak yerine, bu sonucu destekleyecek kanıtlar toplamaya odaklandığını öne sürüyor. Dava metninde, "Bu dava, hatalı yapay zeka sistemlerinin adaletin yerini almasına izin verildiğinde neler olduğunu gösteriyor" ifadesine yer verildi.
Yüz tanıma algoritmasının zayıf noktaları
Savcılık makamı, Dillon’ı zanlı olarak belirlemek için kullanılan görüntünün son derece düşük kalitede olduğunu kabul ediyor. Dosyaya göre, zanlı olarak gösterilen kişi, McDonald’s’taki bir bilgisayar ekranından çekilen ve bulanıklık nedeniyle ayrıntıları net olmayan bir videodan tespit edilmişti. Dillon’ın avukatları, algoritmanın bu görüntüye dayanarak yaptığı %93’lük eşleşmenin herhangi bir güvenilir kanıt olarak kabul edilemeyeceğini savunuyor.
Dillon’ın avukatları ayrıca, polislerin araç plaka okuyucu verilerini incelemediğini iddia ediyor. Jacksonville Beach’e 300 kilometreden fazla uzakta yaşayan Dillon’ın, olayın yaşandığı sırada bölgede bulunmadığına dair kayıtlar, araç plaka veritabanında da yer almıyor. Buna rağmen, Dillon’a karşı dava açılmış ve zanlı ilan edilmişti.
Polisin görev ihmaline dair ciddi iddialar
Dava, polislerin tarafsız soruşturma yükümlülüğünü ihlal ettiğini öne sürüyor. Dillon’ın avukatları, polislerin elinde, onun masumiyetini doğrulayacak kanıtlar olduğunu, ancak bu kanıtları dikkate almadıklarını belirtiyor. Dillon, 2024 yılının Ağustos ayında tutuklanmış ve çocuklara yönelik taciz girişimi suçlamasıyla yargılanmaya başlamıştı. Bu suçlamalar, toplumda en ağır şekilde damgalanan suç türlerinden biri olarak kabul ediliyor.
Dillon’ın avukatlarından biri, yaptığı açıklamada, "Müşterimizin masumiyetini doğrulayacak çok sayıda kanıt varken, polisler sadece algoritmanın çıktısına güvenerek hareket etti. Bu durum, adalet sisteminin temel ilkelerini ciddi şekilde zedeliyor" dedi.
Gelecekteki adli soruşturmalarda yapay zeka kullanımına dair endişeler
Bu dava, yüz tanıma teknolojisinin adli sistemlerde kullanımına dair artan tartışmaları da alevlendirdi. Yapay zeka destekli yüz tanıma sistemleri, son yıllarda suçlu tespitinde yaygın olarak kullanılmaya başlandı. Ancak bu sistemlerin hatalı sonuçlar üretebileceği ve masum insanların zanlı ilan edilmesine yol açabileceği konusunda uzmanlar uzun süredir uyarıyor.
Dillon’ın davası, bu sistemlerin kullanımının sıkı denetime tabi tutulması gerektiğini bir kez daha gözler önüne seriyor. Uzmanlar, yüz tanıma algoritmalarının sadece yardımcı bir araç olarak kullanılması ve insan incelemesiyle desteklenmesi gerektiğini vurguluyor. Aksi takdirde, adalet sisteminde ciddi hataların ortaya çıkabileceği uyarısında bulunuyorlar.
Dillon’ın davası devam ederken, bu olayın adli sistemde yapay zeka kullanımına dair yeni düzenlemelerin yapılmasına yol açması bekleniyor. Gelecekte, benzer hataların tekrarlanmaması için polis ve savcılıkların, algoritmik kararları sorgulama ve doğrulama yükümlülüğü altında olmaları gerekebilir.
Bu olay, sadece Florida’da değil, tüm ülkede yapay zeka destekli teknolojilerin adalet sistemindeki yerinin yeniden değerlendirilmesine yol açabilir.
Yapay zeka özeti
Bir adam, McDonald’s’taki kameradan alınan düşük kaliteli görüntüye dayanan yüz tanıma algoritmasının hatasıyla haksız yere zanlı ilan edildi. Florida polisinin diğer kanıtları görmezden gelmesiyle 300 kilometre uzakta olan bir adam, çocukları hedeflediği iddiasıyla gözaltına alındı.
