Tıp dünyasında dermatologlar, deri lezyonlarını kanser riskine göre sınıflandırmak için yapay zeka modellerinden destek alıyor. Ancak bu modellerin ten rengi gibi faktörlere karşı önyargılı olması, yüksek risk taşıyan hastaların gözden kaçmasına yol açabilir. Bu tür senaryolar, yapay zeka araştırmalarında en kritik sorunlardan biri olan önyargı olgusunu gündeme getiriyor.
Yapay zekada önyargı, genellikle eğitim verilerindeki dengesizliklerden kaynaklansa da model mimarisinin kendisi de önyargıyı besleyip çoğaltabiliyor. Özellikle sağlık sektöründeki uygulamalar, önyargının yol açtığı hata riskleri nedeniyle model güvenilirliğinin bir güvenlik meselesi haline gelmesine neden oluyor. Son yıllarda yapılan çalışmalar, önyargının yalnızca verilerle değil, modelin içsel yapısında da yer edinebildiğini gösteriyor.
Vision Language Modellerindeki Önyargı Sorunu ve "Whac-A-Mole" Etkisi
MIT, Worcester Polytechnic Institute ve Google araştırmacıları tarafından hazırlanan ve Uluslararası Öğrenme Temsilleri Konferansı 2026’da sunulacak olan yeni bir makale, Weighted Rotational DebiasING (WRING) adı verilen yenilikçi bir önyargı giderme yaklaşımını tanıtıyor. Bu yöntem, OpenAI’nin OpenCLIP gibi vision language modelleri (VLM’ler) üzerinde uygulanabiliyor.
VLM’ler, görüntü, video ve metin gibi farklı veri türlerini aynı anda işleyebilen çok modlu modeller olarak öne çıkıyor. Mevcut önyargı giderme tekniklerinin çoğu, projeksiyon tabanlı önyargı giderme adı verilen bir yönteme dayanıyor. Bu yaklaşım, modelin temsil uzayından önyargılı bilgileri "projeksiyon" yoluyla çıkararak çalışıyor. Ancak bu yöntem, "Whac-A-Mole dilemma" olarak adlandırılan bir soruna yol açıyor.
MIT doktora sonrası araştırmacısı Walter Gerych, bu durumu şöyle açıklıyor: "Projeksiyon yaptığınızda, yanlışlıkla etrafındaki her şeyi sıkıştırıyorsunuz. Modelin öğrendiği diğer tüm ilişkiler de bu işlemle birlikte değişiyor."
Araştırmacılar, projeksiyon tabanlı önyargı gidermenin önyargıyı ortadan kaldırsa da yeni önyargılar doğurabileceğini vücuda getiriyor. Örneğin, klinik personel görüntülerinde ırk önyargısını gidermek, cinsiyet önyargısını artırabiliyor. MIT’den Marzyeh Ghassemi, bu durumu hem teknik hem de pratik bir zorluk olarak değerlendirirken, "Bu, hem model performansı hem de gerçek dünya uygulamaları açısından ciddi sonuçlar doğurabilir" diyor.
WRING: Önyargıyı Döndürerek Giderme Yöntemi
WRING yaklaşımı, modelin yüksek boyutlu temsil uzayındaki belirli koordinatları, önyargıya neden olan unsurları farklı bir açıya taşıyarak çalışıyor. Böylece model, belirli bir kavram içinde gruplar arasındaki farkları ayırt edemez hale geliyor. Bu işlem, diğer ilişkilerin korunmasını sağlarken önyargıyı da etkili bir şekilde azaltıyor.
WRING’in en büyük avantajlarından biri, post-processing (son işlem) tabanlı olması. Bu sayede, önceden eğitilmiş bir model üzerinde anında uygulanabiliyor. Gerych, bu özelliğin önemini şöyle vurguluyor: "Bu modelleri eğitmek için çok fazla kaynak ve zaman harcanıyor. Modeli yeniden eğitmeye başlamak yerine, WRING gibi minimal müdahalelerle önyargıyı azaltmak çok daha verimli."
Araştırmacılar, yaptıkları testlerde WRING’in hedeflediği önyargıyı önemli ölçüde azalttığını, ancak diğer alanlarda yeni önyargılar oluşturmadığını gözlemledi. Bununla birlikte, bu yöntemin şu an için yalnızca CLIP (Contrastive Language-Image Pre-training) modelleriyle sınırlı olduğunu belirtiyorlar. CLIP, görüntüleri metinlerle eşleştiren ve arama ya da sınıflandırma için kullanılan bir VLM türü.
Gerych, gelecekteki çalışmaların odak noktasını şöyle açıklıyor: "ChatGPT tarzı, üreteçli dil modellerine bu yaklaşımı genişletmek mantıklı bir sonraki adım olacaktır."
Gelecekteki Uygulamalar ve Destekleyen Kuruluşlar
WRING’in geliştirilmesi, çeşitli kuruluşlardan destek aldı. Araştırma, Ulusal Bilim Vakfı (NSF) CAREER Ödülü, AI2050 Erken Kariyer Bursu, Sloan Araştırma Bursu, Gordon ve Betty Moore Vakfı Ödülü ve MIT-Google Hesaplama İnovasyon Ödülü tarafından finanse edildi.
Bu gelişme, yapay zeka modellerindeki önyargıların giderilmesine yönelik yeni bir bakış açısı sunarken, sağlık gibi yüksek riskli alanlarda model güvenilirliğini artırma potansiyeline sahip. Araştırmacılar, WRING’in daha geniş modellere ve farklı veri türlerine uygulanabilir hale getirilmesi için çalışmalarını sürdürüyor. Gelecekte, bu tür yenilikçi yaklaşımlar sayesinde yapay zeka sistemlerinin hem daha adil hem de daha güvenilir olması bekleniyor.
Yapay zeka özeti
Yapay zeka destekli tıbbi görüntüleme sistemlerinde ırk ya da ten rengi gibi unsurlar nedeniyle oluşan önyargılar, hastaların doğru teşhis almasını engelleyebilir. MIT ve diğer kurumlardan araştırmacılar, bu sorunu çözmeyi vaat eden yenilikçi bir yöntem sundu.
