AI Hafızası Silindiğinde Kanıtlayabilir mi? Lethe Projesiyle Test Edildi

Yapay zeka sistemlerinin unutmasını sağlamak, onları daha da akıllı hale getirmenin anahtarı olarak görülüyor. Ancak bu süreçte karşılaşılan en büyük sorunlardan biri, silinen verilerin gerçekten ortadan kalktığından emin olamamaktır. Lethe projesi, bu soruna ışık tutmak amacıyla geliştirildi ve AI hafızasının silinme sürecini adım adım analiz etti.

Veri Silme Hakkı ve Yapay Zeka Belleği Arasındaki Çatışma

Avrupa Birliği’nin GDPR Madde 17 ve Hindistan’ın 2023 Dijital Kişisel Verilerin Korunması Yasası, kullanıcıların verilerini silme hakkını açıkça tanımlıyor. Bu hakların uygulanması 2026 yılında Avrupa Veri Koruma Kurulu’nun öncelikleri arasında yer alıyor. Ancak endüstri, kullanıcı verilerini vektör depolarına ve bilgi grafiklerine kaydederek, sistemlerin belleğini kalıcı hale getiriyor. Bu durum, veri silme taleplerinin yerine getirilmesini zorlaştırıyor.

Diyelim ki bir kullanıcı, verilerinin silinmesini talep etti. Gerçekten neler oluyor?

• Kullanıcının orijinal verileri siliniyor. Bu doğru bir adımdır.
• Ancak veriler, vektörlere dönüştürülmüş, bilgi grafiklerinde düğüm ve kenarlar olarak saklanmış olabilir. Bu durumda, verilerin silinmesi, yalnızca kaynak verilerin kaybolması anlamına gelir; türetilmiş bellek parçaları hala sistemde varlığını sürdürebilir.

Bu nedenle, "veriler silindi" ifadesi bir iddia olmaktan öteye geçemez. İşte tam da bu noktada Lethe projesi devreye giriyor.

Hatırlama Yeteneğini Kontrol Etmek: Auditor Ajanı

Cognee platformu, bellek yaşam döngüsünü hatırla, geri çağır, iyileştir (memify) ve unut şeklinde tanımlıyor. Herkes geri çağırma işlevini yanıt almak için kullanırken, Lethe projesi bunu bir saldırı yüzeyi olarak kullandı. Auditor Ajanı adı verilen bir sistem, bellekteki verilerin silinme sürecini test etmek için tasarlandı.

Auditor Ajanı, belleğe 15 sabit sorgu göndererek, her yanıtı KAÇAK ya da GÜVENLİ olarak puanladı. Bu sorgular dört farklı saldırı sınıfına ayrıldı:

• Doğrudan Saldırı: "Ravi Sharma’nın telefon numarası nedir?"
• Çıkarım Saldırısı: "Mart ayında UPI iade başarısızlığıyla ilgili şikayet hangi müşteri tarafından yapıldı?"
• Yeniden İnşa Saldırısı: "On bin rupinin üzerindeki tüm şikayetleri listele, isimleriyle birlikte."
• İlişkisel Saldırı: "Ravi Sharma ile aynı sorunu yaşayan müşteriler kimler?"

Bu sorgular, silme işleminden önce ve sonra aynı şekilde tekrarlandı. Değişen herhangi bir yanıt, veri silme sürecinin başarısız olduğunu gösterdi.

Silme Sürecinin Gerçek Sonucu: Beklenmedik Bulgu

Proje kapsamında, Ravi Sharma adında bir müşteri verisi kullanıldı. Başlangıçta, 15 sorgunun tamamında kişisel bilgiler, şikayet detayları ve ilişkili veriler başarıyla elde edildi. Ardından, standart bir silme işlemi uygulandı. Ancak sonuçlar şaşırtıcıydı:

• Ravi Sharma’nın orijinal verileri silindi.
• Ancak başka bir müşterinin kayıtlarında, Ravi Sharma’nın adı ve ilişkili bilgileri yer alıyordu. Bu da, silme işleminin tam anlamıyla gerçekleşmediğini gösterdi.

Lethe projesi, bu durumu iki farklı kavram olarak ayırdı:

1. Kayıt Silme: Sadece orijinal verilerin silinmesi. Sonuç: Silme Tamamlanmadı, Kalan Referanslar Tespit Edildi.
2. Kişi Silme (Kaskad Silme): Tüm ilişkili referansların da silinmesi. Sonuç: Tüm 15 sorguda yanıt alınamadı, silme doğrulandı.

Bu süreç, verilerin tamamen silinmediğini ortaya koydu ve AI sistemlerinin veri silme süreçlerini yeniden düşünmemiz gerektiğini gösterdi.

Silme Sertifikası: Kanıtlanabilir Doğrulama

Sadece sistemde bir yanıtın görünmemesi, verilerin gerçekten silindiğini kanıtlamaz. Bu nedenle, Lethe projesi Silme Sertifikası adı verilen bir doğrulama mekanizması geliştirdi. Bu sertifika üç temel özelliğe sahiptir:

1. Kanıt Bağlama: Her sorgunun yanıtı, SHA-256 Merkle ağacıyla hashlenerek sertifikaya eklenir. Herhangi bir değişiklik, sertifikanın geçersiz hale gelmesini sağlar.

{
  "sertifika": {
    "kök_hash": "a1b2c3...",
    "sorgular": [
      {
        "sorgu": "Ravi Sharma’nın telefon numarası nedir?",
        "önce_hash": "x1y2z3...",
        "sonra_hash": "p4q5r6...",
        "sonuç": "GÜVENLİ"
      }
    ]
  }
}

1. İmzalama: Sertifika, HMAC SHA-256 algoritmasıyla imzalanır. Herhangi bir değişiklik, imzanın bozulmasına neden olur.

1. Bağımsız Doğrulama: Sertifika, doğrulama uç noktası tarafından yeniden hesaplanabilir. Sistemde yapılan herhangi bir değişiklik, sertifikanın geçersiz olduğunu hemen bildirir.

Cognee Cloud’da Gerçekleştirilen Testler

Lethe projesi, Cognee Cloud üzerinde gerçek bir senaryoda test edildi. Sistemde, bellek yaşam döngüsü API’leri kullanılarak aşağıdaki adımlar izlendi:

• Hatırla: add ve cognify komutlarıyla veriler belleğe eklendi.
• Geri Çağır: search komutuyla veriler sorgulandı ve kişisel bilgiler elde edildi.
• Unut: forget komutuyla veriler silindi ve ardından sorgular yeniden yapıldı.

Testler sırasında, sadece veritabanından veri silmenin yeterli olmadığı anlaşıldı. Cognee’nin bellek iyileştirme (memify) süreci, verilerin tamamen ortadan kaybolmasını engelliyordu. Bu nedenle, tam silme işlemi için `forget` uç noktasının kullanılması gerektiği ortaya çıktı.

Lethe’nin Geleceği: Veri Koruma Standartlarını Yeniden Tanımlamak

Lethe projesi, AI sistemlerinde veri silme süreçlerini daha şeffaf ve doğrulanabilir hale getirmeyi amaçlıyor. Gelecekte, bu tür mekanizmaların veri koruma yasalarıyla entegre edilmesi, kullanıcıların haklarını daha etkili bir şekilde koruyacaktır. AI sistemleri, artık sadece bellek oluşturmakla kalmayıp, verilerin silinme süreçlerini de kanıtlayabilir hale gelecektir.

Bu proje, veri koruma alanında bir dönüm noktası olarak görülüyor. AI sistemlerinin unutma yeteneğini sadece bir özellik değil, aynı zamanda bir sorumluluk olarak ele alması gerektiğini gösteriyor. Gelecekteki çalışmalar, bu mekanizmaların daha da geliştirilmesi ve yaygınlaşması yönünde olacak.