Yapay Zekâ Ajanları İçin Unutmayan Bellek Nasıl Tasarlanır?

Yapay zekâ geliştiricileri sıkça karşılaştıkları bir sorunla boğuşuyor: ajanlarınız ilk günde ne kadar başarılı olursa olsun, zamanla performansı gizlice düşmeye başlıyor. Kararlar daha kötüleşiyor, araçları daha az kullanıyor ve halüsinasyonlar artıyor. Gözlem sistemleriyle sorunu tespit edebiliyorsunuz ama köküne inemiyorsunuz. Çünkü ajanınızın geçmişini hatırlamasına ihtiyacınız var.

Aslında sorunun kaynağı, çoğu bellek mimarisinin depolama odaklı olması. Oysa ajanınızın sürekliliğini sağlamak için belleğin sürekli gelişmesi gerekiyor. 130’dan fazla otonom ajan geliştirme deneyiminden edindiğimiz derslerle, ajan belleğini üç katmana ayırmanın işe yaradığını gözlemledik.

Geçici Bağlam Katmanı: Halihazırdaki Belleğiniz

Bu katman zaten kullandığınız verileri içeriyor:

• Sohbet geçmişi
• Araç çağrı izleri
• Sistem istemleri

Bu, çalışan belleğiniz. Her oturumda siliniyor ve sıfırdan başlıyor. Yani ajanınız sadece mevcut oturuma odaklanıyor, geçmiş deneyimlerden ders çıkaramıyor. Bu da performans kaybının en büyük nedenlerinden biri.

Davranışsal Parmak İzi: Çoğu Ajanın Göz Ardı Ettiği Katman

Bu katmanda ajanınızın zaman içindeki gerçek kimliğini takip ediyorsunuz:

• Araç kullanım modelleri: Hangi araçlar ne sıklıkta ve hangi sırayla çağrılıyor?
• Güven eğilimi: Skorlar artıyor mu yoksa azalıyor mu?
• Hata imzaları: Tekrarlayan hatalar neler?

Bunu kimlik parmak izi olarak kaydedin. Her yeni oturumda bu parmak izini yükleyin. Artık ajanınız sadece geçen sefer ne dediğini değil, geçmişte kim olduğunu da biliyor. Bu da davranışsal tutarlılığı artırıyor.

Katlanarak Büyüyen Bellek: Eksik Olan Katman

Burada sadece "ne oldu"yu değil, **ne değişti"yi kaydediyorsunuz:

• Budanan karar ağaçları: Hangi dallar artık kullanılmıyor?
• Çalışmayan araç kombinasyonları: Hangi stratejiler etkisiz kaldı?
• Belirli koşullarda strateji değişiklikleri: Hangi durumlarda eski yöntemler terk edildi?

Bu katman sayesinde bellek sadece dolmuyor, aynı zamanda daha akıllı hale geliyor. Her oturumda ajanınız önceki deneyimlerden faydalanabiliyor.

Uygulama: 50 Satırdan Az Kod

İlk olarak, ajan parmak izini temsil eden bir arayüz tanımlayalım:

type AgentFingerprint = {
  id: string;
  toolDiversity: number;       // Kullanılan benzersiz araç sayısı / toplam çağrı sayısı
  confidenceTrend: number[];  // Son 10 puan eğilimi
  errorSignature: string[];   // En sık karşılaşılan hata türleri
  strategiesUsed: string[];   // Önceden başarılı olan stratejiler
};

Ardından, parmak izini veritabanından yükleyen ve kaydeden işlevleri yazabilirsiniz:

async function loadFingerprint(agentId: string): Promise<AgentFingerprint> {
  const stored = await db.get(`fingerprint:${agentId}`);
  return stored 
    ? JSON.parse(stored) 
    : {
        id: agentId,
        toolDiversity: 1,
        confidenceTrend: [],
        errorSignature: [],
        strategiesUsed: []
      };
}

async function saveFingerprint(fp: AgentFingerprint) {
  // Sadece son 30 günlük veriyi sakla
  fp.confidenceTrend = fp.confidenceTrend.slice(-10);
  fp.errorSignature = fp.errorSignature.slice(-20);
  await db.set(`fingerprint:${fp.id}`, JSON.stringify(fp));
}

Bu basit uygulama bile ajanınızın performans eğilimlerini takip etmesini ve her oturumda geçmiş deneyimlerden yararlanmasını sağlıyor.

Kritik İçgörü: Erken Tespit, Geç Değil

Ajan performansındaki düşüş genellikle masumane başlıyor. Birkaç hatalı karar, ardından güven kaybı, sonra da tamamen kopuk bir ajan. Gözlem sistemleriyle ancak sonradan problemi fark ediyorsunuz. Oysa bu üç katmanlı bellek sistemi sayesinde sorun henüz oluşmadan tespit edilebiliyor.

Bu bellek katmanları sadece veri depolamakla ilgili değil. Her oturumu geçmiş deneyimlerin ışığında daha akıllı hale getirmekle ilgili. Ajanınız artık sadece mevcut oturuma değil, tüm geçmişine de sahip çıkıyor.

Peki sizin ajanınız hangi bellek katmanından yoksun? Unutmayın: en büyük hata, geçmişini hatırlamayan bir ajanın geleceğini de kaybetmesidir. Gelecekteki oturumlarda performans kaybını önlemek için belleği bugünden tasarlayın.