Vektör Arama Maliyetlerini 95% Düşüren Kendin-Yap Qdrant Kurulumu

Altı ay önce, hukuki sözleşmeler için belge sorgulama özelliği sunan uygulama için vektör arama altyapısını Pinecone’dan kendim barındırdığım Qdrant’a taşıdım. Aylık maliyetlerim 210 dolardan sadece 6,5 dolara indi. Gecikme süresi ve doğruluk oranı aynı kalırken, altyapıyı nasıl optimize ettiğimi merak ediyorsanız, işte detaylar.

Maliyet Savaşı: Pinecone’dan Qdrant’a Geçiş

Uygulamam, hukuki sözleşmeler üzerine belge sorgulama gerçekleştiriyor. Bu süreçte, her ay yaklaşık 5,2 milyon vektör (1536 boyutlu, OpenAI gömüleri) ve 800 bin sorgu işleniyor. Bunun yanı sıra, yeni belgelerin eklenmesiyle her gün vektörlerde güncelleme yapılması gerekiyor. Pinecone Serverless kullanırken, depolama, okuma ve yazma üniteleri için aylık yaklaşık 210 dolar ödüyordum.

Gereksinimlerime en uygun çözümün kendi sunucumda Qdrant çalıştırmak olduğunu fark ettim. Hetzner CX32 modelinden bir sunucu kiraladım:

• 4 vCPU
• 8 GB RAM
• 80 GB SSD depolama
• Aylık maliyet: 8,50 Euro (yaklaşık 9,20 dolar)

Qdrant’ı Docker üzerinde çalıştırdım ve verileri otomatik olarak S3 uyumlu depolama alanına yedekledim. Bu yedekleme aylık sadece 0,50 dolar tutuyordu. Toplam maliyetim aylık 10 doları geçmiyordu. Pinecone’a göre %95 oranında bir maliyet avantajı elde ettim.

Adım Adım Geçiş ve Performans Karşılaştırması

Geçiş süreci, düşündüğümden çok daha basit oldu. Aşağıdaki komutları kullanarak verileri Pinecone’dan dışarı aktardım ve Qdrant’a aktardım:

# Pinecone'dan dışa aktarma
python export_pinecone.py --index legal-docs --output vectors.jsonl

# Qdrant'ı başlatma
docker run -d -p 6333:6333 -v ./storage:/qdrant/storage qdrant/qdrant

# Qdrant'a aktarma
python import_qdrant.py --input vectors.jsonl --collection legal-docs

Geçiş sadece bir öğleden sonramı aldı. Qdrant’ın Python istemcisi oldukça basit ve Pinecone’ın API’sına benzerlik gösteriyor. Aynı 10 bin test sorgusunu her iki sisteme de göndererek performans karşılaştırması yaptım:

| Metrik | Pinecone Serverless | Qdrant Kendin-Yap | |--------|---------------------|-------------------| | P50 gecikmesi | 23 ms | 4 ms | | P99 gecikmesi | 89 ms | 12 ms | | Geri çağırma doğruluğu (Recall@10) | 0,97 | 0,97 | | Aylık maliyet | 210 dolar | 10 dolar |

Qdrant’ın daha hızlı olmasının sebebi, verilerin aynı makinenin belleğinde bulunması. Pinecone Serverless ise verileri nesne depolamasında talep üzerine yüklediği için soğuk başlangıç gecikmesi yaşıyor.

Kendi Sunucunuzu Yönetmek Ne Zaman Mantıklı Değil?

Her ne kadar maliyet avantajı cazip olsa da, kendi sunucunuzu yönetmenin her durumda uygun olmadığını belirtmeliyim:

• DevOps deneyiminiz yoksa ve ekipte de yoksa
• Kurumsal müşterileriniz için %99,99 kullanılabilirlik SLA’ına ihtiyaç duyuyorsanız
• Vektör sayınız öngörülemez şekilde büyüyorsa (bir ay 10 milyon, diğer ay 100 milyon)
• Ekip 1-2 kişiden oluşuyor ve her saat altyapıyla uğraşmak ürün geliştirmeye ayıracağınız zamanı azaltıyorsa

Ancak aşağıdaki durumlarda kendi sunucunuzu yönetmek mantıklı olabilir:

• Vektör sayınız öngörülebilir düzeydeyse
• Docker ve temel sunucu yönetimini rahatça yapabiliyorsanız
• Maliyet önemliyse (10 dolar ile 210 dolar arasındaki fark yılda 2.400 dolar)
• Verilerinizin ve indeksleme parametrelerinizin tam kontrolüne sahip olmak istiyorsanız

Farklı Ölçeklerde Maliyet Karşılaştırması

Tüm büyük vektör veritabanlarını farklı ölçeklerde karşılaştırmak için bir hesaplayıcı geliştirdim. İşte sonuçlar:

| Ölçek | Pinecone | Qdrant Cloud | Qdrant Kendin-Yap | Supabase pgvector | |-------|----------|--------------|-------------------|------------------| | 1 milyon vektör | 22 dolar | 14 dolar | 7 dolar | 27 dolar | | 10 milyon vektör | 210 dolar | 120 dolar | 72 dolar | 95 dolar | | 100 milyon vektör | 1.900 dolar | 950 dolar | 480 dolar | - |

Pinecone’ın Eksik Olduğu Tek Şey: Kontrol Paneli

Pinecone’ın web arayüzüyle vektörleri inceleyebiliyor, test sorguları çalıştırabiliyor ve indeks istatistiklerini görsel olarak izleyebiliyordum. Qdrant’ta ise komut satırı ve Python komut dosyaları kullanmak zorundayım. Qdrant’ın temel bir web arayüzü olsa da, Pinecone kadar gelişmiş değil. Yine de 200 dolarlık aylık tasarruf düşünülünce, bu eksiklik oldukça önemsiz kalıyor.

Eğer hızlı bir prototip geliştirmek istiyorsanız ve altyapıyla uğraşmak istemiyorsanız, Pinecone’ın ücretsiz katmanı (100 bin vektör) oldukça kullanışlı. Ancak uzun vadede, bütçenizi ciddi şekilde rahatlatacak bir çözüm arıyorsanız, Qdrant’ın kendin-yap versiyonu mükemmel bir alternatif olabilir.