İki kez WhatsApp üzerinden sıkıştırılmış, bulanık bir ekran görüntüsünü alıp, yerel olarak çalışan bir yapay zekâ modeline verdim. 8GB RAM’li sıradan bir dizüstünde, saniyeler içinde ciddi bir güvenlik açığını tespit etti ve düzeltilmiş kod parçacığını sundu.
Bu deneyimi yaşayan ben, 19 yaşında, dört yıldır kendi kendini yetiştirmiş Nijeryalı bir geliştiriciyim. Yüksek performanslı bir bilgisayarım ya da özel bir grafik işlemcim yok — sadece tüketici sınıfı bir dizüstüm, internet bağlantım ve sürekli öğrenme isteğim var. Google’ın yeni Gemma 4 modelini piyasaya sürdüğü gün, çevrimiçi tartışmaların büyük kısmını atlayıp doğrudan kendi cihazımda nasıl performans gösterdiğini test etmeye karar verdim.
Bugün, bu deneyimin ayrıntılarını ve sonuçlarını sizinle paylaşmak istiyorum.
Google’ın Yerel Yapay Zekâ Modeli: Gemma 4’ün Temelleri
Gemma 4, Google DeepMind tarafından geliştirilen ve tamamen yerel olarak kullanılabilen açık kaynaklı yapay zekâ modelleri ailesinin en yeni üyesi. "Açık kaynaklı" ifadesi, model ağırlıklarının indirilip yerel cihazlarda çalıştırılabileceği anlamına geliyor — yani API ücreti ödemenize gerek yok ve verileriniz üçüncü bir sunucuya gitmiyor.
Bu aile üç ana varyanttan oluşuyor:
- E2B ve E4B — Taşınabilir Modeller: Mobil cihazlar, Raspberry Pi’ler ya da GPU’suz dizüstü bilgisayarlar gibi düşük kaynaklı ortamlar için tasarlanmışlar. E2B yaklaşık 2 milyar parametreye sahipken, E4B yaklaşık 4 milyar parametreye sahip. Ben E2B’yi test ettim, çünkü dünya genelindeki çoğu geliştiricinin sahip olduğu donanıma en yakın model bu.
- 31B Dense — Orta Ölçekli Model: 31 milyar parametreye sahip yoğun mimarili bir model. Güçlü bir yerel makinede çalıştırabileceğiniz seviyeden, veri merkezleri gerektiren seviyeye geçişi sağlayan bir köprü görevi görüyor.
- 26B MoE — Uzman Karışımlı Model: 26 milyar parametreye sahip, Uzman Karışımlı Mimarisi (Mixture of Experts) kullanan bir model. Her token için tüm parametreler değil, sadece ilgili uzmanlar aktif hale geliyor. Bu da hesaplama maliyetini önemli ölçüde azaltarak daha verimli bir akıl yürütme sağlıyor.
Peki, benim gibi sınırlı donanıma sahip geliştiriciler için bu ne anlama geliyor?
Test 1: Görüntü Analizi — Gerçek Dünya Koşullarında Zafiyet Tespiti
Bu test, laboratuvar ortamında değil, gerçek hayatta olduğu gibi yapıldı. Express.js rotasında yaygın görülen bir SQL enjeksiyonu zafiyetine sahip bir ekran görüntüsü aldım. Temiz bir şekilde kaydetmek yerine, görüntüyü doğrudan WhatsApp üzerinden gönderdim. Sonraki kullanım için tekrar WhatsApp’tan indirdim ve yeniden gönderdim. WhatsApp’ın agresif sıkıştırma algoritması nedeniyle, görüntü kalitesi ciddi şekilde düştü — neredeyse tanınamaz hale geldi.
Ardından, Google AI Studio’yu açtım, Gemma 4 modelini yükledim, görüntüyü yükledim ve kodda güvenlik açıklarını tespit etmesini istedim.
Sonuçlar:
Tam 1 dakika 47 saniye sonra, model:
- Tehlikeli satırı tam olarak belirledi
- Açığın SQL enjeksiyonu olduğunu doğru şekilde tanımladı
- Bir saldırganın bu açığı nasıl kullanabileceğini açıkladı
- Düzeltilebilir kod parçacığını gösterdi
- Adım adım önleme yöntemlerini sundu
Çıktı son derece spesifikti. Model, görüntüdeki gerçek kodu referans alarak yanıt verdi — genel tavsiyeler değil, somut bir çözüm önerdi. "Girdilerinizi doğrulayın" gibi bir cümle kurmadı; bunun yerine, "işte tehlikeli satır, neden tehlikeli, işte düzeltme" dedi.
Neden bu önemli?
Çoğu geliştirici mükemmel ekran görüntüleriyle çalışmaz. Kötü ışıkta çekilmiş fotoğraflar, üç farklı mesajlaşma uygulaması üzerinden iletilen ekran görüntüleri ya da düşük kaliteli telefon kameralarıyla alınmış görüntüler kullanırlar. Resmi belgelerde asla test edilmeyen bu senaryolar, gerçek dünya uygulamalarında kritik önem taşıyor. Gemma 4, düşük kaliteli, iki kez sıkıştırılmış bir görüntüyle bile doğru ve eyleme geçirilebilir çıktılar üretti. Laboratuvar ortamında çalışan bir modelden çok, gerçek hayatta çalışan bir model olduğunu gösterdi.
Test 2: Yerel Dillerde Performans — Nijerya’daki Geliştiriciler İçin Kritik Notlar
Gemma 4’e, JSON Web Token (JWT) kimlik doğrulama mekanizmasını üç Nijerya yerel dilinde açıklamasını istedim: Hausa, Yoruba ve Igbo. Bu test yaklaşık 2 dakika 50 saniye sürdü. RAM kullanımım arttıkça ve diğer uygulamalar çalıştıkça modelin yavaşladığını fark ettim.
Ancak sonuçlar oldukça ilginçti.
Hausa: Model, Hausa dilindeki açıklamayı son derece doğal ve anlaşılır bir şekilde sundu. İnternet bağlantısı olmadan çalışmasına rağmen, yanıtı gerçek Hausa diline oldukça yakın bir şekilde üretti. Birinci sınıf yerel dil desteğinin ne kadar güçlü olduğunu gösterdi.
Yoruba: Yanıt geldi, ancak bazı sapmalar vardı. Yoruba dilinde ton işaretleri (diyakritikler) kelimelerin anlamını tamamen değiştirebilir. Ben ton işaretlerini içeren bir istemde bulunmadığım için, modelin çıktısı yaklaşık bir çeviri niteliğindeydi. Yoruba konuşan hedef kitleye içerik üreten geliştiricilerin, yayınlamadan önce çıktıları mutlaka kontrol etmeleri gerekiyor.
Igbo: Benzer bir durum Igbo için de geçerliydi. Igbo dilinde de özel karakterler ve ton işaretleri bulunuyor. Model, anlaşılabilir ancak tam olarak doğru olmayan bir Igbo yanıtı üretti. Yaklaşık bir anlama sağlasa da, yayınlanmadan önce mutlaka doğrulama gerektiriyor.
Pratik anlamda ne ifade ediyor?
Batı Afrika’da 500 milyondan fazla insan yaşıyor. Hausa, Yoruba, Igbo, Twi, Amharic ve Swahili gibi dillerde içerik üreten ya da uygulama geliştiren binlerce yazar ve geliştirici var. Bu kişilerin, modellerin yerel dillerdeki yeteneklerini ve sınırlarını çok iyi anlamaları gerekiyor. Aksi takdirde, hedef kitlelerine ulaşırken ciddi iletişim sorunları yaşayabilirler.
Kişisel değerlendirmem:
Gemma 4 E2B, Hausa dilinde beklentimin üzerinde bir performans gösterdi. Yoruba ve Igbo’da ise diyakritik işaretlerin eksikliği nedeniyle bazı sınırlamalar ortaya çıktı. Eğer yerel dil desteğiyle çalışıyorsanız, çıktınızın doğruluğunu manuel olarak kontrol etmeyi ihmal etmeyin.
Sonuç: Sınırlı Donanımda Güçlü Performans
Gemma 4 E2B’yi 8GB RAM’li bir dizüstünde çalıştırmanın sonuçları oldukça umut verici. Model, görüntü analizi, kod inceleme ve hatta yerel dillerde açıklamalar gibi çeşitli görevlerde başarılı oldu. En önemlisi de, bu performansı tamamen yerel olarak, ücretsiz ve gizli bir şekilde sunması.
Ancak, yerel dil desteği konusunda dikkatli olmak gerekiyor. Özellikle Yoruba ve Igbo gibi tonlama sistemine sahip dillerde, çıktının doğruluğunu kontrol etmek şart. Aynı zamanda, RAM kullanımının modelin hızını ve verimliliğini doğrudan etkilediğini unutmamak gerekiyor.
Gelecekte, bu tür modellerin yerel dillerdeki yeteneklerinin daha da gelişmesini ve yerel geliştiricilerin bu teknolojiden daha fazla faydalanmasını umut ediyorum. Sınırlı donanıma sahip milyonlarca geliştirici için, yerel yapay zekâ modelleri yeni ufuklar açabilir — ve Gemma 4, bu alanda önemli bir adım.
Yapay zeka özeti
Google’ın Gemma 4 modelini 8GB RAM’li sıradan bir dizüstünde test ettik. Görüntü analizi, yerel diller ve zafiyet tespitinde ne kadar başarılı olduğunu keşfedin.
