Yerel cihazlarda verimli şekilde çalışabilen yeni nesil yapay zeka modelleri, bulut maliyetlerini ve gecikmeleri ortadan kaldırmak için tasarlanıyor. Liquid AI, eski MIT bilim insanları tarafından kurulan şirket, bugün LFM2.5-230M adını verdiği en küçük dil modelini piyasaya sürdü. Bu model, akıllı telefonlar, dizüstü bilgisayarlar ve robotik sistemler gibi cihazlarda yerel olarak çalıştırılabiliyor.
230 milyon parametreye sahip olan LFM2.5-230M, veri çıkarımı ve yerel ajan görevleri için optimize edilmiş bir temel model olarak öne çıkıyor. Liquid AI’nin açıklamasına göre, bu model 4 kat daha büyük modellerden daha iyi performans sergiliyor. Örneğin, 800 milyon parametreli Alibaba Qwen3.5-0.8B (Instruct) ve 1 milyar parametreli Google Gemma 3 1B modellerini veri çıkarımında geride bırakıyor.
Modelin en önemli avantajlarından biri, neredeyse her cihazda çalışabilmesi. Bu da onu, geliştiriciler ve mühendisler için ideal bir çözüm haline getiriyor. Küçük boyutu sayesinde bellek ve hesaplama kaynaklarını minimum düzeyde kullanarak, yüksek hızda çıkarım yapabiliyor.
LFM2.5-230M Nasıl Çalışıyor?
LFM2.5-230M, standart transformer mimarilerinden farklı bir yapıya sahip. LFM2 çerçevesi adı verilen bu mimari, kısa mesafeli konvolüsyonlar ve gruplandırılmış sorgu dikkat mekanizmalarını birleştiriyor. Bu sayede, bilgi işleme verimli bir şekilde gerçekleştiriliyor.
Modelin en dikkat çekici özelliklerinden biri, 32K’lik bağlam penceresine sahip olması. Bu, büyük belgelerin veya sürekli veri akışlarının (örneğin robotik telemetri verileri) işlenebilmesini sağlıyor.
Performans testleri, modelin 400 MB’den daha az bellek kullanımıyla çalışabildiğini gösteriyor. Ayrıca, prefill ve decode hızları, benzer boyuttaki modellerden daha yüksek. Örneğin, Gemma 3 1B IT ve Granite 4.0-H-350M gibi modellerle karşılaştırıldığında, daha düşük gecikme süreleri sunuyor.
Donanım performansı açısından da etkileyici sonuçlar elde edilmiş. Samsung Galaxy S25 Ultra’da (Snapdragon Gen4 CPU) saniyede 213 token çıkarım yaparken, Raspberry Pi 5 gibi kısıtlı kaynaklara sahip cihazlarda bile saniyede 42 token hızına ulaşabiliyor.
Kurumsal İş Akışları için Neden Önemli?
Geleneksel ETL (Extract, Transform, Load) sistemleri, veri işleme süreçlerinde sıkça kullanılıyor. Ancak bu sistemler, belirli kurallara dayalı oldukları için esneklikten yoksun ve doküman düzenindeki küçük değişiklikler bile sistemin çökmesine neden olabiliyor.
Buna karşılık, AI tabanlı ETL sistemleri, makine öğrenmesi sayesinde verileri otomatik olarak yapılandırıp dönüştürebiliyor. Örneğin, bir AI modeli PDF’ler, e-postalar veya web formlarından gelen verileri alarak bunları JSON formatına dönüştürebiliyor. Bu da şirketlere sürekli kodlama ihtiyacını ortadan kaldırıyor.
Ancak, büyük modeller (örneğin Claude Opus 4.6, 5 dolar/milyon token) kullanmak, rutin veri çıkarımı için ekonomik değil. İşte bu noktada, LFM2.5-230M gibi küçük modeller devreye giriyor. Bu model, düşük hesaplama maliyeti ve gecikme süresiyle şirketlerin yerel cihazlarda veri çıkarımı yapmasını sağlıyor. Böylece, bulut API’lerine bağımlılık ortadan kalkıyor.
Küçük Modellerin Rekabeti: LFM2.5-230M’in Konumu
2026 yılının ortalarında, AI dünyasında "küçük modeller" adında yeni bir trend ortaya çıktı. Ancak bu terimin tanımı oldukça geniş.
Örneğin, Weibo’nun VibeThinker-3B modeli, sadece 3 milyar parametreye sahip olmasına rağmen AIME 2026 matematik benchmark’ında 94.3 puan alarak 600 milyar parametreli devleri geride bıraktı. Bu başarı, veri kürasyonu ve pekiştirmeli öğrenme sayesinde elde edildi.
Benzer şekilde, Google’ın 200 milyondan fazla indirilen Gemma 4 ailesi, mobil ve IoT cihazları için optimize edilmiş E2B (2 milyar parametre) modelini de içeriyor.
Ancak Liquid AI’nin 230 milyon parametreli LFM2.5-230M’i, bu modellerden çok daha küçük bir sınıfa ait. Google’ın en küçük Gemma 4 modelinin ve VibeThinker-3B’nin onda biri kadar olan bu model, veri çıkarımı ve araç çağırma gibi görevlerde rakiplerinden daha iyi performans sergiliyor.
LFM2.5-230M’in en büyük sınırlaması, ileri matematik, kodlama veya yaratıcı yazma gibi karmaşık görevlerde rakipleri kadar başarılı olamaması. Ancak şirket, bu modelin belirli kullanım alanlarında üstünlük sağladığını vurguluyor.
Geleceğe Bakış: Yerel AI’nın Yükselişi
Büyük dil modellerinin yüz milyarlarca parametreye ulaşmasıyla birlikte, AI dünyasında "büyüklük her şey değildir" anlayışı yeniden önem kazanıyor. Liquid AI’nin LFM2.5-230M’i, yerel cihazlarda verimli şekilde çalışabilen modellerin gelecekteki potansiyelini gösteriyor.
Bu model, şirketlerin veri çıkarımı ve otomatikleştirilmiş görevleri yerel cihazlarda gerçekleştirmelerine olanak tanıyor. Böylece, bulut maliyetleri ve gecikmeler ortadan kalkıyor. Gelecekte, daha fazla şirket, yerel AI çözümlerini tercih ederek verimliliklerini artırabilir.
Liquid AI’nin bu hamlesi, AI endüstrisinde mimari verimlilik ve yerel dağıtım odaklı bir dönüşümün sinyallerini veriyor. Bu da, daha sürdürülebilir ve erişilebilir AI sistemlerinin yolunu açabilir.
Yapay zeka özeti
Liquid AI’nin LFM2.5-230M modeli, veri çıkarımında devleri geride bırakıyor. Yerel cihazlarda çalışabilen bu model, bulut bağımlılığını ortadan kaldırarak işletmelere yeni fırsatlar sunuyor.
