Yerel AI uygulamaları geliştirirken en büyük zorluklardan biri, dar yetenekli bir aracı çok daha esnek bir çözüme nasıl evireceğinizi bulmaktır. OIC (Oh, I See) adını taşıyan basit bir iPhone uygulaması, başlangıçta sadece tostun ne zaman hazır olduğunu bildiren bir izleyici olarak tasarlanmıştı. Ancak geliştirici, bu dar kapsamlı görevi genişleterek, evcil hayvanınızın kapıdan giriş çıkışlarını izleyebilen veya çeşitli görsel olayları tespit eden bir genel izleme sistemine dönüştürmeyi hedefledi. Bu süreçte, yerel AI modellerinin mobil cihazlardaki gerçek potansiyeli ve sınırları ortaya çıktı.
Yerel AI’nın Mobildeki Gerçek Yüzü: Genelden Özele Geçiş
OIC’in hikayesi, yerel AI’nin mobil dünyadaki karmaşıklığını gözler önüne seriyor. Uygulama, başlangıçta yalnızca tost makinesinin görüntülerini analiz eden ve kullanıcıyı toastın hazır olduğunu bildiren dar bir izleme sistemine sahipti. Ancak geliştirici, bu sistemin potansiyelini genişleterek, evcil hayvanların kapıdan giriş çıkışlarını izleyen veya başka görsel olayları tespit eden çok yönlü bir araca dönüştürmek istedi. Bu dönüşümün merkezinde, Google’ın küçük boyutlu multimodal modeli Gemma 4 yer alıyordu.
Gemma 4’ün yerel olarak iPhone’da çalıştırılması, OIC’in mimarisini baştan aşağı değiştirdi. Geliştirici, modeli yerel olarak çalıştırabilmek için llama.cpp tabanlı bir iOS XCFramework entegrasyonu gerçekleştirdi. Bu adım, bulut bağımlılığını ortadan kaldırarak, uygulamanın tamamen yerel ve gizliliğe saygılı bir yapıya kavuşmasını sağladı. Ancak modelin yüklenmesi bile bu sürecin sadece başlangıcıydı.
Yerel AI’nın Mobildeki Zorlukları: Modelleme Ötesinde
Yerel AI’nin mobil cihazlarda çalıştırılması, sadece modelin kendisinden ibaret değildir. Geliştirici, uygulamanın performansını, modelin taşınabilirliğini ve kullanıcı deneyimini optimize etmek için birçok teknik detayı ele almak zorunda kaldı. Bunlar arasında:
- Model dosyasının yerel depolanması: Uygulama içerisinde yer alan modelin, kullanıcı tarafından indirilmesi ve yerel olarak saklanması gerekti. Bu, uygulama boyutunun kontrol altında tutulmasını ve kullanıcıların gereksiz veri kullanımından kaçınmasını sağladı.
- Model transferinin yönetimi: Modelin uygulama içerisine entegre edilmesi, kullanıcının internet bağlantısına ve depolama alanına bağlı olarak değişkenlik gösterdi. Bu süreç, kullanıcı deneyimini optimize etmek için dikkatlice tasarlanmalıydı.
- Çoklu izleyici mimarisi: OIC, başlangıçta sadece tost izlemeyi destekliyordu. Ancak geliştirici, mimariyi genişleterek farklı izleyici türlerini destekleyen bir yapıya dönüştürdü. Bu sayede, kullanıcılar farklı görevler için aynı uygulama içerisinde farklı izleyiciler kullanabiliyor.
Bu teknik detaylar, yerel AI’nın mobil cihazlarda uygulanabilirliğinin sadece modelin yeteneklerine değil, aynı zamanda uygulamanın mimarisine ve kullanıcı deneyimine de bağlı olduğunu gösteriyor. Yerel AI, kullanıcıların gizliliğini korurken, aynı zamanda çevrimdışı çalışabilme avantajını sunuyor. Ancak bu avantajların yanı sıra, mobil cihazların sınırlı kaynaklarıyla başa çıkmak da gerekiyor.
Yerel AI’nın Geleceği: Genel Amaçlı İzleme Sistemlerine Doğru
Geliştirici, Gemma 4’ü kullanarak OIC’in mimarisini genişletmeyi başardı, ancak henüz tam anlamıyla bir genel amaçlı izleme sistemine dönüştüremedi. Özellikle evcil hayvanın kapıdan giriş çıkışlarını izleyen sistemin henüz çalışır durumda olmadığı görülüyor. Bununla birlikte, elde edilen ilerlemeler, yerel AI’nın mobil cihazlardaki potansiyelini ortaya koyuyor.
Gelecekte, yerel AI’nın mobil cihazlarda daha yaygın hale gelmesi bekleniyor. Geliştiriciler, sadece dar görevler için değil, aynı zamanda çok çeşitli görsel olayları izleyebilen sistemler için yerel AI’yı kullanabilecekler. Bu, kullanıcıların gizliliğini korurken, aynı zamanda çevrimdışı çalışabilme avantajını da sunacak.
OIC’in hikayesi, yerel AI’nın mobil dünyadaki potansiyelini ve sınırlarını gözler önüne seriyor. Gelecekte, bu tür uygulamaların daha da yaygınlaşması ve kullanıcıların hayatını kolaylaştırması bekleniyor. Ancak bu sürecin başarısı, sadece modelin yeteneklerine değil, aynı zamanda uygulamanın mimarisine ve kullanıcı deneyimine de bağlı olacak.
Yapay zeka özeti
Gemma 4’ün yerel iPhone uygulamasındaki kullanımı, OIC aracının dar görevden genel amaçlı izleyiciye nasıl dönüştüğünü ve yerel AI’nın mobildeki sınırlarını keşfedin.
