Apple'ın yeni AI mimarisiyle cihazlarda devasa modellerin önü açılıyor

Apple’ın yapay zeka dünyasında attığı yeni adım, cihazlarda çalışan AI modellerinin yeteneklerini köklü biçimde değiştiriyor. WWDC26’da tanıtılan üçüncü nesil temel modelleri (AFM 3), bellek sınırlarını aşarak 20 milyar parametrelik devasa bir modeli doğrudan cihazda çalıştırma imkanı sunuyor. Bu yenilik, yerel AI uygulamalarının performansı ve ölçeklenebilirliği açısından önemli bir dönüm noktası olarak görülüyor.

Geleneksel yaklaşımlarda, AI modellerinin tüm ağırlıklarının DRAM’e yüklenmesi gerekiyordu. Bu durum, kullanılan parametre sayısını ciddi ölçüde kısıtlıyordu. Apple’ın yeni mimarisi ise bu sınırı ortadan kaldırıyor. AFM 3 Core Advanced olarak adlandırılan model, ağırlıklarını doğrudan NAND flash depolamada saklıyor ve yalnızca ihtiyaç duyulan bölümleri DRAM’e aktarıyor. Böylece, 20 milyar parametrelik bir model bile yerel olarak çalıştırılabiliyor.

Apple’ın bellek sınırını aşma stratejisi

Apple’ın bu yeniliği, bellek ve bant genişliği gibi fiziksel kısıtlamaları aşmak için geliştirdiği özel bir mimariye dayanıyor. Temelde, Instruction-Following Pruning (IFP) adı verilen bir yöntem kullanılıyor. Bu yöntemle, modelin tüm ağırlıkları flash depolamada kalırken, yalnızca ilgili bölümler DRAM’e yükleniyor. Bu sayede, modelin boyutu ne olursa olsun, bellek kullanımı optimize ediliyor.

Mimarinin temel bileşenleri şunlar:

• Tüm ağırlıklar flash’ta saklanır: Modelin 20 milyar parametrelik tüm ağırlıkları, DRAM’e gerek duymadan flash depolamada kalır. Bu, yerel AI modellerinin boyutunu sınırlayan en büyük engeli ortadan kaldırıyor.

• Uzman yönlendirme tek seferde gerçekleşir: Geleneksel Karışık Uzman Modelleri (MoE) yaklaşımında, her token üretimi için farklı uzmanlar seçilir ve ağırlıklar sürekli olarak flash’tan DRAM’e aktarılır. Apple’ın mimarisi ise bu süreci basitleştiriyor: Tüm tokenlar için tek bir uzman kümesi seçilir ve DRAM’e yüklenir. Bu sayede, performans kayıpları minimize edilir.

• Aktif parametre sayısı göreve göre değişir: Model, görevin karmaşıklığına bağlı olarak 1 milyar ila 4 milyar arasında değişen parametreleri aktif hale getirir. Böylece, basit görevler için daha az kaynak kullanılırken, karmaşık işlemler için gerekli performans sağlanır.

Mevcut bilgiler ve bilinmeyenler

Apple’ın mimarisi hakkında oldukça detaylı bilgiler paylaşılsa da, bazı kritik noktalar henüz açıklanmadı. Örneğin:

• Enerji tüketimi, bellek bant genişliği ve ısınma gibi performans metrikleri: Apple, bu konularda henüz yeterli veri sunmuyor. Marco Abis adlı bir araştırmacı, bu eksikliklerin yerel AI uygulamalarının üretimde kullanımını zorlaştıracağını belirtiyor.

• Bulutla yerel arasındaki geçişin nasıl yönetildiği: Apple, karmaşık görevlerin buluta yönlendirilip yönlendirilmediği veya bu geçişin kullanıcı tarafından görülüp görülmediği konusunda net bir açıklama yapmadı. Kurumsal kullanıcılar için bu bilgi, uyumluluk ve güvenlik politikalarını belirlemede kritik önem taşıyor.

Apple, bu konulardaki eksiklikleri tamamlayacak teknik raporu yaz aylarında yayınlayacağını belirtti. Bu raporun, mimarinin gerçek dünya uygulamalarındaki performansını daha net ortaya koyması bekleniyor.

Kurumsal kullanıcılar için anlamı

Apple’ın AFM 3 mimarisi, özellikle bulut bağlantısına ihtiyaç duymayan yerel AI uygulamaları geliştiren kurumlar için büyük bir fırsat sunuyor. Bu yenilik, aşağıdaki alanlarda önemli avantajlar sağlayabilir:

• Daha büyük ve yetenekli yerel modeller: 20 milyar parametreli bir modelin yerel olarak çalıştırılması, AI ajanlarının karmaşık görevleri daha etkili bir şekilde yerine getirmesini sağlıyor.

• Veri gizliliği ve güvenlik: Tüm işlemlerin cihazda gerçekleşmesi, verilerin üçüncü taraf sunuculara gönderilmesini gerektirmediğinden, kurumlar için önemli bir güvenlik avantajı sunuyor.

• Ölçeklenebilirlik ve performans: Bellek kullanımının optimize edilmesi, modellerin daha geniş bir cihaz yelpazesinde çalıştırılabilmesini sağlıyor.

Ancak, mimarinin tam olarak anlaşılması ve uygulamaya konulması için Apple’ın yayınlayacağı teknik raporun beklenmesi gerekiyor. Bu rapor, mimarinin gerçek dünya koşullarındaki performansını ve sınırlamalarını ortaya koyacak. Apple’ın bu yenilikle birlikte, AI dünyasında yeni bir sayfa açtığı açıkça görülüyor. Gelecek aylarda yayınlanacak raporlar, bu mimarinin ne kadar yaygınlaşacağı konusunda daha net bir fikir verecek.