Qualcomm’un HBC Mimarisi: AI Performansında Bellek Sınırlarını Aşan Yenilik

Yapay zeka (AI) sistemleri hızla gelişirken, bellek ve hesaplama arasındaki dengesizlik giderek daha belirgin hale geliyor. Bellek duvarı olarak adlandırılan bu sorun, hesaplama gücündeki artışın bellek bant genişliğindeki büyümeye yetişememesinden kaynaklanıyor. Qualcomm ise bu sorunu çözmek için Yüksek Bant Genişliğine Sahip Hesaplama (HBC) adı verilen yeni bir mimariyi duyurdu. Bu yenilik, AI iş yüklerinin performansını doğrusal olarak ölçeklendirmeyi hedefliyor ve bellek tıkanıklığını ortadan kaldırmayı vaat ediyor.

Bellek ve Hesaplama Arasındaki Boşluğu Kapatmak

Bugüne kadar yüksek performanslı AI sistemleri genellikle Yüksek Bant Genişliğine Sahip Bellek (HBM) kullanıyordu. Ancak HBM, hem maliyet hem de karmaşıklık açısından ciddi sınırlamalara sahipti. HBM’nin yer aldığı paketleme tekniklerinde, bellek ve hesaplama birimleri arasında silikon ara katmanlar (silicon interposer) kullanılması gerekiyordu. Bu da hem üretim maliyetini artırıyor hem de ısı yayılımını zorlaştırıyordu.

Qualcomm’un HBC mimarisi ise bu sorunlara farklı bir bakış açısı sunuyor. Şirket, AI hızlandırıcısını Sistem Üzerinde Yonga (SoC)dan ayırarak, doğrudan LPDDR bellek yığınına yerleştiriyor. Bu sayede, AI hızlandırıcısı bellek yığınına through-silicon vias (TSV) adı verilen bağlantılarla bağlanıyor. Böylece hem bant genişliği hem de kapasite artırılarak, SRAM’in performans avantajları ile bellek yoğunluğunun avantajları birleştiriliyor.

HBC’nin Sunduğu Avantajlar: Güç, Isı ve Maliyet

Qualcomm’un verilerine göre, HBC mimarisi HBM’ye göre 6 kat daha yüksek bant genişliği başına düşen güç verimliliği sunuyor. Ayrıca, SRAM’e kıyasla 200 kat daha fazla kapasite sağlıyor. Bu sayede sistemler daha az güç tüketiyor, daha az ısı üretiyor ve HBM’nin gerektirdiği pahalı paketleme tekniklerinden kaçınılıyor.

Qualcomm’un Veri Merkezi İş Birimi Başkan Yardımcısı ve Genel Müdürü Tony Pialis, bu yeniliğin önemini şu sözlerle vurguluyor:

"AI hızlandırıcısını XPU’dan ayırarak, doğrudan LPDDR bellek yığınına yerleştirdik. Bu sayede, SRAM’in performans avantajlarını belleğin yoğunluğu ve kapasitesi ile birleştirdik. Sonuç olarak, HBM’nin yol açtığı tıkanıklıklar ortadan kalktı. Sektör için değer ise daha düşük güç tüketimi, daha az ısı ve pahalı silikon ara katmanların kullanılmamasıdır. Ayrıca, standart paketleme teknikleriyle tek bir cihazda birden fazla HBC yığını konuşlandırabiliriz, bu da maliyet-performans avantajı sağlıyor."

HBC’nin Geleceği: AI250 ve AI350 ile Performans Patlaması

Qualcomm’un HBC yol haritası oldukça iddialı. Şirketin mevcut AI200 hızlandırıcısı, bu yılın ilerleyen zamanlarında piyasaya sürülecek ve LPDDR5X bellek kullanarak her raf başına 43 TB RAM sunacak. Ancak Qualcomm’un gelecekteki planları bununla sınırlı değil.

• AI250 hızlandırıcısı, 1. Nesil HBCyi kullanacak ve AI200’e kıyasla 18 kat daha fazla bant genişliği sunacak.
• AI300 hızlandırıcısı ise 2. Nesil HBCyi benimseyecek ve AI300’a kıyasla 54 kat daha fazla bant genişliği sağlayacak.

Bu gelişmeler, AI sistemlerinin performansını önemli ölçüde artırabilir ve özellikle veri merkezlerinde kullanılan bellek ve hesaplama mimarilerinde devrim yaratabilir.

Rakip Teknolojiler ve HBC’nin Konumu

HBC’nin sunduğu avantajlar dikkat çekici olsa da, Qualcomm’un rakip teknolojilerle karşılaştırılması gerekiyor. Örneğin, GUC adlı bir fabless ASIC tasarım hizmeti sağlayıcısı, DRAM-on-Logic (DoL) adı verilen bir teknoloji geliştiriyor. Bu teknoloji, mantık devrelerinin üzerine 1 ila 4 DRAM katmanı yerleştirerek, bazı HBM3E sistemlerine kıyasla 5 TB/s bant genişliği sunmayı hedefliyor. Ayrıca, HBM3E’nin gerektirdiği pahalı paketleme tekniklerini kullanmıyor.

Ancak, HBC’nin en büyük belirsizliği, Qualcomm’un bu teknolojinin tam olarak neyi hızlandırdığını açıklamaması. HBC’nin teoride her şeyi hızlandırabilecek bir yapıya sahip olduğu belirtiliyor. Bu, dönüştürücü modeller için özel bir yaklaşımdan, tensör çekirdekleri dizisine ya da AI çıkarım/tahmin ön işlemeye kadar farklı uygulamaları kapsayabilir.

Sonuç: Bellek ve Hesaplama Arasındaki Sınırlar Aşıldı mı?

Qualcomm’un HBC mimarisi, bellek ve hesaplama arasındaki boşluğu doldurma potansiyeline sahip. Ancak, bu teknolojinin gerçek dünya uygulamalarında ne kadar etkili olacağı henüz net değil. Şu ana kadar elde edilen veriler, güç verimliliği ve bant genişliği avantajlarını ortaya koyuyor. Bununla birlikte, HBC’nin hangi AI iş yüklerinde en iyi performansı göstereceği ve maliyet-performans avantajının ne ölçüde kalıcı olacağı henüz bilinmiyor.

Yine de, HBC’nin sunduğu yenilikler, AI sistemlerinin geleceği için umut verici. Özellikle veri merkezleri ve yüksek performanslı hesaplama alanında, bu tür yeniliklerin sektörü yeniden şekillendirmesi bekleniyor. Qualcomm’un yol haritasını takip etmek ve gelecekteki test sonuçlarını görmek, bu teknolojinin gerçek potansiyelini anlamak için kritik olacak.