Yapay zeka teknolojisinin hızla yaygınlaşmasıyla birlikte veri merkezlerinin elektrik tüketiminin ABD’nin toplam elektrik talebinin %12’sine ulaşacağı öngörülüyor. Bu kaygı verici eğilim karşısında, Massachusetts Teknoloji Enstitüsü (MIT) ve MIT-IBM Watson AI Laboratuvarı araştırmacıları, veri merkezlerinde kullanılan işlemcilerin ve yapay zeka hızlandırıcıların güç tüketimini tahmin etmek için yenilikçi bir araç geliştirdi.
Bu araç, özellikle yapay zeka modellerinin eğitimi ve çalıştırılması sırasında tüketilen elektriğin sadece birkaç saniye içinde tahmin edilmesini sağlıyor. Geleneksel yöntemlerse aynı tahmini elde etmek için saatlerce hatta günlerce sürebiliyor. Ayrıca, bu araç henüz kullanılmayan gelecekteki donanım mimarilerine de uygulanabilir durumda.
Veri merkezi operatörleri bu tahminleri kullanarak sınırlı kaynakları daha verimli dağıtabilir ve farklı yapay zeka modelleri arasında enerji verimliliğini optimize edebilir. Aynı zamanda algoritma geliştiriciler de yeni bir modeli devreye almadan önce tahmini enerji tüketimini değerlendirebilir. MIT doktora sonrası araştırmacısı ve projenin baş yazarı Kyungmi Lee, bu yenilik hakkında şunları söylüyor:
"Yapay zekanın sürdürülebilirliği acil bir sorun ve elimizdeki bu tahmin aracı sayesinde algoritma geliştiriciler ve veri merkezi operatörleri enerji tüketimini azaltma konusunda daha bilinçli kararlar alabilirler."
Enerji Tahminlerini Hızlandırmak İçin Yeni Yaklaşımlar
Veri merkezlerinde binlerce güçlü grafik işlemci birimi (GPU), yapay zeka modellerinin eğitimi ve çalıştırılması sırasında yoğun hesaplama işlemleri gerçekleştiriyor. Bir GPU’nun güç tüketimi, yapılandırmasına ve çalıştırdığı iş yüküne göre değişkenlik gösteriyor.
Geleneksel enerji tahmin yöntemleri, bir iş yükünü tek tek adımlara bölerek GPU içindeki her modülün nasıl kullanıldığını simüle ediyor. Ancak model eğitimi ve veri ön işleme gibi iş yükleri, bu simülasyonun saatlerce hatta günlerce sürmesine neden olabiliyor.
Lee’nin de belirttiği gibi, "Eğer bir operatör farklı algoritmaları veya yapılandırmaları karşılaştırarak en enerji verimli şekilde ilerlemek istiyorsa, tek bir simülasyonun günler sürmesi pratik olmaktan çıkıyor."
MIT araştırmacıları, tahmin sürecini hızlandırmak için daha az detaylı ancak daha hızlı tahmin yapılabilen bir yaklaşım benimsedi. Yapay zeka iş yüklerinin genellikle tekrarlanabilir desenlere sahip olduğunu fark eden ekip, bu desenleri kullanarak güvenilir ancak hızlı enerji tahminleri elde etti.
Lee, "Yazılım geliştiricilerin GPU’larda en verimli şekilde çalışacak şekilde optimize ettikleri programlar, düzenli bir yapı oluşturur. Biz de bu yapıyı kullanıyoruz" diyor.
Araştırmacılar, bu tekrarlanabilir desenlerden yola çıkarak EnergAIzer adını verdikleri hafif bir tahmin modeli geliştirdi. Bu model, GPU’nun güç kullanım desenini optimize edilmiş yazılımların yapısından yararlanarak tahmin ediyor.
Tahmin Doğruluğunu Artırmak İçin Gerçek Verilerle Desteklenen Düzeltmeler
EnergAIzer’in hızlı tahmin yapabilmesine rağmen, bazı enerji maliyetlerini göz ardı ettiği fark edildi. Örneğin, her GPU program çalıştırdığında, programın kurulması ve yapılandırılması için sabit bir enerji maliyeti oluşuyor. Ayrıca, her veri parçası üzerinde yapılan işlemler sırasında da ek enerji tüketimi gerçekleşiyor.
Donanım dalgalanmaları veya veri erişimi çakışmaları nedeniyle GPU’nun tüm bant genişliğini kullanamaması, işlemleri yavaşlatabilir ve zamanla daha fazla enerji tüketimine yol açabilir. Araştırmacılar, bu ek maliyetleri ve değişkenleri hesaba katmak için gerçek GPU ölçümlerinden elde ettikleri düzeltme terimlerini kullanarak tahmin modelini geliştirdi.
Lee, "Böylece hem hızlı hem de oldukça doğru tahminler elde edebiliyoruz" diyor.
Kullanıcılar, çalıştırmak istedikleri yapay zeka modelinin ayrıntılarını ve işlenecek veri girişlerinin sayısını ve uzunluğunu girerek EnergAIzer aracılığıyla saniyeler içinde enerji tüketimi tahmini alabiliyor. Ayrıca, GPU yapılandırmasını veya çalışma hızını değiştirerek tasarım seçimlerinin toplam enerji tüketimi üzerindeki etkisini de görebiliyorlar.
Araştırmacılar, EnergAIzer’ı gerçek GPU’larda kullanılan gerçek yapay zeka iş yükleriyle test ettiklerinde, tahminlerin sadece %8 hata payıyla gerçek değerlere oldukça yakın olduğunu gözlemledi. Bu oran, geleneksel yöntemlerle karşılaştırıldığında çok daha hızlı elde edilen bir sonuç.
EnergAIzer, gelecekteki GPU yapılandırmaları ve yeni donanım mimarilerinin güç tüketimini de tahmin edebiliyor. Araştırmacılar, gelecekte aracı en yeni GPU yapılandırmalarında test etmeyi ve modeli birçok GPU’nun birlikte çalıştığı senaryolarda uygulanabilir hale getirmeyi hedefliyor.
Bu yenilik, yapay zekanın sürdürülebilirliği için kritik bir adım olarak görülüyor. Lee, "Sürdürülebilirliğe gerçek bir etki yapmak için donanım tasarımından yazılıma kadar tüm katmanlarda hızlı enerji tahminleri sunabilen bir araca ihtiyacımız var" diyor.
Yapay zeka özeti
MIT ve IBM araştırmacıları, yapay zeka modellerinin güç tüketimini saniyeler içinde tahmin eden EnergAIzer adlı bir araç geliştirdi. Detaylar ve kullanım alanları burada.
