Yapay zeka altyapısı oluştururken veya ölçeklendirirken, büyük hesaplamalarla üretim gecikmesi ve veri güvenlik gereksinimlerini dengelemek büyük bir mimari engel oluşturur. Gerçek zamanlı akış analitiği, otomatik uyum pipelinesı veya karmaşık risk modelleme gibi konularla uğraşıyorsanız, alt yapınız sizin için engel olmamalıdır.
Workshop Detayları
28 Mayıs Perşembe günü, Google NYC'de (111 8th Ave) mühendisler, mimarlar ve teknoloji liderleri için özel bir atölye düzenlenecek. Bu atölye, HPC ve çıkarım iş akışlarını hızlandırmaya yönelik olacaktır.
Teknolojik Ayrıntılar
Bu atölye, yüksek düzeyde bir sunum değil, 실제 performansı artırmak için gereken altyapının ayrıntılarına odaklanacaktır.
- Son Nesil Hesaplama Mimarileri: Yüksek hızlı altyapının, eş zamanlı ve düşük gecikme çıkarım iş akışlarını ölçeklendirme için nasıl tasarlandığına dair bir plan oluşturulacaktır.
- Donanım ve Yazılım Yığını: Google Cloud'un yeni G4 VM'leri (NVIDIA RTX Pro 6000 Blackwell mimarisi tarafından desteklenmektedir) ve TensorRT kullanarak iş akışlarını optimize etmenin nasıl yapılacağı gösterilecektir.
- Eldeki Laboratuvarlar: Dizüstü bilgisayarlarınızı getirin. State-of-the-art açık kaynaklı modelleri (Gemma ve Llama 3 gibi) dağıtmak ve optimize etmek için pratik deneyimler yaşayacaksınız.
Ekip Çalışması
Altyapı kararları boşlukta alınmaz. Ellerindeki laboratuvarlardan ve mimari derinlemesine incelemelerden en iyi şekilde yararlanmak için, AI/ML mimarı ve mühendisliği, platform mühendisliği, DevSecOps ve IT ve altyapı liderliğinden oluşan 2-4 kişilik bir ekibi getirmenizi öneriyoruz.
Yer ve Tarih
Yer: Google NYC (111 8th Ave) Tarih: 28 Mayıs Perşembe, 12:00 - 16:00 (Sonrasında ağ oluşturma törenine katılabilirsiniz)
Gelecekte, yapay zeka ve büyük veri işleme konularında daha da gelişmiş altyapılar oluşturmak için bu tür atölye ve eğitimlerin önemi artacaktır. Bu nedenle, bu workshop'a katılarak, kendi yapay zeka altyapınızı ölçeklendirme ve geliştirme konusunda önemli adımlar atabilirsiniz.
Yapay zeka özeti
Google NYC'de 28 Mayıs'ta yapılacak olan Scaling Intelligence Workshop'a katılın ve yapay zeka altyapınızı ölçeklendirme ve HPC iş akışlarınızı hızlandırma konularında uzmanlardan öğrenin