AI ile Geliştirilen Test Zamanı Ölçeklendirme Stratejileri Token Kullanımını %69.5 Azaltıyor
Yapay zeka araştırmacıları, büyük dil modellerinin çıkarım sırasında token tüketimini otomatik olarak optimize eden bir sistem geliştirdi. AutoTTS adlı bu çerçeve, elle yapılan kural tanımlarını ortadan kaldırarak hem maliyetleri düşürüyor hem de performansı koruyor.