İşletmelerin AI uygulamaları her sorguda, her uzman düzeltmesinde yeni veriler üretiyor — ancak çoğu bu fırsatı kaçıranıyor. San Francisco merkezli Empromptu AI, Alchemy Models adlı yeni platformuyla şirketlere, zaten kurmuş oldukları AI uygulamalarının ürettiği verileri otomatik olarak toplayıp özel modelleri sürekli iyileştirmelerini sağlıyor.
Bu yaklaşım, hem RAG (Retrieval-Augmented Generation) hem de geleneksel ince ayar (fine-tuning) yöntemlerinden farklılaşıyor. RAG, sorgulama sırasında dış kaynaklardan veri çekerken model ağırlıklarını değiştirmiyor. Geleneksel ince ayar ise etiketli veri kümeleri ve ayrı ML altyapıları gerektiriyor. Alchemy ise üretimdeki AI uygulamasını doğrudan veri kaynağı olarak kullanıyor ve ağırlıkları sürekli olarak iyileştiriyor.
Alchemy nasıl çalışıyor: Üretimden eğitime otomatik veri akışı
Empromptu’nun Golden Data Pipelines altyapısı, Alchemy’in temelini oluşturuyor. Süreç iki aşamada ilerliyor:
- Uygulama öncesi veri hazırlığı: İşletme verileri temizleniyor, yapılandırılıyor ve zenginleştiriliyor. Böylece AI uygulamasının başlangıçta düzgün girdi alması sağlanıyor.
- Üretim sırasında sürekli iyileştirme: Uygulama çıktıları, konu uzmanları tarafından incelenip düzeltilirken, doğrulanan veriler otomatik olarak eğitim verisine dönüşüyor. Bu veriler, modelin daha sonraki ince ayarlarında kullanılıyor.
Empromptu CEO’su Shanea Leven, bu süreci şöyle açıklıyor: “Müşteriler zaten oluşturdukları AI uygulamalarıyla veriyi temizliyor. Alchemy, bu veriyi yakalayıp model iyileştirmelerine dahil ediyor.”
Sonuç olarak ortaya çıkan modeller, Expert Nano Models olarak adlandırılıyor. Bu modeller, özel iş akışlarına göre optimize edilmiş, küçük boyutlu ve görev odaklı modeller. Değerlendirme, koruma ve uyumluluk kontrolleri de aynı pipeline içinde çalışıyor. Müşteriler model ağırlıklarına tamamen sahip olabiliyor. Empromptu, altyapısında çıkarım yapmayı sağlasa da ağırlıklar taşınabilir ve ücret karşılığında dışa aktarılabilir. Platform, Llama, Qwen gibi farklı taban modellerini destekliyor.
Leven, veri hacminin en önemli kısıtlama olduğunu kabul ediyor: “Erken dönem uygulamalarda, modelin kullanıma hazır hale gelmesi zaman alıyor. Üretim verisi birikene kadar temel model kullanılıyor.”
Geleneksel ince ayar yöntemlerinden farkı: Kim çalışıyor?
OpenAI’nin ince ayar API’sı veya AWS Bedrock’un özel modelleri, şirketlerin ayrı eğitim veri kümeleri hazırlamasını ve ML ekiplerinin süreci yönetmesini gerektiriyor. Alchemy’in avantajıysa, verinin üretim akışından otomatik olarak toplanması ve herhangi bir ML uzmanlığına gerek olmaması.
Leven, bu farkı şöyle vurguluyor: “Başka bir ML ekibi kurup karmaşık altyapılar mı yönetmek istiyorsunuz? Hayır. Artık herkes AI modellerini kolayca iyileştirebilir.”
Ancak bu bağımlılıkla birlikte birdengeleme de geliyor: Alchemy sadece Empromptu ortamında çalışıyor. Benzer bir sistemi mevcut altyapıda uygulamak isteyen şirketlerin, veri yakalama, doğrulama ve ince ayar pipeline’larını kendi başlarına kurmaları gerekiyor.
Sağlık sektöründe devrim: Otizm terapi kayıtları 1 saatten 10 dakikaya düştü
Empromptu, özellikle düzenleyici baskının yüksek olduğu ve veri yoğunluğu fazla olan sektörlere odaklanıyor: sağlık, finans, hukuk, perakende ve gelir tahmini. Bu alanlarda genel amaçlı modellerin çıktıları genellikle yetersiz kalıyor ve şirketlere özel veriler en değerli kaynak.
Erken kullanıcılardan biri olan Ascent Autism, terapistlerin otizm seans kayıtlarını otomatik olarak belgelemelerinde Alchemy’den yararlanıyor. Terapistler, seans kayıtları, transkriptler ve davranışsal ölçütleri kullanarak yapılandırılmış notlar ve ebeveynlere özel güncellemeler oluşturuyor. Daha önce bir seans için 1-2 saat süren bu işlem, Alchemy ile 10-15 dakikaya kadar düşüyor.
Ascent Autism’in CTO’su Faraz Fadavi, süreci şöyle değerlendiriyor: “API tabanlı modeller hızla maliyetli hale gelebiliyor. Alchemy, iş akışımızı yapılandırırken aynı zamanda kendi verilerimizle modeller eğitmemizi ve hem maliyetleri düşürmemizi hem de çıktı kalitesini sürekli iyileştirmemizi sağladı.”
Değerlendirme kriterleri sadece doğrulukla sınırlı kalmıyor. Şirket, çıktının seans verilerine dayanabilirliğini, tutarlılığını ve klinik sesine uygunluğunu da ölçüyor. Fadavi, “Amacımız, sistemimizin sadece metin özetlemesi yapmasını değil, gerçekten nasıl çalıştığımızı öğrenip buna göre çıktı üretmesini sağlamaktı”, diyor.
Geleceğe bakış: AI’nın geleceği iş akışlarının derininde yatıyor
Empromptu’nun yaklaşımı, AI’nın gelecekteki evriminde önemli bir dönüm noktası olabilir. Şirketler artık AI modellerini sadece API’ler aracılığıyla kullanmakla yetinmek zorunda kalmayacak, kendi üretim verileriyle sürekli olarak iyileştirilen özel modelleri sahiplenebilecekler. Bu da hem maliyetleri düşürecek hem de sektörlere özgü ihtiyaçlara daha iyi cevap veren çözümler ortaya çıkaracak.
Ancak başarının anahtarı, verinin doğru şekilde toplanması ve sürekli iyileştirme sürecine dahil edilmesinde yatıyor. Empromptu’nun sunduğu bu model, AI’nın kurumsal dünyaya entegrasyonunu hızlandırabilir ve şirketlerin rekabet avantajı elde etmelerine yardımcı olabilir.
Yapay zeka özeti
San Francisco merkezli Empromptu AI, Alchemy Models ile şirketlerin AI uygulamalarından otomatik eğitim verisi toplamalarını ve özel modeller oluşturmalarını sağlıyor. ML ekiplerine gerek kalmadan sürekli iyileştirme imkanı sunuyor.
