AI Maliyetlerini Gerçek Sahiplerine Nasıl Yükleyebilirsiniz? Pratik Bir Kılavuz

Yapay zeka harcamaları hızla artıyor. Birçok şirket, faturalarındaki AI API maliyetlerini gerçekten kimin yaptığına dair net bir cevap bulmakta zorlanıyor. OpenAI’den gelen bir fatura 22.400 dolar, Anthropic’ten gelen ise 6.800 dolar gösteriyor. Toplamda 29.200 dolarlık harcama var, ancak finans departmanı hangi iş biriminin hangi harcama kaleminden sorumlu olduğunu sorduğunda, yanıtlar tahminlerden ibaret kalıyor.

Bu durum, aylık AI API harcamaları 5.000 ila 50.000 dolar arasında olan şirketler için yaygın bir sorun. Fatura detayları model ve fatura dönemi bazında gruplandırılmış durumda ve içsel sahiplik modelleriniz, ürün sınırları veya ajan topolojiniz hakkında hiçbir fikir vermiyor. Bir tek gpt-4o satırı, müşteri hizmeti sohbet aracından, dahili özetleme hizmetinden, gece toplu işlemlerinden ve hatta üretim uç noktalarında deney yapan geliştiricilerden gelen harcamanın toplamını temsil edebiliyor. Sorun şu ki, tek bir sayı var ve dört ya da daha fazla sorumlu var.

Gerçek Sahiplik Ataması Nedir ve Neden Önemlidir?

AI maliyet tahsisi, her API çağrısını, harcamanın kime ait olduğunu yeniden yapılandırabilecek meta verilerle zenginleştirme pratiğidir. Bu şekilde, maliyetler fatura dosyasından okunmak yerine, istek bazında sorgulanabiliyor. Üç temel soruya yanıt aranır genellikle:

• Hangisi takım ya da ürün bu harcamanın sahibi?
• Hangi ortam (üretim, geliştirme, deney) sorumlu?
• Hangi spesifik istek ya da ajan bir maliyet artışına neden oldu?

Fatura detayları yalnızca toplam harcama ve model bazında bilgi sunarken, istek bazlı tahsis bu sorulara net yanıtlar verir. Örneğin, 60 kişilik bir AI şirketindeki platform ekibi, aylık 18.000 dolarlık harcamanın %31’inin (5.580 dolar) arka planda çalışan bir görevin yanlış yapılandırılmış yeniden deneme döngüsünden kaynaklandığını, 20 dakikadan kısa sürede tespit etmişti.

Üç Farklı Yöntem: Maliyet, Kapsam ve Uygulama Zorluğu

AI maliyet tahsisi için üç yaygın yaklaşım bulunuyor. Her birinin kurulum maliyeti, sahiplik ayrıntısı ve istek düzeyindeki inceleme kapasitesi farklılık gösteriyor.

| Yaklaşım | Kurulum Maliyeti | Sahiplik Ayrıntısı | Ortam Ayrıntısı | İstek Düzeyinde İnceleme | |----------|------------------|---------------------|-----------------|-------------------------| | Sağlayıcı panosu | Yok | Hayır | Hayır | Hayır | | Geçit günlük zenginleştirmesi | Düşük (1-2 gün) | Evet (meta veri başlıklarıyla) | Evet | Kısmen (geçit izleme kimliği) | | Uygulama izleme tahsisi | Orta (1-2 hafta) | Tam | Evet | Evet (uçtan uca izleme) |

• Sağlayıcı panoları (OpenAI kullanım panosu, Anthropic konsolu) yalnızca toplam harcama değişikliklerini algılamak için kullanışlıdır. Sahiplik tahsisi konusunda ise tamamen işe yaramazlar.
• Geçit günlük zenginleştirmesi, çoğu takım için en yüksek verimli ilk adımdır. Uygulama kodunda herhangi bir değişiklik gerektirmez ve geçidin arkasında kalan tüm trafiği kapsar.
• Uygulama izleme tahsisi, kullanıcıdan başlayan istekleri modele kadar izleyerek, hangi kullanıcı eyleminin spesifik bir 4.000 tokenlik çağrıya neden olduğunu belirlemenizi sağlar.

Geçit Günlük Zenginleştirmesi Nasıl Uygulanır?

Eğer AI trafiğinizi bir geçit (LiteLLM, Kong, Portkey ya da kendi barındırdığınız Nginx proxy) üzerinden yönlendiriyorsanız, meta verileri enjekte etmek ve yakalamak için zaten doğru yere sahipsiniz demektir. Uygulama düzeyinde izleme kimlikleri ve sahiplik bilgileriyle donatılmış özel başlıklar kullanılır.

• Her dışa aktarılan istek için uygulama, aşağıdaki başlıkları ayarlar:

x-owner-team: platform
x-owner-product: özetleme-hizmeti
x-owner-env: üretim
x-owner-request-id: req_8a3c92f

• Geçit, bu başlıkları yanıtla birlikte kaydeder ve sağlayıcı yanıtından gelen token sayısı alanlarını (usage.prompt_tokens, usage.completion_tokens) de dahil eder.

• Maliyet hesaplaması basittir: token sayısı ile modelin token başına fiyatının çarpılması. Örneğin, gpt-4o için giriş token başına yaklaşık 2,50 dolar ve çıkış token başına 10,00 dolar (2025 ortası fiyatlarıyla). 2.000 giriş / 500 çıkış içeren bir çağrı yaklaşık 0,0100 dolara mal olur.

• Günlük biriktiricide (Datadog, Loki, ClickHouse) sorgulanabilir hale gelen bu verilerle, harcama aşağıdaki gibi hesaplanır:

günlük_maliyet(takım) = TOPLA( giriş_tokenleri * giriş_fiyatı[model] + çıkış_tokenleri * çıkış_fiyatı[model] )
  KOŞUL: x-owner-team = 'büyüme'

Uygulama kodunda herhangi bir değişiklik yapmadan, fatura sağlayıcısına dokunmadan bu hesaplama yapılabilir.

Gerçek Sayılarla Örnek Bir Senaryo

Üç farklı AI destekli ürünü olan bir platform ekibini düşünelim: müşteri hizmeti Q&A aracı, dahili belge özetleme hizmeti ve mühendisler için kod inceleme asistanı. Aylık toplam harcama 18.200 dolar.

Öncesi: Tüm ürünler tek bir API anahtarı kullanıyor. Fatura gpt-4o, 7,28M token, 18.200 dolar olarak görünüyor.

Sonrası: Geçit zenginleştirme başlıkları eklenip 30 günlük veri sorgulandıktan sonra:

| Ürün | Aylık Harcama | Toplamın Yüzdesi | |------|---------------|------------------| | Müşteri Q&A | 7.400 dolar | %41 | | Belge özetleme | 5.700 dolar | %31 | | Kod inceleme asistanı | 3.800 dolar | %21 | | Deneyler ve geliştirme ortamı | 1.300 dolar | %7 |

Belge özetleme hizmetinin harcama payının %15’in altında olması bekleniyordu. Geçit günlüklerinde x-owner-product: özetleme-hizmeti sorgulandığında, son 14 günde bir hata yeniden deneme döngüsü tespit edildi: 429 hız sınırı hatalarında, hizmet istemci katmanında üstel geri çekme uyguluyordu ve bu da gereksiz token tüketimine neden oluyordu. Düzeltme sonrası harcama %31’den %12’ye düştü.

Hangi Yöntemi Seçmelisiniz?

Eğer AI API harcamalarınızı daha şeffaf hale getirmek için ilk adımı atmak istiyorsanız, geçit günlük zenginleştirmesi en düşük maliyetli ve en yüksek getirili seçenek olacaktır. Uygulama değişikliği gerektirmez ve tüm trafiği kapsar. Eğer uçtan uca izleme ve spesifik kullanıcı eylemlerinin harcama üzerindeki etkisini görmek istiyorsanız, uygulama izleme tahsisi daha uygun olacaktır.

Unutmayın: AI maliyetlerini doğru tahsis etmek, yalnızca fatura doğruluğunu sağlamakla kalmaz, aynı zamanda kaynakları verimli kullanmak ve inovasyonu desteklemek için kritik bir adımdır. Doğru araçları ve yöntemleri kullanarak, AI harcamalarınızı gerçek sahiplerine atayabilir ve şirketinizin büyümesine katkıda bulunabilirsiniz.