Yapay Zeka Maliyetlerini Sıfırdan Kontrol Eden Bursora Nasıl Çalışıyor?

Kullanmakta olduğunuz bir yapay zeka özelliği, sürekli bir döngüye girerek beklenenden çok daha fazla token harcadı. Durumu ancak ertesi sabah, hizmet sağlayıcı panosuna bakınca fark ettiniz. Bu hikaye, çoğumuzun yaşadığı bir durum — mevcut maliyet takip araçları, harcamaları ancak gerçekleştikten sonra gösteriyor.

Helicone, Langfuse ya da doğrudan OpenAI gibi sağlayıcıların kendi panoları da aynı sorunu yaşıyor: fatura zaten ödenmiş oluyor. Bursora’nın kurucusu, bu soruna farklı bir çözüm getirmek istedi. Harcamaları çağırmadan önce durdurmak yerine, harcamalar gerçekleştikten sonra uyarı veren sistemlerin yetersiz olduğunu düşündü. Bu nedenle, bütçeyi aşıp aşmayacağına karar veren yeni bir araç geliştirdi: Bursora.

Önce Bütçeyi Kontrol Et, Sonra Çağrıyı Yap

Bursora’nın temel fikri basit: API çağrısı yapılmadan önce bütçe kontrolü yapmak. Eğer çağrı, belirlenen limite uygun değilse, işlem engelleniyor. Eğer limit uygunsa, çağrı devam ediyor ve gerçek maliyet kaydediliyor. Bu yaklaşım, trafik ışığı sistemi gibi çalışıyor — hız kamerası değil, sadece sınırı gösteren bir ışık.

Kullanımı Kolay Kurulum

Bursora’yı uygulamaya dahil etmek için öncelikle gerekli paketleri yüklemek gerekiyor:

npm i @bursora/sdk openai

Ardından, OpenAI istemcisini Bursora’nın koruması altına almak için bir sarıcı (wrapper) kullanılıyor:

// lib/openai.ts
import OpenAI from "openai";
import { wrap } from "@bursora/sdk";

export const openai = wrap(new OpenAI(), {
  apiKey: process.env.BURSORA_API_KEY!,
  endpoint: process.env.BURSORA_ENDPOINT!,
});

Artık, normalde yaptığınız gibi API çağrılarını gerçekleştirebilirsiniz:

await openai.chat.completions.create({
  model: "gpt-4o-mini",
  messages: [{ role: "user", content: "Merhaba" }],
});

Her çağrı, harcanacak miktarın izin verilen sınırlar dahilinde olup olmadığını Bursora’ya soruyor. Eğer izin varsa, çağrı doğrudan OpenAI’e gidiyor. Bursora, bu süreçte trafiğinizi hiçbir şekilde kendi sunucularına yönlendirmiyor. Çağrı tamamlandıktan sonra, gerçek token maliyeti kaydediliyor.

Sınır Aşıldığında Ne Oluyor?

Eğer bütçe aşıldıysa, Bursora çağrıyı engelliyor ve aşağıdaki gibi bir hata fırlatıyor:

import { BudgetExceededError } from "@bursora/sdk";

try {
  await openai.chat.completions.create({
    /* ... */
  });
} catch (err) {
  if (err instanceof BudgetExceededError) {
    // Burada özel bir hata işleme yapılabilir
  } else {
    throw err;
  }
}

Bu sayede, sürekli bir döngü nedeniyle on binlerce çağrı yapılıp fatura kabarmaz. Sistem, harcamaları engelleyerek doğrudan tasarruf sağlıyor.

Harcamaları Kim Yaptı? Tanımlayıcı Etiketlerle İzleme

Bursora’nın sunduğu en güçlü özelliklerden biri, harcamaları kimlerin yaptığına dair ayrıntılı bilgiler sunması. Çağrıları etiketleyerek, harcamaları müşteri, ajan ya da iş akışı bazında gruplandırmak mümkün:

import { withTags } from "@bursora/sdk";

await withTags(
  {
    tenant_id: "acme",
    agent_id: "destek-bot"
  },
  async () => {
    await openai.chat.completions.create({
      model: "gpt-4o-mini",
      messages: [{ role: "user", content: "Merhaba" }],
    });
  }
);

Bu şekilde, ani harcama artışları kolayca tanımlanabiliyor ve sorumlu taraf tespit edilebiliyor.

Bursora Çalışmıyorsa Ne Olur?

Eğer Bursora sisteminde bir sorun varsa, çağrılar yine de OpenAI’e ulaşmaya devam ediyor. Geliştiriciler, bu aracın sistemlerinin çalışmasını engellemesini istemiyor. Sadece o çağrının takibi yapılamıyor — geri kalan tüm sistemler normal şekilde çalışmaya devam ediyor.

Açık Kaynak Lisansları ve Self-Hosting İmkanı

Bursora’nın dashboard’u Apache 2.0 lisansı altında, SDK’sı ise MIT lisansı altında yayınlanıyor. Kullanıcılar, tüm sistemi kendi PostgreSQL veritabanlarında self-host edebiliyor. Ticari bir modülün dışında tüm özelliklere ücretsiz olarak erişilebiliyor. Self-hosting yapan kullanıcılar için herhangi bir kısıtlama bulunmuyor.

Henüz Tamamlanmamış Özellikler

Şu anda Bursora, fiyatlandırma senkronizasyonunu yalnızca büyük sağlayıcılarla sınırlıyor. Daha küçük modeller için token maliyetlerini elle girmek gerekebiliyor. Geliştirme süreci devam ederken, bu durumun iyileştirilmesi bekleniyor.

Geleceğe Bakış

Yapay zeka entegrasyonları yaygınlaştıkça, kontrolsüz harcamaların getireceği riskler de artıyor. Bursora gibi araçlar, geliştiricilere hem maliyetleri yönetme hem de projelerini ölçeklendirme konusunda güvenilir bir yol sunuyor. Eğer siz de beklenmedik AI faturalarının kurbanı olduysanız, hikayenizi paylaşmak Bursora’nın gelişimine katkı sağlayabilir.