Floemdata
Yapay Zekâ

Yapay Zekâ Kullanım Maliyeti: Neyi Ölçmeli

Yapay zekâ faturası sürpriz olmasın diye hangi sayıları ölçmelisiniz? Token, önbellek, yeniden deneme ve iş çıktısı başına maliyet; fiyat uydurmadan bir ölçüm planı.

Floemdata · · 5 dk okuma
Farklı uzunlukta parçalar taşıyan bir boru; ortada ibreli yuvarlak bir sayaç

Bir ekip yapay zekâ destekli bir özelliği denemeye başlar. İlk ay fatura küçüktür. Üçüncü ayda kullanıcı sayısı artar, istemler uzar ve fatura, kimsenin hesaplamadığı bir rakama ulaşır. Maliyeti kontrol etmek için önce neyi ölçtüğünüzü bilmeniz gerekir.

Fatura neye göre kesiliyor

Model sağlayıcılarının fiyatlandırması genellikle token üzerinden işler. Anthropic'in fiyat sayfası modelleri ayrı sütunlarla listeler: temel girdi tokenı, önbelleğe yazma (iki farklı süre için), önbellek isabeti ve çıktı tokenı; fiyatlar milyon token başınadır ve modele göre değişir. Sayfa güncel fiyat için ayrıca bir adrese yönlendirir, yani bu rakamlar zamanla değişir. Bu yazıda bilerek fiyat vermiyoruz; sayfayı kendiniz açıp bakın: Anthropic fiyatlandırma sayfası (9 Kasım 2026'da okunmuştur).

Önemli olan şu: tek bir istek birkaç ayrı kalemde maliyet yaratır ve bu kalemlerin birim fiyatı aynı değildir. Yalnızca 'toplam fatura'ya bakarsanız hangi kalemin büyüdüğünü göremezsiniz.

Ölçülecek altı şey

  • Girdi ve çıktı token sayısı, ayrı ayrı. Çıktı ile girdi farklı fiyatlandığı için toplam token tek başına yanıltıcıdır.
  • Hangi model. Aynı iş için hangi modelin kullanıldığını kaydedin; kolay işleri daha küçük bir modele vermek en büyük kaldıraçlardan biridir.
  • Önbellek isabeti. Tekrarlanan uzun bir sistem metni önbellekten geliyorsa maliyeti ayrı bir kalemle düşer; isabet oranını izleyin.
  • Yeniden denemeler ve hatalar. Başarısız ve tekrarlanan istekler de token harcar. 'İstek başına' ortalama bunu saklar.
  • Araç çağrıları ve ek adımlar. Bir yanıt için model birkaç tur dönüyorsa bir kullanıcı sorusu birkaç isteğe bölünür.
  • İş çıktısı. Yanıtlanan soru, üretilen özet, kapatılan talep sayısı. Maliyeti çıktıya bölmeden iyi mi pahalı mı olduğu belli olmaz.

Doğru birim: istek değil, iş

'İstek başına ortalama maliyet' tek bir sorunun cevabıdır: ne kadar harcıyorum? Asıl soru ise 'bir işi bitirmek ne kadara geliyor?'. Bir rapor özetinin maliyeti, bir müşteri e-postasına taslak yanıtın maliyeti, bir belge sınıflandırmanın maliyeti. Bu birimler iş sahibine anlamlı gelir ve bir özelliği sürdürüp sürdürmemeye karar vermenizi sağlar.

Kayıt tutarken

  • Sayıları kaydedin, tutarı değil. Token sayısı, model adı ve zamanı saklayın; tutarı rapor sırasında o günün fiyat tablosuyla hesaplayın. Fiyat değişince eski kayıtları bozmazsınız.
  • Metni değil sayıyı loglayın. İstem ve yanıt içeriği kişisel veri taşıyabilir; ölçüm için buna gerek yoktur.
  • Bir üst sınır koyun. Günlük ya da aylık bütçeye yaklaşınca uyarı gelsin; kontrolsüz bir döngü bir gecede çok token harcar.

Floemdata'da durum

Floemdata'nın yapay zekâ asistanı ürün belgelerinde yol haritasında yer alır; kodda bu asistana ait bir bölüm henüz yoktur. Dolayısıyla Floemdata içinde yapay zekâ kullanım maliyetini ölçen bir mekanizma bulamadık. Bu yazı genel bir ölçüm planıdır; ürünün bugünkü bir özelliğini anlatmaz.

Başlangıç için bir tabloya şu sütunları açın: tarih, model, girdi token, çıktı token, iş türü. Bir hafta sonra ilk sorunuzu soracak veriye sahip olursunuz. Sorularınız için Floemdata ekibine info@floemdata.com adresinden ulaşabilirsiniz.

← Bütün rehberler