Yapay zekâ planlaması
Yöntemleri açıkça gösterilen etkileşimli araçlar. Girdileri değiştirin, örneği kontrol edin ve sonucu varsayımlarıyla birlikte değerlendirin.
AI token maliyeti hesaplayıcı
Maliyet = girdi tokenı × girdi fiyatı ÷ bir milyon + çıktı tokenı × çıktı fiyatı ÷ bir milyon. Kullandığınız sağlayıcı ve işlem kademesinin fiyatını girin.
Önbellekli girdi maliyeti hesaplayıcı
Karma girdi maliyeti, önbellekten okunan tokenların okuma fiyatı ile kalan tokenların normal fiyatından hesaplanır. İsabet oranı bir varsayımdır.
Bağlam penceresi bütçesi hesaplayıcı
Kalan bağlam = girilen sınır − talimat tokenları − geçmiş tokenları − çıktı rezervi. İlgili tüm içeriği sağlayıcının token kurallarıyla sayın.
AI istek bütçesi hesaplayıcı
Karşılanabilen tam istek sayısı, bütçenin tahmini istek maliyetine bölümünün aşağı yuvarlanmasıdır. Her istekte aynı ortalama girdi/çıktı kullanımı varsayılır.
Token üretim süresi hesaplayıcı
Pozitif çıktıda tahmini süre = ilk token gecikmesi + kalan token sayısı ÷ üretim hızı. Sıfır token için modellenen süre sıfırdır.
Embedding vektörü depolama hesaplayıcı
Ham alan = vektör sayısı × boyut sayısı × bileşen başına bayt. 1.536 boyutlu, bileşeni dört bayt olan bin vektör, indeks öncesi 6.144.000 bayt tutar.
AI token maliyeti: hacim ve fiyat duyarlılığı
Milyon token başına çeşitli fiyatlarla varsayımsal maliyeti karşılaştırın. Fiyatlar değiştirilebilir planlama varsayımlarıdır, güncel sağlayıcı fiyatı değildir. Girdi/çıktı farklı olabilir.
AI bağlam bütçesi: önce çıktı payı
Bağlamı girdiyle doldurmadan çıktı kapasitesi ayırın. Tablo her örnek pencerenin %10’unu çıktıya ayırır, kalan girdi sınırını gösterir.