Yapay zekâ planlaması / CLEARBYTE

Token üretim süresi hesaplayıcı

Pozitif çıktıda tahmini süre = ilk token gecikmesi + kalan token sayısı ÷ üretim hızı. Sıfır token için modellenen süre sıfırdır.

Yalıtılmış araç · ağ erişimi engelli

Formül ve yöntem

If tokens > 0: seconds = first-token ms ÷ 1,000 + (tokens − 1) ÷ subsequent tokens/s.

Çözümlü örnek

GirdiDeğer
Çıkış tokenları501
İlk tokendan sonraki hız50 tokens/s
İlk tokena kadar süre800 ms
Sonuç
SonuçDeğer
Model üretim süresi10,8 s
Model üretim süresi0,18 min

Senaryoları karşılaştırın

Diğer örnek girdiler sabit kalırken ilk girdi değişir. Bunlar hesaplama senaryolarıdır; geleceğe yönelik tahminler değildir.

Senaryoları karşılaştırınÇıkış tokenları Model üretim süresiModel üretim süresi
−19,96%4018,8 s0,1466666667 min
Örnek50110,8 s0,18 min
+19,96%60112,8 s0,2133333333 min

Varsayımlar ve sınırlar

Sabit hız basitleştirmedir. Ön işleme, kuyruk, gizli akıl yürütme, araçlar, ağ ve sağlayıcı yükü gecikmeyi değiştirir. Benzer isteklerde ölçülen hızı girin; model hızı taahhüt edilmez.

Görüntülenen sonuçlar yuvarlanır. Hesaplamalarda yuvarlanmamış JavaScript sayıları kullanılır; küçük kayan nokta farkları oluşabilir.

Tarayıcınızda çalışır

Etkileşimli araç, ağ erişimi engellenmiş bir korumalı alanda çalışır. ClearByte ve reklam betikleri buradaki değerleri okuyamaz. Tarayıcı eklentileri ve güvenliği ihlal edilmiş cihazlar bu korumanın dışındadır.

Kaynaklar ve tanımlar

Yöntem kontrol tarihi:

İlgili bir işlemle devam edin