Perencanaan AI / CLEARBYTE

Kalkulator waktu pembuatan token

Untuk output positif, waktu = latensi token pertama + jumlah token berikutnya ÷ laju generasi. Nol token menghasilkan waktu model nol.

Alat terisolasi · akses jaringan diblokir

Rumus & metode

If tokens > 0: seconds = first-token ms ÷ 1,000 + (tokens − 1) ÷ subsequent tokens/s.

Contoh perhitungan

MasukanNilai
Token keluaran501
Laju setelah token pertama50 tokens/s
Waktu hingga token pertama800 ms
Hasil
HasilNilai
Durasi generasi dalam model10,8 s
Durasi generasi dalam model0,18 min

Bandingkan skenario

Masukan pertama berubah, sementara masukan contoh lainnya tetap. Ini adalah skenario perhitungan, bukan perkiraan hasil mendatang.

Bandingkan skenarioToken keluaran Durasi generasi dalam modelDurasi generasi dalam model
−19,96%4018,8 s0,1466666667 min
Contoh50110,8 s0,18 min
+19,96%60112,8 s0,2133333333 min

Asumsi & batasan

Laju konstan adalah penyederhanaan. Pemrosesan prompt, antrean, penalaran tersembunyi, alat, jaringan, dan beban penyedia memengaruhi latensi. Gunakan laju terukur untuk permintaan sebanding; tidak ada janji kecepatan model.

Hasil yang ditampilkan dibulatkan. Perhitungan menggunakan angka JavaScript yang belum dibulatkan; sedikit perbedaan akibat aritmetika titik mengambang mungkin terjadi.

Berjalan di browser Anda

Alat interaktif berjalan di sandbox dengan akses jaringan diblokir. ClearByte dan skrip iklan tidak dapat membaca nilai di dalamnya. Ekstensi browser dan perangkat yang telah disusupi berada di luar perlindungan ini.

Sumber & definisi

Metode diperiksa:

Lanjutkan ke tugas terkait