AI の利用計画 / CLEARBYTE

トークン生成時間計算

出力が正なら、時間=最初のトークンの遅延+残りのトークン数÷生成速度です。0トークンでは計算上の生成時間も0です。

隔離されたツール · ネットワーク接続を遮断

計算式と方法

If tokens > 0: seconds = first-token ms ÷ 1,000 + (tokens − 1) ÷ subsequent tokens/s.

計算例

入力値
出力トークン数501
最初のトークン以降の速度50 tokens/s
最初のトークンまでの時間800 ms
結果
結果値
モデル上の生成時間10.8 s
モデル上の生成時間0.18 min

シナリオを比較

最初の入力だけを変え、ほかの入力は計算例の値に固定します。計算上のシナリオであり、予測ではありません。

シナリオを比較出力トークン数 モデル上の生成時間モデル上の生成時間
−19.96%4018.8 s0.1466666667 min
計算例50110.8 s0.18 min
+19.96%60112.8 s0.2133333333 min

前提条件と制約

一定速度を仮定した簡易モデルです。入力処理、待ち行列、内部推論、ツール、通信、負荷で遅延は変わります。同等のリクエストで測った速度を使い、モデル性能の保証とはしないでください。

表示結果は丸められています。計算には丸め前の JavaScript の数値を使うため、わずかな浮動小数点誤差が生じることがあります。

ブラウザ内で動作

対話型ツールは、ネットワーク接続を遮断したサンドボックス内で動作します。ClearByte や広告スクリプトは、その中の入力値を読み取れません。ブラウザ拡張機能や侵害された端末は、この保護の対象外です。

出典と定義

計算方法の確認日:

関連する作業へ進む