Planificación de IA / CLEARBYTE

Calculadora de tiempo de generación de tokens

Para una salida positiva: duración = latencia del primer token + tokens restantes ÷ velocidad. Cero tokens solicitados da tiempo calculado cero.

Herramienta aislada · sin acceso a la red

Fórmula y método

If tokens > 0: seconds = first-token ms ÷ 1,000 + (tokens − 1) ÷ subsequent tokens/s.

Ejemplo resuelto

Dato de entradaValor
Tokens de salida501
Velocidad tras el primer token50 tokens/s
Tiempo hasta el primer token800 ms
Resultado
ResultadoValor
Duración de generación calculada10,8 s
Duración de generación calculada0,18 min

Comparar escenarios

Cambia el primer dato y los demás conservan los valores del ejemplo. Son escenarios aritméticos, no previsiones.

Comparar escenariosTokens de salida Duración de generación calculadaDuración de generación calculada
−19,96%4018,8 s0,1466666667 min
Ejemplo50110,8 s0,18 min
+19,96%60112,8 s0,2133333333 min

Supuestos y límites

La velocidad constante simplifica la realidad. Procesamiento inicial, colas, razonamiento oculto, herramientas, red y carga cambian la latencia. Usa una tasa medida en tareas comparables; no se promete velocidad de modelo.

Los resultados se redondean para mostrarlos. Los cálculos usan números JavaScript sin redondear; pueden existir pequeñas diferencias de coma flotante.

Funciona en tu navegador

La herramienta funciona en un marco aislado sin acceso a la red. ClearByte y los scripts publicitarios no pueden leer sus datos. Esto no protege frente a extensiones maliciosas o dispositivos comprometidos.

Fuentes y definiciones

Método comprobado:

Continúa con una tarea relacionada