Planejamento de IA / CLEARBYTE

Calculadora de tempo de geração de tokens

Para saída positiva: duração = latência do primeiro token + tokens restantes ÷ velocidade. Zero tokens solicitados dá tempo calculado zero.

Ferramenta isolada · acesso à rede bloqueado

Fórmula e método

If tokens > 0: seconds = first-token ms ÷ 1,000 + (tokens − 1) ÷ subsequent tokens/s.

Exemplo resolvido

EntradaValor
Tokens de saída501
Velocidade após o primeiro token50 tokens/s
Tempo até o primeiro token800 ms
Resultado
ResultadoValor
Duração de geração calculada10,8 s
Duração de geração calculada0,18 min

Comparar cenários

A primeira entrada muda e as demais mantêm os valores do exemplo. São cenários aritméticos, não previsões.

Comparar cenáriosTokens de saída Duração de geração calculadaDuração de geração calculada
−19,96%4018,8 s0,1466666667 min
Exemplo50110,8 s0,18 min
+19,96%60112,8 s0,2133333333 min

Premissas e limites

Velocidade constante simplifica a realidade. Processamento inicial, filas, raciocínio oculto, ferramentas, rede e carga alteram a latência. Use uma taxa medida em tarefas comparáveis; não há promessa de velocidade.

Os resultados exibidos são arredondados. O cálculo usa números JavaScript sem arredondamento; podem ocorrer pequenas diferenças de ponto flutuante.

Funciona no navegador

A ferramenta interativa funciona em um quadro isolado sem acesso à rede. ClearByte e scripts de publicidade não podem ler os dados dentro dele. Extensões maliciosas e dispositivos comprometidos ficam fora dessa proteção.

Fontes e definições

Método conferido:

Continue com uma tarefa relacionada