Калькулятор бюджета контекстного окна
Остаток контекста = заданный лимит − токены инструкций − история − резерв ответа. Считайте все материалы запроса по правилам токенизации провайдера.
Формула и метод
Remaining tokens = context limit − instructions − history − output reserve.Пример расчёта
| Исходные данные | Значение |
|---|---|
| Лимит токенов контекстного окна | 32 000 |
| Токены инструкций и описаний инструментов | 2 000 |
| Токены истории и прочего ввода | 12 000 |
| Резерв выходных токенов | 4 000 |
| Результат | Значение |
|---|---|
| Оставшийся бюджет ввода | 14 000 tokens |
| Уже распределённая доля | 56,25 % |
Сравнение сценариев
Меняется первое значение, а остальные данные примера остаются прежними. Это расчётные сценарии, а не прогнозы.
| Сравнение сценариев | Лимит токенов контекстного окна | Оставшийся бюджет ввода | Уже распределённая доля |
|---|---|---|---|
| −20% | 25 600 | 7 600 tokens | 70,3125 % |
| Пример | 32 000 | 14 000 tokens | 56,25 % |
| +20% | 38 400 | 20 400 tokens | 46,875 % |
Допущения и ограничения
Лимит задаёт пользователь, это не текущая спецификация модели. Бывают отдельные пределы ввода/вывода и разный учёт инструментов, скрытых инструкций, мультимодальности и рассуждений. При неизвестном точном запросе оставляйте запас.
Результаты на экране округлены. Для расчётов используются неокруглённые числа JavaScript; возможны небольшие погрешности вычислений с плавающей точкой.
Работает в браузере
Инструмент работает в изолированной среде с заблокированным сетевым доступом. ClearByte и рекламные скрипты не могут читать введённые внутри неё значения. Расширения браузера и взломанное устройство находятся за пределами этой защиты.
Источники и определения
Метод проверен:
Продолжить разбор
Перейти к похожей задаче
Калькулятор стоимости токенов ИИ
Стоимость = входные токены × входной тариф / миллион + выходные токены × выходной тариф / миллион. Введите тарифы своего провайдера и режима обработки.
Калькулятор бюджета запросов ИИ
Доступное целое число запросов = бюджет / расчётная стоимость запроса, с округлением вниз. В каждом запросе предполагается одинаковое среднее число входных и выходных токенов.
Калькулятор стоимости кешированного ввода
Смешанная стоимость ввода = кешированные токены по тарифу чтения + остальные по обычному тарифу. Доля попаданий — допущение, не гарантия работы кеша провайдера.
Калькулятор времени генерации токенов
При положительном числе токенов время ≈ задержка первого токена + остальные токены / скорость генерации. Для нулевого вывода модель даёт ноль.