Бюджет контекста ИИ: оставьте место для ответа
Перед заполнением контекста зарезервируйте место для ответа. В каждом примере 10% окна выделены под выход; остаток показывает предел входных токенов.
Бюджет контекста ИИ: оставьте место для ответа
| Окно контекста (токены) | Резерв ответа (токены) | Предел входа (токены) |
|---|---|---|
| 4096 | 410 | 3686 |
| 8192 | 820 | 7372 |
| 16384 | 1639 | 14745 |
| 32768 | 3277 | 29491 |
| 65536 | 6554 | 58982 |
| 131072 | 13108 | 117964 |
| 262144 | 26215 | 235929 |
| 1048576 | 104858 | 943718 |
Формула и метод
output reserve = ceil(window × 0.10); input ceiling = window − output reserveЧто может изменить ответ
Размеры окон условные, это не характеристики продуктов. Системные инструкции, сообщения инструментов и история тоже занимают контекст. Токенизация зависит от модели.
Источники и определения
Метод проверен:
Перейти к похожей задаче
Калькулятор бюджета контекстного окна
Остаток контекста = заданный лимит − токены инструкций − история − резерв ответа. Считайте все материалы запроса по правилам токенизации провайдера.
Калькулятор стоимости токенов ИИ
Стоимость = входные токены × входной тариф / миллион + выходные токены × выходной тариф / миллион. Введите тарифы своего провайдера и режима обработки.
Калькулятор стоимости кешированного ввода
Смешанная стоимость ввода = кешированные токены по тарифу чтения + остальные по обычному тарифу. Доля попаданий — допущение, не гарантия работы кеша провайдера.
Калькулятор бюджета запросов ИИ
Доступное целое число запросов = бюджет / расчётная стоимость запроса, с округлением вниз. В каждом запросе предполагается одинаковое среднее число входных и выходных токенов.