AI 用量规划 / CLEARBYTE
AI 上下文预算:先预留输出空间
填入输入前先预留输出容量。表中为各示例窗口保留 10% 输出空间,并显示剩余输入上限。
AI 上下文预算:先预留输出空间
| 上下文窗口(token) | 输出预留(token) | 输入上限(token) |
|---|---|---|
| 4096 | 410 | 3686 |
| 8192 | 820 | 7372 |
| 16384 | 1639 | 14745 |
| 32768 | 3277 | 29491 |
| 65536 | 6554 | 58982 |
| 131072 | 13108 | 117964 |
| 262144 | 26215 | 235929 |
| 1048576 | 104858 | 943718 |
公式与方法
output reserve = ceil(window × 0.10); input ceiling = window − output reserve哪些因素会改变结果
窗口为假设容量,不是产品规格。系统指令、工具消息及对话历史也占用预算;分词方式取决于模型。
来源与定义
方法核验日期: