Tính ngân sách cửa sổ ngữ cảnh
Ngữ cảnh còn lại = giới hạn đã nhập − token chỉ dẫn − token lịch sử − phần dự trữ đầu ra. Tính toàn bộ nội dung prompt theo quy tắc tách token của nhà cung cấp.
Công thức & phương pháp
Remaining tokens = context limit − instructions − history − output reserve.Ví dụ tính toán
| Đầu vào | Giá trị |
|---|---|
| Giới hạn token cửa sổ ngữ cảnh | 32.000 |
| Token chỉ dẫn và định nghĩa công cụ | 2.000 |
| Token lịch sử hiện có và đầu vào khác | 12.000 |
| Token đầu ra dành sẵn | 4.000 |
| Kết quả | Giá trị |
|---|---|
| Dung lượng đầu vào còn lại | 14.000 tokens |
| Tỷ lệ đã phân bổ | 56,25 % |
So sánh các tình huống
Đầu vào đầu tiên thay đổi, các đầu vào ví dụ còn lại giữ nguyên. Đây là các tình huống tính toán, không phải dự báo.
| So sánh các tình huống | Giới hạn token cửa sổ ngữ cảnh | Dung lượng đầu vào còn lại | Tỷ lệ đã phân bổ |
|---|---|---|---|
| −20% | 25.600 | 7.600 tokens | 70,3125 % |
| Ví dụ | 32.000 | 14.000 tokens | 56,25 % |
| +20% | 38.400 | 20.400 tokens | 46,875 % |
Giả định & giới hạn
Giới hạn là dữ liệu nhập, không phải thông số model hiện hành. Đầu vào/đầu ra có thể có giới hạn riêng; công cụ, chỉ dẫn ẩn, đa phương thức và suy luận có thể được đếm khác. Chừa khoảng trống nếu chưa biết số token cuối cùng.
Kết quả hiển thị đã được làm tròn. Phép tính dùng số JavaScript chưa làm tròn nên có thể xuất hiện sai khác nhỏ do số dấu phẩy động.
Chạy ngay trong trình duyệt
Công cụ tương tác chạy trong môi trường cô lập bị chặn truy cập mạng. ClearByte và mã quảng cáo không thể đọc các giá trị bên trong. Tiện ích trình duyệt và thiết bị bị xâm nhập nằm ngoài phạm vi bảo vệ này.
Nguồn & định nghĩa
Ngày kiểm tra phương pháp:
Tìm hiểu thêm
Tiếp tục với tác vụ liên quan
Tính chi phí token AI
Chi phí = token đầu vào × đơn giá đầu vào ÷ một triệu + token đầu ra × đơn giá đầu ra ÷ một triệu. Nhập giá đúng nhà cung cấp và cấp xử lý đang dùng.
Tính số yêu cầu AI theo ngân sách
Số yêu cầu nguyên có thể chi trả = ngân sách ÷ chi phí token ước tính mỗi yêu cầu, làm tròn xuống. Giả định mức dùng đầu vào/đầu ra trung bình giống nhau.
Tính chi phí đầu vào có cache
Chi phí đầu vào hỗn hợp bằng phí đọc token đã cache cộng phí token chưa cache. Tỷ lệ cache hit là giả định, không phải hành vi được bảo đảm.
Tính thời gian tạo token
Với đầu ra dương, thời gian = độ trễ token đầu tiên + số token còn lại ÷ tốc độ tạo. Yêu cầu 0 token cho thời gian mô hình bằng 0.