Tính chi phí đầu vào có cache
Chi phí đầu vào hỗn hợp bằng phí đọc token đã cache cộng phí token chưa cache. Tỷ lệ cache hit là giả định, không phải hành vi được bảo đảm.
Công thức & phương pháp
Cost = total input × [(1 − cached share) × uncached rate + cached share × cache-read rate] ÷ 1,000,000.Ví dụ tính toán
| Đầu vào | Giá trị |
|---|---|
| Tổng token đầu vào | 1.000.000 |
| Tỷ lệ tính phí đọc bộ nhớ đệm | 60 % |
| Đơn giá triệu đầu vào không lưu đệm | 3 ¤ |
| Đơn giá triệu token đọc bộ nhớ đệm | 0,5 ¤ |
| Kết quả | Giá trị |
|---|---|
| Phí đầu vào hỗn hợp | 1,5 ¤ |
| Phí đối chiếu khi không lưu đệm toàn bộ | 3 ¤ |
| Chênh lệch so với phí đối chiếu | 1,5 ¤ |
So sánh các tình huống
Đầu vào đầu tiên thay đổi, các đầu vào ví dụ còn lại giữ nguyên. Đây là các tình huống tính toán, không phải dự báo.
| So sánh các tình huống | Tổng token đầu vào | Phí đầu vào hỗn hợp | Phí đối chiếu khi không lưu đệm toàn bộ | Chênh lệch so với phí đối chiếu |
|---|---|---|---|---|
| −20% | 800.000 | 1,2 ¤ | 2,4 ¤ | 1,2 ¤ |
| Ví dụ | 1.000.000 | 1,5 ¤ | 3 ¤ | 1,5 ¤ |
| +20% | 1.200.000 | 1,8 ¤ | 3,6 ¤ | 1,8 ¤ |
Giả định & giới hạn
Mô hình chỉ có hai nhóm phí đầu vào, không gồm ghi cache, lưu trữ, đầu ra hoặc công cụ. Nếu ghi cache tính phí riêng, hãy cộng thêm và không coi token được ghi là lượt đọc.
Kết quả hiển thị đã được làm tròn. Phép tính dùng số JavaScript chưa làm tròn nên có thể xuất hiện sai khác nhỏ do số dấu phẩy động.
Chạy ngay trong trình duyệt
Công cụ tương tác chạy trong môi trường cô lập bị chặn truy cập mạng. ClearByte và mã quảng cáo không thể đọc các giá trị bên trong. Tiện ích trình duyệt và thiết bị bị xâm nhập nằm ngoài phạm vi bảo vệ này.
Nguồn & định nghĩa
Ngày kiểm tra phương pháp:
Tiếp tục với tác vụ liên quan
Tính chi phí token AI
Chi phí = token đầu vào × đơn giá đầu vào ÷ một triệu + token đầu ra × đơn giá đầu ra ÷ một triệu. Nhập giá đúng nhà cung cấp và cấp xử lý đang dùng.
Tính số yêu cầu AI theo ngân sách
Số yêu cầu nguyên có thể chi trả = ngân sách ÷ chi phí token ước tính mỗi yêu cầu, làm tròn xuống. Giả định mức dùng đầu vào/đầu ra trung bình giống nhau.
Tính ngân sách cửa sổ ngữ cảnh
Ngữ cảnh còn lại = giới hạn đã nhập − token chỉ dẫn − token lịch sử − phần dự trữ đầu ra. Tính toàn bộ nội dung prompt theo quy tắc tách token của nhà cung cấp.
Tính thời gian tạo token
Với đầu ra dương, thời gian = độ trễ token đầu tiên + số token còn lại ÷ tốc độ tạo. Yêu cầu 0 token cho thời gian mô hình bằng 0.