Lập kế hoạch AI
Công cụ tương tác với phương pháp minh bạch. Thay đổi đầu vào, đối chiếu ví dụ và sử dụng kết quả cùng các giả định đi kèm.
Tính chi phí token AI
Chi phí = token đầu vào × đơn giá đầu vào ÷ một triệu + token đầu ra × đơn giá đầu ra ÷ một triệu. Nhập giá đúng nhà cung cấp và cấp xử lý đang dùng.
Tính chi phí đầu vào có cache
Chi phí đầu vào hỗn hợp bằng phí đọc token đã cache cộng phí token chưa cache. Tỷ lệ cache hit là giả định, không phải hành vi được bảo đảm.
Tính ngân sách cửa sổ ngữ cảnh
Ngữ cảnh còn lại = giới hạn đã nhập − token chỉ dẫn − token lịch sử − phần dự trữ đầu ra. Tính toàn bộ nội dung prompt theo quy tắc tách token của nhà cung cấp.
Tính số yêu cầu AI theo ngân sách
Số yêu cầu nguyên có thể chi trả = ngân sách ÷ chi phí token ước tính mỗi yêu cầu, làm tròn xuống. Giả định mức dùng đầu vào/đầu ra trung bình giống nhau.
Tính thời gian tạo token
Với đầu ra dương, thời gian = độ trễ token đầu tiên + số token còn lại ÷ tốc độ tạo. Yêu cầu 0 token cho thời gian mô hình bằng 0.
Tính dung lượng vector embedding
Dung lượng thô = số vector × số chiều × byte mỗi thành phần. Một nghìn vector 1.536 chiều, mỗi thành phần 4 byte, cần 6.144.000 byte trước phần chỉ mục.
Chi phí token AI: độ nhạy theo lượng và giá
So chi phí giả định ở các giá mỗi triệu token. Giá là giả định lập kế hoạch có thể đổi, không phải giá hiện hành. Đầu vào và đầu ra có thể khác giá.
Ngân sách ngữ cảnh AI: chừa đầu ra trước
Chừa dung lượng đầu ra trước khi điền đầu vào. Bảng dành 10% mỗi cửa sổ ví dụ cho đầu ra và cho biết trần đầu vào còn lại.