Anggaran konteks AI: cadangkan output dahulu
Sisihkan kapasitas output sebelum mengisi konteks dengan input. Tabel mencadangkan 10% tiap jendela contoh dan menunjukkan batas input tersisa.
Anggaran konteks AI: cadangkan output dahulu
| Jendela konteks (token) | Cadangan output (token) | Batas input (token) |
|---|---|---|
| 4096 | 410 | 3686 |
| 8192 | 820 | 7372 |
| 16384 | 1639 | 14745 |
| 32768 | 3277 | 29491 |
| 65536 | 6554 | 58982 |
| 131072 | 13108 | 117964 |
| 262144 | 26215 | 235929 |
| 1048576 | 104858 | 943718 |
Rumus & metode
output reserve = ceil(window × 0.10); input ceiling = window − output reserveHal yang dapat mengubah hasil
Ukuran jendela hipotesis, bukan spesifikasi produk. Instruksi sistem, pesan alat, dan riwayat juga memakai anggaran. Tokenisasi bergantung model.
Sumber & definisi
Metode diperiksa:
Lanjutkan ke tugas terkait
Kalkulator sisa jendela konteks
Konteks tersisa = batas konteks − token instruksi − token riwayat − cadangan output. Hitung seluruh prompt sesuai aturan tokenisasi penyedia.
Kalkulator biaya token AI
Biaya = token input × tarif input ÷ satu juta + token output × tarif output ÷ satu juta. Masukkan tarif penyedia dan tingkat layanan yang digunakan.
Kalkulator biaya input dengan cache
Biaya input campuran = token cache × tarif baca cache + token lainnya × tarif tanpa cache. Proporsi cache hit merupakan asumsi.
Kalkulator jumlah permintaan AI sesuai anggaran
Jumlah permintaan utuh = anggaran ÷ perkiraan biaya token per permintaan, dibulatkan ke bawah. Rata-rata pemakaian input/output dianggap sama.