AI bağlam bütçesi: önce çıktı payı
Bağlamı girdiyle doldurmadan çıktı kapasitesi ayırın. Tablo her örnek pencerenin %10’unu çıktıya ayırır, kalan girdi sınırını gösterir.
AI bağlam bütçesi: önce çıktı payı
| Bağlam penceresi (token) | Çıktı rezervi (token) | Girdi sınırı (token) |
|---|---|---|
| 4096 | 410 | 3686 |
| 8192 | 820 | 7372 |
| 16384 | 1639 | 14745 |
| 32768 | 3277 | 29491 |
| 65536 | 6554 | 58982 |
| 131072 | 13108 | 117964 |
| 262144 | 26215 | 235929 |
| 1048576 | 104858 | 943718 |
Formül ve yöntem
output reserve = ceil(window × 0.10); input ceiling = window − output reserveSonucu değiştirebilecek etkenler
Pencereler varsayımsaldır, ürün özelliği değildir. Sistem talimatı, araç mesajları ve geçmiş de bütçe tüketir. Tokenleştirme modele bağlıdır.
Kaynaklar ve tanımlar
Yöntem kontrol tarihi:
İlgili bir işlemle devam edin
Bağlam penceresi bütçesi hesaplayıcı
Kalan bağlam = girilen sınır − talimat tokenları − geçmiş tokenları − çıktı rezervi. İlgili tüm içeriği sağlayıcının token kurallarıyla sayın.
AI token maliyeti hesaplayıcı
Maliyet = girdi tokenı × girdi fiyatı ÷ bir milyon + çıktı tokenı × çıktı fiyatı ÷ bir milyon. Kullandığınız sağlayıcı ve işlem kademesinin fiyatını girin.
Önbellekli girdi maliyeti hesaplayıcı
Karma girdi maliyeti, önbellekten okunan tokenların okuma fiyatı ile kalan tokenların normal fiyatından hesaplanır. İsabet oranı bir varsayımdır.
AI istek bütçesi hesaplayıcı
Karşılanabilen tam istek sayısı, bütçenin tahmini istek maliyetine bölümünün aşağı yuvarlanmasıdır. Her istekte aynı ortalama girdi/çıktı kullanımı varsayılır.