AI संदर्भ बजट: इनपुट से पहले आउटपुट की जगह रखें
संदर्भ विंडो को इनपुट से भरने से पहले आउटपुट की जगह रखें। हर उदाहरण में 10% आउटपुट के लिए है; शेष इनपुट की अधिकतम सीमा है।
AI संदर्भ बजट: इनपुट से पहले आउटपुट की जगह रखें
| संदर्भ विंडो (टोकन) | आउटपुट के लिए आरक्षित (टोकन) | इनपुट सीमा (टोकन) |
|---|---|---|
| 4096 | 410 | 3686 |
| 8192 | 820 | 7372 |
| 16384 | 1639 | 14745 |
| 32768 | 3277 | 29491 |
| 65536 | 6554 | 58982 |
| 131072 | 13108 | 117964 |
| 262144 | 26215 | 235929 |
| 1048576 | 104858 | 943718 |
सूत्र और विधि
output reserve = ceil(window × 0.10); input ceiling = window − output reserveकिससे जवाब बदल सकता है
विंडो आकार काल्पनिक हैं, उत्पादों की विशेषताएँ नहीं। सिस्टम निर्देश, टूल संदेश और पुरानी बातचीत भी बजट लेते हैं। टोकन विभाजन मॉडल पर निर्भर है।
स्रोत और परिभाषाएँ
विधि की जाँच की गई:
संबंधित काम की ओर बढ़ें
कॉन्टेक्स्ट विंडो बजट कैलकुलेटर
शेष कॉन्टेक्स्ट = दी गई सीमा − निर्देश टोकन − इतिहास टोकन − आउटपुट आरक्षित। प्रदाता के टोकन नियम से सारी प्रॉम्प्ट सामग्री गिनें।
AI टोकन लागत कैलकुलेटर
लागत = इनपुट टोकन × इनपुट दर ÷ दस लाख + आउटपुट टोकन × आउटपुट दर ÷ दस लाख। अपने प्रदाता और प्रोसेसिंग स्तर की दर दें।
कैश किए इनपुट की लागत कैलकुलेटर
मिश्रित इनपुट लागत = कैश टोकन की पढ़ने की दर + बाकी टोकन की सामान्य दर। कैश हिट अंश अनुमान है, प्रदाता व्यवहार की गारंटी नहीं।
AI अनुरोध बजट कैलकुलेटर
पूरे अनुरोध = बजट ÷ अनुमानित प्रति अनुरोध टोकन लागत, नीचे पूर्णांक तक। हर अनुरोध में समान औसत इनपुट/आउटपुट उपयोग माना है।