टोकन जनरेशन समय कैलकुलेटर
धनात्मक आउटपुट पर समय = पहले टोकन की देरी + बाकी टोकन ÷ जनरेशन दर। शून्य टोकन पर मॉडल समय शून्य है।
सूत्र और विधि
If tokens > 0: seconds = first-token ms ÷ 1,000 + (tokens − 1) ÷ subsequent tokens/s.हल किया हुआ उदाहरण
| इनपुट | मान |
|---|---|
| आउटपुट टोकन | 501 |
| पहले टोकन के बाद की दर | 50 tokens/s |
| पहले टोकन तक समय | 800 ms |
| परिणाम | मान |
|---|---|
| मॉडल की जनरेशन अवधि | 10.8 s |
| मॉडल की जनरेशन अवधि | 0.18 min |
परिदृश्यों की तुलना
पहला इनपुट बदलता है, जबकि उदाहरण के बाकी इनपुट वैसे ही रहते हैं। ये गणना के परिदृश्य हैं, पूर्वानुमान नहीं।
| परिदृश्यों की तुलना | आउटपुट टोकन | मॉडल की जनरेशन अवधि | मॉडल की जनरेशन अवधि |
|---|---|---|---|
| −19.96% | 401 | 8.8 s | 0.1466666667 min |
| उदाहरण | 501 | 10.8 s | 0.18 min |
| +19.96% | 601 | 12.8 s | 0.2133333333 min |
मान्यताएँ और सीमाएँ
स्थिर दर सरल धारणा है। प्रीफ़िल, कतार, छिपी रीजनिंग, टूल, नेटवर्क और लोड देरी बदलते हैं। समान अनुरोध की मापी दर दें; किसी मॉडल की गति का वादा नहीं।
दिखाए गए परिणामों को उचित दशमलव स्थानों तक राउंड किया गया है। गणना में JavaScript के मूल मान इस्तेमाल होते हैं; फ़्लोटिंग-पॉइंट गणना के कारण मामूली अंतर हो सकते हैं।
आपके ब्राउज़र में चलता है
इंटरैक्टिव टूल एक अलग सैंडबॉक्स में चलता है जहाँ नेटवर्क पहुँच बंद है। ClearByte और विज्ञापन स्क्रिप्ट उसके अंदर के मान नहीं पढ़ सकते। ब्राउज़र एक्सटेंशन और असुरक्षित या हैक हुआ डिवाइस इस सुरक्षा के दायरे से बाहर हैं।
स्रोत और परिभाषाएँ
विधि की जाँच की गई:
संबंधित काम की ओर बढ़ें
AI अनुरोध बजट कैलकुलेटर
पूरे अनुरोध = बजट ÷ अनुमानित प्रति अनुरोध टोकन लागत, नीचे पूर्णांक तक। हर अनुरोध में समान औसत इनपुट/आउटपुट उपयोग माना है।
कॉन्टेक्स्ट विंडो बजट कैलकुलेटर
शेष कॉन्टेक्स्ट = दी गई सीमा − निर्देश टोकन − इतिहास टोकन − आउटपुट आरक्षित। प्रदाता के टोकन नियम से सारी प्रॉम्प्ट सामग्री गिनें।
AI टोकन लागत कैलकुलेटर
लागत = इनपुट टोकन × इनपुट दर ÷ दस लाख + आउटपुट टोकन × आउटपुट दर ÷ दस लाख। अपने प्रदाता और प्रोसेसिंग स्तर की दर दें।
कैश किए इनपुट की लागत कैलकुलेटर
मिश्रित इनपुट लागत = कैश टोकन की पढ़ने की दर + बाकी टोकन की सामान्य दर। कैश हिट अंश अनुमान है, प्रदाता व्यवहार की गारंटी नहीं।