AI কনটেক্সট বাজেট: ইনপুটের আগে আউটপুটের জায়গা রাখুন
ইনপুট দিয়ে কনটেক্সট উইন্ডো ভরার আগে আউটপুটের জায়গা রাখুন। প্রতিটি উদাহরণে 10% আউটপুটের জন্য; বাকি অংশ ইনপুটের সীমা।
AI কনটেক্সট বাজেট: ইনপুটের আগে আউটপুটের জায়গা রাখুন
| কনটেক্সট উইন্ডো (টোকেন) | আউটপুটের জন্য সংরক্ষিত (টোকেন) | ইনপুটের সীমা (টোকেন) |
|---|---|---|
| 4096 | 410 | 3686 |
| 8192 | 820 | 7372 |
| 16384 | 1639 | 14745 |
| 32768 | 3277 | 29491 |
| 65536 | 6554 | 58982 |
| 131072 | 13108 | 117964 |
| 262144 | 26215 | 235929 |
| 1048576 | 104858 | 943718 |
সূত্র ও পদ্ধতি
output reserve = ceil(window × 0.10); input ceiling = window − output reserveকী কারণে উত্তর বদলাতে পারে
উইন্ডোর আকার কাল্পনিক, কোনো পণ্যের নির্দিষ্ট সীমা নয়। সিস্টেম নির্দেশনা, টুলের বার্তা ও কথোপকথনের ইতিহাসও জায়গা নেয়। টোকেনাইজেশন মডেলভেদে বদলায়।
উৎস ও সংজ্ঞা
পদ্ধতি যাচাই করা হয়েছে:
সম্পর্কিত আরেকটি কাজে যান
কনটেক্সট উইন্ডো বাজেট ক্যালকুলেটর
বাকি কনটেক্সট = দেওয়া সীমা − নির্দেশনার টোকেন − ইতিহাসের টোকেন − আউটপুটের সংরক্ষণ। সরবরাহকারীর টোকেন নিয়মে সব প্রম্পট গণনা করুন।
AI টোকেন খরচ ক্যালকুলেটর
খরচ = ইনপুট টোকেন × ইনপুট রেট ÷ দশ লাখ + আউটপুট টোকেন × আউটপুট রেট ÷ দশ লাখ। আপনার সরবরাহকারী ও প্রসেসিং স্তরের রেট দিন।
ক্যাশ করা ইনপুটের খরচ ক্যালকুলেটর
মিশ্র ইনপুট খরচ = ক্যাশ টোকেনের পড়ার রেট + বাকিগুলোর সাধারণ রেট। ক্যাশ হিটের অংশ অনুমান, সরবরাহকারীর আচরণের নিশ্চয়তা নয়।
AI অনুরোধ বাজেট ক্যালকুলেটর
পূর্ণ অনুরোধ = বাজেট ÷ প্রতি অনুরোধের অনুমিত টোকেন খরচ, নিচের পূর্ণসংখ্যায়। প্রতি অনুরোধে একই গড় ইনপুট ও আউটপুট ব্যবহার ধরা।