প্রতিটি মডেল কার্ডে "200K কনটেক্সট" বা "1M কনটেক্সট" ধরনের একটি সংখ্যা থাকে। দেখতে ধারণক্ষমতার স্পেসিফিকেশনের মতো, যেমন ডিস্কের জায়গা। আসলে এটি বরং প্রতিটি অনুরোধে আপনি যে বাজেট খরচ করেন তার কাছাকাছি — আর তার বেশির ভাগই খরচ হয় এমন কিছুতে যা আপনি টাইপ করেননি।
সংখ্যাগুলো সর্বশেষ যাচাই: ২৬ আগস্ট ২০২৬।
কনটেক্সট লেংথ কী
মডেলের কোনো স্মৃতি নেই। প্রতিবার ডাকার সময় আপনি গোটা কথোপকথন আবার পাঠান — সিস্টেম প্রম্পট, আগের প্রতিটি দফা, সংযুক্ত যে কোনো ফাইল — আর সে একটি শব্দ লেখার আগে সেই সবটা পড়ে।
কনটেক্সট লেংথ হলো সেই বান্ডিলের সর্বোচ্চ আকার, মাপা হয় টোকেনে। টোকেন লেখার একটি ছোট টুকরো, ইংরেজিতে মোটামুটি শব্দের তিন-চতুর্থাংশ।
তাই এটি সঞ্চয়স্থান নয়। এটি সেই টেবিলের মাপ যার উপরে মডেল আপনার নথি বিছিয়ে রাখতে পারে — প্রতিটি অনুরোধে নতুন করে পরিষ্কার করা।
আজকের বাস্তব সীমা
| কনটেক্সট লেংথ | সেই আকারের মডেল |
|---|---|
| ৩২,৭৬৮ | Qwen 2.5 Coder 32B |
| ২,০০,০০০ | Claude Haiku 4.5 |
| ২,৬২,১৪৪ | Kimi K2.7 Code |
| ৪,০০,০০০ | গোটা GPT-5 পরিবার, প্রতিটি Codex সংস্করণ সহ |
| ১০,০০,০০০ | Claude Opus 5, Claude Sonnet 5, Qwen3 Coder Flash ও Plus |
| ১০,৪৮,৫৭৬ | Gemini 2.5 ও 3.x পরিবার, DeepSeek V4 Pro |
দুটি বিষয় লক্ষ করার মতো।
দশ লক্ষ টোকেন মানে প্রায় ৭,৫০,০০০ শব্দ — কয়েকটি বড় উপন্যাস। প্রায় কোনো অ্যাপ্লিকেশনেরই এটা দরকার হয় না, আর যাদের হয় তাদের সাধারণত কনটেক্সটের নয়, অনুসন্ধানের সমস্যা।
১০,৪৮,৫৭৬ আসলে ২²⁰, বিপণনের গোল সংখ্যা নয়। যেখানে সরবরাহকারী ঠিক ১০,০০,০০০ বলে, সেখানে সে গোল করেছে; যেখানে ১০,৪৮,৫৭৬ বলে, সেখানে সে আসল বাফারের মাপ জানাচ্ছে।
প্রতিটি টেক্সট মডেলের টোকেন দাম আর কনটেক্সট লেংথ আছে চ্যাট মডেল পাতায়।
আসলে কী এটি ভরায়
এই অংশটাই মডেল কার্ড আপনাকে বলে না। Anthropic-এর নথি কয়েকটি ন্যূনতম অনুরোধের সঠিক টোকেন সংখ্যা প্রকাশ করে, আর সেগুলো শিক্ষণীয়:
| কী পাঠানো হলো | ইনপুট টোকেন |
|---|---|
| পাঁচ শব্দের সিস্টেম প্রম্পট আর দুই শব্দের বার্তা | ১৪ |
| নয় শব্দের প্রশ্ন আর একটি টুল সংজ্ঞা | ৪০৩ |
| একটি ছবি আর "Describe this image" | ১,০২৮ |
| একটি PDF আর "Please summarize this document." | ২,১৮৮ |
একটি টুল সংজ্ঞার খরচ প্রায় ৩৯০ টোকেন। কুড়িটি টুলওয়ালা এজেন্ট ব্যবহারকারী কিছু টাইপ করার আগেই নিজের জানালার প্রায় ৮,০০০ টোকেন খরচ করে ফেলে — আর প্রতিটি অনুরোধে তার দাম দেয়।
একটি ছবি প্রায় এক হাজার টোকেন। কুড়িটি স্ক্রিনশট মানে ২০,০০০।
আর কথোপকথন নিজেই বাড়ে। দফা ১০ বয়ে নেয় দফা ১ থেকে ৯। শুরুতে ছোট মনে হওয়া চ্যাট শেষে অনুরোধের সবচেয়ে বড় জিনিস।
তাই পনেরোটি টুল, লম্বা সিস্টেম প্রম্পট আর কয়েকটি স্ক্রিনশটওয়ালা এজেন্টে "200K কনটেক্সট" মডেল ২০০K থেকে শুরু করে না। অনেক নিচ থেকে শুরু করে, আর প্রতি দফায় ছোট হয়।
ফাঁদ: একই লেখা মানেই একই টোকেন সংখ্যা নয়
কনটেক্সট লেংথ মাপা হয় টোকেনে, আর টোকেন মডেল বদলালে স্থির একক নয়।
Anthropic-এর নিজের নথিতেই আছে, Claude 4.7 ও পরের সংস্করণ নতুন টোকেনাইজার ব্যবহার করে যেখানে "একই ইনপুট লেখা আগের মডেলগুলোর চেয়ে প্রায় ৩০ শতাংশ বেশি টোকেন তৈরি করে।"
অর্থাৎ: পুরোনো মডেলে ১,৫০,০০০ টোকেন মাপা প্রম্পট নতুনটিতে প্রায় ১,৯৫,০০০ হতে পারে — একই শব্দ, তিরিশ শতাংশ বেশি জানালা আর তিরিশ শতাংশ বেশি খরচ। কোনো একটি মডেল ধরে নথি প্রক্রিয়াকরণের পাইপলাইন মাপজোক করে পরে মডেল বদলে থাকলে, এখনও আঁটবে ধরে নেওয়ার আগে আবার মেপে নিন।
সরবরাহকারীরা যাচাইয়ের উপায় দেয়। Anthropic-এর টোকেন গোনার এন্ডপয়েন্ট কল করা বিনামূল্যে। ঠিক যে মডেল চালাবেন তার উপরেই গুনুন।
জায়গা ফুরালে কী হয়
মসৃণ অবনতি নয়। সরবরাহকারী অনুযায়ী আপনি পান একটি ত্রুটি, কাটা-পড়া ইনপুট, কিংবা নীরবে ফেলে দেওয়া ইতিহাস — আর তৃতীয়টিই বিপজ্জনক, কারণ মডেল এমন এক কথোপকথন থেকে আত্মবিশ্বাসে উত্তর দেয় যা সে আর পুরোটা দেখতে পায় না।
তিনটি পথ, পরিশ্রমের ক্রমে:
ছাঁটাই। পুরোনো দফাগুলো বাদ দিন বা সংক্ষেপ করুন। বানাতে সবচেয়ে সস্তা, আর চ্যাটের জন্য সাধারণত যথেষ্ট।
ক্যাশ। আপনার কনটেক্সটের বড় অংশ যদি স্থির উপসর্গ হয় — লম্বা সিস্টেম প্রম্পট, রেফারেন্স নথি — তবে প্রম্পট ক্যাশিং সরবরাহকারীকে সেটি জমা রাখতে দেয় আর পুনরায় পড়ার জন্য সামান্য অংশ নেয়। জানালা বড় হয় না, কিন্তু ভরার খরচের বেশির ভাগ চলে যায়।
অনুসন্ধান। গোটা সংগ্রহ পাঠানো বন্ধ করে কেবল প্রাসঙ্গিক অংশ পাঠান। বেশি ইঞ্জিনিয়ারিং, কিন্তু ডেটা বাড়লেও যেটি খারাপ হয় না — একমাত্র সেটাই।
বড় কনটেক্সট জানালার দিকে হাত বাড়ানো চতুর্থ বিকল্প, আর সাধারণত সবচেয়ে দামি — কারণ সেই জানালার প্রতিটি টোকেনের দাম আপনি প্রতিটি অনুরোধে দেন।
বড় জানালা কি বেশি খরচ করায়?
টোকেন হিসেবে নয়। একই অনুরোধে 1M কনটেক্সটের মডেলের বিল 200K-এর চেয়ে বেশি হারে হয় না; Claude Sonnet 5 প্রতি দশ লক্ষ ইনপুট টোকেনে $2.00, আপনি পাঁচশো টোকেন পাঠান বা পাঁচ লক্ষ।
তবে বড় জানালা বেশি খরচ করা সহজ করে দেয়, কারণ যে ত্রুটি আপনাকে থামাত সেটিই সরিয়ে দেয়। দশ লক্ষ টোকেনের জানালা $2.00 প্রতি দশ লক্ষ হারে ভরলে প্রতি অনুরোধে $2.00 — আর সেই অনুরোধ যদি মাসে পঞ্চাশ হাজার বার ঘটা চ্যাটের একটি দফা হয়, হিসাব দ্রুত গুরুতর হয়ে ওঠে।
শৃঙ্খলা দুই ক্ষেত্রেই এক: যতটা কম পারেন পাঠান, যতটা অনুমতি আছে ততটা নয়।
সংক্ষেপে
- কনটেক্সট লেংথ হলো একটি অনুরোধের সর্বোচ্চ আকার, টোকেনে — স্মৃতি নয়।
- আজকের সীমা প্রায় ৩৩K থেকে প্রায় 1M; প্রোডাকশনের বেশির ভাগ কাজ নিচের দিকেই স্বচ্ছন্দে আঁটে।
- টুল সংজ্ঞা (প্রতিটি ~৩৯০ টোকেন), ছবি (~১,০০০), PDF (~২,০০০) আর পুনরায় পাঠানো ইতিহাস আপনার প্রম্পটের চেয়ে দ্রুত এটি ভরায়।
- একই লেখা ভিন্ন মডেলে ভিন্ন টোকেন সংখ্যা — বদলানোর সময় আবার যাচাই করুন।
- বড় জানালার টোকেন-প্রতি দাম বেশি নয়। শুধু বেশি খরচ করা সহজ হয়।
ElliSekiz-এ আরও দেখুন
কনটেক্সট লেংথ আর টোকেনের দাম পাশাপাশি তুলনা করুন। চ্যাট মডেল পাতা প্রতিটি টেক্সট মডেল তার ইনপুট ও আউটপুট হারসহ দেখায়।
তারপর নিজের প্রম্পট মাপুন। প্রতিটি মডেল পাতায় একটি playground আছে — কিছুর মাপ ঠিক করার আগে আসল অনুরোধ চালিয়ে সত্যিকারের টোকেন সংখ্যা পড়ে নিন।
সূত্র
- OpenRouter models API,
https://openrouter.ai/api/v1/models(কনটেক্সট লেংথ, পড়া হয়েছে ২৬-০৮-২০২৬) - Anthropic — Token counting (নথিভুক্ত উদাহরণ সংখ্যা, টোকেনাইজার বদল, বিনামূল্যের গণনা এন্ডপয়েন্ট)