Anthropic API বিলিং আসলে কীভাবে কাজ করে

দ্রুত উত্তর: আসলে আপনার কাছ থেকে কীসের জন্য চার্জ করা হয়

Anthropic Claude API-এর জন্য প্রতি token, prepaid ভিত্তিতে চার্জ করে। আপনি developer console-এ credit কেনেন, এবং প্রতিটি request তিনটি meter জুড়ে সেই balance থেকে কাটে: input token (আপনি যা পাঠান তার সবকিছু), output token (মডেল যা generate করে তার সবকিছু, thinking token সহ), এবং prompt cache traffic (write বিল হয় input রেটের 1.25x-এ, read 0.1x-এ)। API-এর নিজের জন্য কোনো subscription নেই, এবং একটি Claude Pro বা Max subscription API credit অন্তর্ভুক্ত করে না। Output হলো সবচেয়ে ব্যয়বহুল meter। Claude Sonnet 4.6-এর list দাম প্রতি million input token-এ $3.00 এবং প্রতি million output token-এ $15.00, অর্থাৎ 5x ব্যবধান। Claude Opus 4.7-এর list দাম $5.00 in এবং $25.00 out। আপনার বিল প্রত্যাশার চেয়ে বেশি হলে, প্রথমে output volume এবং conversation history-র বৃদ্ধি পরীক্ষা করুন।

তিনটি meter: input, output এবং cache token

Input শুধু ব্যবহারকারীর message-এর চেয়ে বেশি কিছু কভার করে। system prompt, সম্পূর্ণ conversation history, tool definition, tool result এবং image, এগুলো সবই সেই প্রতিটি request-এ input token হিসেবে গণনা হয় যেখানে এগুলো থাকে। Output মডেল যা ফিরে লেখে তার সবকিছু কভার করে, এবং reasoning-সক্ষম মডেলে এর মধ্যে thinking token অন্তর্ভুক্ত থাকে যা আপনি কখনো ব্যবহারকারীকে দেখাতে নাও পারেন। Prompt caching হলো তৃতীয় meter এবং যেটা বেশিরভাগ team অব্যবহৃত রেখে দেয়। আপনি একটি স্থিতিশীল prefix (দীর্ঘ system prompt, একটি document, একটি fixed tool list)-কে cache_control breakpoint দিয়ে চিহ্নিত করেন। ডিফল্ট 5-মিনিট cache-এর জন্য প্রথম request input রেটের 1.25x write premium পেমেন্ট করে; window-এর মধ্যে prefix পুনরায় ব্যবহারকারী প্রতিটি request সেটা 0.1x রেটে read করে। একটি 1-ঘণ্টার cache-ও 2x write রেটে উপলব্ধ। নিচে দুটি flagship Claude মডেলের জন্য অফিসিয়াল list দামে সম্পূর্ণ rate card দেওয়া হলো।

একটি বাস্তব উদাহরণ: একটি chatbot, একদিন

Claude Sonnet 4.6-এ অফিসিয়াল রেটে একটি support chatbot ধরুন: প্রতিদিন 10,000 request, প্রতিটিতে 2,000-token system prompt এবং 1,500 token history ও user message থাকে, এবং 500-token reply দিয়ে উত্তর দেওয়া হয়। টেবিলে system prompt cache করা ও না করা, একই workload দেখানো হয়েছে। Caching ছাড়া দিনের খরচ $180.00, মাসে প্রায় $5,400। System prompt cache করলে (5-মিনিট window-এ দিনে প্রায় 300 cache expiration ধরে নিয়ে) এটা কমে প্রায় $128 প্রতিদিন, মাসে প্রায় $3,840-এ নেমে আসে। লক্ষ্য করুন কী পরিবর্তন হয়নি: output খরচ। Caching শুধু input স্পর্শ করে, তাই অন্য যেকোনো একক lever-এর চেয়ে output discipline বেশি গুরুত্বপূর্ণ।

কেন Anthropic বিল team-কে অবাক করে

চারটি pattern বেশিরভাগ "কেন বিল estimate-এর চেয়ে কয়েকগুণ বেশি" কথোপকথনের কারণ। 1. Output input-এর 5x, এবং thinking output হিসেবে গণনা হয়। Estimate input রেটের উপর ভিত্তি করে হয় কারণ সেটাই প্রথমে বলা সংখ্যা। কিন্তু দীর্ঘ উত্তর, verbose formatting এবং extended thinking সবই output রেটে বিল হয়। একটি মডেল যেটা 500-এ উত্তর দেওয়ার আগে 3,000 token reason করে, সেটা একটি ছোট reply-র মতো দেখানো জিনিসের জন্য 3,500 output token বিল করে। 2. History প্রতিটি turn-এ পুনরায় বিল হয়। API stateless, তাই প্রতিটি turn পুরো conversation-কে input হিসেবে পুনরায় পাঠায়। গড়ে 20 turn-এর একটি chat একটি single turn-এর 20x খরচ করে না; এটা তার চেয়ে অনেক বেশি খরচ করে, কারণ turn 20 পূর্ববর্তী 19 turn-কে input হিসেবে বহন করে। Input খরচ মোটামুটি conversation length-এর বর্গ অনুপাতে বাড়ে যদি না আপনি trim বা summarize করেন। 3. Subscription এবং API credit আলাদা। Claude Pro এবং Max Claude app কভার করে, API নয়। Team ধরে নেয় subscription API traffic শুষে নেবে, তারপর আবিষ্কার করে console চুপচাপ auto-reload সক্ষম একটি prepaid balance থেকে টাকা কাটছে। 4. Request-এর মধ্যে সবকিছুই input, এবং attribution করা কঠিন। Tool definition, tool result, image এবং system prompt সেই প্রতিটি request-এ input হিসেবে বিল হয় যেখানে এগুলো থাকে। এটাকে একাধিক API key, environment এবং feature জুড়ে per-key logging ছাড়া ছড়িয়ে দিন, এবং invoice না আসা পর্যন্ত কেউ বলতে পারবে না কোন feature টাকা খরচ করেছে।

Anthropic বনাম OpenAI বিলিং, পাশাপাশি

উভয় provider একইভাবে meter করে: প্রতি token, আলাদা input ও output রেট, ডিফল্টভাবে prepaid credit। আপনার বিলের জন্য যে পার্থক্যগুলো গুরুত্বপূর্ণ সেগুলো cache mechanics এবং spend control-এ আছে। ব্যবহারিক পার্থক্য হলো caching। OpenAI কোনো write fee ছাড়াই স্বয়ংক্রিয়ভাবে prompt caching প্রয়োগ করে এবং cache করা অংশে discount দেয়। Anthropic আপনাকে নিজেই cache_control breakpoint বসাতে বলে, একটি write premium চার্জ করে, এবং input রেটের 0.1x-এ অনেক সস্তা read দিয়ে সেটা ফেরত দেয়। দীর্ঘ স্থিতিশীল prompt সহ workload-এর জন্য, সঠিকভাবে করা Anthropic caching শক্তিশালী lever; ভুলভাবে করা হলে (system prompt-এ একটি timestamp, একটি অস্থির tool list), এটা নীরবে কখনো hit করে না এবং আপনি write premium সহ পুরো দাম পেমেন্ট করেন।

Ship করার আগে আপনার Anthropic API খরচ কীভাবে estimate করবেন

প্রতিটি API response-এ একটি usage object থাকে যাতে সঠিক input_tokens এবং output_tokens থাকে, এবং caching সক্রিয় থাকলে cache_creation_input_tokens ও cache_read_input_tokens-ও থাকে। সেই object-ই ground truth। অন্য provider-এর জন্য তৈরি client-side tokenizer Claude token কম গণনা করে, তাই সেগুলো দিয়ে estimate করবেন না। পদ্ধতি: কয়েকটি প্রতিনিধিত্বমূলক request পাঠান, usage object পড়ুন, এবং count-এর গড় করুন। তারপর formula প্রয়োগ করুন: cost = (input_tokens / 1,000,000 x input রেট) + (output_tokens / 1,000,000 x output রেট), এবং cache করলে cache write ও read term যোগ করুন। প্রত্যাশিত দৈনিক volume দিয়ে গুণ করুন, এবং multi-turn product-এর জন্য growth headroom যোগ করুন কারণ history প্রতিটি turn-এ input বাড়িয়ে দেয়। কিছু পাঠানোর আগে count চাইলে Anthropic একটি count_tokens endpoint-ও provide করে।

curl https://api.anthropic.com/v1/messages \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-sonnet-4-6",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Summarize this ticket: ..."}]
  }'

# Response includes the ground truth for your cost model:
# "usage": {"input_tokens": 2412, "output_tokens": 486,
#           "cache_read_input_tokens": 0, "cache_creation_input_tokens": 0}

আপনার Anthropic API বিল কমানোর পাঁচটি উপায়

পঞ্চম tactic-এই একটি gateway তার জায়গা অর্জন করে। APIsRouter একটি OpenAI-compatible gateway যেটা প্রতি request, প্রতি API key-তে মডেল, input token, output token এবং সঠিক ডলার খরচ লগ করে, তাই প্রতিটি feature বা environment তার নিজস্ব key এবং usage view-তে নিজস্ব লাইন পায়। এটি Claude Sonnet 4.6 প্রতি million token-এ $2.40 input এবং $12.00 output-এ, এবং Claude Opus 4.7 $4.00 ও $20.00-এ list করে, অফিসিয়াল list-এর চেয়ে 20% কম, কোনো subscription ছাড়া pay as you go বিল হয়; /topup-এ প্রথম top-up দ্বিগুণ হয়ে যায়। একটি বিদ্যমান OpenAI SDK integration-কে এতে point করা একটি দুই-লাইনের পরিবর্তন:

• আপনার দীর্ঘ, স্থিতিশীল prefix cache করুন। একটি system prompt বা document যেটা request জুড়ে পুনরাবৃত্তি হয়, প্রথম write-এর পর প্রতিটি cache read-এ input রেটের এক-দশমাংশে বিল হয়।
• History trim করুন এবং max_tokens cap করুন। পুরনো turn পুনরায় পাঠানোর বদলে সেগুলো summarize করুন বা drop করুন, এবং max_tokens task-এর প্রয়োজন অনুযায়ী সেট করুন যাতে একটি runaway উত্তর হাজার হাজার অতিরিক্ত output token বিল করতে না পারে।
• অভ্যাস নয়, কাজ অনুযায়ী route করুন। Opus সেই step-এর জন্য সংরক্ষিত রাখুন যেখানে এটা দরকার এবং bulk classification, extraction ও draft deepseek-v4-flash বা glm-5-এর মতো সস্তা মডেলে পাঠান।
• অ্যাসিঙ্ক্রোনাস যেকোনো কিছু batch করুন। Batches API 24 ঘণ্টার মধ্যে অর্ধেক দামে request process করে, backfill, eval এবং nightly job-এর জন্য আদর্শ।
• আপনার traffic-এর সামনে per-key cost visibility রাখুন। বেশিরভাগ বিলিং বিস্ময় হলো attribution সমস্যা: invoice না আসা পর্যন্ত কেউ বলতে পারে না কোন feature বা customer টাকা খরচ করেছে।

from openai import OpenAI

client = OpenAI(
    api_key="sk-APIsRouter-...",
    base_url="https://api.apisrouter.com/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-4-6",
    messages=[{"role": "user", "content": "Summarize this ticket: ..."}],
)

# Token counts come back on every response; the gateway console
# additionally records the exact cost of this request under this key.
print(response.usage.prompt_tokens, response.usage.completion_tokens)

সাধারণ প্রশ্ন