SillyTavern API সেটআপ: base URL, API key এবং model list

দ্রুত উত্তর: যে পাঁচটি সেটিং গুরুত্বপূর্ণ

API Connections প্যানেল (plug আইকন) খুলুন এবং ঠিক এভাবে সেট করুন। API = Chat Completion। Chat Completion Source = Custom (OpenAI-compatible)। Custom Endpoint (Base URL) = https://api.apisrouter.com/v1। Custom API Key = আপনার sk-... key। Connect ক্লিক করুন, সবুজ আলোর জন্য অপেক্ষা করুন, এবং dropdown থেকে একটি model বেছে নিন, উদাহরণস্বরূপ deepseek-v4-flash। সবচেয়ে সাধারণ ব্যর্থতা হলো পুরো path পেস্ট করা। SillyTavern আপনি যা লেখেন তার সাথে /chat/completions নিজেই যোগ করে দেয়, তাই URL অবশ্যই /v1-এ থামতে হবে। আপনি যদি https://api.apisrouter.com/v1/chat/completions পেস্ট করেন, তাহলে SillyTavern /v1/chat/completions/chat/completions request করে এবং connection 404 দিয়ে ব্যর্থ হয়। এটা JanitorAI-এর ঠিক উল্টো, যেটা তার proxy config-এ পুরো completions URL চায়। একই provider, ভিন্ন field convention।

কেন SillyTavern API URL /v1-এ শেষ হয়

প্রতিটি OpenAI-compatible API একটি base URL প্লাস কিছু নির্দিষ্ট route। GET /v1/models আপনার key যেসব model ID ব্যবহার করতে পারে তার তালিকা ফেরত দেয়। POST /v1/chat/completions আসল chat request চালায়। SillyTavern এই route গুলো জানে এবং নিজেই সেগুলো তৈরি করে, তাই এটা শুধু আপনার কাছে base চায়। আপনি যখন Connect ক্লিক করেন, এটা আপনার key দিয়ে /v1/models কল করে এবং response দিয়ে model dropdown ভরে। একটি খালি dropdown প্রায় সবসময় বোঝায় সেই কলটি ব্যর্থ হয়েছে। আপনাকে সঠিক API mode-ও বেছে নিতে হবে। Chat Completion system, user এবং assistant role সহ structured message পাঠায়, যা প্রতিটি hosted OpenAI-compatible provider আশা করে। Text Completion একটি raw prompt string পাঠায় এবং মূলত KoboldCpp এবং text-generation-webui-এর মতো local backend-এর জন্য থাকে। যেকোনো hosted API key-এর জন্য Chat Completion ব্যবহার করুন। আপনি যদি hosted chat endpoint-এর বিপরীতে Text Completion বেছে নেন, তাহলে error বা garbage formatting পাবেন, আর সেই mode-এ দেখানো বেশ কিছু sampler এমনিতেও প্রযোজ্য হয় না।

ধাপে ধাপে সেটআপ

Connect-এর পরও dropdown খালি থাকলে, তিনটি জিনিস ক্রমানুসারে আবার চেক করুন: URL কোনো trailing path বা trailing space ছাড়া /v1-এ শেষ হচ্ছে কিনা, key কোনো quote বা whitespace ছাড়া পেস্ট করা হয়েছে কিনা, এবং source plain OpenAI না হয়ে Custom (OpenAI-compatible) কিনা। কিছু version-এ plain OpenAI source আপনার custom URL উপেক্ষা করে এবং api.openai.com-এর সাথে কথা বলে, যেখানে আপনার key invalid।

• একটি key নিন। APIsRouter-তে কোনো account form নেই: /topup-এ পেমেন্ট করুন এবং key আপনাকে ইমেইল করা হয়। যেকোনো OpenAI-compatible key এই ধাপগুলোতে একইভাবে কাজ করে।
• SillyTavern-এ, API Connections খুলতে plug আইকনে ক্লিক করুন।
• API-কে Chat Completion-এ সেট করুন।
• Chat Completion Source-কে Custom (OpenAI-compatible)-এ সেট করুন।
• Custom Endpoint (Base URL)-এ https://api.apisrouter.com/v1 লিখুন, /v1-এর পর কিছু না রেখে।
• আপনার key Custom API Key ফিল্ডে পেস্ট করুন।
• Connect ক্লিক করুন। Status dot সবুজ হয়ে যায় এবং Available Models dropdown /v1/models থেকে ভরে যায়।
• একটি model বেছে নিন, একটি character card খুলুন, এবং একটি ছোট test message পাঠান।

SillyTavern-এর বাইরে connection যাচাই করুন

কিছু ব্যর্থ হলে, SillyTavern-কে দোষ দেওয়ার আগে সরাসরি endpoint টেস্ট করুন। এই curl কলটি ঠিক তাই করে যা Connect বাটন করে। এটি model ID-এর একটি JSON array ফেরত দিলে আপনার key এবং URL ঠিক আছে, আর সমস্যা SillyTavern-এর field-এ। model list কাজ করলেও chat ব্যর্থ হলে, একই base URL দিয়ে Python থেকে একটি real completion চালান। এখানে একটি সফল reply পুরো chain প্রমাণ করে, এবং আপনি যে error message ফেরত পান তা SillyTavern-এর generic error না হয়ে provider-এর আসল error।

curl https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer sk-your-key"

Sampler এবং preset basics

Chat Completion source গুলো একটি ছোট sampler সেট expose করে: temperature, top P, frequency penalty, এবং presence penalty, সাথে response length এবং context size। আপনি হয়তো যেসব fancier sampler সম্পর্কে পড়েছেন (min P, mirostat, dynamic temperature) সেগুলো Text Completion backend-এর জন্য এবং hosted chat API-তে সেগুলো একেবারেই পাঠানো হয় না, তাই এখানে সেগুলো খোঁজার দরকার নেই। SillyTavern-এ preset দুটো জিনিস bundle করে: sampler value এবং সেই prompt structure যা Prompt Manager আপনার character card, persona এবং lorebook থেকে তৈরি করে। built-in Default preset একটি ভালো শুরুর বিন্দু। একবারে একটি value পরিবর্তন করুন এবং একই scene regenerate করে দেখুন এটা আসলে কী করে। Context size বিশেষ মনোযোগ দাবি করে: SillyTavern chat history দিয়ে context window ভরে দেয়, তাই বড় context মানে প্রতি turn-এ বেশি prompt token পাঠানো, যা memory উন্নত করে আর একই সাথে per-message cost বাড়ায়।

SillyTavern-এর জন্য সুপারিশকৃত মডেল

Sampler tuning-এর চেয়ে model বেছে নেওয়া বেশি গুরুত্বপূর্ণ। Community consensus, যতটুকু approximate report পাওয়া যায়, দাম অনুযায়ী DeepSeek V4 family-কে প্রথমে রাখে: deepseek-v4-flash দীর্ঘ chat-এর জন্য default সুপারিশ এবং deepseek-v4-pro জটিল card এবং group chat আরও ভালোভাবে ধরে রাখে। GLM-5, Kimi K2.6, এবং MiMo আলাদা prose voice সহ ভালো value pick, chat একঘেয়ে লাগতে শুরু করলে rotate করার যোগ্য। Grok উল্লেখযোগ্য কারণ xAI-এর প্রকাশিত policy স্পষ্টভাবে fictional setting-এ mature theme অনুমোদন করে, যা darker storyline-এর জন্য গুরুত্বপূর্ণ। এই তালিকার যেকোনো কিছুর চেয়ে Claude সেরা prose লেখে কিন্তু Anthropic-এর policy explicit content নিষিদ্ধ করে, তাই Claude-কে SFW creative writing এবং literary-style scene-এর জন্য pick হিসেবে ধরুন। দুটো ব্যবহারিক নোট। প্রথমত, SillyTavern প্রাপ্তবয়স্কদের লক্ষ্য করে তৈরি software, এবং এখানে থাকা প্রতিটি model আপনার frontend নির্বিশেষে তার নিজস্ব provider-এর content policy জারি রাখে, তাই card এবং scene সেই নিয়মের মধ্যেই রাখুন। দ্বিতীয়ত, যেহেতু dropdown /v1/models থেকে live populate হয়, আপনি chat-এর মাঝেই model বদলাতে পারেন এবং একই message-এ reply তুলনা করতে পারেন, যা আপনার নিজের পছন্দ খুঁজে পাওয়ার সবচেয়ে দ্রুত উপায়।

SillyTavern chat-এ আসলে কত খরচ হয়

Hosted model প্রতি token বিল করে, এবং roleplay input-heavy: প্রতিটি turn character card প্লাস সাম্প্রতিক history আবার পাঠায়। 8,000 prompt token পাঠানো এবং 350-token reply পাওয়া একটি turn deepseek-v4-flash-এ প্রায় এক সেন্টের এক-দশমাংশ খরচ করে, তাই কয়েক ডলারই মাসের পর মাস casual chatting কভার করে। একই turn claude-opus-4-7-এ প্রায় 25 গুণ বেশি খরচ করে, এই কারণেই বেশিরভাগ মানুষ একটি সস্তা daily driver চালায় এবং premium model তাদের গুরুত্বপূর্ণ scene-এর জন্য রাখে। একটি gateway key এই পুরো table কভার করে। APIsRouter একটি OpenAI-compatible gateway যেখানে pay-as-you-go billing এবং কোনো subscription নেই: আপনি account তৈরি না করেই /topup-এ পেমেন্ট করেন, key ইমেইলে আসে, আপনার প্রথম top-up আপনার balance-এ সমান +100% যোগ করে, global model official rate-এর 20% নিচে দাম রাখা হয়, এবং Chinese model তাদের official price-এর নিচে থাকে।

সাধারণ প্রশ্ন