SillyTavern API setup: base URL, API key, और model list

Quick answer: पांच settings जो matter करती हैं

API Connections panel खोलें (plug icon) और बिल्कुल यही set करें: API = Chat Completion। Chat Completion Source = Custom (OpenAI-compatible)। Custom Endpoint (Base URL) = https://api.apisrouter.com/v1। Custom API Key = आपकी sk-... key। Connect पर click करें, green light का wait करें, और dropdown से एक model चुनें, उदाहरण के लिए deepseek-v4-flash। सबसे common failure है पूरा path paste कर देना। SillyTavern आप जो भी enter करते हैं उसमें /chat/completions खुद append कर देता है, इसलिए URL को /v1 पर रुकना चाहिए। अगर आप https://api.apisrouter.com/v1/chat/completions paste करते हैं, तो SillyTavern /v1/chat/completions/chat/completions request करता है और connection 404 के साथ fail हो जाता है। यह JanitorAI के बिल्कुल उल्टा है, जिसे अपने proxy config में पूरा completions URL चाहिए होता है। Same provider, अलग field conventions।

SillyTavern API URL /v1 पर क्यों खत्म होता है

हर OpenAI-compatible API एक base URL plus कुछ fixed routes का set होता है। GET /v1/models उन model IDs की list return करता है जो आपकी key use कर सकती है। POST /v1/chat/completions actual chat request चलाता है। SillyTavern इन routes को जानता है और इन्हें खुद बना लेता है, इसलिए यह सिर्फ base पूछता है। जब आप Connect पर click करते हैं, यह आपकी key के साथ /v1/models call करता है और response से model dropdown populate करता है। खाली dropdown लगभग हमेशा मतलब है कि वह call fail हो गई। आपको सही API mode भी चुनना होगा। Chat Completion structured messages भेजता है, system, user, और assistant roles के साथ, जो हर hosted OpenAI-compatible provider expect करता है। Text Completion एक raw prompt string भेजता है और मुख्य रूप से local backends जैसे KoboldCpp और text-generation-webui के लिए होता है। किसी भी hosted API key के लिए Chat Completion use करें। अगर आप hosted chat endpoint के against Text Completion select करते हैं तो errors या garbage formatting मिलेगी, और उस mode में दिखने वाले कई samplers वैसे भी apply नहीं होते।

Step-by-step setup

अगर Connect के बाद dropdown खाली रहता है, तो इसी order में तीन चीजें दोबारा check करें: URL /v1 पर खत्म होता है बिना किसी trailing path या trailing spaces के, key बिना quotes या whitespace के paste हुई है, और source Custom (OpenAI-compatible) है, plain OpenAI नहीं। Plain OpenAI source कुछ versions में आपके custom URL को ignore करता है और api.openai.com से बात करता है, जहां आपकी key invalid होती है।

• एक key लें। APIsRouter पर कोई account form नहीं है: /topup पर pay करें और key आपको email की जाती है। कोई भी OpenAI-compatible key इन steps में same तरीके से काम करती है।
• SillyTavern में, plug icon पर click करके API Connections खोलें।
• API को Chat Completion पर set करें।
• Chat Completion Source को Custom (OpenAI-compatible) पर set करें।
• Custom Endpoint (Base URL) में https://api.apisrouter.com/v1 enter करें, /v1 के बाद कुछ भी नहीं।
• अपनी key को Custom API Key field में paste करें।
• Connect पर click करें। Status dot green हो जाता है और Available Models dropdown /v1/models से भर जाता है।
• एक model select करें, एक character card खोलें, और एक छोटा test message भेजें।

Connection को SillyTavern के बाहर verify करें

जब कुछ fail हो जाए, SillyTavern को दोष देने से पहले endpoint को directly test करें। यह curl call बिल्कुल वही है जो Connect button करता है। अगर यह model IDs का JSON array return करता है, तो आपकी key और URL ठीक हैं और problem SillyTavern के fields में है। अगर model list काम करती है पर chats fail होती हैं, तो same base URL के साथ Python से एक real completion चलाएं। यहां एक successful reply पूरी chain prove करती है, और आपको जो भी error message वापस मिलती है वह SillyTavern के generic error की बजाय provider का असली error होती है।

curl https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer sk-your-key"

Sampler और preset basics

Chat Completion sources एक छोटा sampler set expose करते हैं: temperature, top P, frequency penalty, और presence penalty, plus response length और context size। जिन fancier samplers के बारे में आपने पढ़ा होगा (min P, mirostat, dynamic temperature) वो Text Completion backends के होते हैं और hosted chat APIs को बिल्कुल नहीं भेजे जाते, इसलिए यहां उन्हें ढूंढने की कोशिश मत करें। SillyTavern में Presets दो चीजें bundle करते हैं: sampler values और prompt structure जो Prompt Manager आपके character card, persona, और lorebook से assemble करता है। Built-in Default preset एक sane starting point है। एक बार में एक value change करें और same scene regenerate करें यह देखने के लिए कि वह actually क्या करती है। Context size ध्यान देने लायक है: SillyTavern context window को chat history से भरता है, तो बड़ा context मतलब हर turn पर ज्यादा prompt tokens भेजे जाते हैं, जो memory तो improve करता है पर साथ ही per-message cost भी बढ़ा देता है।

SillyTavern के लिए recommended models

Sampler tuning से ज्यादा model choice matter करती है। Community consensus, जहां तक approximate reports जाती हैं, price के हिसाब से DeepSeek V4 family को पहले नंबर पर रखता है: deepseek-v4-flash लंबी chats के लिए default recommendation है और deepseek-v4-pro complex cards और group chats को बेहतर तरीके से साथ रखता है। GLM-5, Kimi K2.6, और MiMo अलग prose voices के साथ solid value picks हैं, इन्हें rotate करना worth है जब कोई chat samey feel होने लगे। Grok इसलिए notable है क्योंकि xAI की published policy fictional settings में mature themes को explicitly permit करती है, जो darker storylines के लिए matter करता है। इस list में सबसे अच्छा prose Claude लिखता है, पर Anthropic की policy explicit content prohibit करती है, इसलिए Claude को SFW creative writing और literary-style scenes के लिए pick मानें। दो practical notes। पहला, SillyTavern adults के लिए aimed software है, और यहां हर model अपनी provider की content policy enforce करता है चाहे आपका frontend कोई भी हो, इसलिए cards और scenes को उन rules के अंदर रखें। दूसरा, चूंकि dropdown live /v1/models से populate होता है, आप chat के बीच में models switch कर सकते हैं और same message पर replies compare कर सकते हैं, जो आपका खुद का favorite ढूंढने का सबसे तेज तरीका है।

SillyTavern chats की actual cost क्या है

Hosted models per token bill करते हैं, और roleplay input-heavy होता है: हर turn character card plus recent history दोबारा भेजता है। एक turn जो 8,000 prompt tokens भेजता है और 350-token reply पाता है, उसकी cost deepseek-v4-flash पर लगभग एक cent के दसवें हिस्से जितनी होती है, तो कुछ dollars महीनों की casual chatting cover कर देते हैं। Same turn claude-opus-4-7 पर लगभग 25 गुना ज्यादा cost करता है, यही वजह है कि ज्यादातर लोग एक सस्ता daily driver चलाते हैं और premium models उन scenes के लिए बचाते हैं जिनकी उन्हें परवाह होती है। एक gateway key इस पूरी table को cover करती है। APIsRouter एक OpenAI-compatible gateway है, pay-as-you-go billing और बिना subscription के: आप /topup पर बिना account बनाए pay करते हैं, key email से आती है, आपका पहला top-up आपके balance में matching +100% add करता है, global models official rates से 20% नीचे priced हैं, और Chinese models अपनी official prices से नीचे रहते हैं।

अक्सर पूछे जाने वाले प्रश्न