SillyTavern API سیٹ اپ: base URL، API key اور model list

فوری جواب: پانچ اہم settings

API Connections panel (پلگ آئیکن) کھولیں اور بالکل یہ سیٹ کریں: API = Chat Completion۔ Chat Completion Source = Custom (OpenAI-compatible)۔ Custom Endpoint (Base URL) = https://api.apisrouter.com/v1۔ Custom API Key = آپ کی sk-... key۔ Connect پر کلک کریں، سبز لائٹ کا انتظار کریں، اور dropdown سے کوئی model منتخب کریں، مثلاً deepseek-v4-flash۔ سب سے عام غلطی مکمل path پیسٹ کرنا ہے۔ SillyTavern آپ کے درج کردہ URL کے آخر میں خود /chat/completions جوڑ دیتا ہے، اس لیے URL کو /v1 پر ہی رکنا چاہیے۔ اگر آپ https://api.apisrouter.com/v1/chat/completions پیسٹ کریں تو SillyTavern دراصل /v1/chat/completions/chat/completions پر request بھیجتا ہے اور connection 404 کے ساتھ fail ہو جاتا ہے۔ یہ بالکل JanitorAI کے برعکس ہے، جو اپنی proxy config میں مکمل completions URL مانگتا ہے۔ provider ایک ہی، لیکن field کی convention مختلف۔

SillyTavern کا API URL /v1 پر کیوں ختم ہوتا ہے

ہر OpenAI-compatible API ایک base URL جمع fixed routes کا مجموعہ ہوتا ہے۔ GET /v1/models آپ کی key سے قابلِ استعمال model IDs کی فہرست واپس کرتا ہے۔ POST /v1/chat/completions اصل chat request چلاتا ہے۔ SillyTavern یہ routes جانتا ہے اور خود بناتا ہے، اس لیے یہ صرف base مانگتا ہے۔ جب آپ Connect پر کلک کرتے ہیں تو یہ آپ کی key کے ساتھ /v1/models کال کرتا ہے اور response سے model dropdown بھرتا ہے۔ خالی dropdown تقریباً ہمیشہ یہی مطلب رکھتا ہے کہ یہ کال fail ہوئی۔ صحیح API mode چننا بھی ضروری ہے۔ Chat Completion structured messages بھیجتا ہے جن میں system، user، اور assistant roles ہوتے ہیں، جو ہر hosted OpenAI-compatible provider توقع رکھتا ہے۔ Text Completion ایک raw prompt string بھیجتا ہے اور بنیادی طور پر local backends جیسے KoboldCpp اور text-generation-webui کے لیے ہے۔ کسی بھی hosted API key کے لیے Chat Completion ہی استعمال کریں۔ اگر آپ hosted chat endpoint کے خلاف Text Completion منتخب کریں تو errors یا خراب formatting ملے گی، اور اس mode میں دکھنے والے کئی samplers ویسے بھی apply نہیں ہوتے۔

مرحلہ وار سیٹ اپ

اگر Connect کے بعد dropdown خالی رہے تو ترتیب سے تین چیزیں دوبارہ چیک کریں: URL /v1 پر ختم ہو، کوئی trailing path یا trailing space نہ ہو، key بغیر quotes یا whitespace کے پیسٹ ہو، اور source سادہ OpenAI کی بجائے Custom (OpenAI-compatible) ہو۔ سادہ OpenAI source کچھ versions میں آپ کے custom URL کو نظر انداز کر کے api.openai.com سے بات کرتا ہے، جہاں آپ کی key invalid ہوتی ہے۔

• Key حاصل کریں۔ APIsRouter پر کوئی account form نہیں: /topup پر ادائیگی کریں اور key آپ کو ای میل کر دی جاتی ہے۔ کوئی بھی OpenAI-compatible key ان مراحل میں اسی طرح کام کرتی ہے۔
• SillyTavern میں، API Connections کھولنے کے لیے پلگ آئیکن پر کلک کریں۔
• API کو Chat Completion پر سیٹ کریں۔
• Chat Completion Source کو Custom (OpenAI-compatible) پر سیٹ کریں۔
• Custom Endpoint (Base URL) میں https://api.apisrouter.com/v1 درج کریں، /v1 کے بعد کچھ نہ ہو۔
• اپنی key Custom API Key field میں پیسٹ کریں۔
• Connect پر کلک کریں۔ status dot سبز ہو جاتا ہے اور Available Models dropdown /v1/models سے بھر جاتا ہے۔
• کوئی model منتخب کریں، character card کھولیں، اور ایک مختصر test message بھیجیں۔

SillyTavern سے باہر connection verify کریں

جب کچھ fail ہو تو SillyTavern کو الزام دینے سے پہلے endpoint کو براہ راست test کریں۔ یہ curl call بالکل وہی ہے جو Connect button کرتا ہے۔ اگر یہ model IDs کا JSON array واپس کرے تو آپ کی key اور URL ٹھیک ہیں اور مسئلہ SillyTavern کے fields میں ہے۔ اگر model list کام کرے مگر chats fail ہوں تو اسی base URL کے ساتھ Python سے ایک حقیقی completion چلائیں۔ یہاں کامیاب reply پوری chain ثابت کرتی ہے، اور جو بھی error message ملے وہ SillyTavern کی generic error کی بجائے provider کی اصل error ہوتی ہے۔

curl https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer sk-your-key"

Sampler اور preset کی بنیادی باتیں

Chat Completion sources ایک چھوٹا sampler set دکھاتے ہیں: temperature، top P، frequency penalty، اور presence penalty، ساتھ ہی response length اور context size۔ جو زیادہ پیچیدہ samplers آپ نے کہیں پڑھے ہوں گے (min P، mirostat، dynamic temperature) وہ Text Completion backends کے لیے ہیں اور hosted chat APIs کو بھیجے ہی نہیں جاتے، اس لیے یہاں انہیں تلاش نہ کریں۔ SillyTavern کے presets دو چیزیں bundle کرتے ہیں: sampler values اور وہ prompt structure جو Prompt Manager آپ کے character card، persona، اور lorebook سے بناتا ہے۔ built-in Default preset ایک سمجھدار نقطہ آغاز ہے۔ ایک وقت میں ایک ہی value بدلیں اور وہی scene دوبارہ generate کر کے دیکھیں کہ اصل میں کیا فرق پڑتا ہے۔ Context size خاص توجہ کا حق دار ہے: SillyTavern context window کو chat history سے بھرتا ہے، اس لیے بڑا context یعنی ہر turn پر زیادہ prompt tokens بھیجنا، جو memory بہتر کرتا ہے مگر ساتھ ہی فی-message لاگت بھی بڑھا دیتا ہے۔

SillyTavern کے لیے تجویز کردہ models

Sampler tuning سے زیادہ model کا انتخاب اہم ہے۔ کمیونٹی کا تخمینی اتفاق قیمت کے لحاظ سے DeepSeek V4 family کو سرِفہرست رکھتا ہے: deepseek-v4-flash لمبی chats کے لیے default تجویز ہے اور deepseek-v4-pro پیچیدہ cards اور group chats کو بہتر طور پر سنبھالتا ہے۔ GLM-5، Kimi K2.6، اور MiMo الگ prose آواز کے ساتھ قدر والے انتخاب ہیں، جب chat یکسانی محسوس ہونے لگے تو انہیں rotate کرنا فائدہ مند ہے۔ Grok اس لیے قابلِ ذکر ہے کہ xAI کی publish کردہ policy واضح طور پر fictional settings میں mature themes کی اجازت دیتی ہے، جو darker storylines کے لیے اہم ہے۔ Claude اس فہرست میں سب سے بہترین prose لکھتا ہے مگر Anthropic کی policy explicit content کو ممنوع قرار دیتی ہے، اس لیے Claude کو SFW creative writing اور literary-style scenes کے لیے انتخاب سمجھیں۔ دو عملی نکات۔ پہلا، SillyTavern بالغوں کے لیے software ہے، اور یہاں موجود ہر model آپ کے frontend سے قطع نظر اپنی provider کی content policy نافذ کرتا ہے، اس لیے cards اور scenes کو انہی rules کے اندر رکھیں۔ دوسرا، چونکہ dropdown /v1/models سے live بھرتا ہے، آپ chat کے دوران ہی models بدل کر ایک ہی message پر replies compare کر سکتے ہیں، جو اپنی پسندیدہ model ڈھونڈنے کا تیز ترین طریقہ ہے۔

SillyTavern chats اصل میں کتنی لاگت رکھتی ہیں

Hosted models فی token بل ہوتے ہیں، اور roleplay input-heavy ہوتا ہے: ہر turn character card جمع حالیہ history دوبارہ بھیجتا ہے۔ ایک turn جو 8,000 prompt tokens بھیجے اور 350-token reply پائے وہ deepseek-v4-flash پر تقریباً ایک سینٹ کا دسواں حصہ لگتا ہے، تو چند ڈالر مہینوں کی casual chatting کور کر لیتے ہیں۔ وہی turn claude-opus-4-7 پر تقریباً 25 گنا زیادہ لگتا ہے، اسی لیے زیادہ تر لوگ ایک سستا daily driver چلاتے ہیں اور premium models کو ان scenes کے لیے بچاتے ہیں جن کی انہیں پرواہ ہو۔ ایک gateway key اس پوری table کو cover کرتی ہے۔ APIsRouter ایک OpenAI-compatible gateway ہے جس میں جتنا استعمال اتنی ادائیگی ہے اور کوئی subscription نہیں: آپ /topup پر بغیر account بنائے ادائیگی کرتے ہیں، key ای میل پر آتی ہے، پہلی top-up پر balance میں +100% کا اضافہ ملتا ہے، global models اپنی official rates سے 20% کم قیمت پر ہیں، اور Chinese models اپنی official قیمتوں سے کم پر ہیں۔

عمومی سوالات