SillyTavern API setup: base URL, API key, at listahan ng model

Updated 2026-07-15

Sa SillyTavern, piliin ang Chat Completion, itakda ang source sa Custom (OpenAI-compatible), i-paste ang base URL na nagtatapos sa /v1, at idagdag ang iyong API key. Awtomatikong mapupuno ang model dropdown mula sa /v1/models endpoint ng provider.

Mabilisang sagot: ang limang setting na mahalaga

Buksan ang API Connections panel (ang plug icon) at itakda nang eksakto ito: API = Chat Completion. Chat Completion Source = Custom (OpenAI-compatible). Custom Endpoint (Base URL) = https://api.apisrouter.com/v1. Custom API Key = ang iyong sk-... key. I-click ang Connect, hintayin ang berdeng ilaw, at pumili ng model mula sa dropdown, halimbawa deepseek-v4-flash. Ang pinakakaraniwang pagkakamali ay ang pag-paste ng buong path. Idinaragdag ng SillyTavern ang /chat/completions sa anumang ilalagay mo, kaya dapat magtapos ang URL sa /v1 lamang. Kung ipa-paste mo ang https://api.apisrouter.com/v1/chat/completions, hihilingin ng SillyTavern ang /v1/chat/completions/chat/completions at mabibigo ang koneksyon nang may 404 error. Ito ang kabaligtaran ng JanitorAI, na gustong makuha ang buong completions URL sa proxy config nito. Parehong provider, magkaibang convention sa field.

Bakit nagtatapos sa /v1 ang SillyTavern API URL

Ang bawat OpenAI-compatible API ay binubuo ng base URL kasama ang set ng nakapirming routes. Ibinabalik ng GET /v1/models ang listahan ng model ID na magagamit ng iyong key. Pinapatakbo ng POST /v1/chat/completions ang aktwal na chat request. Alam ng SillyTavern ang mga route na ito at binubuo nito ang mga ito mismo, kaya ang hinihingi lamang nito sa iyo ay ang base. Kapag na-click mo ang Connect, tinatawag nito ang /v1/models gamit ang iyong key at ginagamit ang response para punuin ang model dropdown. Ang walang laman na dropdown ay halos palaging nangangahulugan na nabigo ang tawag na iyon. Kailangan mo ring piliin ang tamang API mode. Nagpapadala ang Chat Completion ng structured messages na may system, user, at assistant roles, na siyang inaasahan ng bawat hosted OpenAI-compatible provider. Nagpapadala ang Text Completion ng isang raw prompt string at pangunahing ginagamit para sa local backends tulad ng KoboldCpp at text-generation-webui. Para sa anumang hosted API key, gamitin ang Chat Completion. Kung pipiliin mo ang Text Completion laban sa hosted chat endpoint, makakakuha ka ng mga error o sirang formatting, at maraming sampler na ipinapakita sa mode na iyon ay hindi rin naman naaaplay.

Sunud-sunod na setup

Kung nananatiling walang laman ang dropdown pagkatapos mag-Connect, suriin muli ang tatlong bagay ayon sa pagkakasunud-sunod: nagtatapos ba ang URL sa /v1 nang walang extra path o trailing space, na-paste ba ang key nang walang quotes o whitespace, at Custom (OpenAI-compatible) ba ang source, hindi plain OpenAI. Sa ilang bersyon, hindi pinapansin ng plain OpenAI source ang iyong custom URL at kumakausap ito sa api.openai.com, kung saan invalid ang iyong key.

  • Kumuha ng key. Sa APIsRouter, walang account form: magbayad sa /topup at ipapadala ang key sa iyong email. Anumang OpenAI-compatible key ay gumagana sa parehong paraan sa mga hakbang na ito.
  • Sa SillyTavern, i-click ang plug icon para buksan ang API Connections.
  • Itakda ang API sa Chat Completion.
  • Itakda ang Chat Completion Source sa Custom (OpenAI-compatible).
  • Sa Custom Endpoint (Base URL), ilagay ang https://api.apisrouter.com/v1 nang walang anumang idinagdag pagkatapos ng /v1.
  • I-paste ang iyong key sa Custom API Key field.
  • I-click ang Connect. Magiging berde ang status dot at mapupuno ang Available Models dropdown mula sa /v1/models.
  • Pumili ng model, buksan ang character card, at magpadala ng maikling test message.

I-verify ang koneksyon sa labas ng SillyTavern

Kapag may nabigo, i-test muna nang direkta ang endpoint bago sisihin ang SillyTavern. Ang curl call na ito ay eksaktong ginagawa ng Connect button. Kung ito ay nagbabalik ng JSON array ng model IDs, ayos ang iyong key at URL at nasa mga field ng SillyTavern ang problema. Kung gumagana ang model list ngunit nabibigo ang mga chat, magpatakbo ng isang tunay na completion mula sa Python gamit ang parehong base URL. Ang matagumpay na tugon dito ay nagpapatunay sa buong chain, at anumang error message na matatanggap mo ay ang tunay na error ng provider, hindi ang generic na error ng SillyTavern.

curl https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer sk-your-key"

Mga pangunahing kaalaman sa sampler at preset

Naglalantad ang mga Chat Completion source ng maliit na set ng sampler: temperature, top P, frequency penalty, at presence penalty, kasama ang response length at context size. Ang mas advanced na sampler na baka nabasa mo (min P, mirostat, dynamic temperature) ay para sa Text Completion backends at hindi ipinapadala sa hosted chat API, kaya huwag mo nang hanapin ang mga ito dito. Ang mga preset sa SillyTavern ay pinagsasama ang dalawang bagay: mga sampler value at ang istruktura ng prompt na binubuo ng Prompt Manager mula sa iyong character card, persona, at lorebook. Ang built-in na Default preset ay magandang starting point. Palitan ang isang value sa isang pagkakataon at i-regenerate ang parehong scene para makita ang tunay na epekto nito. Kailangan ng pansin ang context size: pinupuno ng SillyTavern ang context window ng chat history, kaya mas malaking context ay nangangahulugan ng mas maraming prompt token na ipinapadala sa bawat turn, na nagpapabuti sa memory habang nagpapataas din ng cost bawat mensahe.

Mga panimulang value para sa Chat Completion preset. I-adjust ang isa sa isang pagkakataon.
SettingStarting pointAno ang ginagawa nito sa roleplay
Temperature0.8Mas mataas (hanggang 1.1) ay nagbibigay ng iba't ibang prose; mas mababa (0.6) kung naliligaw ang character sa card nito
Top P0.95Huwag nang galawin maliban kung nagiging hindi malinaw ang mga tugon, saka bahagyang babaan
Frequency penalty0.1Lumalaban sa paulit-ulit na ritmo ng pangungusap sa mahahabang chat
Presence penalty0.05Maliit na value ay pumipigil sa pag-uulit ng topic
Max response tokens350Ang 300 hanggang 500 ay angkop para sa paragraph-style na tugon nang hindi sumasabog
Context sizeModel limit o 16kMas maraming history bawat turn; mas maraming input token din ang sisingilin bawat mensahe

Mga rekomendadong model para sa SillyTavern

Ang pagpili ng model ay mas mahalaga kaysa sa pag-tune ng sampler. Batay sa halos-tantiyang report ng komunidad, ang DeepSeek V4 family ang nangunguna sa presyo: deepseek-v4-flash ang default na rekomendasyon para sa mahahabang chat at mas mahusay na pinapanatiling magkakaugnay ng deepseek-v4-pro ang mga complex card at group chat. Solidong value pick ang GLM-5, Kimi K2.6, at MiMo na may kani-kaniyang natatanging boses sa prose, sulit i-rotate kapag nagsisimulang maramdaman ang chat na parehas-parehas lang. Kapansin-pansin ang Grok dahil ang published policy ng xAI ay malinaw na nagpapahintulot ng mature themes sa fictional settings, na mahalaga para sa mas madidilim na storyline. Claude ang sumusulat ng pinakamahusay na prose sa buong listahang ito ngunit ipinagbabawal ng policy ng Anthropic ang explicit content, kaya ituring ang Claude bilang pili para sa SFW creative writing at literary-style na mga eksena. Dalawang praktikal na paalala. Una, ang SillyTavern ay software na nakatuon sa mga adult, at ipinapatupad ng bawat model dito ang sariling content policy ng provider nito anuman ang iyong frontend, kaya panatilihin ang mga card at eksena sa loob ng mga panuntunang iyon. Ikalawa, dahil live na pinupuno ang dropdown mula sa /v1/models, maaari kang lumipat ng model kahit kalagitnaan ng chat at ikumpara ang mga tugon sa parehong mensahe, na siyang pinakamabilis na paraan para mahanap ang sarili mong paborito.

Model IDLakas sa SillyTavernMga tala sa content policy
deepseek-v4-flashPaborito ng komunidad para sa mahahabang chat; pinakamahusay na value bawat mensaheFlexible na policy para sa fiction; mahusay sumunod sa character card
deepseek-v4-proMas mahusay sumunod sa instruction para sa complex card at group chatKaparehong family ng Flash na may mas mahusay na coherence
glm-5Natatanging boses sa prose; magandang pacing sa mabagal na eksenaValue pick para sa mga chat na mabigat sa narrative
kimi-k2.6Long-context recall para sa malalaking lorebookValue pick; nahahandle ang malalaking card nang hindi nakakalimot
grok-4.5Malakas sa improvisation at banterPinapahintulutan ng xAI policy ang mature themes sa fictional settings
claude-sonnet-4-6Pinakamataas na kalidad ng prose sa presyo nitoSFW creative writing lamang; ipinagbabawal ng Anthropic ang explicit content
claude-opus-4-7Pinakamahusay na long-form literary writingKaparehong SFW-only policy ng Sonnet
gemini-3.5-flashMabilis na tugon, mahabang contextStandard na Google policy; maganda para sa adventure-style RP

Ang tunay na gastos ng mga SillyTavern chat

Sinisingil ng hosted model bawat token, at mabigat sa input ang roleplay: bawat turn ay muling nagpapadala ng character card kasama ang kamakailang history. Ang turn na nagpapadala ng 8,000 prompt token at nakakakuha ng 350-token na tugon ay nagkakahalaga ng humigit-kumulang ikasampung bahagi ng isang cent sa deepseek-v4-flash, kaya sapat na ang ilang dolyar para sa buwan-buwang casual chatting. Ang parehong turn sa claude-opus-4-7 ay nagkakahalaga ng humigit-kumulang 25 beses na mas mataas, kaya karamihan ay nagpapatakbo ng murang daily driver at itinatago ang premium models para sa mga eksenang mahalaga sa kanila. Sinasaklaw ng iisang gateway key ang buong talahanayang ito. Ang APIsRouter ay OpenAI-compatible na gateway na may pay-as-you-go na billing at walang subscription: magbabayad ka sa /topup nang hindi gumagawa ng account, ipapadala ang key sa email, ang unang top-up mo ay nagdaragdag ng katumbas na +100% sa iyong balanse, ang mga global model ay presyong 20% mas mababa sa opisyal na rate, at ang mga Chinese model ay nasa ilalim ng opisyal na presyo nito.

Mga presyo sa katalogo sa USD. Available din sa katalogo ang kimi-k2.6 at MiMo.
ModelInput / 1M tokenOutput / 1M token
deepseek-v4-flash$0.126$0.252
deepseek-v4-pro$0.3915$0.783
glm-5$0.514$2.314
gemini-3.5-flash$1.20$7.20
claude-sonnet-4-6$2.40$12.00
claude-opus-4-7$4.00$20.00
gpt-5.5$4.00$24.00
grok-4.5$1.60$4.80

Mga madalas itanong

Anong API URL ang ilalagay ko sa SillyTavern?

Ang base URL lamang, na nagtatapos sa /v1. Para sa APIsRouter, iyon ay https://api.apisrouter.com/v1. Idinaragdag mismo ng SillyTavern ang /chat/completions, kaya ang paglalagay ng buong completions path ay sisira sa koneksyon nang may 404 error.

May libreng API ba para sa SillyTavern?

Ang SillyTavern mismo ay libreng open-source software. Sinisingil ng hosted model access bawat token, bagama't may ilang provider na nag-aalok ng free tier na may mahigpit na rate limit at pila. Libre ang pagpapatakbo ng local model sa pamamagitan ng KoboldCpp kung kaya ng iyong hardware. Sa praktika, ang mga budget hosted model tulad ng deepseek-v4-flash ay nagkakahalaga lamang ng bahagi ng isang cent bawat mensahe, na halos libre na para sa casual na paggamit nang walang sakit ng ulo sa rate limit.

Bakit walang laman ang model list ng SillyTavern ko?

Nabigo ang Connect call papunta sa /v1/models. Suriin kung nagtatapos ang URL sa /v1 nang walang extra path o space, na-paste ang key nang malinis, at Custom (OpenAI-compatible) ang source, hindi plain OpenAI. Mag-test gamit ang curl laban sa /v1/models para makita ang tunay na error ng provider.

Dapat ba akong gumamit ng Chat Completion o Text Completion sa SillyTavern?

Chat Completion para sa anumang hosted OpenAI-compatible API. Ang Text Completion ay para sa local backends tulad ng KoboldCpp at text-generation-webui na tumatanggap ng raw prompt string. Ang pagpili ng Text Completion laban sa hosted chat endpoint ay nagreresulta sa mga error o sirang formatting.

Aling model ang pinakamahusay para sa roleplay sa SillyTavern?

Magsimula sa deepseek-v4-flash, ang karaniwang default ng komunidad para sa mahahabang chat sa mababang gastos. Lumipat sa deepseek-v4-pro para sa complex card, subukan ang GLM-5 o Kimi K2.6 para sa ibang boses ng prose, at gamitin ang Claude para sa pinakamataas na kalidad na SFW creative writing. Angkop ang Grok para sa mature fictional themes sa ilalim ng published policy ng xAI.

Ligtas ba ang API key ko sa SillyTavern?

Iniimbak ang mga key nang lokal sa secrets.json ng SillyTavern sa iyong machine at ipinapadala lamang ito sa API host na iyong na-configure. Huwag magbahagi ng screenshot ng connection panel o exported settings file, at palitan ang key kung pinaghihinalaan mong may-leak.