SillyTavern API setup: base URL, API key, at listahan ng model
Updated 2026-07-15
Sa SillyTavern, piliin ang Chat Completion, itakda ang source sa Custom (OpenAI-compatible), i-paste ang base URL na nagtatapos sa /v1, at idagdag ang iyong API key. Awtomatikong mapupuno ang model dropdown mula sa /v1/models endpoint ng provider.
Mabilisang sagot: ang limang setting na mahalaga
Buksan ang API Connections panel (ang plug icon) at itakda nang eksakto ito: API = Chat Completion. Chat Completion Source = Custom (OpenAI-compatible). Custom Endpoint (Base URL) = https://api.apisrouter.com/v1. Custom API Key = ang iyong sk-... key. I-click ang Connect, hintayin ang berdeng ilaw, at pumili ng model mula sa dropdown, halimbawa deepseek-v4-flash. Ang pinakakaraniwang pagkakamali ay ang pag-paste ng buong path. Idinaragdag ng SillyTavern ang /chat/completions sa anumang ilalagay mo, kaya dapat magtapos ang URL sa /v1 lamang. Kung ipa-paste mo ang https://api.apisrouter.com/v1/chat/completions, hihilingin ng SillyTavern ang /v1/chat/completions/chat/completions at mabibigo ang koneksyon nang may 404 error. Ito ang kabaligtaran ng JanitorAI, na gustong makuha ang buong completions URL sa proxy config nito. Parehong provider, magkaibang convention sa field.
Bakit nagtatapos sa /v1 ang SillyTavern API URL
Ang bawat OpenAI-compatible API ay binubuo ng base URL kasama ang set ng nakapirming routes. Ibinabalik ng GET /v1/models ang listahan ng model ID na magagamit ng iyong key. Pinapatakbo ng POST /v1/chat/completions ang aktwal na chat request. Alam ng SillyTavern ang mga route na ito at binubuo nito ang mga ito mismo, kaya ang hinihingi lamang nito sa iyo ay ang base. Kapag na-click mo ang Connect, tinatawag nito ang /v1/models gamit ang iyong key at ginagamit ang response para punuin ang model dropdown. Ang walang laman na dropdown ay halos palaging nangangahulugan na nabigo ang tawag na iyon. Kailangan mo ring piliin ang tamang API mode. Nagpapadala ang Chat Completion ng structured messages na may system, user, at assistant roles, na siyang inaasahan ng bawat hosted OpenAI-compatible provider. Nagpapadala ang Text Completion ng isang raw prompt string at pangunahing ginagamit para sa local backends tulad ng KoboldCpp at text-generation-webui. Para sa anumang hosted API key, gamitin ang Chat Completion. Kung pipiliin mo ang Text Completion laban sa hosted chat endpoint, makakakuha ka ng mga error o sirang formatting, at maraming sampler na ipinapakita sa mode na iyon ay hindi rin naman naaaplay.
Sunud-sunod na setup
Kung nananatiling walang laman ang dropdown pagkatapos mag-Connect, suriin muli ang tatlong bagay ayon sa pagkakasunud-sunod: nagtatapos ba ang URL sa /v1 nang walang extra path o trailing space, na-paste ba ang key nang walang quotes o whitespace, at Custom (OpenAI-compatible) ba ang source, hindi plain OpenAI. Sa ilang bersyon, hindi pinapansin ng plain OpenAI source ang iyong custom URL at kumakausap ito sa api.openai.com, kung saan invalid ang iyong key.
- Kumuha ng key. Sa APIsRouter, walang account form: magbayad sa /topup at ipapadala ang key sa iyong email. Anumang OpenAI-compatible key ay gumagana sa parehong paraan sa mga hakbang na ito.
- Sa SillyTavern, i-click ang plug icon para buksan ang API Connections.
- Itakda ang API sa Chat Completion.
- Itakda ang Chat Completion Source sa Custom (OpenAI-compatible).
- Sa Custom Endpoint (Base URL), ilagay ang https://api.apisrouter.com/v1 nang walang anumang idinagdag pagkatapos ng /v1.
- I-paste ang iyong key sa Custom API Key field.
- I-click ang Connect. Magiging berde ang status dot at mapupuno ang Available Models dropdown mula sa /v1/models.
- Pumili ng model, buksan ang character card, at magpadala ng maikling test message.
I-verify ang koneksyon sa labas ng SillyTavern
Kapag may nabigo, i-test muna nang direkta ang endpoint bago sisihin ang SillyTavern. Ang curl call na ito ay eksaktong ginagawa ng Connect button. Kung ito ay nagbabalik ng JSON array ng model IDs, ayos ang iyong key at URL at nasa mga field ng SillyTavern ang problema. Kung gumagana ang model list ngunit nabibigo ang mga chat, magpatakbo ng isang tunay na completion mula sa Python gamit ang parehong base URL. Ang matagumpay na tugon dito ay nagpapatunay sa buong chain, at anumang error message na matatanggap mo ay ang tunay na error ng provider, hindi ang generic na error ng SillyTavern.
curl https://api.apisrouter.com/v1/models \
-H "Authorization: Bearer sk-your-key"Mga pangunahing kaalaman sa sampler at preset
Naglalantad ang mga Chat Completion source ng maliit na set ng sampler: temperature, top P, frequency penalty, at presence penalty, kasama ang response length at context size. Ang mas advanced na sampler na baka nabasa mo (min P, mirostat, dynamic temperature) ay para sa Text Completion backends at hindi ipinapadala sa hosted chat API, kaya huwag mo nang hanapin ang mga ito dito. Ang mga preset sa SillyTavern ay pinagsasama ang dalawang bagay: mga sampler value at ang istruktura ng prompt na binubuo ng Prompt Manager mula sa iyong character card, persona, at lorebook. Ang built-in na Default preset ay magandang starting point. Palitan ang isang value sa isang pagkakataon at i-regenerate ang parehong scene para makita ang tunay na epekto nito. Kailangan ng pansin ang context size: pinupuno ng SillyTavern ang context window ng chat history, kaya mas malaking context ay nangangahulugan ng mas maraming prompt token na ipinapadala sa bawat turn, na nagpapabuti sa memory habang nagpapataas din ng cost bawat mensahe.
| Setting | Starting point | Ano ang ginagawa nito sa roleplay |
|---|---|---|
| Temperature | 0.8 | Mas mataas (hanggang 1.1) ay nagbibigay ng iba't ibang prose; mas mababa (0.6) kung naliligaw ang character sa card nito |
| Top P | 0.95 | Huwag nang galawin maliban kung nagiging hindi malinaw ang mga tugon, saka bahagyang babaan |
| Frequency penalty | 0.1 | Lumalaban sa paulit-ulit na ritmo ng pangungusap sa mahahabang chat |
| Presence penalty | 0.05 | Maliit na value ay pumipigil sa pag-uulit ng topic |
| Max response tokens | 350 | Ang 300 hanggang 500 ay angkop para sa paragraph-style na tugon nang hindi sumasabog |
| Context size | Model limit o 16k | Mas maraming history bawat turn; mas maraming input token din ang sisingilin bawat mensahe |
Mga rekomendadong model para sa SillyTavern
Ang pagpili ng model ay mas mahalaga kaysa sa pag-tune ng sampler. Batay sa halos-tantiyang report ng komunidad, ang DeepSeek V4 family ang nangunguna sa presyo: deepseek-v4-flash ang default na rekomendasyon para sa mahahabang chat at mas mahusay na pinapanatiling magkakaugnay ng deepseek-v4-pro ang mga complex card at group chat. Solidong value pick ang GLM-5, Kimi K2.6, at MiMo na may kani-kaniyang natatanging boses sa prose, sulit i-rotate kapag nagsisimulang maramdaman ang chat na parehas-parehas lang. Kapansin-pansin ang Grok dahil ang published policy ng xAI ay malinaw na nagpapahintulot ng mature themes sa fictional settings, na mahalaga para sa mas madidilim na storyline. Claude ang sumusulat ng pinakamahusay na prose sa buong listahang ito ngunit ipinagbabawal ng policy ng Anthropic ang explicit content, kaya ituring ang Claude bilang pili para sa SFW creative writing at literary-style na mga eksena. Dalawang praktikal na paalala. Una, ang SillyTavern ay software na nakatuon sa mga adult, at ipinapatupad ng bawat model dito ang sariling content policy ng provider nito anuman ang iyong frontend, kaya panatilihin ang mga card at eksena sa loob ng mga panuntunang iyon. Ikalawa, dahil live na pinupuno ang dropdown mula sa /v1/models, maaari kang lumipat ng model kahit kalagitnaan ng chat at ikumpara ang mga tugon sa parehong mensahe, na siyang pinakamabilis na paraan para mahanap ang sarili mong paborito.
| Model ID | Lakas sa SillyTavern | Mga tala sa content policy |
|---|---|---|
| deepseek-v4-flash | Paborito ng komunidad para sa mahahabang chat; pinakamahusay na value bawat mensahe | Flexible na policy para sa fiction; mahusay sumunod sa character card |
| deepseek-v4-pro | Mas mahusay sumunod sa instruction para sa complex card at group chat | Kaparehong family ng Flash na may mas mahusay na coherence |
| glm-5 | Natatanging boses sa prose; magandang pacing sa mabagal na eksena | Value pick para sa mga chat na mabigat sa narrative |
| kimi-k2.6 | Long-context recall para sa malalaking lorebook | Value pick; nahahandle ang malalaking card nang hindi nakakalimot |
| grok-4.5 | Malakas sa improvisation at banter | Pinapahintulutan ng xAI policy ang mature themes sa fictional settings |
| claude-sonnet-4-6 | Pinakamataas na kalidad ng prose sa presyo nito | SFW creative writing lamang; ipinagbabawal ng Anthropic ang explicit content |
| claude-opus-4-7 | Pinakamahusay na long-form literary writing | Kaparehong SFW-only policy ng Sonnet |
| gemini-3.5-flash | Mabilis na tugon, mahabang context | Standard na Google policy; maganda para sa adventure-style RP |
Ang tunay na gastos ng mga SillyTavern chat
Sinisingil ng hosted model bawat token, at mabigat sa input ang roleplay: bawat turn ay muling nagpapadala ng character card kasama ang kamakailang history. Ang turn na nagpapadala ng 8,000 prompt token at nakakakuha ng 350-token na tugon ay nagkakahalaga ng humigit-kumulang ikasampung bahagi ng isang cent sa deepseek-v4-flash, kaya sapat na ang ilang dolyar para sa buwan-buwang casual chatting. Ang parehong turn sa claude-opus-4-7 ay nagkakahalaga ng humigit-kumulang 25 beses na mas mataas, kaya karamihan ay nagpapatakbo ng murang daily driver at itinatago ang premium models para sa mga eksenang mahalaga sa kanila. Sinasaklaw ng iisang gateway key ang buong talahanayang ito. Ang APIsRouter ay OpenAI-compatible na gateway na may pay-as-you-go na billing at walang subscription: magbabayad ka sa /topup nang hindi gumagawa ng account, ipapadala ang key sa email, ang unang top-up mo ay nagdaragdag ng katumbas na +100% sa iyong balanse, ang mga global model ay presyong 20% mas mababa sa opisyal na rate, at ang mga Chinese model ay nasa ilalim ng opisyal na presyo nito.
| Model | Input / 1M token | Output / 1M token |
|---|---|---|
| deepseek-v4-flash | $0.126 | $0.252 |
| deepseek-v4-pro | $0.3915 | $0.783 |
| glm-5 | $0.514 | $2.314 |
| gemini-3.5-flash | $1.20 | $7.20 |
| claude-sonnet-4-6 | $2.40 | $12.00 |
| claude-opus-4-7 | $4.00 | $20.00 |
| gpt-5.5 | $4.00 | $24.00 |
| grok-4.5 | $1.60 | $4.80 |
Mga madalas itanong
Anong API URL ang ilalagay ko sa SillyTavern?
Ang base URL lamang, na nagtatapos sa /v1. Para sa APIsRouter, iyon ay https://api.apisrouter.com/v1. Idinaragdag mismo ng SillyTavern ang /chat/completions, kaya ang paglalagay ng buong completions path ay sisira sa koneksyon nang may 404 error.
May libreng API ba para sa SillyTavern?
Ang SillyTavern mismo ay libreng open-source software. Sinisingil ng hosted model access bawat token, bagama't may ilang provider na nag-aalok ng free tier na may mahigpit na rate limit at pila. Libre ang pagpapatakbo ng local model sa pamamagitan ng KoboldCpp kung kaya ng iyong hardware. Sa praktika, ang mga budget hosted model tulad ng deepseek-v4-flash ay nagkakahalaga lamang ng bahagi ng isang cent bawat mensahe, na halos libre na para sa casual na paggamit nang walang sakit ng ulo sa rate limit.
Bakit walang laman ang model list ng SillyTavern ko?
Nabigo ang Connect call papunta sa /v1/models. Suriin kung nagtatapos ang URL sa /v1 nang walang extra path o space, na-paste ang key nang malinis, at Custom (OpenAI-compatible) ang source, hindi plain OpenAI. Mag-test gamit ang curl laban sa /v1/models para makita ang tunay na error ng provider.
Dapat ba akong gumamit ng Chat Completion o Text Completion sa SillyTavern?
Chat Completion para sa anumang hosted OpenAI-compatible API. Ang Text Completion ay para sa local backends tulad ng KoboldCpp at text-generation-webui na tumatanggap ng raw prompt string. Ang pagpili ng Text Completion laban sa hosted chat endpoint ay nagreresulta sa mga error o sirang formatting.
Aling model ang pinakamahusay para sa roleplay sa SillyTavern?
Magsimula sa deepseek-v4-flash, ang karaniwang default ng komunidad para sa mahahabang chat sa mababang gastos. Lumipat sa deepseek-v4-pro para sa complex card, subukan ang GLM-5 o Kimi K2.6 para sa ibang boses ng prose, at gamitin ang Claude para sa pinakamataas na kalidad na SFW creative writing. Angkop ang Grok para sa mature fictional themes sa ilalim ng published policy ng xAI.
Ligtas ba ang API key ko sa SillyTavern?
Iniimbak ang mga key nang lokal sa secrets.json ng SillyTavern sa iyong machine at ipinapadala lamang ito sa API host na iyong na-configure. Huwag magbahagi ng screenshot ng connection panel o exported settings file, at palitan ang key kung pinaghihinalaan mong may-leak.