KoboldAI Lite एक custom OpenAI-compatible endpoint पर।

Quick answer: Lite को चाहिए values।

AI connection panel खोलें (Lite के top menu में AI button), default AI Horde से custom endpoint group पर switch करें, और OpenAI-compatible option चुनें। Exact labels builds के बीच थोड़ा shift होते हैं, लेकिन fields constant रहते हैं: एक API URL, एक key, और connect होने के बाद चुना गया एक model। दो Lite-specific details ज़्यादातर damage तब करती हैं जब यह fail होता है। पहला, version checkbox: Lite एक "Add Ver. Num" style toggle offer करता है जो आपके लिए URL में /v1 append कर देता है, तो box tick होने पर https://api.apisrouter.com डालना और untick होने पर https://api.apisrouter.com/v1 डालना दोनों correctly resolve होते हैं, जबकि /v1 को double करना नहीं होता। दूसरा, persistence: Lite historically reconnect पर custom endpoint URLs reset करता रहा है, तो URL को handy रखें बजाय यह मान लेने के कि field हर session में survive करती है।

API URL:  https://api.apisrouter.com/v1   (or base URL + "Add Ver. Num" ticked)
API key:  sk-...                            (from APIsRouter)
Model:    deepseek-v4-flash                 (or any catalog id after connecting)

Lite क्या है, और यह एक hosted model तक कैसे पहुंचता है।

KoboldAI Lite Kobold ecosystem का zero-install web UI है: story writing, adventure mode, और character chat के लिए एक single-page app जो पूरी तरह आपके browser में चलता है। यह दो forms में ship होता है जो same settings share करते हैं: lite.koboldai.net पर hosted instance, और जब आप models locally run करते हैं तब KoboldCpp localhost पर serve करने वाली bundled copy। Project README इसे custom endpoints से connect करने में capable बताता है, जिसमें OpenAI-shaped और Claude-shaped APIs, local और remote Kobold instances, और crowdsourced AI Horde शामिल हैं। क्योंकि Lite अपने बिना किसी server वाला एक browser app है, आपके API requests सीधे browser से जो भी endpoint आप configure करते हैं वहां जाते हैं। यही design है जिसकी वजह से custom-endpoint route बिल्कुल काम करता है, और यही वजह है कि नीचे CORS section मौजूद है: endpoint को browser-origin requests का जवाब देना होता है, और जब कोई नहीं देता, तो Lite एक proxy toggle offer करता है जिसके trade-offs को flip करने से पहले समझना ज़रूरी है। AI Horde से आने वाले लोगों के लिए: volunteer cluster के मुकाबले एक metered endpoint की appeal predictability है। Horde genuinely free है एक queue के साथ; एक funded endpoint उसी exact model के साथ immediately जवाब देता है जो आपने मांगा, और value-family rates पर एक शाम का play प्रति message एक cent के छोटे से हिस्से में आता है।

Setup, field by field।

अगर connect होने के बाद model list खाली रहती है, तो usual causes इस order में हैं: एक doubled या missing /v1 (पहले version checkbox check करें), whitespace के साथ paste की गई key, या एक browser extension जो request block कर रहा है। एक curl command में same तीन values का काम करना यह prove करने का सबसे तेज़ तरीका है कि endpoint side ठीक है और problem को browser तक localize करना है।

• Lite खोलें (hosted या bundled) और connection panel खोलने के लिए top menu में AI button click करें।
• Provider selection को AI Horde से custom endpoint group पर switch करें, और OpenAI-compatible option चुनें (labels build के हिसाब से थोड़े अलग होते हैं; इसके साथ एक Claude-shaped option भी बैठा होता है)।
• URL डालें: https://api.apisrouter.com/v1, ऊपर बताए version checkbox का ध्यान रखते हुए ताकि /v1 exactly एक बार दिखे।
• अपनी sk-... key को key field में paste करें।
• Connect करें, फिर Lite जो list fetch करता है उसमें से एक model चुनें, या अगर आपका build manual model name मांगता है तो exact catalog id type करें।
• लंबा session load करने से पहले round trip confirm करने के लिए एक fresh story में एक छोटा message भेजें।

Claude endpoint option, और इसे कब use करें।

Lite के custom endpoint group में Anthropic-dialect APIs के लिए एक Claude-shaped option भी शामिल है। APIsRouter उस dialect को भी /v1/messages पर serve करता है, तो claude ids दोनों door से reachable हैं। Practice में OpenAI-compatible route सभी families के लिए simpler default है, Claude models के लिए भी, क्योंकि एक configuration फिर हर family serve करती है: high-end prose के लिए claude-sonnet-4-6, volume play के लिए deepseek-v4-flash, rotation के लिए glm-5.2 और kimi-k2.6, यह सब reconfigurations नहीं बल्कि model-field changes के रूप में। Claude-shaped option जहां अपनी जगह कमाता है वह है अगर आप presets को specifically Anthropic के request format के लिए tuned रखते हैं या किसी दूसरे Anthropic-dialect tool से settings migrate करते हैं। Functionally, दोनों routes इस gateway के through same models पर खत्म होते हैं; एक चुनें और consistent रहें ताकि आपकी saved settings portable रहें।

Samplers और modes: एक hosted endpoint पर actually क्या apply होता है।

Lite अपनी settings में पूरा local-model sampler zoo expose करता है, और इसमें से ज़्यादातर travel नहीं करता। OpenAI-compatible endpoints पर, Lite के अपने documentation में लिखा है कि सिर्फ temperature, top-p, और repetition-penalty style controls apply होते हैं; Min-P, Top-A, या TFS जैसे exotic samplers local-inference features हैं, और Lite उन्हें extra fields के रूप में attach कर सकता है, लेकिन hosted endpoints आमतौर पर non-standard parameters को ignore या reject करते हैं। Prose variety के लिए temperature लगभग 0.8 से 0.9 पर set करें, top-p को 0.95 के पास छोड़ें, और repetition penalties को low रखें; यही पूरी tunable surface है, और यह काफी है। Lite के writing modes सभी custom endpoint पर काम करते हैं, एक guidance के साथ: instruct mode hosted chat models पर सबसे naturally map होता है, क्योंकि यह structured role-based exchange produce करता है जिसके लिए वे models trained हैं। Classic story co-writing भी काम करती है; models से raw text continuers की बजाय conversational partners की तरह behave करने की उम्मीद रखें, क्योंकि chat completions endpoint यही है। Context budgeting हर roleplay frontend जैसा ही rule follow करती है: Lite हर turn पर visible story context resend करता है, तो context size को deliberately set करें (एक 16K से 32K working window लंबे sessions cover करता है) बजाय इसे maximize करने के सिर्फ इसलिए कि model की window allow करती है। नीचे दी गई context-length guide models के across यह math करती है।

जितना उपयोग उतना भुगतान · आधिकारिक मूल्य से कम

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

CORS, proxy toggle, और अपनी key को sane रखना।

क्योंकि Lite endpoint को सीधे आपके browser से call करता है, सही values के साथ एक connection failure आमतौर पर CORS होता है: endpoint browser-origin requests को decline कर रहा है। Lite ठीक इसी case के लिए एक "Use CORS Proxy" toggle ship करता है, और इसे एक honest warning चाहिए: किसी भी third-party proxy से route करना उस proxy को आपके traffic के अंदर रख देता है, key और story content सहित। पहले एक direct connection try करें, अगर doubt हो तो curl के through endpoint काम करने की पुष्टि करें, और proxy toggle को default की बजाय एक last resort मानें। एक local KoboldCpp से bundled Lite चलाना एक और clean workaround है, क्योंकि same custom-endpoint settings वहां भी मौजूद हैं। Key hygiene एक browser app पर थोड़ी ज़्यादा matter करती है: key आपके browser की local settings में बैठी रहती है, तो इसे shared या public machines में paste करने से बचें, और अगर यह कभी leak हो, तो उम्मीद रखने की बजाय revoke करके फिर से issue करें। यहां keys बनाना free है, तो Lite के लिए एक dedicated key usage log को readable और blast radius को छोटा रखती है। एक content note, साफ़-साफ़ बताई गई: एक custom endpoint यह बदलता है कि requests कहां जाते हैं, न कि models क्या permit करते हैं। Upstream model policies और आप जिस भी Lite instance को use करते हैं उसके terms अभी भी apply होते हैं; नीचे linked policies-compared page landscape को factually cover करता है, model family by model family।

अक्सर पूछे जाने वाले प्रश्न