Local-first छोड़े बिना Jan में cloud catalog models add करें।

Quick answer: Settings में एक provider।

Jan की Settings खोलें और Model Providers पर जाएं। Provider list के बगल में plus control क्लिक करके एक custom provider add करें, इसे एक नाम दें (APIsRouter), और recent builds पर जब dialog पूछे तो OpenAI API format चुनें (Jan v0.8.1 ने एक OpenAI-or-Anthropic format selector add किया; gateway के लिए OpenAI चुनें)। फिर दो fields भरें जो matter करती हैं: Base URL https://api.apisrouter.com/v1 और आपकी API key। जो models चाहिए उन्हें id से add करें: Jan के docs explicit हैं कि id property उस model name से match होनी चाहिए जो endpoint serve करता है, तो memory से type करने की बजाय catalog listing से ids copy करें (claude-sonnet-4-6, gpt-5.4-mini, gemini-3.5-flash)। Save करें, और ids आपके local चलाए जाने वाले models के बगल में model selector में दिखती हैं। Releases के बीच labels move हुए हैं (older versions इस area को Remote Engines कहते थे), तो provider, format, URL, key, models को stable skeleton मानें।

Name:        APIsRouter
API Format:  OpenAI          (v0.8.1+ selector)
Base URL:    https://api.apisrouter.com/v1
API Key:     sk-YOUR-APISROUTER-KEY

Models: add ids that match the endpoint, e.g.
  claude-sonnet-4-6, gpt-5.4-mini, gemini-3.5-flash

Jan remote providers को कैसे treat करता है।

Jan (GitHub पर menloresearch, लगभग 44K stars) local-first desktop client है: models आपकी machine पर download होते हैं, llama.cpp के through चलते हैं, और offline काम करते हैं, app खुद दूसरे tools के लिए http://127.0.0.1:1337/v1 पर अपना OpenAI-compatible server भी expose करता है। Remote providers जानबूझकर दूसरी lane हैं, उन models के लिए जो locally चलाने के लिए बहुत बड़े हैं या उन tasks के लिए जो frontier quality का हक कमाते हैं। OpenAI format में एक custom provider एक plain endpoint description है: base URL, key, declared model ids। उन ids के against conversations standard chat-completions requests के तौर पर निकलती हैं जिसमें id model string होती है, तो एक multi-vendor gateway को exactly एक entry चाहिए। सोच-समझकर लिखने के लिए Claude, volume summarization के लिए DeepSeek, speed के लिए Gemini, इन सबके पीछे एक key। Philosophical fit सुनने में जितना लगता है उससे बेहतर है। Local-first users इस बारे में deliberate होते हैं कि machine से क्या बाहर जाता है, और एक gateway remote lane को उतना ही deliberate रखता है: firewall करने के लिए एक endpoint, पढ़ने के लिए एक usage log, एक balance जो सिर्फ तब move होता है जब आपने कुछ भेजने का choice किया। Local lane के बारे में कुछ नहीं बदलता; आपके downloaded models पहले जैसे offline काम करते रहते हैं।

Models declare करना: id contract।

Jan आपके लिए एक custom endpoint का catalog fetch नहीं करता; जो models आप declare करते हैं वही आपको मिलते हैं, और id ही contract है। Authoritative spelling gateway की /v1/models listing से आती है, version suffixes शामिल। एक declared id जो listing से drift करती है सिर्फ तब not-found errors देती है जब वह model select किया जाता है, जो strings compare करने तक एक flaky provider जैसा लगता है। जान-बूझकर declare करें। एक local-first picker सबसे अच्छा तब काम करता है जब remote rows कम और purposeful हों: everyday remote turns के लिए एक fast id (gpt-5.4-mini या claude-haiku-4-5-20251001), उस काम के लिए एक frontier id जो machine छोड़ने का हक कमाए (claude-sonnet-4-6), और आपका workload जो specialist कमाए (लंबे multilingual summaries के लिए deepseek-v4-flash, जब latency ही feature हो तब gemini-3.5-flash)। हर row बाद में add करना आसान है; एक pasted-in catalog रोज़ scroll करके निकलने वाला noise है। अगर आप दूसरे tools को serve करने के लिए Jan का local API server भी इस्तेमाल करते हैं, तो mental model सीधा रखें: वह server 127.0.0.1:1337/v1 पर Jan का provider होना है; custom provider entry Jan का client होना है। दोनों independent हैं, और एक को configure करना दूसरे को कभी affect नहीं करता।

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50
# declare these ids verbatim in the provider's model list

कौन-सी conversations machine से बाहर जाएं, चुनना।

चूंकि remote usage prepaid और per-key metered है, remote lane की cost एक number है जो आप पढ़ते हैं, subscription नहीं जो आप guess करते हैं। अपने असली split का एक महीना चलाएं और usage log आपको बताता है कि machine छोड़ना exactly कितना खर्च करता है, per model, per day।

• Everyday remote turns, quick questions, rewrites, translations, fast tier पर belong करते हैं: gpt-5.4-mini और claude-haiku-4-5-20251001 जल्दी जवाब देते हैं और balance को लगभग स्थिर रखते हैं।
• claude-sonnet-4-6 उस काम के लिए step-up है जो एक local model visibly carry नहीं कर सकता: लंबा careful drafting, subtle code review, वह analysis जो आप आगे forward करेंगे।
• gemini-3.5-flash अपनी row latency पर कमाता है; short interactive turns के लिए यह एक local model की responsiveness के सबसे करीब लगता है।
• deepseek-v4-flash लंबे documents summarize करने का volume pick है जो आप एक छोटे local model को नहीं देंगे।
• Private material को पूरी तरह local models पर रखें; lanes के बीच split ही Jan चलाने का पूरा point है।

जितना उपयोग उतना भुगतान · आधिकारिक मूल्य से कम

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Jan के लिए specific failure modes।

किसी specific model पर not-found errors id contract हैं: declared id endpoint की spelling से match नहीं करती। /v1/models output के against character के हिसाब से compare करें। हर request पर authentication failures key field हैं। एक provider जो save होता है लेकिन कभी जवाब नहीं देता आमतौर पर एक Base URL problem रखता है: /v1 suffix present होना चाहिए, क्योंकि Jan आपके दिए गए base में /chat/completions जैसे route paths append करता है, और एक doubled या missing segment 404 देता है। अगर provider एक older build पर बनाया गया था, तो API format check करें: v0.8.1 ने OpenAI-or-Anthropic selector introduce किया, और गलती से Anthropic format पर set की गई एक gateway entry /v1/chat/completions endpoint से गलत dialect बोलती है। और याद रखें आप कौन-सी lane debug कर रहे हैं। Local model failures (VRAM, quantization, llama.cpp settings) और remote failures (URL, key, ids) एक chat window share करती हैं लेकिन बाकी कुछ नहीं; model selector यह दिखाता है कि गलत thread पकड़ने से पहले एक failing conversation किस lane की है।

कौन Jan में एक gateway lane add करता है।

• Local-first users जिन्हें कभी-कभार frontier quality चाहिए और वह कभी-कभार वाली lane vendor subscription की बजाय prepaid balance पर चाहते हैं।
• Developers जिनकी machines बड़े local models अच्छे से नहीं चला सकतीं, interface के लिए Jan और भारी काम के लिए gateway इस्तेमाल करते हुए।
• Privacy-deliberate users जो per vendor के बजाय exactly एक remote endpoint चाहते हैं जिसके बारे में सोचें, firewall करें, और audit करें।
• लोग जो असली tasks पर local versus cloud output compare करते हैं, जहां remote candidates declared rows हैं, नए accounts नहीं।
• Developers जिनके पास किसी given vendor की billing तक access नहीं है। बिना card requirement वाला top-up based access per-provider sign-up dependency हटा देता है।

Endpoint verify करें और पहले remote turn को debug करें।

पहले models listing और एक chat completion curl करें; दोनों pass होने पर, बाकी सब कुछ provider entry में है। यह आपको declare करने के लिए exact id spellings भी देता है। Jan के अंदर, fast remote id पर एक छोटा message भेजें। Authentication errors key हैं; not-found id है; silence या 404s Base URL shape है। अगर remote lane काम करती है लेकिन frontier id पर धीमी लगती है, तो यह model latency है, configuration problem नहीं; reasoning models लंबे turns पर अपना समय लेते हैं। जब remote turns चलने लगें, APIsRouter console per-request model, token counts, और spend दिखाता है। एक local-first user के लिए यह log असामान्य रूप से satisfying reading है: यह हर उस चीज़ का पूरा record है जो कभी machine से बाहर गई, per model, per day, local lane इसमें बिल्कुल कुछ contribute नहीं करता।

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"gpt-5.4-mini",
       "messages":[{"role":"user","content":"ping"}]}'

अक्सर पूछे जाने वाले प्रश्न