Tambah model katalog cloud ke Jan tanpa meninggalkan local-first.
Updated 2026-07-29
Jan menjalankan model pada mesin anda mengikut reka bentuk, dan tetapan Model Providers-nya menerima mana-mana endpoint serasi OpenAI untuk hari-hari model tempatan tidak mencukupi: tambah penyedia, tetapkan Base URL kepada https://api.apisrouter.com/v1, tampal satu kunci, dan id Claude, GPT, Gemini, dan DeepSeek menyertai barisan tempatan anda.
Jawapan pantas: satu penyedia dalam Settings.
Buka Settings Jan dan pergi ke Model Providers. Klik kawalan tambah di sebelah senarai penyedia untuk menambah penyedia custom, beri ia nama (APIsRouter), dan pada binaan terkini pilih format OpenAI API apabila dialog bertanya (Jan v0.8.1 menambah pemilih format OpenAI-atau-Anthropic; untuk gateway pilih OpenAI). Kemudian isikan dua medan yang penting: Base URL https://api.apisrouter.com/v1 dan API key anda. Tambah model yang anda mahu mengikut id: dokumentasi Jan jelas menyatakan bahawa sifat id mesti sepadan dengan nama model yang dilayani endpoint, jadi salin id daripada senarai katalog (claude-sonnet-4-6, gpt-5.4-mini, gemini-3.5-flash) dan bukan menaip daripada ingatan. Simpan, dan id muncul dalam pemilih model bersebelahan apa sahaja yang anda jalankan secara tempatan. Label telah berpindah antara keluaran (versi lebih lama memanggil kawasan ini Remote Engines), jadi anggap provider, format, URL, key, models sebagai rangka stabil.
Name: APIsRouter
API Format: OpenAI (v0.8.1+ selector)
Base URL: https://api.apisrouter.com/v1
API Key: sk-YOUR-APISROUTER-KEY
Models: add ids that match the endpoint, e.g.
claude-sonnet-4-6, gpt-5.4-mini, gemini-3.5-flashBagaimana Jan melayan penyedia jauh.
Jan (menloresearch di GitHub, lebih kurang 44K bintang) ialah klien desktop local-first: model dimuat turun ke mesin anda, berjalan melalui llama.cpp, dan berfungsi offline, dengan app itu malah mendedahkan pelayan serasi OpenAI sendiri di http://127.0.0.1:1337/v1 untuk alat lain. Penyedia jauh adalah lorong kedua yang disengajakan, untuk model yang terlalu besar untuk berjalan secara tempatan atau tugas yang layak mendapat kualiti frontier. Penyedia custom dalam format OpenAI ialah penerangan endpoint biasa: base URL, kunci, id model yang diisytiharkan. Perbualan terhadap id itu keluar sebagai permintaan chat-completions standard dengan id sebagai rentetan model, jadi gateway multi-vendor hanya memerlukan tepat satu entri. Claude untuk penulisan teliti, DeepSeek untuk peringkasan volum, Gemini untuk kelajuan, satu kunci di sebalik kesemuanya. Kesesuaian falsafahnya lebih baik daripada bunyinya pada mulanya. Pengguna local-first cenderung berhati-hati tentang apa yang meninggalkan mesin, dan gateway mengekalkan lorong jauh sama berhati-hati: satu endpoint untuk firewall, satu log penggunaan untuk dibaca, satu baki yang hanya bergerak apabila anda memilih untuk menghantar sesuatu keluar. Tiada apa tentang lorong tempatan berubah; model yang anda muat turun terus berfungsi offline tepat seperti sebelumnya.
Mengisytiharkan model: kontrak id.
Jan tidak mengambil katalog endpoint custom untuk anda; model yang anda isytiharkan adalah model yang anda dapat, dan id adalah kontrak. Ejaan berwibawa datang daripada senarai /v1/models gateway, termasuk akhiran versi. Id yang diisytiharkan yang tersasar daripada senarai menghasilkan ralat not-found hanya apabila model itu dipilih, yang berbunyi seperti penyedia tidak stabil sehingga anda membandingkan rentetan. Isytiharkan secara sengaja. Pemilih local-first berfungsi terbaik apabila baris jauh sedikit dan bertujuan: satu id pantas untuk giliran jauh harian (gpt-5.4-mini atau claude-haiku-4-5-20251001), satu id frontier untuk kerja yang mewajarkan meninggalkan mesin (claude-sonnet-4-6), dan apa sahaja pakar yang layak diterima beban kerja anda (deepseek-v4-flash untuk ringkasan berbilang bahasa panjang, gemini-3.5-flash apabila latensi adalah cirinya). Setiap baris mudah ditambah kemudian; katalog yang ditampal masuk adalah bunyi bising yang anda skrol lalu setiap hari. Jika anda juga menggunakan pelayan API tempatan Jan untuk melayani alat lain, kekalkan model mental itu betul: pelayan itu ialah Jan menjadi penyedia di 127.0.0.1:1337/v1; entri penyedia custom ialah Jan menjadi klien. Kedua-duanya bebas, dan mengkonfigurasi satu tidak pernah menjejaskan yang lain.
curl -s https://api.apisrouter.com/v1/models \
-H "Authorization: Bearer $APISROUTER_API_KEY" | head -50
# declare these ids verbatim in the provider's model listMemilih perbualan mana yang meninggalkan mesin.
Kerana penggunaan jauh adalah prabayar dan diukur per-kunci, kos lorong jauh adalah nombor yang anda baca, bukan langganan yang anda teka. Jalankan sebulan pemisahan sebenar anda dan log penggunaan memberitahu anda tepat berapa kos meninggalkan mesin, per model, per hari.
- Giliran jauh harian, soalan pantas, penulisan semula, terjemahan, tergolong pada tahap pantas: gpt-5.4-mini dan claude-haiku-4-5-20251001 menjawab dengan pantas dan mengekalkan baki hampir tidak bergerak.
- claude-sonnet-4-6 ialah peningkatan untuk kerja yang jelas tidak dapat dibawa model tempatan: rangka teliti panjang, semakan kod yang halus, analisis yang anda akan hantar ke hadapan.
- gemini-3.5-flash layak mendapat barisnya pada latensi; untuk giliran interaktif pendek ia terasa paling hampir dengan responsif model tempatan.
- deepseek-v4-flash ialah pilihan volum untuk meringkaskan dokumen panjang yang tidak akan anda beri kepada model tempatan yang kecil.
- Kekalkan bahan peribadi sepenuhnya pada model tempatan; pemisahan antara lorong adalah intipati menjalankan Jan sejak awal.
Bayar mengikut penggunaan · bawah harga rasmi
Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.
| Model | Harga Rasmi | Harga Kami |
|---|---|---|
| Claude Haiku 4.5 20251001 | $1.00 / $5.00 per M | $0.80 / $4.00 per M |
| Claude Sonnet 4.6 | $3.00 / $15.00 per M | $2.40 / $12.00 per M |
| GPT-5.4 mini | $0.75 / $4.50 per M | $0.60 / $3.60 per M |
| Gemini 3.5 Flash | $1.50 / $9.00 per M | $1.20 / $7.20 per M |
| DeepSeek V4 Flash | $0.14 / $0.28 per M | $0.10 / $0.30 per M |
Mod kegagalan khusus Jan.
Ralat not-found pada model tertentu adalah kontrak id: id yang diisytiharkan tidak sepadan dengan ejaan endpoint. Bandingkan terhadap output /v1/models aksara demi aksara. Kegagalan pengesahan pada setiap permintaan adalah medan kunci. Penyedia yang disimpan tetapi tidak pernah menjawab biasanya mempunyai masalah Base URL: akhiran /v1 mesti hadir, kerana Jan melampirkan laluan route seperti /chat/completions kepada base yang anda beri, dan segmen yang tergandakan atau hilang menyebabkan 404. Jika penyedia dicipta pada binaan lebih lama, semak format API: v0.8.1 memperkenalkan pemilih OpenAI-atau-Anthropic, dan entri gateway yang secara tidak sengaja ditetapkan kepada format Anthropic bertutur dialek yang salah kepada endpoint /v1/chat/completions. Dan ingat lorong mana yang anda nyahpepijat. Kegagalan model tempatan (VRAM, quantization, tetapan llama.cpp) dan kegagalan jauh (URL, kunci, id) berkongsi tetingkap sembang tetapi tiada apa lagi; pemilih model menunjukkan lorong mana yang tergolong perbualan yang gagal sebelum anda mula menarik benang yang salah.
Siapa yang menambah lorong gateway ke Jan.
- Pengguna local-first yang sekali-sekala memerlukan kualiti frontier dan mahukan lorong sekali-sekala itu pada baki prabayar dan bukan langganan vendor.
- Pembangun pada mesin yang tidak dapat menjalankan model tempatan besar dengan baik, menggunakan Jan sebagai antara muka dan gateway untuk kerja berat.
- Pengguna yang berhati-hati tentang privasi yang mahukan tepat satu endpoint jauh untuk difikirkan, firewall, dan diaudit, dan bukan satu setiap vendor.
- Orang yang membandingkan output tempatan berbanding cloud pada tugas sebenar, di mana calon jauh adalah baris yang diisytiharkan, bukan akaun baharu.
- Pembangun tanpa akses kepada pengebilan vendor tertentu. Akses berasaskan top-up tanpa keperluan kad menghapuskan kebergantungan pendaftaran setiap penyedia.
Sahkan endpoint dan nyahpepijat giliran jauh pertama.
Curl senarai model dan satu chat completion dahulu; dengan kedua-duanya lulus, segala yang tinggal ada dalam entri penyedia. Ini juga memberi anda ejaan id tepat untuk diisytiharkan. Dalam Jan, hantar satu mesej pendek pada id jauh pantas. Ralat pengesahan adalah kunci; not-found adalah id; kesenyapan atau 404 adalah bentuk Base URL. Jika lorong jauh berfungsi tetapi terasa perlahan pada id frontier, itu adalah latensi model, bukan masalah konfigurasi; model penaakulan mengambil masa mereka pada giliran panjang. Sebaik sahaja giliran jauh mengalir, konsol APIsRouter menunjukkan model per permintaan, kiraan token, dan perbelanjaan. Bagi pengguna local-first log ini adalah bacaan yang luar biasa memuaskan: ia adalah rekod lengkap segala yang pernah meninggalkan mesin, per model, per hari, dengan lorong tempatan menyumbang tepat tiada apa kepadanya.
curl -s https://api.apisrouter.com/v1/chat/completions \
-H "Authorization: Bearer $APISROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"gpt-5.4-mini",
"messages":[{"role":"user","content":"ping"}]}'Soalan lazim
Bagaimana saya menambah penyedia serasi OpenAI custom ke Jan?
Settings, Model Providers, kemudian kawalan tambah untuk menambah penyedia. Namakannya, pilih format OpenAI API pada binaan yang bertanya (v0.8.1+), tetapkan Base URL https://api.apisrouter.com/v1, tampal kunci anda, dan isytiharkan id model yang sepadan dengan senarai endpoint.
Mengapa model yang saya isytiharkan mengembalikan not-found?
Jan menghantar id yang diisytiharkan secara verbatim sebagai rentetan model, dan dokumentasinya memerlukan id sepadan tepat dengan nama model endpoint. Tarik senarai /v1/models dan salin ejaan, termasuk akhiran versi, dan bukan menaip id daripada ingatan.
Adakah menambah penyedia jauh menukar cara model tempatan berfungsi?
Tidak. Model tempatan terus berjalan on-device melalui llama.cpp, termasuk offline. Entri penyedia menambah lorong jauh berasingan ke pemilih, dan perbualan hanya menyentuh rangkaian apabila anda memilih id jauh.
Patutkah Base URL merangkumi /v1?
Ya: https://api.apisrouter.com/v1. Jan melampirkan route seperti /chat/completions kepada base yang anda konfigurasikan, jadi /v1 yang hilang menyebabkan 404 dan yang tergandakan turut begitu. Jika permintaan gagal, baca URL yang disusun dalam ralat sebelum menukar apa-apa lagi.
Bolehkah Jan mencapai Claude dan Gemini melalui satu entri penyedia?
Ya. Dalam format OpenAI id model bergerak sebagai rentetan biasa, jadi claude-sonnet-4-6, gemini-3.5-flash, gpt-5.4-mini, dan deepseek-v4-flash semuanya boleh diisytiharkan di bawah satu entri, dibilkan melalui satu kunci, dan ditukar per perbualan.
Adakah ini sama dengan pelayan API tempatan Jan?
Tidak. Pelayan tempatan di 127.0.0.1:1337/v1 ialah Jan melayani model tempatannya kepada alat lain. Entri penyedia custom ialah Jan menggunakan endpoint jauh. Kedua-duanya adalah ciri bebas yang kebetulan berkongsi format wire OpenAI.