Patakbuhin ang mga Fast GPT app sa isang custom OpenAI-compatible base URL.

Mabilisang sagot: isang channel sa Model Providers page.

Simula v4.8.23, nagdadala na ang FastGPT ng sarili nitong model-aggregation layer (AI Proxy) at model-configuration UI, kaya't hindi na kailangan ng isang custom endpoint ng hiwalay na OneAPI deployment o hand-edited na config.json. Buksan ang Account, pagkatapos ay Model Providers, lumipat sa Model Channels tab, at i-click ang Add Channel. Itakda ang protocol type sa OpenAI, pangalanan ang channel, ilagay ang https://api.apisrouter.com/v1 sa proxy address field (ang base URL, hindi ang buong request path), i-paste ang key mo, at piliin o i-type ang mga model id na dapat sakupin ng channel. Pabalik sa models tab, i-enable ang mga id na idinagdag mo at patakbuhin ang built-in na connectivity test. Mula noon, bawat FastGPT app, knowledge base, at workflow node ay maaaring pumili sa mga model na iyon. Bilingual ang docs at nagbabago ang mga label sa pagitan ng mga release (doc.fastgpt.io ang English entry), kaya ituring ang flow, channel, protocol, base URL, key, models, bilang ang matatag na bahagi kaysa sa eksaktong pananalita.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

Paano niruruta ng FastGPT ang traffic ng model.

Ang FastGPT (labring sa GitHub, humigit-kumulang 29K stars) ay isang knowledge-base at workflow platform na Chinese ang pinagmulan: mga dataset na may QA extraction at vector search, visual na Flow orchestration, at mga nai-publish na app na may sharing at API access. Lahat ng ito ay nire-resolve sa mga model na naka-register sa configuration layer. Ang channel ay isang routing rule: itong mga model id, itong base URL, itong key. Umaalis ang mga request bilang standard chat completions mula sa FastGPT gamit ang model id bilang plain string, kaya sadyang isang channel lamang ang kailangan ng isang multi-vendor gateway. Nagdadala rin ang channel layer ng mga operational feature na kung hindi ay gagawin mo mismo: maaaring manahan ang isang model sa ilang channel para sa load balancing, at pinapayagan ng model mapping na maglantad ang FastGPT ng isang pangalan habang nagpapadala ng ibang id string sa provider. Para sa mga self-hoster sa mas lumang bersyon, umiiral pa rin ang direktang koneksyon: itinuturo ng classic na environment pair ng FastGPT ang platform sa anumang OpenAI-compatible na base, OPENAI_BASE_URL at CHAT_API_KEY sa docker-compose environment, na may mga model na deklarado sa config.json sa ilalim ng llmModels. Gumagana ito, pero doon na lumipat ang project, at dapat magsimula roon ang mga bagong deployment.

Ang Asia angle: isang balance para sa dalawang mundo ng model.

Malaki ang bahagi ng Chinese-speaking na user base ng FastGPT, at ang karaniwang deployment nito ay pinaghahalo ang regional at Western na mga model: GLM o Qwen para sa Chinese na knowledge bases, DeepSeek para sa volume, Claude o GPT kung saan ang pagkintab ng sagot ang produkto. Kapag direktang si-serve, nangangahulugan ang pinaghalong ito ng mga account sa Zhipu, Alibaba, DeepSeek, Anthropic, at OpenAI, bawat isa may sariling billing, ang iba mahirap bayaran mula sa isang panig ng mundo o sa kabila. Sa pamamagitan ng isang channel, ang pinaghalong ito ay isa na lamang model list: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash, at claude-haiku-4-5-20251001 nang magkatabi, isang prepaid na balance, walang kailangang card, ids mula mismo sa katalogo. Nakukuha ng mga team sa Asia ang Claude at GPT nang walang Western card; nakukuha naman ng mga team sa Kanluran ang mga Chinese model nang walang regional na sign-up. Ang parehong knowledge base ay maaaring sumagot ng mga tanong sa Chinese gamit ang GLM at mga tanong sa English gamit ang Claude, na iniruruta per app. Kung pinapatakbo mo ang legacy na environment wiring, direktang naikakabit din ang parehong endpoint; kasama ang /v1 suffix sa convention ng base URL, at ini-append ng FastGPT ang mga route path tulad ng /chat/completions dito.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Pagpili ng mga model para sa knowledge bases at flows.

Dahil bini-bill ang bawat na-enable na id sa isang key, ang paghahambing ng model ay isang pagbabago sa node setting. I-pin ang dalawang kandidato sa dalawang kopya ng parehong app, patakbuhin nang isang linggo ng tunay na mga tanong, at basahin ang per-model split sa APIsRouter console sa tabi ng sarili mong pagbasa sa kalidad ng sagot.

• Volume ang trabaho ng dataset QA at answer generation sa ibabaw ng retrieved chunks: pinapanatili ng deepseek-v4-flash at glm-5.2 na patag ang gastos per tanong sa mga bilingual na corpora.
• Ang qwen3.7-plus at kimi-k2.6 ang regional na pili na karapat-dapat subukan kapag dapat mabasa nang natural sa Chinese ang mga sagot; mas malaki ang pagkakaiba ng generation quality sa mga Chinese model kaysa sa retrieval.
• Ang claude-haiku-4-5-20251001 ang mabilis na Western tier para sa mixed-language na deployment; umakyat sa claude-sonnet-4-6 sa mga partikular na app kung saan ang kalidad ng synthesis ang produkto.
• Nagpapaputok ang workflow nodes per run, kaya pinaparami ng isang five-node na flow anumang id na nasa bawat node; ilagay ang mabilis na id sa classification at routing nodes, at gastusin sa answer node.
• Hiwalay na na-configure ang index at extraction models mula sa chat models; kumpirmahin munang si-serve ng endpoint ang anumang embedding id na ikinakabit mo bago muling gawin ang isang index sa paligid nito.

Pay-as-you-go · mas mababa sa opisyal na presyo

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Mga failure mode na specific sa FastGPT.

Natitisod ang mga taong lumilipat mula sa ibang tools sa convention ng base URL. Inaasahan ng FastGPT ang /v1-suffixed na base sa proxy field at ini-append mismo ang /chat/completions, habang ang custom-model form nito (ibang feature, para sa one-off na mga model na lumalagpas sa channels) ay gusto ang buong request URL kasama ang /v1/chat/completions. Alamin kung saang field ka bago mag-paste. Ang isang model na umiiral sa channel pero hindi mapili sa mga app ay nangangahulugang naidagdag ito sa channel pero hindi na-enable sa panig ng models ng configuration; hiwalay ang dalawang listahan, at pinapatunayan lamang ng connectivity test ang channel. Ang pinakamalaking panganib ay ang mga lumang tutorial. Ipinagpapalagay ng mga gabay sa FastGPT sa nakaraang mga taon ang isang OneAPI sidecar at pag-edit ng config.json; sa kasalukuyang bersyon, pinapalitan ng Model Providers UI ang dalawa, at ang paghahalo ng dalawang approach (env wiring kasama ang channels) ay nagpapaikot ng mga request sa lugar na hindi mo tinitingnan. Piliin ang isang layer at i-configure ito nang buo. Ang mga model-not-found na error ay ang karaniwang problema sa free text: dapat tumugma nang eksakto ang id sa channel sa baybay ng /v1/models ng gateway, kasama ang version suffixes. Kopyahin, huwag i-type.

Sino ang nagru-route ng FastGPT sa pamamagitan ng isang gateway.

• Mga bilingual na team na pinaghahalo ang GLM, Qwen, Kimi, at DeepSeek sa mga id ng Claude at GPT sa isang deployment, isang balance, isang usage log.
• Mga team sa Asia na gustong makuha ang mga Western na frontier model sa isang prepaid na balance nang walang Western card, at mga Western na team na gustong makuha ang mga Chinese model nang walang regional na billing.
• Mga self-hoster na pumapalit sa isang OneAPI sidecar: ang gateway ang naglilingkod sa multi-vendor na bahagi, at ang built-in na channels ng FastGPT ang naglilingkod sa bahagi ng routing.
• Mga ahensiyang nagpapatakbo ng client knowledge bases sa FastGPT, sinusukat ang bawat client gamit ang sariling key para ang gastos sa model ay nag-uulat sa sarili per project.
• Mga builder na naghahambing ng answer models sa fixed na corpora, kung saan ang bawat kandidato ay isang channel entry sa halip na vendor account.

I-verify ang endpoint at i-debug ang unang tanong.

I-curl muna ang models listing at kopyahin ang mga id mula sa output patungo sa channel; pagkatapos ay patakbuhin ang isang chat completion laban sa id na balak mong gawing default. Kung parehong pumasa, napatunayan ang kalahati ng gateway. Sa loob ng FastGPT, gamitin ang channel connectivity test, pagkatapos ay magtanong ng isang tanong sa isang minimal na app bago isali ang mga dataset. Ang mga authentication error ay tumuturo sa channel key; ang not-found sa baybay ng id; ang mga connection error sa proxy URL o container egress, dahil ang FastGPT server, hindi ang container, ang dapat makaabot sa endpoint. Kung nabibigo ang isang dataset app kung saan gumagana ang isang plain chat app, nasa sariling model bindings ng dataset ang problema, hindi sa channel. Kapag dumadaloy na ang mga tanong, ipinapakita ng APIsRouter console ang per-request na model, token counts, at gastos. Maraming maliit, input-heavy na request ang traffic ng knowledge base, at ang per-key usage view ang lugar kung saan lumilitaw ang tunay na cost profile ng isang deployment, per model, per araw, magkasamang Chinese at Western na ids sa isang pahina.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Mga madalas itanong