FastGPT apps کو custom OpenAI-compatible base URL پر چلائیں۔

فوری جواب: Model Providers page پر ایک channel۔

v4.8.23 کے بعد سے، FastGPT اپنی خود کی model-aggregation layer (AI Proxy) اور ایک model-configuration UI ساتھ لاتا ہے، تو custom endpoint کے لیے اب الگ OneAPI deployment یا ہاتھ سے edit کی گئی config.json کی ضرورت نہیں۔ Account کھولیں، پھر Model Providers، Model Channels tab پر switch کریں، اور Add Channel پر کلک کریں۔ protocol type کو OpenAI پر سیٹ کریں، channel کا نام دیں، proxy address field میں https://api.apisrouter.com/v1 ڈالیں (base URL، مکمل request path نہیں)، اپنی key paste کریں، اور وہ model ids select یا type کریں جو channel کو serve کرنی چاہئیں۔ Models tab پر واپس، جو ids آپ نے شامل کیں انہیں enable کریں اور built-in connectivity test چلائیں۔ اس کے بعد، FastGPT کی ہر app، knowledge base، اور workflow node انہی models کو select کر سکتی ہے۔ docs bilingual ہیں اور labels releases کے درمیان بدلتے رہتے ہیں (doc.fastgpt.io انگریزی entry ہے)، تو flow، channel، protocol، base URL، key، models کو exact wording کی بجائے stable حصہ سمجھیں۔

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

FastGPT model traffic کیسے route کرتا ہے۔

FastGPT (GitHub پر labring، تقریباً 29K stars) ایک چینی نژاد knowledge-base اور workflow platform ہے: QA extraction اور vector search والے datasets، visual Flow orchestration، اور sharing اور API access والی published apps۔ یہ سب configuration layer میں registered models پر resolve ہوتا ہے۔ ایک channel ایک routing rule ہے: یہ model ids، یہ base URL، یہ key۔ Requests FastGPT سے standard chat completions کے طور پر نکلتی ہیں، model id plain string کے طور پر، یہی وجہ ہے کہ ایک multi-vendor gateway ایک ہی channel کے طور پر fit ہو جاتا ہے۔ Channel layer وہ operational features بھی رکھتی ہے جو آپ ورنہ خود بناتے: ایک model load balancing کے لیے کئی channels میں رہ سکتی ہے، اور model mapping FastGPT کو ایک نام expose کرنے دیتی ہے جبکہ provider کو مختلف id string بھیجتی ہے۔ پرانے versions پر self-hosters کے لیے، direct wiring اب بھی موجود ہے: FastGPT کا classic environment pair platform کو کسی بھی OpenAI-compatible base پر point کرتا ہے، docker-compose environment میں OPENAI_BASE_URL اور CHAT_API_KEY، اور config.json میں llmModels کے تحت declared models۔ یہ کام کرتا ہے، مگر project UI path کی طرف منتقل ہو چکا ہے، اور نئی deployments کو وہیں سے شروع کرنا چاہیے۔

ایشیا والا زاویہ: دونوں model دنیاؤں کے لیے ایک balance۔

FastGPT کا user base بہت حد تک چینی بولنے والا ہے، اور اس کی معمول کی deployment regional models کو western models کے ساتھ ملاتی ہے: چینی knowledge bases کے لیے GLM یا Qwen، volume کے لیے DeepSeek، جہاں جواب کی polish اصل product ہو وہاں Claude یا GPT۔ براہ راست serve کیا جائے تو، اس mix کا مطلب ہے Zhipu، Alibaba، DeepSeek، Anthropic، اور OpenAI پر accounts، ہر ایک کی اپنی billing، کچھ دنیا کے ایک یا دوسرے سرے سے pay کرنا مشکل۔ ایک channel کے ذریعے، وہ mix صرف ایک model list ہے: glm-5.2، qwen3.7-plus، kimi-k2.6، deepseek-v4-flash، اور claude-haiku-4-5-20251001 ساتھ ساتھ، ایک prepaid balance، کارڈ کی شرط نہیں، ids سیدھی کیٹلاگ سے۔ ایشیا میں teams کو مغربی کارڈ کے بغیر Claude اور GPT ملتے ہیں؛ مغربی teams کو regional sign-ups کے بغیر چینی models ملتے ہیں۔ ایک ہی knowledge base GLM پر چینی سوالات اور Claude پر انگریزی سوالات کا جواب دے سکتی ہے، فی app routed۔ اگر آپ اس کی بجائے legacy environment wiring چلاتے ہیں، تو وہی endpoint براہ راست fit ہو جاتا ہے؛ base URL convention میں /v1 suffix شامل ہے، اور FastGPT اس میں /chat/completions جیسے route paths خود append کرتا ہے۔

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Knowledge bases اور flows کے لیے models چننا۔

چونکہ ہر enabled id ایک ہی key کے ذریعے bill ہوتی ہے، models compare کرنا ایک node-setting change ہے۔ ایک ہی app کی دو copies میں دو candidates pin کریں، حقیقی سوالات کا ایک ہفتہ چلائیں، اور APIsRouter console میں per-model split کو جوابات کی quality پر اپنے judgment کے ساتھ پڑھیں۔

• retrieved chunks پر dataset QA اور answer generation volume والا کام ہے: deepseek-v4-flash اور glm-5.2 bilingual corpora پر فی-سوال cost کو flat رکھتے ہیں۔
• qwen3.7-plus اور kimi-k2.6 regional picks ہیں جو ٹیسٹ کرنے کے قابل ہیں جب جوابات کو native چینی میں پڑھنا ضروری ہو؛ generation quality چینی models میں retrieval سے کہیں زیادہ مختلف ہوتی ہے۔
• claude-haiku-4-5-20251001 mixed-language deployments کے لیے تیز مغربی tier ہے؛ صرف انہی apps میں claude-sonnet-4-6 پر step up کریں جہاں synthesis quality اصل product ہو۔
• Workflow nodes فی run فائر ہوتی ہیں، تو ایک five-node flow ہر node میں موجود id کو ضرب دیتا ہے؛ تیز ids کو classification اور routing nodes میں رکھیں، اور answer node پر خرچ کریں۔
• Index اور extraction models chat models سے الگ configure ہوتی ہیں؛ index دوبارہ بنانے سے پہلے تصدیق کریں کہ endpoint وہ embedding id serve کرتا ہے جسے آپ bind کر رہے ہیں۔

استعمال کے مطابق ادائیگی · سرکاری قیمت سے کم

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

FastGPT سے مخصوص failure modes۔

Base URL convention دوسرے tools سے آنے والوں کو الجھا دیتا ہے: FastGPT proxy field میں /v1-suffixed base چاہتا ہے اور خود /chat/completions append کرتا ہے، جبکہ اس کا custom-model form (ایک الگ feature، جو channels کو bypass کرنے والے one-off models کے لیے ہے) مکمل request URL چاہتا ہے جس میں /v1/chat/completions شامل ہو۔ paste کرنے سے پہلے جان لیں کہ آپ کس field میں ہیں۔ جو model channel میں موجود ہے مگر apps میں selectable نہیں اس کا مطلب ہے وہ channel میں شامل تو ہوئی مگر configuration کے models والے حصے میں enable نہیں کی گئی؛ دونوں lists الگ ہیں، اور connectivity test صرف channel ثابت کرتا ہے۔ پرانے tutorials سب سے بڑا خطرہ ہیں۔ سالوں کے FastGPT guides ایک OneAPI sidecar اور config.json edits فرض کرتے ہیں؛ موجودہ versions پر Model Providers UI دونوں کی جگہ لے چکا ہے، اور دونوں approaches ملانا (env wiring اور channels ایک ساتھ) requests کو ایسی جگہ route کرتا ہے جہاں آپ نہیں دیکھ رہے۔ ایک layer چنیں اور اسے مکمل configure کریں۔ Model-not-found errors عام free-text مسئلہ ہیں: channel میں id gateway کی /v1/models spelling سے بالکل میچ ہونی چاہیے، version suffixes سمیت۔ Copy کریں، type نہ کریں۔

FastGPT کو gateway کے ذریعے کون route کرتا ہے۔

• وہ bilingual teams جو ایک deployment، ایک balance، ایک usage log میں GLM، Qwen، Kimi، اور DeepSeek کو Claude اور GPT ids کے ساتھ ملاتی ہیں۔
• وہ teams جو ایشیا میں ہیں اور مغربی کارڈ کے بغیر prepaid balance پر مغربی frontier models چاہتی ہیں، اور وہ مغربی teams جو regional billing کے بغیر چینی models چاہتی ہیں۔
• وہ self-hosters جو OneAPI sidecar کی جگہ لیتے ہیں: gateway multi-vendor حصہ serve کرتا ہے، FastGPT کے built-in channels routing حصہ serve کرتے ہیں۔
• وہ agencies جو FastGPT پر client knowledge bases چلاتی ہیں، ہر client کو اس کی اپنی key کے ساتھ meter کرتی ہیں تاکہ model spend فی project خود report ہو۔
• وہ builders جو fixed corpora پر answer models compare کرتے ہیں، جہاں ہر candidate vendor account کی بجائے ایک channel entry ہے۔

Endpoint verify کریں اور پہلا سوال debug کریں۔

پہلے models listing curl کریں اور output سے ids کو channel میں copy کریں؛ پھر اس id کے خلاف جسے آپ default بنانے کا ارادہ رکھتے ہیں ایک chat completion چلائیں۔ اگر دونوں pass ہوں تو gateway کا آدھا حصہ ثابت ہو جاتا ہے۔ FastGPT کے اندر، channel connectivity test استعمال کریں، پھر datasets شامل کرنے سے پہلے کسی minimal app میں ایک سوال پوچھیں۔ Authentication errors channel key کی طرف اشارہ کرتی ہیں؛ not-found کا مطلب id کی spelling ہے؛ connection errors proxy URL یا container egress کی طرف اشارہ کرتی ہیں، کیونکہ endpoint تک پہنچنے والا FastGPT server ہے۔ اگر ایک dataset app فیل ہو جہاں plain chat app کام کرے، تو مسئلہ dataset کی اپنی model bindings میں ہے، channel میں نہیں۔ جب سوالات چلنے لگیں، APIsRouter console per-request model، token counts، اور spend دکھاتا ہے۔ Knowledge-base traffic بہت سی چھوٹی، input-heavy requests پر مشتمل ہے، اور per-key usage view وہی جگہ ہے جہاں ایک deployment کا حقیقی cost profile نظر آتا ہے، فی model، فی دن، چینی اور مغربی ids ایک ہی page پر۔

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

عمومی سوالات