اپ‌های FastGPT را روی یک base URL سفارشی سازگار با OpenAI اجرا کنید.

پاسخ سریع: یک channel در صفحه Model Providers.

از نسخه v4.8.23 به بعد، FastGPT لایه aggregation مدل خود (AI Proxy) و یک UI پیکربندی مدل عرضه می‌کند، پس یک endpoint سفارشی دیگر یک deployment جداگانه OneAPI یا ویرایش دستی config.json را الزامی نمی‌کند. Account، سپس Model Providers را باز کنید، به تب Model Channels سوییچ کنید، و روی Add Channel کلیک کنید. نوع پروتکل را روی OpenAI تنظیم کنید، channel را نام‌گذاری کنید، https://api.apisrouter.com/v1 را در فیلد آدرس proxy بگذارید (base URL، نه مسیر کامل درخواست)، کلید خود را بچسبانید، و id های مدلی که channel باید سرویس دهد را انتخاب یا تایپ کنید. برگشتید به تب مدل‌ها، id هایی که اضافه کرده‌اید را فعال کنید و تست connectivity داخلی را اجرا کنید. از آن به بعد، هر اپ، knowledge base، و گره workflow در FastGPT می‌تواند آن مدل‌ها را انتخاب کند. مستندات دوزبانه‌اند و برچسب‌ها بین release ها جابه‌جا می‌شوند (doc.fastgpt.io ورودی انگلیسی است)، پس flow، channel، پروتکل، base URL، کلید، مدل‌ها را بخشی پایدار در نظر بگیرید نه عبارت دقیق.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

FastGPT چطور ترافیک مدل را مسیردهی می‌کند.

FastGPT (labring در GitHub، حدود ۲۹ هزار ستاره) یک پلتفرم knowledge-base و workflow با منشأ چینی است: dataset هایی با استخراج QA و جستجوی vector، orchestration تصویری Flow، و اپ‌های منتشرشده با اشتراک‌گذاری و دسترسی API. همه آن به مدل‌های ثبت‌شده در لایه پیکربندی resolve می‌شود. یک channel یک قانون مسیردهی است: این id های مدل، این base URL، این کلید. درخواست‌ها از FastGPT به‌عنوان chat completions استاندارد با id مدل به‌عنوان رشته ساده خارج می‌شوند، به همین دلیل یک gateway چند-vendor به‌عنوان یک channel تکی جا می‌گیرد. لایه channel همچنین ویژگی‌های عملیاتی حمل می‌کند که در غیر این‌صورت باید خودتان می‌ساختید: یک مدل می‌تواند در چند channel برای load balancing زندگی کند، و model mapping اجازه می‌دهد FastGPT یک نام را نمایش دهد در حالی که یک رشته id متفاوت به provider می‌فرستد. برای self-hoster های روی نسخه‌های قدیمی‌تر، سیم‌کشی مستقیم هنوز وجود دارد: جفت محیط کلاسیک FastGPT پلتفرم را به هر base سازگار با OpenAI اشاره می‌دهد، OPENAI_BASE_URL و CHAT_API_KEY در محیط docker-compose، با مدل‌های اعلام‌شده در config.json زیر llmModels. کار می‌کند، اما مسیر UI جایی است که پروژه به آن نقل مکان کرده، و deployment های جدید باید از آنجا شروع کنند.

زاویه آسیا: یک موجودی برای هر دو دنیای مدل.

پایگاه کاربری FastGPT شدیداً چینی‌زبان است، و deployment معمول آن مدل‌های منطقه‌ای را با مدل‌های غربی ترکیب می‌کند: GLM یا Qwen برای knowledge base های چینی، DeepSeek برای حجم، Claude یا GPT جایی که صیقل پاسخ محصول است. اگر مستقیم سرویس‌دهی شود، آن ترکیب یعنی حساب‌هایی نزد Zhipu، Alibaba، DeepSeek، Anthropic، و OpenAI، هرکدام با صورت‌حساب خودش، برخی سخت برای پرداخت از یک طرف دنیا یا طرف دیگر. از طریق یک channel، آن ترکیب یک فهرست مدل است: glm-5.2، qwen3.7-plus، kimi-k2.6، deepseek-v4-flash، و claude-haiku-4-5-20251001 کنار هم، یک موجودی پیش‌پرداخت، بدون الزام کارت، id مستقیم از کاتالوگ. تیم‌های آسیا Claude و GPT را بدون کارت غربی می‌گیرند؛ تیم‌های غربی مدل‌های چینی را بدون ثبت‌نام منطقه‌ای می‌گیرند. همان knowledge base می‌تواند query های چینی را روی GLM و query های انگلیسی را روی Claude پاسخ دهد، مسیردهی‌شده به ازای هر اپ. اگر به‌جای آن سیم‌کشی محیط قدیمی را اجرا می‌کنید، همان endpoint مستقیم جا می‌گیرد؛ قرارداد base URL شامل پسوند /v1 است، و FastGPT مسیرهایی مثل /chat/completions را به آن اضافه می‌کند.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

انتخاب مدل‌ها برای knowledge base ها و flow ها.

چون هر id فعال‌شده از طریق یک کلید صورت‌حساب می‌شود، مقایسه مدل‌ها یک تغییر تنظیمات گره است. دو کاندید را در دو کپی از همان اپ pin کنید، یک هفته سؤالات واقعی را اجرا کنید، و تقسیم هر-مدل را در کنسول APIsRouter کنار خواندن خودتان از کیفیت پاسخ بخوانید.

• QA دیتاست و تولید پاسخ روی chunk های بازیابی‌شده کار حجمی است: deepseek-v4-flash و glm-5.2 هزینه هر-سؤال را روی corpus های دوزبانه ثابت نگه می‌دارند.
• qwen3.7-plus و kimi-k2.6 انتخاب‌های منطقه‌ای‌اند که وقتی پاسخ‌ها باید به‌طور بومی چینی خوانده شوند ارزش تست‌کردن دارند؛ کیفیت تولید بین مدل‌های چینی بیش از retrieval تغییر می‌کند.
• claude-haiku-4-5-20251001 tier سریع غربی برای deployment های چندزبانه است؛ در اپ‌های خاصی که کیفیت synthesis محصول است به claude-sonnet-4-6 ارتقا دهید.
• گره‌های workflow به ازای هر اجرا شلیک می‌شوند، پس یک flow پنج‌گره‌ای هر id ای که در هر گره می‌نشیند را ضرب می‌کند؛ id های سریع را در گره‌های طبقه‌بندی و مسیریابی بگذارید، و روی گره پاسخ خرج کنید.
• مدل‌های index و استخراج جدا از مدل‌های چت پیکربندی می‌شوند؛ قبل از بازسازی یک index حول آن تأیید کنید endpoint هر id embedding ای که پیوند می‌دهید را سرویس می‌دهد.

پرداخت بر اساس مصرف · پایین‌تر از قیمت رسمی

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

حالت‌های شکست مختص FastGPT.

قرارداد base URL افرادی که از ابزارهای دیگر می‌آیند را گیر می‌اندازد: FastGPT انتظار دارد base دارای پسوند /v1 در فیلد proxy باشد و خودش /chat/completions را اضافه می‌کند، در حالی که فرم مدل سفارشی آن (یک feature متفاوت، برای مدل‌های یک‌باره‌ای که از channel ها عبور می‌کنند) URL کامل درخواست شامل /v1/chat/completions را می‌خواهد. قبل از چسباندن بدانید در کدام فیلد هستید. مدلی که در channel وجود دارد اما در اپ‌ها قابل‌انتخاب نیست یعنی به channel اضافه شده اما در سمت مدل‌های پیکربندی فعال نشده؛ دو فهرست جدا هستند، و تست connectivity فقط channel را اثبات می‌کند. آموزش‌های قدیمی بزرگ‌ترین خطر هستند. سال‌ها راهنمای FastGPT یک sidecar OneAPI و ویرایش‌های config.json را فرض می‌کنند؛ روی نسخه‌های فعلی UI Model Providers جای هر دو را می‌گیرد، و ترکیب دو رویکرد (سیم‌کشی محیط به‌علاوه channel ها) درخواست‌ها را به جایی مسیردهی می‌کند که شما نگاه نمی‌کنید. یک لایه را انتخاب کنید و آن را کامل پیکربندی کنید. خطاهای model-not-found همان مشکل معمول متن-آزاد هستند: id در channel باید دقیقاً با املای /v1/models گیت‌وی مطابقت داشته باشد، شامل پسوندهای نسخه. کپی کنید، تایپ نکنید.

چه کسانی FastGPT را از طریق یک gateway مسیردهی می‌کنند.

• تیم‌های دوزبانه که GLM، Qwen، Kimi، و DeepSeek را با id های Claude و GPT در یک deployment، یک موجودی، یک usage log ترکیب می‌کنند.
• تیم‌های آسیا که مدل‌های frontier غربی را روی یک موجودی پیش‌پرداخت بدون کارت غربی می‌خواهند، و تیم‌های غربی که مدل‌های چینی را بدون صورت‌حساب منطقه‌ای می‌خواهند.
• self-hoster هایی که یک sidecar OneAPI را جایگزین می‌کنند: gateway بخش چند-vendor را سرویس می‌دهد، channel های داخلی FastGPT بخش مسیردهی را سرویس می‌دهند.
• آژانس‌هایی که knowledge base های مشتری را روی FastGPT اجرا می‌کنند، هر مشتری را با کلید خودش اندازه‌گیری می‌کنند تا هزینه مدل به ازای هر پروژه خودش را گزارش کند.
• سازندگانی که مدل‌های پاسخ را روی corpus های ثابت مقایسه می‌کنند، جایی که هر کاندید یک entry channel است نه یک حساب vendor.

endpoint را تأیید کنید و اولین سؤال را عیب‌یابی کنید.

ابتدا فهرست مدل‌ها را curl کنید و id ها را از خروجی به channel کپی کنید؛ سپس یک chat completion را در برابر id ای که قصد دارید پیش‌فرض کنید اجرا کنید. اگر هر دو موفق شوند، نیمه gateway اثبات شده است. داخل FastGPT، از تست connectivity channel استفاده کنید، سپس یک سؤال در یک اپ حداقلی بپرسید قبل از درگیرکردن dataset ها. خطاهای authentication به کلید channel اشاره دارند؛ not-found به املای id؛ خطاهای اتصال به URL proxy یا egress کانتینر، چون این سرور FastGPT است که باید به endpoint برسد. اگر یک اپ dataset شکست بخورد جایی که یک اپ چت ساده کار می‌کند، مشکل در binding مدل خود dataset است، نه channel. وقتی سؤالات جاری شوند، کنسول APIsRouter مدل، شمارش token، و هزینه هر-درخواست را نشان می‌دهد. ترافیک knowledge-base بسیاری درخواست کوچک و ورودی-سنگین است، و نمای usage هر-کلید جایی است که پروفایل هزینه واقعی یک deployment نمایان می‌شود، به ازای هر مدل، هر روز، id های چینی و غربی روی یک صفحه.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

پرسش‌های پرتکرار