FastGPT のアプリを、カスタムの OpenAI 互換 base URL で動かす。

早わかり: Model Providers ページにチャンネルを1つ。

v4.8.23 以降、FastGPT は独自のモデル集約層(AI Proxy)とモデル設定 UI を標準搭載しているため、カスタムエンドポイントに別途 OneAPI のデプロイや config.json の手編集はもう必要ありません。Account を開き、Model Providers に進み、Model Channels タブに切り替えて Add Channel をクリックします。protocol type を OpenAI に設定し、チャンネルに名前を付け、proxy address フィールド(完全なリクエストパスではなくベース URL)に https://api.apisrouter.com/v1 を入力し、キーを貼り付け、そのチャンネルが提供すべきモデル id を選択または入力します。 models タブに戻り、追加した id を有効化し、標準搭載の接続テストを実行してください。それ以降、すべての FastGPT アプリ・ナレッジベース・ワークフローノードが、それらのモデルを選択できるようになります。ドキュメントはバイリンガルで、リリースごとにラベルが変わります(doc.fastgpt.io が英語版の入口です)。そのため、正確な文言ではなく、チャンネル・プロトコル・base URL・キー・モデルという流れの方を安定した部分として扱ってください。

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

FastGPT がモデルのトラフィックをどうルーティングするか。

FastGPT(GitHub 上では labring、スター数はおよそ29K)は、中国発のナレッジベース・ワークフロープラットフォームです。QA 抽出とベクトル検索を備えたデータセット、ビジュアルな Flow オーケストレーション、共有と API アクセスを備えた公開アプリを持ちます。そのすべてが、設定層に登録されたモデルへと解決されます。 チャンネルとはルーティングルールです。これらのモデル id、この base URL、このキー、という形です。リクエストは model id をプレーンな文字列として、標準的なチャット補完として FastGPT から出ていきます。だからこそ、マルチベンダーのゲートウェイが1つのチャンネルとして収まるのです。チャンネル層は、本来自分で構築する必要がある運用機能も担います。1つのモデルを複数のチャンネルに置いて負荷分散したり、model mapping によって FastGPT が1つの名前を見せつつ、プロバイダーには別の id 文字列を送ったりできます。 古いバージョンのセルフホスターには、直接的な配線もまだ存在します。FastGPT の古典的な環境変数のペア、docker-compose の environment にある OPENAI_BASE_URL と CHAT_API_KEY を使って、プラットフォームを任意の OpenAI 互換ベースに向け、モデルは config.json の llmModels の下で宣言します。これは動作しますが、プロジェクトが移行した先は UI 経由の方法であり、新規デプロイはそちらから始めるべきです。

アジアという切り口: 2つのモデル世界を1つの残高で。

FastGPT のユーザー基盤は中国語話者が多くを占め、典型的なデプロイは、地域のモデルと西側のモデルを混在させます。中国語のナレッジベースには GLM や Qwen、ボリューム作業には DeepSeek、回答の洗練さが求められる場面では Claude や GPT、という具合です。直接利用すると、この組み合わせは Zhipu・Alibaba・DeepSeek・Anthropic・OpenAI にそれぞれアカウントを持つことを意味し、それぞれ独自の請求があり、世界のどちらか一方の側からは支払いにくいものもあります。 1つのチャンネルを通せば、この組み合わせはただのモデルリストになります。glm-5.2、qwen3.7-plus、kimi-k2.6、deepseek-v4-flash、claude-haiku-4-5-20251001 が並び立ち、前払い残高は1つ、カードは不要、id はそのままカタログからです。アジアのチームは西側のカードなしで Claude と GPT に届き、西側のチームは地域ごとのサインアップなしで中国のモデルに届きます。同じナレッジベースが、中国語のクエリには GLM で、英語のクエリには Claude で答え、アプリごとにルーティングできます。 代わりにレガシーな環境変数の配線を使う場合も、同じエンドポイントがそのまま差し込めます。base URL の慣習には /v1 サフィックスが含まれ、FastGPT はそこに /chat/completions のようなルートパスを付け足します。

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

ナレッジベースとフロー向けのモデル選び。

有効化したすべての id が1つのキーで課金されるため、モデルの比較はノード設定の変更で済みます。同じアプリを2つ複製して2つの候補を固定し、1週間実際の質問を走らせ、APIsRouter コンソールのモデルごとの内訳を、回答品質に対する自分自身の判断と並べて読んでください。

• データセットの QA と、検索済みチャンクに基づく回答生成はボリューム作業です。deepseek-v4-flash と glm-5.2 は、バイリンガルなコーパスで質問あたりのコストを一定に保ちます。
• qwen3.7-plus と kimi-k2.6 は、回答がネイティブな中国語として読める必要がある場面で試す価値がある地域の選択肢です。中国語モデル間の品質差は、検索よりも生成の方で大きく現れます。
• claude-haiku-4-5-20251001 は、多言語混在のデプロイ向けの速い西側ティアです。統合の質そのものが製品価値になる特定のアプリでは claude-sonnet-4-6 に格上げしてください。
• ワークフローノードは実行のたびに発火するため、5ノードのフローは各ノードに置いた id をそのまま倍加させます。分類とルーティングのノードには速い id を、支出は回答ノードに割り当ててください。
• インデックスと抽出のモデルは、チャットモデルとは別に設定されます。インデックスをそれ中心に再構築する前に、バインドするエンベディング id をエンドポイントが実際に提供しているか確認してください。

従量課金 · 公式価格より安い

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

FastGPT に特有の失敗パターン。

base URL の慣習は、他のツールから乗り換えてきた人がよくつまずくポイントです。FastGPT は proxy フィールドに /v1 サフィックス付きのベースを期待し、自身で /chat/completions を付け足しますが、カスタムモデルフォーム(チャンネルを経由しない単発モデル向けの別の機能)は /v1/chat/completions を含む完全なリクエスト URL を求めます。貼り付ける前に、自分がどちらのフィールドにいるか把握してください。 チャンネルには存在するのにアプリで選択できないモデルは、チャンネルには追加されたものの、設定の models 側で有効化されていないということです。この2つのリストは別物であり、接続テストが証明するのはチャンネルだけです。 古いチュートリアルが最大の危険要因です。長年の FastGPT ガイドは OneAPI のサイドカーと config.json の編集を前提にしていますが、現行バージョンでは Model Providers の UI が両方を置き換えており、2つのアプローチ(環境変数の配線とチャンネル)を混ぜると、リクエストが思わぬ場所にルーティングされます。どちらか1つの層を選び、それを完全に設定してください。 Model-not-found エラーは、いつもの自由記述の問題です。チャンネル内の id は、バージョンサフィックスも含めて、ゲートウェイの /v1/models の綴りと正確に一致していなければなりません。タイプせず、コピーしてください。

ゲートウェイ経由で FastGPT を使うのは誰か。

• GLM・Qwen・Kimi・DeepSeek を Claude や GPT の id と1つのデプロイで混在させる、バイリンガルなチーム。残高も利用ログも1つです。
• 西側のカードなしで前払い残高から西側のフロンティアモデルに届きたいアジアのチームと、地域の請求手段なしで中国のモデルに届きたい西側のチーム。
• OneAPI のサイドカーを置き換えるセルフホスター。マルチベンダーの部分はゲートウェイが、ルーティングの部分は FastGPT 標準搭載のチャンネルが担います。
• FastGPT でクライアントのナレッジベースを運用する代理店。クライアントごとに独自のキーで計測し、プロジェクトごとにモデル支出が自然に可視化されます。
• 固定のコーパスで回答モデルを比較するビルダー。各候補はベンダーアカウントではなく、チャンネルのエントリで済みます。

エンドポイントを検証し、最初の質問をデバッグする。

まずモデル一覧を curl で確認し、その出力から id をチャンネルにコピーしてください。次に、デフォルトにする予定の id に対して1回チャット補完を実行します。両方が通れば、ゲートウェイ側は証明済みです。 FastGPT の中では、チャンネルの接続テストを使い、次にデータセットを絡める前に、最小限のアプリで1つ質問してみてください。認証エラーはチャンネルのキーを、not-found は id の綴りを、接続エラーは proxy URL かコンテナの egress を指しています。エンドポイントに到達しなければならないのはブラウザではなく FastGPT サーバーだからです。普通のチャットアプリは動くのにデータセットアプリだけ失敗する場合、問題はチャンネルではなくデータセット自身のモデルバインディングにあります。 質問が流れ始めたら、APIsRouter コンソールがリクエストごとのモデル、トークン数、支出を表示します。ナレッジベースのトラフィックは、多数の小さく入力量の多いリクエストであり、キーごとの利用状況ビューこそが、デプロイの実際のコストプロファイルを、モデルごと・日ごとに、中国と西側の id を1ページにまとめて示す場所です。

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

よくある質問