Jalankan app FastGPT pada base URL serasi OpenAI custom.

Jawapan pantas: satu channel pada halaman Model Providers.

Sejak v4.8.23, FastGPT menyediakan lapisan agregasi model sendiri (AI Proxy) dan UI konfigurasi model, jadi endpoint custom tidak lagi memerlukan deployment OneAPI berasingan atau config.json yang disunting tangan. Buka Account, kemudian Model Providers, tukar ke tab Model Channels, dan klik Add Channel. Tetapkan protocol type kepada OpenAI, namakan channel itu, masukkan https://api.apisrouter.com/v1 dalam medan proxy address (base URL, bukan laluan permintaan penuh), tampal kunci anda, dan pilih atau taip id model yang patut dilayani channel itu. Kembali pada tab models, aktifkan id yang anda tambah dan jalankan ujian konektiviti terbina dalam. Selepas itu, setiap app, knowledge base, dan node workflow FastGPT boleh memilih model tersebut. Dokumentasi adalah dwibahasa dan label berubah antara keluaran (doc.fastgpt.io ialah entri Bahasa Inggeris), jadi anggap flow, channel, protocol, base URL, key, models, sebagai bahagian stabil dan bukan perkataan tepat.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

Bagaimana FastGPT menghalakan trafik model.

FastGPT (labring di GitHub, lebih kurang 29K bintang) ialah platform knowledge-base dan workflow berasal China: dataset dengan ekstraksi QA dan carian vektor, orkestrasi Flow visual, dan app diterbitkan dengan perkongsian dan akses API. Kesemuanya menyelesaikan kepada model yang didaftarkan dalam lapisan konfigurasi. Channel ialah peraturan penghalaan: id model ini, base URL ini, kunci ini. Permintaan keluar FastGPT sebagai chat completions standard dengan id model sebagai rentetan biasa, itulah sebab gateway multi-vendor menyisip sebagai satu channel tunggal. Lapisan channel juga membawa ciri operasi yang sepatutnya anda bina sendiri: satu model boleh wujud dalam beberapa channel untuk load balancing, dan model mapping membenarkan FastGPT mendedahkan satu nama sambil menghantar rentetan id berbeza kepada penyedia. Bagi self-hoster pada versi lebih lama, sambungan terus masih wujud: pasangan environment klasik FastGPT mengarahkan platform ke mana-mana base serasi OpenAI, OPENAI_BASE_URL dan CHAT_API_KEY dalam environment docker-compose, dengan model diisytiharkan dalam config.json di bawah llmModels. Ia berfungsi, tetapi laluan UI adalah ke mana projek ini telah berpindah, dan deployment baharu patut bermula di sana.

Sudut pandang Asia: satu baki untuk kedua-dua dunia model.

Pangkalan pengguna FastGPT banyak bertutur Bahasa Cina, dan deployment tipikalnya mencampurkan model serantau dengan model Barat: GLM atau Qwen untuk knowledge base Cina, DeepSeek untuk volum, Claude atau GPT di mana kehalusan jawapan adalah produk itu sendiri. Dilayani terus, campuran itu bermaksud akaun di Zhipu, Alibaba, DeepSeek, Anthropic, dan OpenAI, masing-masing dengan pengebilan sendiri, sesetengah sukar dibayar dari satu belah dunia atau yang lain. Melalui satu channel, campuran itu ialah senarai model: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash, dan claude-haiku-4-5-20251001 bersebelahan, satu baki prabayar, tiada keperluan kad, id terus daripada katalog. Pasukan di Asia mendapat Claude dan GPT tanpa kad Barat; pasukan Barat mendapat model Cina tanpa pendaftaran serantau. Knowledge base yang sama boleh menjawab pertanyaan Cina pada GLM dan pertanyaan Inggeris pada Claude, dihalakan per app. Jika anda menjalankan sambungan environment warisan sebaliknya, endpoint yang sama menyisip terus; konvensyen base URL merangkumi akhiran /v1, dan FastGPT melampirkan laluan route seperti /chat/completions kepadanya.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Memilih model untuk knowledge base dan flow.

Kerana setiap id yang diaktifkan dibilkan melalui satu kunci, membandingkan model adalah perubahan tetapan node. Sematkan dua calon dalam dua salinan app yang sama, jalankan seminggu soalan sebenar, dan baca pecahan per-model dalam konsol APIsRouter bersebelahan penilaian anda sendiri terhadap kualiti jawapan.

• QA dataset dan penjanaan jawapan atas serpihan yang diambil ialah kerja volum: deepseek-v4-flash dan glm-5.2 mengekalkan kos per-soalan rata pada korpus dwibahasa.
• qwen3.7-plus dan kimi-k2.6 ialah pilihan serantau yang berbaloi diuji apabila jawapan mesti berbunyi natif dalam Bahasa Cina; kualiti penjanaan berbeza-beza merentasi model Cina lebih daripada retrieval.
• claude-haiku-4-5-20251001 ialah tahap Barat pantas untuk deployment berbilang bahasa; naik ke claude-sonnet-4-6 dalam app tertentu di mana kualiti sintesis adalah produk itu sendiri.
• Node workflow menembak per larian, jadi flow lima-node menggandakan apa sahaja id yang duduk dalam setiap node; letakkan id pantas dalam node klasifikasi dan penghalaan, dan belanjakan pada node jawapan.
• Model indeks dan ekstraksi dikonfigurasikan berasingan daripada chat model; sahkan endpoint melayani apa sahaja id embedding yang anda ikat sebelum membina semula indeks di sekelilingnya.

Bayar mengikut penggunaan · bawah harga rasmi

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Mod kegagalan khusus FastGPT.

Konvensyen base URL menyilapkan orang yang beralih daripada alat lain: FastGPT mengharapkan base berakhiran /v1 dalam medan proxy dan melampirkan /chat/completions sendiri, manakala borang custom-model-nya (ciri berbeza, untuk model sekali sahaja yang memintas channel) mahukan URL permintaan penuh termasuk /v1/chat/completions. Ketahui medan mana anda berada sebelum menampal. Model yang wujud dalam channel tetapi tidak boleh dipilih dalam app bermaksud ia ditambah ke channel tetapi tidak diaktifkan pada sisi models konfigurasi; kedua-dua senarai adalah berasingan, dan ujian konektiviti hanya membuktikan channel itu. Tutorial lama adalah bahaya terbesar. Bertahun-tahun panduan FastGPT menganggap sidecar OneAPI dan suntingan config.json; pada versi semasa UI Model Providers menggantikan kedua-duanya, dan mencampurkan kedua-dua pendekatan (sambungan env ditambah channel) menyebabkan permintaan menghalakan ke tempat yang anda tidak perhatikan. Pilih satu lapisan dan konfigurasikannya sepenuhnya. Ralat model-not-found adalah masalah teks bebas biasa: id dalam channel mesti sepadan tepat dengan ejaan /v1/models gateway, termasuk akhiran versi. Salin, jangan taip.

Siapa yang menghalakan FastGPT melalui gateway.

• Pasukan dwibahasa yang mencampurkan GLM, Qwen, Kimi, dan DeepSeek dengan id Claude dan GPT dalam satu deployment, satu baki, satu log penggunaan.
• Pasukan di Asia yang mahukan model frontier Barat pada baki prabayar tanpa kad Barat, dan pasukan Barat yang mahukan model Cina tanpa pengebilan serantau.
• Self-hoster yang menggantikan sidecar OneAPI: gateway melayani bahagian multi-vendor, channel terbina dalam FastGPT melayani bahagian penghalaan.
• Agensi yang menjalankan knowledge base klien pada FastGPT, mengukur setiap klien dengan kunci sendiri supaya perbelanjaan model melaporkan dirinya per projek.
• Pembina yang membandingkan model jawapan atas korpus tetap, di mana setiap calon adalah entri channel dan bukan akaun vendor.

Sahkan endpoint dan nyahpepijat soalan pertama.

Curl senarai model dahulu dan salin id daripada output ke dalam channel; kemudian jalankan satu chat completion terhadap id yang anda rancang jadikan lalai. Jika kedua-duanya lulus, separuh gateway terbukti. Dalam FastGPT, guna ujian konektiviti channel, kemudian tanya satu soalan dalam app minimal sebelum melibatkan dataset. Ralat pengesahan menunjuk kepada kunci channel; not-found kepada ejaan id; ralat sambungan kepada URL proxy atau egress kontainer, kerana pelayan FastGPT itulah yang perlu mencapai endpoint. Jika app dataset gagal sedangkan app sembang biasa berfungsi, masalah itu dalam ikatan model dataset sendiri, bukan channel. Sebaik sahaja soalan mengalir, konsol APIsRouter menunjukkan model per permintaan, kiraan token, dan perbelanjaan. Trafik knowledge-base adalah banyak permintaan kecil yang berat input, dan pandangan penggunaan per-kunci adalah tempat profil kos sebenar deployment muncul, per model, per hari, id Cina dan Barat pada satu halaman.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Soalan lazim