Fai girare le app FastGPT su una base URL OpenAI-compatible personalizzata.

Risposta rapida: un canale nella pagina Model Providers.

Da v4.8.23, FastGPT include il proprio livello di aggregazione modelli (AI Proxy) e una UI di configurazione modelli, quindi un endpoint personalizzato non richiede più un deployment OneAPI separato o modifiche manuali a config.json. Apri Account, poi Model Providers, passa alla scheda Model Channels, e clicca Add Channel. Imposta il tipo di protocollo su OpenAI, dai un nome al canale, metti https://api.apisrouter.com/v1 nel campo indirizzo proxy (la base URL, non il percorso completo della richiesta), incolla la tua chiave, e seleziona o digita gli id modello che il canale deve servire. Tornando alla scheda modelli, abilita gli id che hai aggiunto ed esegui il test di connettività integrato. Da quel momento, ogni app FastGPT, knowledge base e nodo workflow può selezionare quei modelli. La documentazione è bilingue e le etichette cambiano tra le release (doc.fastgpt.io è il punto di ingresso in inglese), quindi considera il flusso, canale, protocollo, base URL, chiave, modelli, come la parte stabile piuttosto che la formulazione esatta.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

Come FastGPT instrada il traffico dei modelli.

FastGPT (labring su GitHub, circa 29K stelle) è una piattaforma di knowledge base e workflow di origine cinese: dataset con estrazione QA e ricerca vettoriale, orchestrazione visuale Flow, e app pubblicate con condivisione e accesso API. Tutto ciò si risolve in modelli registrati nel livello di configurazione. Un canale è una regola di routing: questi id modello, questa base URL, questa chiave. Le richieste lasciano FastGPT come chat completions standard con l'id modello come semplice stringa, motivo per cui un gateway multi-vendor si inserisce come un singolo canale. Il livello canale porta anche funzionalità operative che altrimenti dovresti costruire da solo: un modello può vivere in più canali per il load balancing, e il model mapping permette a FastGPT di esporre un nome mentre invia al provider una stringa id diversa. Per i self-hoster su versioni più vecchie, il collegamento diretto esiste ancora: la coppia di ambiente classica di FastGPT punta la piattaforma verso qualsiasi base OpenAI-compatible, OPENAI_BASE_URL e CHAT_API_KEY nell'ambiente docker-compose, con i modelli dichiarati in config.json sotto llmModels. Funziona, ma il percorso UI è dove il progetto si è spostato, e i nuovi deployment dovrebbero partire da lì.

L'angolo Asia: un unico saldo per entrambi i mondi di modelli.

La base utenti di FastGPT è fortemente di lingua cinese, e il suo deployment tipico mescola modelli regionali con quelli occidentali: GLM o Qwen per knowledge base cinesi, DeepSeek per il volume, Claude o GPT dove la rifinitura della risposta è il prodotto. Servito direttamente, quel mix significa account presso Zhipu, Alibaba, DeepSeek, Anthropic e OpenAI, ciascuno con la propria fatturazione, alcuni difficili da pagare da una parte o dall'altra del mondo. Attraverso un canale, il mix è un elenco modelli: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash e claude-haiku-4-5-20251001 fianco a fianco, un saldo prepagato, nessun obbligo di carta, id direttamente dal catalogo. I team in Asia ottengono Claude e GPT senza una carta occidentale; i team occidentali ottengono i modelli cinesi senza registrazioni regionali. La stessa knowledge base può rispondere a query cinesi su GLM e query inglesi su Claude, instradate per app. Se invece esegui il collegamento legacy via ambiente, lo stesso endpoint si inserisce direttamente; la convenzione della base URL include il suffisso /v1, e FastGPT vi aggiunge percorsi come /chat/completions.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Scegliere i modelli per knowledge base e flow.

Poiché ogni id abilitato fattura attraverso una chiave, confrontare i modelli è una modifica alle impostazioni del nodo. Fissa due candidati in due copie della stessa app, esegui una settimana di domande reali, e leggi la ripartizione per modello nella console di APIsRouter accanto alla tua valutazione della qualità delle risposte.

• Il QA sui dataset e la generazione di risposte su chunk recuperati sono lavoro di volume: deepseek-v4-flash e glm-5.2 mantengono piatto il costo per domanda su corpus bilingue.
• qwen3.7-plus e kimi-k2.6 sono le scelte regionali che vale la pena testare quando le risposte devono leggersi in modo nativo in cinese; la qualità di generazione varia tra i modelli cinesi più di quanto faccia il retrieval.
• claude-haiku-4-5-20251001 è il livello occidentale veloce per i deployment multilingue; sali a claude-sonnet-4-6 nelle app specifiche dove la qualità di sintesi è il prodotto.
• I nodi workflow si attivano per esecuzione, quindi un flow a cinque nodi moltiplica qualsiasi id risieda in ciascun nodo; metti id veloci nei nodi di classificazione e routing, e spendi sul nodo di risposta.
• I modelli di indicizzazione ed estrazione sono configurati separatamente dai modelli chat; conferma che l'endpoint serva qualsiasi id di embedding tu leghi prima di ricostruire un indice attorno ad esso.

Pagamento a consumo · sotto i prezzi ufficiali

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Modalità di errore specifiche di FastGPT.

La convenzione della base URL inganna chi arriva da altri strumenti: FastGPT si aspetta la base con suffisso /v1 nel campo proxy e aggiunge /chat/completions da sé, mentre il suo modulo per modelli personalizzati (una funzionalità diversa, per modelli una tantum che bypassano i canali) vuole l'URL completo della richiesta incluso /v1/chat/completions. Sappi in quale campo ti trovi prima di incollare. Un modello che esiste nel canale ma non è selezionabile nelle app significa che è stato aggiunto al canale ma non abilitato sul lato modelli della configurazione; i due elenchi sono separati, e il test di connettività dimostra solo il canale. I vecchi tutorial sono il pericolo più grande. Anni di guide FastGPT presuppongono un sidecar OneAPI e modifiche a config.json; sulle versioni attuali la UI Model Providers sostituisce entrambi, e mescolare i due approcci (collegamento via ambiente più canali) fa instradare le richieste da qualche parte che non stai guardando. Scegli un livello e configuralo completamente. Gli errori model-not-found sono il solito problema del testo libero: l'id nel canale deve corrispondere esattamente alla grafia di /v1/models del gateway, inclusi i suffissi di versione. Copia, non digitare.

Chi instrada FastGPT tramite un gateway.

• Team bilingue che mescolano id GLM, Qwen, Kimi e DeepSeek con Claude e GPT in un unico deployment, un unico saldo, un unico log di utilizzo.
• Team in Asia che vogliono modelli occidentali di frontiera su un saldo prepagato senza carta occidentale, e team occidentali che vogliono modelli cinesi senza fatturazione regionale.
• Self-hoster che sostituiscono un sidecar OneAPI: il gateway serve la parte multi-vendor, i canali integrati di FastGPT servono la parte di routing.
• Agenzie che gestiscono knowledge base per clienti su FastGPT, misurando ogni cliente con la propria chiave così che la spesa modello si riporti da sola per progetto.
• Builder che confrontano modelli di risposta su corpus fissi, dove ogni candidato è una voce canale invece che un account fornitore.

Verifica l'endpoint e fai debug della prima domanda.

Esegui prima una curl sull'elenco modelli e copia gli id dall'output nel canale; poi esegui una chat completion contro l'id che intendi rendere predefinito. Se entrambe superano, la metà gateway è dimostrata. Dentro FastGPT, usa il test di connettività del canale, poi fai una domanda in un'app minimale prima di coinvolgere i dataset. Gli errori di autenticazione indicano la chiave del canale; not-found indica la grafia dell'id; gli errori di connessione indicano l'URL proxy o l'egress del container, poiché è il server FastGPT che deve raggiungere l'endpoint. Se un'app dataset fallisce dove una semplice app chat funziona, il problema è nei binding di modello propri del dataset, non nel canale. Una volta che le domande scorrono, la console di APIsRouter mostra il modello per richiesta, i conteggi dei token e la spesa. Il traffico knowledge base è fatto di molte richieste piccole e pesanti sull'input, e la vista di utilizzo per chiave è dove emerge il profilo di costo reale di un deployment, per modello, per giorno, id cinesi e occidentali in un'unica pagina.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Domande frequenti