Draai FastGPT-apps op een aangepaste OpenAI-compatibele base URL.

Snel antwoord: één kanaal op de Model Providers-pagina.

Sinds v4.8.23 levert FastGPT zijn eigen model-aggregatielaag (AI Proxy) en een model-configuratie-UI, dus een aangepast endpoint vereist niet langer een aparte OneAPI-deployment of handmatig bewerkte config.json. Open Account, dan Model Providers, schakel naar het tabblad Model Channels, en klik op Add Channel. Zet het protocoltype op OpenAI, geef het kanaal een naam, plaats https://api.apisrouter.com/v1 in het proxyadresveld (de base URL, niet het volledige verzoekpad), plak je sleutel, en selecteer of typ de model-ID's die het kanaal moet bedienen. Schakel terug op het tabblad models de ID's in die je hebt toegevoegd en draai de ingebouwde connectiviteitstest. Vanaf dan kan elke FastGPT-app, kennisbank en workflow-node die modellen selecteren. De documentatie is tweetalig en labels verschuiven tussen releases (doc.fastgpt.io is de Engelstalige ingang), dus behandel de flow, kanaal, protocol, base URL, sleutel, modellen, als het stabiele deel in plaats van de exacte bewoording.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

Hoe FastGPT modelverkeer routeert.

FastGPT (labring op GitHub, ruim 29K sterren) is een Chinees platform voor kennisbanken en workflows: datasets met QA-extractie en vectorzoeken, visuele Flow-orchestratie, en gepubliceerde apps met delen en API-toegang. Dat alles herleidt zich tot modellen die in de configuratielaag zijn geregistreerd. Een kanaal is een routeringsregel: deze model-ID's, deze base URL, deze sleutel. Verzoeken vertrekken vanuit FastGPT als standaard chat completions met het model-ID als platte string, en daarom past een multi-vendor gateway als één enkel kanaal. De kanaallaag draagt ook operationele functies die je anders zelf zou moeten bouwen: één model kan in meerdere kanalen leven voor load balancing, en model mapping laat FastGPT één naam tonen terwijl het een andere ID-string naar de leverancier stuurt. Voor self-hosters op oudere versies bestaat de directe bekabeling nog steeds: het klassieke omgevingspaar van FastGPT wijst het platform naar elke OpenAI-compatibele base, OPENAI_BASE_URL en CHAT_API_KEY in de docker-compose-omgeving, met modellen gedeclareerd in config.json onder llmModels. Het werkt, maar het UI-pad is waar het project naartoe is verhuisd, en nieuwe deployments moeten daar starten.

De Azië-invalshoek: één saldo voor beide modelwerelden.

De gebruikersbasis van FastGPT is grotendeels Chineestalig, en een typische deployment mixt regionale modellen met westerse: GLM of Qwen voor Chinese kennisbanken, DeepSeek voor volume, Claude of GPT waar antwoordpolijsting het product is. Direct bediend betekent die mix accounts bij Zhipu, Alibaba, DeepSeek, Anthropic en OpenAI, elk met zijn eigen facturering, sommige lastig te betalen vanaf de ene of de andere kant van de wereld. Via één kanaal is de mix gewoon een modellijst: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash, en claude-haiku-4-5-20251001 naast elkaar, één vooruitbetaald saldo, geen kaartvereiste, ID's rechtstreeks uit de catalogus. Teams in Azië krijgen Claude en GPT zonder westerse kaart; westerse teams krijgen de Chinese modellen zonder regionale aanmeldingen. Dezelfde kennisbank kan Chinese vragen beantwoorden op GLM en Engelse vragen op Claude, gerouteerd per app. Als je in plaats daarvan de legacy-omgevingsbekabeling draait, valt hetzelfde endpoint er rechtstreeks in; de base-URL-conventie omvat het /v1-suffix, en FastGPT voegt routepaden zoals /chat/completions eraan toe.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Modellen kiezen voor kennisbanken en flows.

Omdat elk ingeschakeld ID via één sleutel factureert, is het vergelijken van modellen een node-instellingswijziging. Pin twee kandidaten in twee kopieën van dezelfde app, draai een week echte vragen, en lees de per-model-splitsing in de APIsRouter-console naast je eigen oordeel over antwoordkwaliteit.

• Dataset-QA en antwoordgeneratie over opgehaalde chunks is volumewerk: deepseek-v4-flash en glm-5.2 houden de kosten per vraag vlak op tweetalige corpora.
• qwen3.7-plus en kimi-k2.6 zijn de regionale keuzes die het waard zijn om te testen wanneer antwoorden natuurlijk Chinees moeten lezen; generatiekwaliteit varieert meer tussen Chinese modellen dan retrieval doet.
• claude-haiku-4-5-20251001 is de snelle westerse laag voor meertalige deployments; stap op naar claude-sonnet-4-6 in de specifieke apps waar synthesekwaliteit het product is.
• Workflow-nodes vuren per run, dus een flow met vijf nodes vermenigvuldigt wat het ID ook is dat in elke node zit; zet snelle ID's in classificatie- en routeringsnodes, en besteed aan de antwoordnode.
• Index- en extractiemodellen worden apart van chatmodellen geconfigureerd; bevestig dat het endpoint het embedding-ID dat je bindt daadwerkelijk bedient voordat je een index eromheen herbouwt.

Betaal naar gebruik · onder officiële prijzen

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Faalmodi specifiek voor FastGPT.

De base-URL-conventie struikelt mensen die van andere tools overstappen: FastGPT verwacht de /v1-gesuffixte base in het proxyveld en voegt zelf /chat/completions toe, terwijl het aangepaste-model-formulier (een andere functie, voor eenmalige modellen die kanalen omzeilen) de volledige verzoek-URL wil inclusief /v1/chat/completions. Weet in welk veld je zit voordat je plakt. Een model dat in het kanaal bestaat maar niet selecteerbaar is in apps, betekent dat het aan het kanaal is toegevoegd maar niet ingeschakeld aan de modellenkant van de configuratie; de twee lijsten zijn apart, en de connectiviteitstest bewijst alleen het kanaal. Oude tutorials zijn het grootste gevaar. Jaren aan FastGPT-gidsen gaan uit van een OneAPI-sidecar en config.json-bewerkingen; op huidige versies vervangt de Model Providers-UI beide, en het mixen van de twee benaderingen (omgevingsbekabeling plus kanalen) laat verzoeken ergens heen routeren waar je niet kijkt. Kies één laag en configureer hem volledig. Model-not-found-fouten zijn het gebruikelijke vrije-tekstprobleem: het ID in het kanaal moet exact overeenkomen met de /v1/models-spelling van de gateway, inclusief versiesuffixen. Kopieer, typ niet.

Wie routeert FastGPT via een gateway.

• Tweetalige teams die GLM, Qwen, Kimi en DeepSeek mixen met Claude- en GPT-ID's in één deployment, één saldo, één gebruikslogboek.
• Teams in Azië die westerse frontier-modellen willen op een vooruitbetaald saldo zonder westerse kaart, en westerse teams die Chinese modellen willen zonder regionale facturering.
• Self-hosters die een OneAPI-sidecar vervangen: de gateway bedient het multi-vendor-deel, de ingebouwde kanalen van FastGPT bedienen het routeringsdeel.
• Bureaus die klantkennisbanken op FastGPT draaien, met meting per klant via een eigen sleutel zodat modeluitgaven zichzelf per project rapporteren.
• Bouwers die antwoordmodellen vergelijken op vaste corpora, waar elke kandidaat een kanaalvermelding is in plaats van een leveranciersaccount.

Verifieer het endpoint en debug de eerste vraag.

Curl eerst de modellenlijst en kopieer ID's uit de output naar het kanaal; draai dan één chat completion tegen het ID dat je van plan bent standaard te maken. Als beide slagen, is de gateway-helft bewezen. Gebruik binnen FastGPT de kanaal-connectiviteitstest, en stel dan één vraag in een minimale app voordat je datasets betrekt. Authenticatiefouten wijzen naar de kanaalsleutel; not-found naar de ID-spelling; verbindingsfouten naar de proxy-URL of container-egress, aangezien het de FastGPT-server is die het endpoint moet bereiken. Als een dataset-app faalt waar een gewone chat-app werkt, ligt het probleem in de eigen modelbindingen van de dataset, niet in het kanaal. Zodra vragen vloeien, toont de APIsRouter-console model per verzoek, tokenaantallen en uitgaven. Kennisbank-verkeer is veel kleine, input-zware verzoeken, en de gebruiksweergave per sleutel is waar het echte kostenprofiel van een deployment zichtbaar wordt, per model, per dag, Chinese en westerse ID's op één pagina.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Veelgestelde vragen