FastGPT uygulamalarını özel bir OpenAI uyumlu base URL üzerinde çalıştırın.

Hızlı yanıt: Model Providers sayfasında tek bir channel.

v4.8.23'ten bu yana FastGPT kendi model-aggregation katmanını (AI Proxy) ve bir model-configuration UI'ı sunar, bu yüzden özel bir endpoint artık ayrı bir OneAPI deployment'ı veya elle düzenlenmiş config.json gerektirmez. Account'u açın, ardından Model Providers'a gidin, Model Channels sekmesine geçin ve Add Channel'a tıklayın. Protokol tipini OpenAI olarak ayarlayın, channel'ı adlandırın, proxy address alanına https://api.apisrouter.com/v1 girin (tam istek yolu değil, base URL), anahtarınızı yapıştırın ve channel'ın sunması gereken model id'lerini seçin veya yazın. Models sekmesine dönüp eklediğiniz id'leri etkinleştirin ve yerleşik bağlantı testini çalıştırın. O andan itibaren, her FastGPT uygulaması, bilgi tabanı ve workflow node'u bu modelleri seçebilir. Dokümantasyon iki dillidir ve etiketler sürümler arasında değişir (doc.fastgpt.io İngilizce giriş noktasıdır), bu yüzden akışı, channel'ı, protokolü, base URL'i, anahtarı, modelleri, tam ifadeler yerine sabit kısım olarak ele alın.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

FastGPT model trafiğini nasıl yönlendirir.

FastGPT (GitHub'da labring, yaklaşık 29K yıldız), Çin kökenli bir bilgi tabanı ve workflow platformudur: QA extraction ve vektör aramalı dataset'ler, görsel Flow orkestrasyonu ve paylaşım ile API erişimine sahip yayımlanmış uygulamalar. Bunların hepsi yapılandırma katmanında kayıtlı modellere çözümlenir. Bir channel bir yönlendirme kuralıdır: şu model id'leri, şu base URL, şu anahtar. İstekler FastGPT'ten model id'si düz bir dize olarak standart chat completions şeklinde çıkar, çok satıcılı bir gateway'in tek bir channel olarak yerleşmesinin nedeni budur. Channel katmanı ayrıca aksi halde kendinizin inşa etmesi gereken operasyonel özellikler taşır: bir model, yük dengeleme için birden fazla channel'da yaşayabilir ve model mapping, FastGPT'in bir adı sunarken sağlayıcıya farklı bir id dizesi göndermesini sağlar. Daha eski sürümlerdeki self-hoster'lar için doğrudan bağlantı hâlâ mevcuttur: FastGPT'in klasik ortam değişkeni çifti, platformu docker-compose ortamındaki OPENAI_BASE_URL ve CHAT_API_KEY ile herhangi bir OpenAI uyumlu base'e yönlendirir; modeller config.json içinde llmModels altında tanımlanır. Bu çalışır, ama projenin taşındığı yer UI yoludur ve yeni deployment'lar oradan başlamalıdır.

Asya açısı: her iki model dünyası için tek bir bakiye.

FastGPT'in kullanıcı tabanı büyük ölçüde Çince konuşandır ve tipik deployment'ı bölgesel modelleri Batılı olanlarla karıştırır: Çince bilgi tabanları için GLM veya Qwen, hacim için DeepSeek, yanıt cilası ürün olduğunda Claude veya GPT. Doğrudan servis edildiğinde bu karışım, her biri kendi faturalandırmasına sahip Zhipu, Alibaba, DeepSeek, Anthropic ve OpenAI hesapları anlamına gelir; bazılarını dünyanın bir tarafından veya diğerinden ödemek zordur. Tek bir channel üzerinden bu karışım bir model listesidir: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash ve claude-haiku-4-5-20251001 yan yana, tek bir ön ödemeli bakiye, kart gerekmez, doğrudan katalogdan id'ler. Asya'daki ekipler Batılı bir kart olmadan Claude ve GPT'ye kavuşur; Batılı ekipler bölgesel kayıt olmadan Çin modellerine kavuşur. Aynı bilgi tabanı, GLM üzerinde Çince sorguları ve Claude üzerinde İngilizce sorguları yanıtlayabilir, uygulama başına yönlendirilir. Bunun yerine legacy ortam değişkeni bağlantısını çalıştırırsanız, aynı endpoint doğrudan yerine oturur; base URL kuralı /v1 son ekini içerir ve FastGPT /chat/completions gibi route yollarını buna ekler.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Bilgi tabanları ve flow'lar için model seçmek.

Etkinleştirilen her id tek bir anahtar üzerinden faturalandığı için, modelleri karşılaştırmak bir node ayarı değişikliğidir. Aynı uygulamanın iki kopyasında iki adayı sabitleyin, bir hafta gerçek soru çalıştırın ve APIsRouter konsolundaki model başına dağılımı, yanıt kalitesi hakkındaki kendi değerlendirmenizin yanında okuyun.

• Alınan chunk'lar üzerinden dataset QA ve yanıt üretimi hacim işidir: deepseek-v4-flash ve glm-5.2, iki dilli corpus'larda soru başına maliyeti sabit tutar.
• qwen3.7-plus ve kimi-k2.6, yanıtların Çince olarak doğal okunması gerektiğinde test edilmeye değer bölgesel seçimlerdir; üretim kalitesi Çin modelleri arasında retrieval'dan daha fazla değişir.
• claude-haiku-4-5-20251001, karma dilli deployment'lar için hızlı Batılı katmandır; sentez kalitesinin ürün olduğu belirli uygulamalarda claude-sonnet-4-6'ya yükseltin.
• Workflow node'ları çalıştırma başına tetiklenir, bu yüzden beş node'lu bir flow her node'daki id'yi çoğaltır; sınıflandırma ve yönlendirme node'larına hızlı id'ler koyun ve harcamayı answer node'una yapın.
• Index ve extraction modelleri chat modellerinden ayrı yapılandırılır; bir index'i onun etrafında yeniden inşa etmeden önce bağladığınız embedding id'sini endpoint'in sunduğunu doğrulayın.

Kullandıkça öde · resmi fiyatların altında

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

FastGPT'e özgü hata modları.

Base URL kuralı, diğer araçlardan geçiş yapan kişileri tökezletir: FastGPT, proxy alanında /v1 son ekli base'i bekler ve /chat/completions'ı kendisi ekler; oysa custom-model formu (channel'ları atlayan tek seferlik modeller için ayrı bir özellik) /v1/chat/completions dahil tam istek URL'sini ister. Yapıştırmadan önce hangi alanda olduğunuzu bilin. Channel'da var olan ama uygulamalarda seçilemeyen bir model, channel'a eklenmiş ama yapılandırmanın models tarafında etkinleştirilmemiş demektir; iki liste ayrıdır ve bağlantı testi yalnızca channel'ı kanıtlar. Eski eğitimler en büyük tehlikedir. Yıllarca süren FastGPT rehberleri bir OneAPI sidecar'ı ve config.json düzenlemelerini varsayar; güncel sürümlerde Model Providers UI'ı ikisinin de yerini alır ve iki yaklaşımı karıştırmak (env bağlantısı artı channel'lar) isteklerin bakmadığınız bir yere yönlenmesine neden olur. Tek bir katman seçin ve onu tamamen yapılandırın. Model-not-found hataları alışılagelmiş serbest metin problemidir: channel'daki id, sürüm sonekleri dahil, gateway'in /v1/models yazımıyla tam olarak eşleşmelidir. Kopyalayın, yazmayın.

FastGPT'i bir gateway üzerinden kim yönlendirir.

• Tek bir deployment'ta, tek bir bakiyede, tek bir kullanım logunda GLM, Qwen, Kimi ve DeepSeek'i Claude ve GPT id'leriyle karıştıran iki dilli ekipler.
• Batılı bir kart olmadan ön ödemeli bir bakiyede Batılı sınır modellerini isteyen Asya'daki ekipler ve bölgesel faturalandırma olmadan Çin modellerini isteyen Batılı ekipler.
• Bir OneAPI sidecar'ının yerini alan self-hoster'lar: gateway çok satıcılı kısmı, FastGPT'in yerleşik channel'ları yönlendirme kısmını karşılar.
• FastGPT üzerinde müşteri bilgi tabanları çalıştıran ve model harcamasının proje başına kendini raporlaması için her müşteriyi kendi anahtarıyla ölçen ajanslar.
• Sabit corpus'lar üzerinde yanıt modellerini karşılaştıran ve her adayın bir satıcı hesabı yerine bir channel girdisi olduğu geliştiriciler.

Endpoint'i doğrulayın ve ilk soruyu hata ayıklayın.

Önce models listesini curl'leyin ve çıktısından id'leri channel'a kopyalayın; ardından varsayılan yapmayı planladığınız id'ye karşı bir chat completion çalıştırın. İkisi de geçerse, gateway tarafı kanıtlanmış olur. FastGPT içinde, channel bağlantı testini kullanın, ardından dataset'leri devreye sokmadan önce minimal bir uygulamada bir soru sorun. Authentication hataları channel anahtarına işaret eder; not-found id yazımına; connection hataları proxy URL'ine veya container egress'ine, çünkü endpoint'e ulaşması gereken FastGPT sunucusudur. Düz bir chat uygulaması çalışırken bir dataset uygulaması başarısız olursa, sorun channel'da değil dataset'in kendi model bağlamalarındadır. Sorular aktığında, APIsRouter konsolu istek başına modeli, token sayılarını ve harcamayı gösterir. Bilgi tabanı trafiği birçok küçük, girdi ağırlıklı istektir ve anahtar başına kullanım görünümü, bir deployment'ın gerçek maliyet profilinin model başına, gün başına, aynı sayfada Çin ve Batı id'leriyle ortaya çıktığı yerdir.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Sık sorulan sorular