Uruchom aplikacje FastGPT na niestandardowym base URL kompatybilnym z OpenAI.

Szybka odpowiedź: jeden kanał na stronie Model Providers.

Od wersji 4.8.23 FastGPT dostarcza własną warstwę agregacji modeli (AI Proxy) i UI konfiguracji modeli, więc niestandardowy endpoint nie wymaga już osobnego wdrożenia OneAPI ani ręcznie edytowanego config.json. Otwórz Account, potem Model Providers, przełącz się na zakładkę Model Channels i kliknij Add Channel. Ustaw typ protokołu na OpenAI, nazwij kanał, wpisz https://api.apisrouter.com/v1 w pole adresu proxy (base URL, nie pełną ścieżkę żądania), wklej swój klucz i wybierz albo wpisz identyfikatory modeli, które kanał ma obsługiwać. Z powrotem na zakładce modeli włącz dodane identyfikatory i uruchom wbudowany test łączności. Od tej pory każda aplikacja FastGPT, baza wiedzy i węzeł workflow mogą wybierać te modele. Dokumentacja jest dwujęzyczna, a etykiety zmieniają się między wydaniami (doc.fastgpt.io to angielski wpis), więc traktuj przepływ, kanał, protokół, base URL, klucz, modele jako stabilną część, a nie dokładne sformułowania.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

Jak FastGPT kieruje ruch modeli.

FastGPT (labring na GitHubie, około 29 tys. gwiazdek) to platforma baz wiedzy i workflow chińskiego pochodzenia: datasety z ekstrakcją QA i wyszukiwaniem wektorowym, wizualna orkiestracja Flow oraz publikowane aplikacje z udostępnianiem i dostępem API. Wszystko to rozwiązuje się do modeli zarejestrowanych w warstwie konfiguracji. Kanał to reguła routingu: te identyfikatory modeli, ten base URL, ten klucz. Żądania wychodzą z FastGPT jako standardowe chat completions z identyfikatorem modelu jako zwykłym stringiem, dlatego wielodostawcowa bramka wpasowuje się jako pojedynczy kanał. Warstwa kanałów niesie też funkcje operacyjne, które musiałbyś inaczej budować sam: jeden model może żyć w kilku kanałach dla równoważenia obciążenia, a mapowanie modeli pozwala FastGPT eksponować jedną nazwę, wysyłając dostawcy inny string identyfikatora. Dla self-hosterów na starszych wersjach nadal istnieje bezpośrednie okablowanie: klasyczna para środowiskowa FastGPT wskazuje platformę na dowolną bazę kompatybilną z OpenAI, OPENAI_BASE_URL i CHAT_API_KEY w środowisku docker-compose, z modelami zadeklarowanymi w config.json pod llmModels. To działa, ale ścieżka UI jest tym, dokąd przeniósł się projekt, i nowe wdrożenia powinny zaczynać właśnie tam.

Kąt azjatycki: jedno saldo dla obu światów modeli.

Baza użytkowników FastGPT jest w dużej mierze chińskojęzyczna, a typowe wdrożenie miesza modele regionalne z zachodnimi: GLM albo Qwen dla chińskich baz wiedzy, DeepSeek dla wolumenu, Claude albo GPT tam, gdzie produktem jest wypolerowana odpowiedź. Obsługiwane bezpośrednio, ta mieszanka oznacza konta u Zhipu, Alibaba, DeepSeek, Anthropic i OpenAI, każde z własnym rozliczeniem, niektóre trudne do opłacenia z jednej albo drugiej strony świata. Przez jeden kanał ta mieszanka to lista modeli: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash i claude-haiku-4-5-20251001 obok siebie, jedno przedpłacone saldo, bez wymogu karty, identyfikatory prosto z katalogu. Zespoły w Azji dostają Claude i GPT bez zachodniej karty; zespoły zachodnie dostają chińskie modele bez regionalnych rejestracji. Ta sama baza wiedzy może odpowiadać na chińskie zapytania na GLM i angielskie na Claude, kierowana per aplikacja. Jeśli zamiast tego prowadzisz starsze okablowanie środowiskowe, ten sam endpoint wpina się bezpośrednio; konwencja base URL zawiera sufiks /v1, a FastGPT dokleja do niego ścieżki tras, takie jak /chat/completions.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Dobór modeli do baz wiedzy i flow.

Ponieważ każdy włączony identyfikator rozlicza się przez jeden klucz, porównywanie modeli to zmiana ustawień węzła. Przypnij dwóch kandydatów w dwóch kopiach tej samej aplikacji, uruchom tydzień prawdziwych pytań i przeczytaj podział per model w konsoli APIsRouter obok Twojej własnej oceny jakości odpowiedzi.

• QA na datasetach i generowanie odpowiedzi na pobranych fragmentach to praca wolumenowa: deepseek-v4-flash i glm-5.2 utrzymują koszt per pytanie na płaskim poziomie na dwujęzycznych korpusach.
• qwen3.7-plus i kimi-k2.6 to regionalne wybory warte przetestowania, gdy odpowiedzi muszą brzmieć natywnie po chińsku; jakość generowania różni się między chińskimi modelami bardziej niż retrieval.
• claude-haiku-4-5-20251001 to szybki zachodni poziom dla wdrożeń wielojęzycznych; przejdź na claude-sonnet-4-6 w konkretnych aplikacjach, gdzie jakość syntezy jest produktem.
• Węzły workflow odpalają się per uruchomienie, więc pięciowęzłowy flow mnoży dowolny identyfikator siedzący w każdym węźle; wstaw szybkie identyfikatory w węzłach klasyfikacji i routingu, a wydawaj na węźle odpowiedzi.
• Modele indeksowania i ekstrakcji są konfigurowane osobno od modeli czatu; potwierdź, że endpoint obsługuje dowolny identyfikator embeddingu, który wiążesz, zanim przebudujesz wokół niego indeks.

Płatność za użycie · poniżej cen oficjalnych

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Tryby awarii charakterystyczne dla FastGPT.

Konwencja base URL potyka ludzi przechodzących z innych narzędzi: FastGPT oczekuje bazy z sufiksem /v1 w polu proxy i sam dokleja /chat/completions, podczas gdy jego formularz custom-model (inna funkcja, dla jednorazowych modeli omijających kanały) chce pełnego URL żądania, łącznie z /v1/chat/completions. Wiedz, w którym polu jesteś, zanim wkleisz. Model, który istnieje w kanale, ale nie jest wybieralny w aplikacjach, oznacza, że został dodany do kanału, ale nie włączony po stronie modeli konfiguracji; te dwie listy są osobne, a test łączności dowodzi tylko kanału. Stare tutoriale to największe zagrożenie. Lata poradników FastGPT zakładają sidecar OneAPI i edycje config.json; w obecnych wersjach UI Model Providers zastępuje oba, a mieszanie dwóch podejść (okablowanie środowiskowe plus kanały) sprawia, że żądania są kierowane gdzieś, gdzie nie patrzysz. Wybierz jedną warstwę i skonfiguruj ją w pełni. Błędy model-not-found to zwykły problem dowolnego tekstu: identyfikator w kanale musi dokładnie zgadzać się z zapisem /v1/models bramki, łącznie z sufiksami wersji. Kopiuj, nie wpisuj.

Kto kieruje FastGPT przez bramkę.

• Dwujęzyczne zespoły mieszające GLM, Qwen, Kimi i DeepSeek z identyfikatorami Claude i GPT w jednym wdrożeniu, jednym saldzie, jednym logu użycia.
• Zespoły w Azji, które chcą zachodnich modeli frontier na przedpłaconym saldzie bez zachodniej karty, i zespoły zachodnie, które chcą chińskich modeli bez regionalnego rozliczenia.
• Self-hosterzy zastępujący sidecar OneAPI: bramka obsługuje część wielodostawcową, a wbudowane kanały FastGPT obsługują część routingową.
• Agencje prowadzące bazy wiedzy klientów na FastGPT, mierzące każdego klienta własnym kluczem, żeby wydatki modelowe raportowały się same per projekt.
• Twórcy porównujący modele odpowiedzi na stałych korpusach, gdzie każdy kandydat to wpis kanału, a nie konto u dostawcy.

Zweryfikuj endpoint i debuguj pierwsze pytanie.

Odpytaj curlem listing modeli najpierw i skopiuj identyfikatory z wyniku do kanału; potem uruchom jedno chat completion na identyfikatorze, który planujesz ustawić jako domyślny. Jeśli oba przejdą, połowa dotycząca bramki jest udowodniona. Wewnątrz FastGPT użyj testu łączności kanału, a potem zadaj jedno pytanie w minimalnej aplikacji, zanim zaangażujesz datasety. Błędy uwierzytelniania wskazują na klucz kanału; not-found na zapis identyfikatora; błędy połączenia na URL proxy albo egress kontenera, ponieważ to serwer FastGPT musi dosięgnąć endpointu. Jeśli aplikacja z datasetem zawodzi tam, gdzie zwykła aplikacja czatu działa, problem tkwi we własnych powiązaniach modelowych datasetu, nie w kanale. Gdy pytania już płyną, konsola APIsRouter pokazuje model per żądanie, liczbę tokenów i wydatki. Ruch bazy wiedzy to wiele małych, input-heavy żądań, a widok użycia per klucz to miejsce, gdzie ujawnia się rzeczywisty profil kosztu wdrożenia, per model, per dzień, chińskie i zachodnie identyfikatory na jednej stronie.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Częste pytania