Запустіть застосунки FastGPT на кастомному OpenAI-сумісному base URL.

Коротка відповідь: один канал на сторінці Model Providers.

Починаючи з v4.8.23, FastGPT постачається з власним шаром агрегації моделей (AI Proxy) і UI налаштування моделей, тож кастомний ендпоінт більше не потребує окремого деплою OneAPI чи ручного редагування config.json. Відкрийте Account, потім Model Providers, перемкніться на вкладку Model Channels і натисніть Add Channel. Встановіть тип протоколу OpenAI, назвіть канал, впишіть https://api.apisrouter.com/v1 у поле проксі-адреси (base URL, а не повний шлях запиту), вставте ваш ключ і оберіть чи впишіть id моделей, які має обслуговувати канал. Повернувшись на вкладку моделей, увімкніть додані id і запустіть вбудований тест з'єднання. Відтоді кожен застосунок, база знань і вузол workflow FastGPT можуть обирати ці моделі. Документація двомовна, а мітки зсуваються між релізами (doc.fastgpt.io — англомовний вхід), тож ставтеся до потоку канал, протокол, base URL, ключ, моделі як до стабільної частини, а не до точного формулювання.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

Як FastGPT маршрутизує трафік моделей.

FastGPT (labring на GitHub, приблизно 29 тис. зірок) — платформа баз знань і workflow китайського походження: датасети з витяганням QA і векторним пошуком, візуальна оркестрація Flow і опубліковані застосунки з поширенням і API-доступом. Усе це резолвиться до моделей, зареєстрованих у шарі конфігурації. Канал — це правило маршрутизації: ці id моделей, цей base URL, цей ключ. Запити виходять з FastGPT як стандартні chat completions з id моделі як звичайним рядком, тому мультивендорний шлюз вставляється як один-єдиний канал. Шар каналів також несе операційні можливості, які інакше довелося б будувати самому: одна модель може жити в кількох каналах для балансування навантаження, а мапінг моделей дозволяє FastGPT показувати одну назву, надсилаючи постачальнику інший рядок id. Для self-hosters на старіших версіях пряме підключення все ще існує: класична пара середовища FastGPT спрямовує платформу на будь-який OpenAI-сумісний base, OPENAI_BASE_URL і CHAT_API_KEY у середовищі docker-compose, з моделями, оголошеними в config.json під llmModels. Це працює, але проєкт перейшов на шлях через UI, і нові деплої мають починати саме там.

Азійський кут зору: один баланс для обох світів моделей.

Аудиторія FastGPT значною мірою китаємовна, і типовий деплой змішує регіональні моделі з західними: GLM чи Qwen для китайських баз знань, DeepSeek для об'єму, Claude чи GPT там, де продукт — це відшліфована відповідь. При прямому підключенні цей мікс означає облікові записи в Zhipu, Alibaba, DeepSeek, Anthropic і OpenAI, кожен зі своїм білінгом, деякі важко оплатити з одного чи іншого боку світу. Через один канал цей мікс — це список моделей: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash і claude-haiku-4-5-20251001 поруч, один передоплачений баланс, без вимоги картки, id прямо з каталогу. Команди в Азії отримують Claude і GPT без західної картки; західні команди отримують китайські моделі без регіональних реєстрацій. Та сама база знань може відповідати на китайські запити на GLM і англійські на Claude, маршрутизовані по застосунку. Якщо ви натомість використовуєте застаріле підключення через середовище, той самий ендпоінт підключається напряму; домовленість щодо base URL включає суфікс /v1, і FastGPT сам додає до нього шляхи маршруту на кшталт /chat/completions.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Вибір моделей для баз знань і флоу.

Оскільки кожен увімкнений id оплачується через один ключ, порівняння моделей — це зміна налаштування вузла. Закріпіть двох кандидатів у двох копіях того самого застосунку, прогоніть тиждень реальних питань і прочитайте розбивку по моделях у консолі APIsRouter поруч із власною оцінкою якості відповідей.

• QA датасетів і генерація відповідей над отриманими фрагментами — це об'ємна робота: deepseek-v4-flash і glm-5.2 тримають вартість питання плоскою на двомовних корпусах.
• qwen3.7-plus і kimi-k2.6 — регіональний вибір, вартий тестування, коли відповіді мають природно звучати китайською; різниця в якості між китайськими моделями проявляється в генерації більше, ніж у пошуку.
• claude-haiku-4-5-20251001 — швидкий західний рівень для багатомовних деплоїв; піднімайтеся до claude-sonnet-4-6 у конкретних застосунках, де якість синтезу — це продукт.
• Вузли workflow спрацьовують на кожному прогоні, тож п'ятивузловий флоу множить те, що сидить у кожному вузлі; ставте швидкі id у вузли класифікації й маршрутизації, а витрачайтеся на вузол відповіді.
• Моделі індексації й витягування налаштовуються окремо від чат-моделей; підтвердіть, що ендпоінт обслуговує будь-який id ембедінга, який ви прив'язуєте, перш ніж перебудовувати навколо нього індекс.

Оплата за фактом · нижче офіційних цін

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Збої, специфічні саме для FastGPT.

Домовленість щодо base URL спантеличує тих, хто переходить з інших інструментів: FastGPT очікує base із суфіксом /v1 у полі проксі й додає /chat/completions самостійно, тоді як форма кастомної моделі (інша фіча, для разових моделей, що обходять канали) хоче повний URL запиту, включно з /v1/chat/completions. Знайте, у якому полі ви перебуваєте, перш ніж вставляти. Модель, що існує в каналі, але недоступна для вибору в застосунках, означає, що її додали до каналу, але не увімкнули на боці моделей конфігурації; ці два списки окремі, а тест з'єднання доводить лише канал. Найбільша небезпека — старі туторіали. Роки посібників FastGPT припускають наявність сайдкара OneAPI й редагування config.json; на поточних версіях UI Model Providers замінює обидва, і змішування двох підходів (підключення через середовище плюс канали) призводить до маршрутизації запитів туди, куди ви не дивитеся. Оберіть один шар і налаштуйте його повністю. Помилки model-not-found — звична вільнотекстова проблема: id у каналі має точно збігатися з написанням у /v1/models шлюзу, включно з суфіксами версій. Копіюйте, а не вписуйте вручну.

Хто спрямовує FastGPT через шлюз.

• Двомовні команди, що змішують GLM, Qwen, Kimi і DeepSeek з id Claude і GPT в одному деплої, одному балансі, одному лозі використання.
• Команди в Азії, що хочуть західні моделі фронтиру на передоплаченому балансі без західної картки, і західні команди, що хочуть китайські моделі без регіонального білінгу.
• Self-hosters, що замінюють сайдкар OneAPI: шлюз обслуговує мультивендорну частину, вбудовані канали FastGPT — частину маршрутизації.
• Агентства, що ведуть клієнтські бази знань на FastGPT, вимірюючи кожного клієнта своїм ключем, щоб витрати на модель звітували самі за себе по проєкту.
• Розробники, що порівнюють моделі відповідей на фіксованих корпусах, де кожен кандидат — це запис каналу, а не обліковий запис постачальника.

Перевірте ендпоінт і налагодьте перше питання.

Спочатку зробіть curl до списку моделей і скопіюйте id з виводу в канал; потім запустіть один chat completion проти id, який плануєте зробити типовим. Якщо обидва пройшли, половина роботи шлюзу доведена. Усередині FastGPT використайте тест з'єднання каналу, потім поставте одне питання в мінімальному застосунку, перш ніж залучати датасети. Помилки автентифікації вказують на ключ каналу; not-found — на написання id; помилки з'єднання — на URL проксі чи egress контейнера, оскільки саме сервер FastGPT, а не ваш браузер, має дістатися ендпоінта. Якщо застосунок з датасетом падає там, де звичайний чат-застосунок працює, проблема в прив'язках моделі самого датасету, а не в каналі. Щойно питання потечуть, консоль APIsRouter показує модель на запит, кількість токенів і витрати. Трафік баз знань — це багато маленьких, вхідно-важких запитів, і вигляд використання за ключем — те місце, де стає видним реальний профіль вартості деплою, по моделі, по дню, китайські й західні id на одній сторінці.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Поширені запитання