Запустите приложения FastGPT на кастомном OpenAI-совместимом base URL.

Короткий ответ: один канал на странице Model Providers.

Начиная с v4.8.23 FastGPT поставляется с собственным слоем агрегации моделей (AI Proxy) и UI для настройки моделей, так что кастомный эндпоинт больше не требует отдельного деплоя OneAPI или ручной правки config.json. Откройте Account, затем Model Providers, переключитесь на вкладку Model Channels и нажмите Add Channel. Установите тип протокола в OpenAI, назовите канал, укажите https://api.apisrouter.com/v1 в поле proxy-адреса (это base URL, а не полный путь запроса), вставьте свой ключ и выберите или впишите id моделей, которые должен обслуживать канал. Вернувшись на вкладку моделей, включите добавленные id и запустите встроенный тест связности. С этого момента любое приложение FastGPT, база знаний и узел workflow могут выбрать эти модели. Документация двуязычная, и формулировки меняются между релизами (doc.fastgpt.io — англоязычная точка входа), так что относитесь к самому потоку — канал, протокол, base URL, ключ, модели — как к стабильной части, а не к точным формулировкам.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

Как FastGPT маршрутизирует трафик моделей.

FastGPT (labring на GitHub, около 29K звёзд) — платформа баз знаний и workflow китайского происхождения: датасеты с извлечением QA и векторным поиском, визуальная оркестрация Flow, опубликованные приложения с шарингом и доступом по API. Всё это резолвится в модели, зарегистрированные в слое конфигурации. Канал — это правило маршрутизации: эти id моделей, этот base URL, этот ключ. Запросы уходят из FastGPT как стандартные chat completions с id модели в качестве простой строки, поэтому мультивендорный шлюз встаёт как один канал. Слой каналов также несёт операционные фичи, которые иначе пришлось бы строить самим: одна модель может жить в нескольких каналах для балансировки нагрузки, а маппинг моделей позволяет FastGPT показывать одно имя, отправляя провайдеру другую строку id. Для self-hosters на старых версиях прямая настройка всё ещё существует: классическая пара переменных окружения FastGPT направляет платформу на любой OpenAI-совместимый base — OPENAI_BASE_URL и CHAT_API_KEY в окружении docker-compose, с моделями, объявленными в config.json под llmModels. Это работает, но UI-путь — это то, куда переехал проект, и новым деплоям стоит начинать именно с него.

Азиатский ракурс: один баланс для обоих миров моделей.

Пользовательская база FastGPT сильно китаеязычная, и типичный деплой смешивает региональные модели с западными: GLM или Qwen для китайских баз знаний, DeepSeek для объёма, Claude или GPT там, где продукт — это отточенность ответа. При прямом подключении такой микс означает аккаунты у Zhipu, Alibaba, DeepSeek, Anthropic и OpenAI, каждый со своим биллингом, причём некоторые из них неудобно оплачивать с одной или другой стороны мира. Через один канал этот микс — просто список моделей: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash и claude-haiku-4-5-20251001 бок о бок, один предоплаченный баланс, без требования карты, id прямо из каталога. Команды в Азии получают Claude и GPT без западной карты; западные команды получают китайские модели без региональной регистрации. Одна и та же база знаний может отвечать на китайские запросы через GLM и на английские через Claude, маршрутизируемые по приложению. Если вместо этого вы используете устаревшую настройку через переменные окружения, тот же эндпоинт подключается напрямую; конвенция base URL включает суффикс /v1, и FastGPT добавляет к нему пути маршрута вроде /chat/completions.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

Выбор моделей для баз знаний и flow.

Поскольку каждый включённый id тарифицируется через один ключ, сравнение моделей — это правка настройки узла. Закрепите двух кандидатов в двух копиях одного приложения, прогоните неделю реальных вопросов и прочитайте разбивку по модели в консоли APIsRouter рядом с вашей собственной оценкой качества ответов.

• QA по датасетам и генерация ответов по извлечённым чанкам — это объёмная работа: deepseek-v4-flash и glm-5.2 держат стоимость на вопрос стабильной на двуязычных корпусах.
• qwen3.7-plus и kimi-k2.6 — региональные кандидаты, которые стоит протестировать, когда ответы должны звучать по-китайски естественно; качество генерации у китайских моделей различается сильнее, чем качество retrieval.
• claude-haiku-4-5-20251001 — быстрый западный уровень для деплоев со смешанным языком; переходите на claude-sonnet-4-6 в конкретных приложениях, где качество синтеза — это продукт.
• Узлы workflow срабатывают на каждом прогоне, так что пятиузловой flow умножает то, какой id стоит в каждом узле; ставьте быстрые id в узлы классификации и маршрутизации, а траты — на узел ответа.
• Модели индексации и извлечения настраиваются отдельно от чат-моделей; убедитесь, что эндпоинт обслуживает id embedding, который вы привязываете, прежде чем перестраивать индекс вокруг него.

Оплата по факту · дешевле официальных цен

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Сбои, специфичные именно для FastGPT.

Конвенция base URL сбивает с толку людей, переходящих из других инструментов: FastGPT ожидает base с суффиксом /v1 в поле proxy и сам добавляет /chat/completions, тогда как её форма custom-model (отдельная фича для разовых моделей, обходящих каналы) хочет полный URL запроса, включая /v1/chat/completions. Знайте, в каком поле вы находитесь, прежде чем вставлять значение. Модель, которая есть в канале, но не выбирается в приложениях, значит, что она была добавлена в канал, но не включена на стороне моделей конфигурации; эти два списка раздельны, и тест связности доказывает только канал. Старые туториалы — самая большая опасность. Годы гайдов по FastGPT предполагают sidecar OneAPI и правки config.json; в текущих версиях UI Model Providers заменяет и то, и другое, и смешивание двух подходов (настройка через окружение плюс каналы) заставляет запросы маршрутизироваться туда, куда вы не смотрите. Выберите один слой и настройте его полностью. Ошибки model-not-found — обычная проблема свободного текста: id в канале должен точно совпадать с написанием /v1/models шлюза, включая версионные суффиксы. Копируйте, а не вводите вручную.

Кто направляет FastGPT через шлюз.

• Двуязычные команды, смешивающие GLM, Qwen, Kimi и DeepSeek с id Claude и GPT в одном деплое, с одним балансом и одним логом использования.
• Команды в Азии, которым нужны топовые западные модели на предоплаченном балансе без западной карты, и западные команды, которым нужны китайские модели без региональной оплаты.
• Self-hosters, заменяющие sidecar OneAPI: шлюз обслуживает мультивендорную часть, встроенные каналы FastGPT — часть маршрутизации.
• Агентства, ведущие клиентские базы знаний на FastGPT, измеряя каждого клиента собственным ключом, так что расходы на модели отчитываются сами по проекту.
• Разработчики, сравнивающие модели ответов на фиксированных корпусах, где каждый кандидат — это запись канала, а не аккаунт у вендора.

Проверьте эндпоинт и отладьте первый вопрос.

Сначала curl'ните листинг моделей и скопируйте id из вывода в канал; затем прогоните один chat completion против id, который планируете сделать умолчанием. Если оба проходят, половина со шлюзом доказана. Внутри FastGPT используйте тест связности канала, затем задайте один вопрос в минимальном приложении, прежде чем подключать датасеты. Ошибки аутентификации указывают на ключ канала; not-found — на написание id; ошибки подключения — на proxy URL или egress контейнера, так как до эндпоинта должен дотянуться сервер FastGPT. Если приложение с датасетом падает там, где работает обычное чат-приложение, проблема в собственных привязках моделей датасета, а не в канале. Как только вопросы начинают работать, консоль APIsRouter показывает модель на запрос, счётчики токенов и расходы. Трафик баз знаний — это много небольших запросов с большим объёмом входных данных, и вид использования по ключу — это место, где виден реальный профиль стоимости деплоя, по модели, по дню, китайские и западные id на одной странице.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

Частые вопросы