FastGPT 앱을 커스텀 OpenAI 호환 base URL에서 실행하기.

빠른 답: Model Providers 페이지의 채널 하나.

v4.8.23부터 FastGPT는 자체 모델 통합 레이어(AI Proxy)와 모델 설정 UI를 제공하므로, 커스텀 엔드포인트에 더 이상 별도의 OneAPI 배포나 수작업 config.json 편집이 필요하지 않습니다. Account를 연 다음 Model Providers로 가서 Model Channels 탭으로 전환하고 Add Channel을 클릭하세요. 프로토콜 타입을 OpenAI로 설정하고, 채널 이름을 짓고, 프록시 주소 필드(전체 요청 경로가 아니라 base URL)에 https://api.apisrouter.com/v1을 넣고, 키를 붙여넣고, 채널이 서빙할 모델 id를 선택하거나 입력하세요. models 탭으로 돌아가 추가한 id를 활성화하고 내장된 연결 테스트를 실행하세요. 그 이후로는 모든 FastGPT 앱, 지식베이스, 워크플로우 노드가 그 모델들을 선택할 수 있습니다. 문서는 이중 언어이고 릴리스마다 레이블이 바뀌므로(doc.fastgpt.io가 영어 진입점), 정확한 문구보다 채널, 프로토콜, base URL, 키, 모델이라는 흐름 자체를 안정된 부분으로 취급하세요.

Channel Name:   APIsRouter
Protocol Type:  OpenAI
Proxy URL:      https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Models:         claude-sonnet-4-6, deepseek-v4-flash,
                glm-5.2, qwen3.7-plus, kimi-k2.6

then: enable the models + run the connection test

FastGPT가 모델 트래픽을 라우팅하는 방식.

FastGPT(GitHub의 labring, 약 2.9만 스타)는 중국에서 시작된 지식베이스·워크플로우 플랫폼입니다: QA 추출과 벡터 검색이 있는 데이터셋, 시각적 Flow 오케스트레이션, 공유와 API 접근이 가능한 배포된 앱까지. 이 모든 것이 설정 레이어에 등록된 모델로 해석됩니다. 채널은 라우팅 규칙입니다: 이 모델 id들, 이 base URL, 이 키. 요청은 model id를 순수 문자열로 하는 표준 chat completions로 FastGPT를 떠나므로, 멀티벤더 게이트웨이가 하나의 채널로 딱 들어맞습니다. 채널 레이어에는 여러분이 직접 만들어야 할 운영 기능도 있습니다: 하나의 모델이 로드 밸런싱을 위해 여러 채널에 존재할 수 있고, 모델 매핑을 통해 FastGPT가 이름 하나를 노출하면서 프로바이더에는 다른 id 문자열을 보내게 할 수 있습니다. 이전 버전의 셀프 호스터를 위해 직접 배선 방식도 여전히 존재합니다: FastGPT의 클래식 환경 변수 쌍은 docker-compose 환경의 OPENAI_BASE_URL과 CHAT_API_KEY로 플랫폼을 어떤 OpenAI 호환 base로든 향하게 하고, 모델은 config.json의 llmModels 아래 선언됩니다. 작동은 하지만 프로젝트가 이동해간 곳은 UI 경로이고, 새 배포는 거기서 시작해야 합니다.

아시아적 관점: 두 모델 세계를 위한 잔액 하나.

FastGPT의 사용자 기반은 중국어권이 큰 비중을 차지하며, 전형적인 배포는 지역 모델과 서구 모델을 섞습니다: 중국어 지식베이스에는 GLM이나 Qwen, 볼륨에는 DeepSeek, 답변 완성도가 곧 제품인 곳에는 Claude나 GPT. 직접 연결하면 이 조합은 Zhipu, Alibaba, DeepSeek, Anthropic, OpenAI 각각에 별도 계정을 의미하며, 각기 청구가 따로이고 일부는 세계 어느 한쪽에서 결제하기 어렵습니다. 채널 하나를 통하면 이 조합은 그저 모델 목록일 뿐입니다: glm-5.2, qwen3.7-plus, kimi-k2.6, deepseek-v4-flash, claude-haiku-4-5-20251001을 나란히, 선불 잔액 하나, 카드 요건 없이, 카탈로그에서 바로 가져온 id로. 아시아의 팀은 서구 카드 없이 Claude와 GPT를 얻고, 서구의 팀은 지역별 가입 없이 중국 모델을 얻습니다. 같은 지식베이스가 앱별로 라우팅되어 GLM으로 중국어 질의에, Claude로 영어 질의에 답할 수 있습니다. 레거시 환경 변수 배선을 대신 사용한다면 같은 엔드포인트가 그대로 들어맞습니다; base URL 관례는 /v1 접미사를 포함하며, FastGPT가 여기에 /chat/completions 같은 라우트 경로를 덧붙입니다.

# docker-compose environment, pre-AI-Proxy versions
OPENAI_BASE_URL=https://api.apisrouter.com/v1
CHAT_API_KEY=sk-YOUR-APISROUTER-KEY
# models declared in config.json under llmModels

지식베이스와 플로우를 위한 모델 선택.

활성화된 모든 id가 키 하나로 청구되므로, 모델 비교는 노드 설정 변경일 뿐입니다. 같은 앱의 사본 두 개에 후보 두 개를 고정하고, 일주일치 실제 질문을 돌린 다음, APIsRouter 콘솔의 모델별 분할을 답변 품질에 대한 여러분 자신의 판단과 나란히 읽으세요.

• 검색된 청크에 대한 데이터셋 QA와 답변 생성은 볼륨 작업입니다: deepseek-v4-flash와 glm-5.2는 이중 언어 코퍼스에서 질문당 비용을 평평하게 유지합니다.
• qwen3.7-plus와 kimi-k2.6은 답변이 중국어로 자연스럽게 읽혀야 할 때 테스트할 가치가 있는 지역 픽입니다; 생성 품질은 검색보다 중국 모델 간 편차가 더 큽니다.
• claude-haiku-4-5-20251001은 다국어 배포를 위한 빠른 서구 티어입니다; 종합 품질이 곧 제품인 특정 앱에서는 claude-sonnet-4-6으로 단계를 올리세요.
• 워크플로우 노드는 실행마다 발동하므로, 다섯 노드짜리 플로우는 각 노드에 앉힌 id를 그대로 곱합니다; 분류와 라우팅 노드에는 빠른 id를, 답변 노드에는 지출을 두세요.
• 인덱스와 추출 모델은 채팅 모델과 별도로 설정됩니다; 인덱스를 그 주위로 재구축하기 전에 엔드포인트가 여러분이 바인딩하는 임베딩 id를 서빙하는지 확인하세요.

사용한 만큼 지불 · 공식 요금보다 저렴

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

FastGPT 특유의 실패 패턴.

base URL 관례는 다른 도구에서 넘어온 사람들을 걸려 넘어지게 합니다: FastGPT는 프록시 필드에 /v1 접미사가 붙은 base를 기대하고 스스로 /chat/completions를 덧붙이는 반면, 커스텀 모델 폼(채널을 건너뛰는 일회성 모델을 위한 별도 기능)은 /v1/chat/completions를 포함한 전체 요청 URL을 원합니다. 붙여넣기 전에 어느 필드에 있는지 파악하세요. 채널에는 존재하지만 앱에서 선택할 수 없는 모델은 채널에는 추가됐지만 설정의 models 쪽에서는 활성화되지 않았다는 뜻입니다; 두 목록은 별개이며, 연결 테스트는 채널만 증명합니다. 오래된 튜토리얼이 가장 큰 위험입니다. 수년간의 FastGPT 가이드는 OneAPI 사이드카와 config.json 편집을 전제로 하는데, 현재 버전에서는 Model Providers UI가 둘 다 대체하며, 두 접근을 섞으면(env 배선과 채널을 동시에) 요청이 여러분이 보고 있지 않은 곳으로 라우팅됩니다. 레이어 하나를 골라 완전히 설정하세요. Model-not-found 오류는 흔한 자유 텍스트 문제입니다: 채널의 id는 게이트웨이의 /v1/models 표기와 버전 접미사까지 정확히 일치해야 합니다. 타이핑하지 말고 복사하세요.

어떤 사람들이 게이트웨이를 통해 FastGPT를 쓰는가.

• 한 배포판, 한 잔액, 한 사용량 로그로 GLM, Qwen, Kimi, DeepSeek를 Claude, GPT id와 섞는 이중 언어 팀.
• 서구 카드 없이 선불 잔액으로 서구 프론티어 모델을 원하는 아시아의 팀, 그리고 지역 청구 없이 중국 모델을 원하는 서구의 팀.
• OneAPI 사이드카를 대체하는 셀프 호스터 — 게이트웨이가 멀티벤더 부분을, FastGPT의 내장 채널이 라우팅 부분을 서빙합니다.
• FastGPT에서 클라이언트 지식베이스를 운영하며 각 클라이언트를 자체 키로 계량해 모델 지출이 프로젝트별로 스스로 리포트되도록 하는 에이전시.
• 고정된 코퍼스에서 답변 모델을 비교하는 빌더 — 각 후보는 벤더 계정이 아니라 채널 항목입니다.

엔드포인트 검증 및 첫 질문 디버깅.

모델 목록을 먼저 curl로 확인하고 출력에서 id를 채널로 복사하세요; 그런 다음 기본값으로 만들려는 id를 대상으로 채팅 완성을 한 번 실행하세요. 둘 다 통과하면 게이트웨이 쪽은 증명된 것입니다. FastGPT 내부에서는 채널 연결 테스트를 사용한 다음, 데이터셋을 관여시키기 전에 최소한의 앱에서 질문을 하나 해보세요. 인증 오류는 채널 키를 가리킵니다; not-found는 id 표기를; 연결 오류는 프록시 URL이나 컨테이너 이그레스를 가리킵니다(브라우저가 아니라 FastGPT 서버가 엔드포인트에 도달해야 하기 때문입니다). 일반 채팅 앱은 작동하는데 데이터셋 앱이 실패한다면 문제는 채널이 아니라 데이터셋 자체의 모델 바인딩에 있습니다. 질문이 흐르기 시작하면 APIsRouter 콘솔에서 요청별 모델, 토큰 수, 지출을 볼 수 있습니다. 지식베이스 트래픽은 작고 입력이 많은 요청이 많으며, 키별 사용량 뷰는 배포판의 실제 비용 프로필이 모델별, 날짜별로, 중국과 서구 id가 한 페이지에 함께 드러나는 곳입니다.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.2",
       "messages":[{"role":"user","content":"ping"}]}'

자주 묻는 질문