FinGPT의 에이전트 파이프라인을 커스텀 OpenAI 호환 엔드포인트에서 실행하기.

빠른 답: AG2 LLMConfig 딕셔너리의 base_url.

FinGPT의 멀티 에이전트 금융 분석 파이프라인(업스트림 저장소의 fingpt/ag2_financial_analysis_pipeline.ipynb)은 model, api_key, api_type, base_url이라는 네 개의 키를 가진 AG2 LLMConfig 딕셔너리로 LLM 설정을 구성합니다. 업스트림 노트북 자체가 base_url을 api.openai.com이 아니라 OpenAI 호환 라우터 엔드포인트로 가리키므로, 여기서 게이트웨이를 통한 라우팅은 우회책이 아니라 문서화된 패턴입니다. APIsRouter를 통해 파이프라인을 실행하려면, api_type을 "openai"로, base_url을 https://api.apisrouter.com/v1로 설정하고, api_key에 여러분의 게이트웨이 키를 넣고, model을 어떤 카탈로그 id로든 설정하세요. 노트북의 모든 AssistantAgent가 같은 llm_config 객체를 받으므로, 딕셔너리 하나가 전체 에이전트 팀을 옮깁니다.

from autogen import LLMConfig  # ag2[openai]>=0.11.4

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

FinGPT가 실제로 LLM API를 호출하는 곳.

FinGPT(GitHub의 AI4Finance-Foundation, 약 2.1만 스타)는 한 이름 아래 두 가지가 들어 있으며, 어느 절반을 실행하고 있는지 아는 것이 커스텀 엔드포인트가 조금이라도 의미 있는지를 결정합니다. 첫 번째 절반은 파인튜닝된 오픈 웨이트입니다: 이 프로젝트를 유명하게 만든 Llama와 ChatGLM용 LoRA 훈련 노트북들. 이것들은 Hugging Face transformers를 통해 로컬이나 대여한 GPU에서 실행되며, chat-completions 호출을 전혀 만들지 않으므로 어떤 base URL도 적용되지 않습니다. 두 번째 절반은 애플리케이션 파이프라인이며, 여기에 OpenAI 호환 표면이 있습니다. AG2 멀티 에이전트 분석 파이프라인은 세 개의 AssistantAgent(뉴스 리서처, 센티먼트 애널리스트, 투자 어드바이저)를 하나의 LLMConfig에 연결하고, yfinance 툴 호출과 로컬 FinBERT 센티먼트 분류기로 보강하며, 이들이 역할 간에 주식 분석을 전달하게 합니다. 금융 보고서 분석 파이프라인(fingpt/FinGPT_FinancialReportAnalysis)은 sec-api와 Financial Modeling Prep을 통해 가져온 SEC 공시자료에 대해 LangChain의 ChatOpenAI를 구동합니다. 두 파이프라인 모두 표준 /v1/chat/completions 요청을 보내고, 둘 다 엔드포인트를 파라미터로 노출하며, 둘 다 model 필드를 그냥 문자열로 전달하는데, 이것이 base_url 뒤의 엔드포인트가 서빙하기만 하면 Claude나 DeepSeek id가 "openai" api_type 위에 올라탈 수 있게 해주는 이유입니다.

전체 설정: AG2 파이프라인과 보고서 분석 파이프라인.

AG2 파이프라인이 가장 깔끔한 통합입니다. 노트북의 LLMConfig 값을 게이트웨이 엔드포인트와 선호하는 모델 id로 바꾸면, 세 에이전트와 그들의 툴 호출 루프가 그대로 작동합니다. 금융 데이터 쪽(yfinance 시세, FinBERT 센티먼트 스코어링)은 로컬이며 API 키가 필요 없으므로, 여러분이 옮기는 유일한 외부 의존성은 LLM 엔드포인트입니다. 보고서 분석 파이프라인은 LangChain의 ChatOpenAI를 쓰며, 이는 api_key와 base_url을 생성자 인자로 받습니다; 업스트림 노트북은 로컬 OpenAI 호환 서버로 바꿔 끼우는 방법을 보여줄 때 정확히 이 쌍을 시연합니다. 같은 두 인자를 대신 게이트웨이로 지정하세요. 이 노트북은 데이터를 가져오기 위해 SEC와 Financial Modeling Prep 자격 증명도 원한다는 점을 유의하세요; 그것들은 시장 데이터 키로 LLM 엔드포인트와 무관하며 그대로 둡니다.

import os
from autogen import AssistantAgent, LLMConfig

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",         # any catalog id
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

researcher = AssistantAgent(name="News_Researcher", llm_config=llm_config)
analyst = AssistantAgent(name="Sentiment_Analyst", llm_config=llm_config)
advisor = AssistantAgent(name="Investment_Advisor", llm_config=llm_config)

금융 분석 에이전트를 위한 모델 선택.

모든 후보가 같은 엔드포인트에 대한 모델 문자열 하나이므로, 실용적인 루프는 티커와 날짜를 고정하고, 후보 id별로 파이프라인을 한 번씩 실행하고, 어드바이저 출력을 diff하는 것입니다. 키별 사용량 로그가 각 후보 실행에 가격을 매겨주므로, 토큰당 품질 논쟁이 직감이 아니라 숫자로 해결됩니다.

• 어드바이저 역할이 추론의 병목입니다. 리서처의 발견, 센티먼트 점수, 리스크 그림을 하나의 전망으로 종합하는데, 프론티어 추론 모델(claude-opus-4-7, gpt-5.5)에서 그 종합이 비로소 평범하지 않은 수준이 됩니다.
• 리서처와 애널리스트 역할은 물량 역할입니다: 헤드라인 읽기, 툴 출력 구조화, 초안 스코어링. claude-sonnet-4-6이나 deepseek-v4-pro가 모든 중간 턴에 프론티어급 가격을 물리지 않고도 예리함을 유지해 줍니다.
• 보고서 분석은 롱컨텍스트 워크로드입니다. 10-K 섹션에 목표가 컨텍스트까지 더하면 큰 프롬프트가 되니, 기본값을 그대로 가정하기 전에 공시자료 쪽에서 gemini-3.1-pro-preview나 claude-sonnet-4-6을 테스트하세요.
• FinGPT의 뿌리는 이중 언어입니다. 파이프라인이 중국어 공시자료나 뉴스를 읽는다면, glm-5.2와 deepseek-v4-pro가 그쪽에서 네이티브로 강하며 같은 엔드포인트를 통해 id로 주소 지정할 수 있습니다.
• 모든 에이전트에 LLMConfig 하나를 쓰는 것이 노트북의 기본값이지만, 같은 base_url을 대상으로 두 개의 딕셔너리를 만들어 어드바이저에는 프론티어용, 리더들에는 빠른 것을 만들고 에이전트별로 배정하지 못할 이유는 없습니다.

사용한 만큼 지불 · 공식 요금보다 저렴

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

주의 사항: FinGPT의 모든 base_url이 LLM은 아닙니다.

FinGPT는 연구용 모노레포이며, LLM 엔드포인트 설정처럼 보이지만 아닌 몇 가지가 있습니다. Forecaster의 market_sentiment.py는 api_key와 base_url 파라미터를 가지지만, 이것들은 chat-completions 엔드포인트가 아니라 (ADANOS_API_KEY에서 읽는) 시장 데이터 센티먼트 서비스를 설정합니다. 그 base_url을 바꿔도 어떤 LLM 트래픽도 라우팅되지 않습니다. FinGPT-Forecaster 모델 자체는 Hugging Face를 통해 서빙되는 파인튜닝된 Llama 웨이트이므로, forecaster 데모는 애초에 OpenAI 호환 소비자가 아닙니다. 저장소 안의 더 새로운 Finogrid 플랫폼은 FINGPT_LLM_PROVIDER 환경 변수(openai, minimax, fingpt)를 통해 LLM을 고르며 openai 프로바이더에는 OPENAI_API_KEY를 읽습니다. 2026년 7월 기준 예제 환경 파일은 프로바이더 전환과 키를 문서화하지만 base-URL 오버라이드 변수는 없으므로, 업스트림이 하나를 문서화할 때까지 Finogrid는 게이트웨이 대상 범위 밖으로 취급하세요. 마지막으로, AG2 노트북은 ag2[openai]를 0.11.4 이상으로 고정합니다. 더 오래된 pyautogen 0.2 시대 설치는 LLMConfig 클래스 대신 config_list 항목으로 같은 네 키를 설정합니다; 키는 동일하므로 라우팅은 작동하지만, import 스타일을 실제로 설치된 AutoGen 세대에 맞추세요.

어떤 사람들이 게이트웨이를 통해 FinGPT를 쓰는가.

• 티커 목록 전반에 걸쳐 멀티 에이전트 분석을 실행하는 퀀트 연구자. 종목당 수십 번의 에이전트 턴이 있으니 프로바이더별 벤더 대시보드보다 키별 사용량 가시성이 더 유용합니다.
• 모델 계열 간 분석 품질을 비교하는 팀. 각 후보는 새로운 프로바이더 통합과 계정이 아니라 LLMConfig의 모델 문자열 하나입니다.
• 보고서 파이프라인을 통해 공시자료를 대량으로 처리하는 애널리스트 — id 간 롱컨텍스트 가격 차이가 청구서를 지배합니다.
• glm-5.2나 deepseek-v4-pro 같은 중국어에 강한 id를 Claude나 GPT의 추론과 짝짓는 이중 언어 금융 팀, 모두 엔드포인트 하나 뒤에.
• 특정 벤더의 결제 수단에 접근할 수 없는 개발자. 카드 없이 충전만으로 사용할 수 있어 프로바이더별 가입 의존성이 사라집니다.

엔드포인트 검증 및 첫 실행 디버깅.

노트북을 시작하기 전에 여러분의 키로 접근 가능한 모델을 나열하세요; LLMConfig의 model 문자열은 서빙되는 id와 정확히 일치해야 합니다. 첫 실행 실패는 짧은 목록을 따릅니다. 401은 딕셔너리의 api_key가 base_url의 엔드포인트에 유효한 키가 아니라는 뜻입니다; 둘 다 같은 딕셔너리에 있으므로, (키는 빼고) 딕셔너리를 출력해 에이전트가 실제로 받은 사본을 편집했는지 확인하세요. model-not-found 오류는 id 오타이며, /v1/models 출력이 권위 있는 철자입니다. 연결 오류는 보통 base_url이 /v1 접미사를 잃었다는 뜻입니다, 클라이언트가 여러분이 준 base에 /chat/completions를 붙이기 때문입니다. 그리고 에이전트 채팅은 작동하는데 센티먼트 단계가 실패한다면, 그것은 게이트웨이가 아니라 로컬 FinBERT 분류기나 누락된 transformers 설치입니다. 요청이 흐르기 시작하면 APIsRouter 콘솔에서 요청별 모델, 토큰 수, 지출을 볼 수 있습니다. 멀티 에이전트 파이프라인은 호출을 빠르게 곱하며, 사용량 뷰는 전체 워치리스트로 실행을 확장하기 전에 어느 에이전트 역할이 토큰을 소비하고 있는지 보는 방법입니다.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

자주 묻는 질문