Jalankan pipeline agent FinGPT di endpoint OpenAI-compatible custom.

Jawaban singkat: base_url di dict AG2 LLMConfig.

Pipeline analisis finansial multi-agent FinGPT (fingpt/ag2_financial_analysis_pipeline.ipynb di repo upstream) membangun konfigurasi LLM-nya sebagai dict AG2 LLMConfig dengan empat key: model, api_key, api_type, dan base_url. Notebook upstream itu sendiri mengarahkan base_url ke endpoint router OpenAI-compatible alih-alih ke api.openai.com, jadi routing lewat gateway adalah pola terdokumentasi di sini, bukan workaround. Untuk menjalankan pipeline lewat APIsRouter, setel api_type ke "openai", setel base_url ke https://api.apisrouter.com/v1, taruh key gateway Anda di api_key, dan setel model ke id katalog apa pun. Setiap AssistantAgent di notebook menerima objek llm_config yang sama, jadi satu dict menggerakkan seluruh tim agent.

from autogen import LLMConfig  # ag2[openai]>=0.11.4

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

Di mana FinGPT sebenarnya memanggil API LLM.

FinGPT (AI4Finance-Foundation di GitHub, sekitar 21K bintang) adalah dua hal di bawah satu nama, dan mengetahui separuh mana yang Anda jalankan menentukan apakah endpoint custom penting sama sekali. Separuh pertama adalah open weight yang di-fine-tune: notebook training LoRA untuk Llama dan ChatGLM yang membuat proyek ini dikenal. Itu berjalan lokal atau di GPU sewaan lewat Hugging Face transformers, tidak membuat panggilan chat-completions, dan tidak ada base URL yang berlaku untuknya. Separuh kedua adalah pipeline aplikasi, dan di sinilah permukaan OpenAI-compatible hidup. Pipeline analisis multi-agent AG2 menyambungkan tiga AssistantAgent (news researcher, sentiment analyst, dan investment advisor) ke satu LLMConfig, memperkaya mereka dengan panggilan tool yfinance dan classifier sentiment FinBERT lokal, dan membiarkan mereka mengoper analisis ekuitas antar peran. Pipeline analisis laporan finansial (fingpt/FinGPT_FinancialReportAnalysis) menggerakkan ChatOpenAI dari LangChain terhadap filing SEC yang ditarik lewat sec-api dan Financial Modeling Prep. Kedua pipeline mengirim request /v1/chat/completions standar, keduanya mengekspos endpoint sebagai parameter, dan keduanya meneruskan field model sebagai string biasa, itulah yang memungkinkan id Claude atau DeepSeek menumpang pada api_type "openai" begitu endpoint di balik base_url melayaninya.

Setup lengkap: pipeline AG2 dan pipeline analisis-laporan.

Pipeline AG2 adalah integrasi paling bersih. Ganti nilai LLMConfig di notebook dengan endpoint gateway dan id model pilihan Anda, dan ketiga agent plus loop tool-calling mereka berjalan tanpa perubahan. Sisi data-finansial (kuotasi yfinance, penilaian sentiment FinBERT) bersifat lokal dan bebas API key, jadi endpoint LLM adalah satu-satunya dependensi eksternal yang Anda pindahkan. Pipeline analisis-laporan memakai ChatOpenAI dari LangChain, yang menerima api_key dan base_url sebagai argumen constructor; notebook upstream mendemonstrasikan persis pasangan ini saat menunjukkan cara menukar ke server OpenAI-compatible lokal. Arahkan kedua argumen yang sama ke gateway sebagai gantinya. Perhatikan bahwa notebook ini juga menginginkan kredensial SEC dan Financial Modeling Prep untuk penarikan datanya; itu adalah key data-pasar, tidak terkait dengan endpoint LLM, dan tetap seperti apa adanya.

import os
from autogen import AssistantAgent, LLMConfig

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",         # any catalog id
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

researcher = AssistantAgent(name="News_Researcher", llm_config=llm_config)
analyst = AssistantAgent(name="Sentiment_Analyst", llm_config=llm_config)
advisor = AssistantAgent(name="Investment_Advisor", llm_config=llm_config)

Memilih model untuk agent analisis finansial.

Karena setiap kandidat hanya satu string model terhadap endpoint yang sama, loop praktisnya adalah menetapkan ticker dan tanggal Anda, jalankan pipeline sekali per id kandidat, dan diff output advisor-nya. Log penggunaan per-key memberi harga setiap run kandidat untuk Anda, yang menyelesaikan perdebatan kualitas-per-token dengan angka, bukan insting.

• Peran advisor adalah bottleneck reasoning. Ia mensintesis temuan researcher, skor sentiment, dan gambaran risiko menjadi outlook, dan model reasoning frontier (claude-opus-4-7, gpt-5.5) adalah titik di mana sintesis itu berhenti terasa generik.
• Peran researcher dan analyst adalah peran volume: membaca headline, menyusun output tool, menilai draf. claude-sonnet-4-6 atau deepseek-v4-pro menjaga mereka tetap tajam tanpa harga frontier di setiap giliran perantara.
• Analisis laporan adalah beban kerja long-context. Satu bagian 10-K plus context price-target adalah prompt yang besar, jadi uji gemini-3.1-pro-preview atau claude-sonnet-4-6 pada sisi filing sebelum berasumsi dengan default.
• Akar FinGPT bersifat dwibahasa. Jika pipeline Anda membaca filing atau berita berbahasa Cina, glm-5.2 dan deepseek-v4-pro secara native kuat di sana dan bisa dialamatkan lewat endpoint yang sama dengan id.
• Menjalankan satu LLMConfig untuk semua agent adalah default notebook, tapi tidak ada yang menghalangi Anda membangun dua dict terhadap base_url yang sama, satu frontier untuk advisor dan satu cepat untuk para reader, dan menugaskannya per agent.

Bayar sesuai pemakaian · di bawah harga resmi

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Catatan penting: tidak setiap base_url di FinGPT adalah LLM.

FinGPT adalah monorepo riset, dan beberapa hal terlihat seperti pengaturan endpoint LLM padahal bukan. market_sentiment.py milik Forecaster punya parameter api_key dan base_url, tapi keduanya mengonfigurasi layanan sentiment data-pasar (dibaca dari ADANOS_API_KEY), bukan endpoint chat-completions. Mengubah base_url itu tidak merutekan traffic LLM apa pun. Model FinGPT-Forecaster sendiri adalah bobot Llama yang di-fine-tune dan dilayani lewat Hugging Face, jadi demo forecaster sama sekali bukan konsumen OpenAI-compatible. Platform Finogrid yang lebih baru di dalam repo memilih LLM-nya lewat environment variable FINGPT_LLM_PROVIDER (openai, minimax, atau fingpt) dan membaca OPENAI_API_KEY untuk provider openai. Per Juli 2026, file environment contohnya mendokumentasikan switch provider dan key-nya, tapi tidak ada variabel override base-URL, jadi perlakukan Finogrid sebagai di luar cakupan untuk gateway sampai upstream mendokumentasikannya. Terakhir, notebook AG2 mematok ag2[openai] pada 0.11.4 atau lebih baru. Instalasi era pyautogen 0.2 yang lebih lama mengonfigurasi keempat key yang sama lewat entri config_list alih-alih class LLMConfig; key-nya identik, jadi routing-nya berfungsi, tapi cocokkan gaya import Anda dengan generasi AutoGen yang benar-benar Anda instal.

Siapa yang merutekan FinGPT melalui gateway.

• Quant researcher yang menjalankan analisis multi-agent lintas daftar ticker. Puluhan giliran agent per ekuitas membuat visibilitas penggunaan per-key lebih berguna daripada dashboard vendor per provider.
• Tim yang membandingkan kualitas analisis lintas keluarga model. Setiap kandidat hanya satu string model di LLMConfig, bukan integrasi provider baru dan akun.
• Analyst yang memproses filing secara massal lewat pipeline laporan, di mana selisih harga long-context antar id mendominasi tagihan.
• Tim finance dwibahasa yang memasangkan id yang kuat-Cina seperti glm-5.2 atau deepseek-v4-pro dengan reasoning Claude atau GPT, semuanya di balik satu endpoint.
• Developer tanpa akses ke billing vendor tertentu. Akses berbasis top-up tanpa syarat kartu menghilangkan ketergantungan sign-up per provider.

Verifikasi endpoint dan debug run pertama.

Sebelum meluncurkan notebook, daftar model yang bisa dialamatkan key Anda; string model di LLMConfig harus cocok persis dengan id yang dilayani. Kegagalan run pertama mengikuti daftar singkat. 401 berarti api_key di dict bukan key yang valid untuk endpoint di base_url; karena keduanya hidup di dict yang sama, cetak dict-nya (minus key-nya) dan periksa apakah Anda mengedit salinan yang benar-benar diterima agent. Error model-not-found adalah salah ketik id, dan output /v1/models adalah ejaan yang otoritatif. Error koneksi biasanya berarti base_url kehilangan suffix /v1-nya, karena client menambahkan /chat/completions ke base apa pun yang Anda berikan. Dan jika langkah sentiment gagal sementara chat agent berfungsi, itu adalah classifier FinBERT lokal atau instalasi transformers yang hilang, bukan gateway. Setelah request mengalir, konsol APIsRouter menunjukkan model per request, hitungan token, dan pengeluaran. Pipeline multi-agent melipatgandakan panggilan dengan cepat, dan tampilan penggunaan adalah cara Anda melihat peran agent mana yang mengonsumsi token sebelum Anda menskalakan run ke watchlist penuh.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

Pertanyaan umum