Jalankan pipeline agent FinGPT pada endpoint serasi OpenAI custom.

Updated 2026-07-30

Pipeline analisis multi-agent FinGPT mengkonfigurasikan LLM-nya melalui dict LLMConfig AG2 yang menerima api_type "openai" dan base_url. Tetapkan base_url kepada https://api.apisrouter.com/v1, hantar satu kunci, dan agent researcher, sentimen, serta advisor boleh berjalan pada mana-mana id model dalam katalog.

Jawapan pantas: base_url dalam dict LLMConfig AG2.

Pipeline analisis kewangan multi-agent FinGPT (fingpt/ag2_financial_analysis_pipeline.ipynb dalam repo upstream) membina konfigurasi LLM-nya sebagai dict LLMConfig AG2 dengan empat kunci: model, api_key, api_type, dan base_url. Notebook upstream sendiri mengarahkan base_url ke endpoint router serasi OpenAI berbanding ke api.openai.com, jadi menghalakan melalui gateway adalah corak yang didokumentasikan di sini, bukan jalan pintas. Untuk menjalankan pipeline melalui APIsRouter, tetapkan api_type kepada "openai", tetapkan base_url kepada https://api.apisrouter.com/v1, letakkan kunci gateway anda dalam api_key, dan tetapkan model kepada mana-mana id katalog. Setiap AssistantAgent dalam notebook menerima objek llm_config yang sama, jadi satu dict menggerakkan seluruh pasukan agent.

from autogen import LLMConfig  # ag2[openai]>=0.11.4

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

Di mana FinGPT sebenarnya memanggil API LLM.

FinGPT (AI4Finance-Foundation di GitHub, lebih kurang 21K bintang) adalah dua perkara di bawah satu nama, dan mengetahui belah mana yang anda jalankan menentukan sama ada endpoint custom penting langsung. Belah pertama adalah bobot terbuka yang diperhalusi: notebook latihan LoRA untuk Llama dan ChatGLM yang menjadikan projek ini terkenal. Yang ini berjalan secara setempat atau pada GPU sewaan melalui Hugging Face transformers, tidak membuat panggilan chat-completions, dan tiada base URL terpakai kepadanya. Belah kedua adalah pipeline aplikasi, dan di sinilah permukaan serasi OpenAI tinggal. Pipeline analisis multi-agent AG2 mengalu-alukan tiga AssistantAgent (penyelidik berita, penganalisis sentimen, dan penasihat pelaburan) kepada satu LLMConfig, memperkasakan mereka dengan panggilan alatan yfinance dan pengklasifikasi sentimen FinBERT setempat, dan membenarkan mereka meluluskan analisis ekuiti antara peranan. Pipeline analisis laporan kewangan (fingpt/FinGPT_FinancialReportAnalysis) menggerakkan ChatOpenAI LangChain terhadap failing SEC yang ditarik melalui sec-api dan Financial Modeling Prep. Kedua-dua pipeline menghantar permintaan /v1/chat/completions standard, kedua-duanya mendedahkan endpoint sebagai parameter, dan kedua-duanya meneruskan medan model sebagai rentetan biasa, itulah yang membenarkan id Claude atau DeepSeek menunggang atas api_type "openai" sebaik sahaja endpoint di sebalik base_url melayaninya.

Persediaan penuh: pipeline AG2 dan pipeline analisis-laporan.

Pipeline AG2 adalah integrasi paling bersih. Gantikan nilai LLMConfig notebook dengan endpoint gateway dan id model pilihan anda, dan ketiga-tiga agent berserta gelung panggilan-alatan mereka berjalan tanpa perubahan. Sisi data-kewangan (sebut harga yfinance, pemarkahan sentimen FinBERT) adalah setempat dan bebas kunci API, jadi endpoint LLM adalah satu-satunya kebergantungan luaran yang anda gerakkan. Pipeline analisis-laporan menggunakan ChatOpenAI LangChain, yang menerima api_key dan base_url sebagai argumen konstruktor; notebook upstream menunjukkan tepat pasangan ini apabila ia menunjukkan cara menukar masuk pelayan serasi OpenAI setempat. Arahkan kedua-dua argumen yang sama ke gateway sebaliknya. Ambil perhatian notebook ini juga memerlukan kelayakan SEC dan Financial Modeling Prep untuk tarikan datanya; itu adalah kunci data-pasaran, tidak berkaitan dengan endpoint LLM, dan kekal sebagaimana adanya.

import os
from autogen import AssistantAgent, LLMConfig

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",         # mana-mana id katalog
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

researcher = AssistantAgent(name="News_Researcher", llm_config=llm_config)
analyst = AssistantAgent(name="Sentiment_Analyst", llm_config=llm_config)
advisor = AssistantAgent(name="Investment_Advisor", llm_config=llm_config)

Memilih model untuk agent analisis kewangan.

Kerana setiap calon adalah satu rentetan model terhadap endpoint yang sama, gelung praktikal adalah menetapkan ticker dan tarikh anda, jalankan pipeline sekali per id calon, dan diff output advisor. Log penggunaan per-kunci menetapkan harga setiap larian calon untuk anda, yang menyelesaikan hujah kualiti-per-token dengan nombor berbanding gerak hati.

  • Peranan advisor adalah kesesakan penaakulan. Ia mensintesis penemuan researcher, skor sentimen, dan gambaran risiko menjadi tinjauan, dan model penaakulan frontier (claude-opus-4-7, gpt-5.5) adalah tempat sintesis itu berhenti menjadi generik.
  • Peranan researcher dan analyst adalah peranan volum: membaca tajuk berita, menstruktur output alatan, memarkah draf. claude-sonnet-4-6 atau deepseek-v4-pro mengekalkan mereka tajam tanpa harga frontier pada setiap giliran perantaraan.
  • Analisis laporan adalah beban kerja konteks-panjang. Bahagian 10-K ditambah konteks sasaran-harga adalah prompt besar, jadi uji gemini-3.1-pro-preview atau claude-sonnet-4-6 pada sisi failing sebelum menganggap lalai.
  • Akar FinGPT adalah dwibahasa. Jika pipeline anda membaca failing atau berita berbahasa Cina, glm-5.2 dan deepseek-v4-pro kuat secara asli di situ dan boleh dicapai melalui endpoint yang sama mengikut id.
  • Menjalankan satu LLMConfig untuk semua agent adalah lalai notebook, tetapi tiada apa menghalang anda daripada membina dua dict terhadap base_url yang sama, satu frontier untuk advisor dan satu pantas untuk pembaca, dan menetapkannya per agent.

Bayar mengikut penggunaan · bawah harga rasmi

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

ModelHarga RasmiHarga Kami
Claude Opus 4.7$5.00 / $25.00 per M$4.00 / $20.00 per M
Claude Sonnet 4.6$3.00 / $15.00 per M$2.40 / $12.00 per M
GPT-5.5$5.00 / $30.00 per M$4.00 / $24.00 per M
DeepSeek V4 Pro$0.43 / $0.87 per M$0.40 / $0.90 per M
GLM-5.2$1.14 / $4.00 per M$1.10 / $4.00 per M

Amaran: bukan setiap base_url dalam FinGPT adalah LLM.

FinGPT adalah monorepo penyelidikan, dan beberapa perkara kelihatan seperti tetapan endpoint LLM tanpa sebenarnya begitu. market_sentiment.py Forecaster mempunyai parameter api_key dan base_url, tetapi ia mengkonfigurasikan perkhidmatan sentimen data-pasaran (dibaca daripada ADANOS_API_KEY), bukan endpoint chat-completions. Menukar base_url itu tidak menghalakan sebarang trafik LLM. Model FinGPT-Forecaster sendiri adalah bobot Llama yang diperhalusi dilayani melalui Hugging Face, jadi demo forecaster langsung bukan pengguna serasi OpenAI. Platform Finogrid yang lebih baharu di dalam repo memilih LLM-nya melalui pembolehubah environment FINGPT_LLM_PROVIDER (openai, minimax, atau fingpt) dan membaca OPENAI_API_KEY untuk penyedia openai. Setakat Julai 2026, fail environment contohnya mendokumentasikan pertukaran penyedia dan kunci, tetapi tiada pembolehubah override base-URL, jadi anggap Finogrid di luar skop untuk gateway sehingga upstream mendokumentasikan satu. Akhirnya, notebook AG2 mengunci ag2[openai] pada 0.11.4 atau lebih baharu. Pemasangan pyautogen 0.2-era yang lebih lama mengkonfigurasikan empat kunci yang sama melalui entri config_list berbanding kelas LLMConfig; kuncinya sama, jadi penghalaan berfungsi, tetapi padankan gaya import anda dengan generasi AutoGen yang benar-benar anda pasang.

Siapa yang menghalakan FinGPT melalui gateway.

  • Penyelidik kuant yang menjalankan analisis multi-agent merentasi senarai ticker. Berpuluh-puluh giliran agent per ekuiti menjadikan keterlihatan penggunaan per-kunci lebih berguna daripada dashboard vendor per penyedia.
  • Pasukan yang membandingkan kualiti analisis merentasi keluarga model. Setiap calon adalah satu rentetan model dalam LLMConfig, bukan integrasi dan akaun penyedia baharu.
  • Penganalisis yang memproses failing secara pukal melalui pipeline laporan, di mana perbezaan harga konteks-panjang antara id mendominasi bil.
  • Pasukan kewangan dwibahasa yang memadankan id kuat-Cina seperti glm-5.2 atau deepseek-v4-pro dengan penaakulan Claude atau GPT, semuanya di sebalik satu endpoint.
  • Pembangun tanpa akses kepada pengebilan vendor tertentu. Akses berasaskan top-up tanpa keperluan kad menghapuskan kebergantungan pendaftaran setiap penyedia.

Sahkan endpoint dan nyahpepijat larian pertama.

Sebelum melancarkan notebook, senaraikan model yang boleh dicapai kunci anda; rentetan model dalam LLMConfig mesti sepadan tepat dengan id yang dilayani. Kegagalan larian-pertama mengikut senarai pendek. 401 bermaksud api_key dalam dict bukan kunci sah untuk endpoint dalam base_url; kerana kedua-duanya tinggal dalam dict yang sama, cetak dict itu (kecuali kunci) dan semak anda menyunting salinan yang benar-benar diterima agent. Ralat model-not-found adalah kesilapan taip id, dan output /v1/models adalah ejaan berautoriti. Ralat sambungan biasanya bermaksud base_url kehilangan akhiran /v1-nya, kerana klien melampirkan /chat/completions kepada apa sahaja base yang anda berikan. Dan jika langkah sentimen gagal sementara chat agent berfungsi, itu adalah pengklasifikasi FinBERT setempat atau pemasangan transformers yang hilang, bukan gateway. Sebaik sahaja permintaan mengalir, konsol APIsRouter menunjukkan model per permintaan, kiraan token, dan perbelanjaan. Pipeline multi-agent menggandakan panggilan dengan pantas, dan pandangan penggunaan adalah cara anda melihat peranan agent mana yang menghabiskan token sebelum anda menskalakan larian ke senarai pantau penuh.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

Soalan lazim

Adakah FinGPT menyokong endpoint serasi OpenAI custom terus daripada kotak?

Ya, dalam pipeline berpandukan-API-nya. Notebook analisis multi-agent AG2 mengkonfigurasikan LLMConfig dengan api_type "openai" ditambah base_url, dan notebook analisis-laporan menghantar base_url kepada ChatOpenAI LangChain. Kedua-duanya adalah corak upstream; model tempatan yang diperhalusi adalah belah lain projek yang berasingan dan luar talian.

Bolehkah agent FinGPT berjalan pada model Claude atau DeepSeek dengan cara ini?

Ya. api_type kekal "openai" dan medan model diteruskan sebagai rentetan biasa melalui /v1/chat/completions. Mana-mana id yang dilayani endpoint di sebalik base_url berfungsi, termasuk id Claude, DeepSeek, GLM, dan Gemini.

Adakah saya masih memerlukan akaun OpenAI untuk pipeline AG2?

Tidak. Dengan base_url menunjuk ke gateway dan api_key memegang kunci gateway, tiada permintaan menyentuh hos OpenAI. Notebook upstream sendiri menunjukkan ini dengan menghalakan melalui endpoint bukan-OpenAI yang serasi.

Adakah base_url custom menjejaskan data pasaran FinGPT atau pemarkahan sentimen FinBERT?

Tidak. Sebut harga yfinance dan pengklasifikasi FinBERT berjalan secara setempat tanpa kunci API, dan kelayakan SEC serta Financial Modeling Prep pipeline laporan adalah kunci data berasingan. Endpoint LLM adalah satu-satunya perkara yang digerakkan base_url.

Bagaimana pula dengan parameter base_url dalam market_sentiment.py Forecaster?

Itu mengkonfigurasikan perkhidmatan sentimen data-pasaran yang disahkan oleh ADANOS_API_KEY, bukan endpoint LLM. Model Forecaster sendiri adalah bobot diperhalusi dilayani melalui Hugging Face, jadi tiada penghalaan serasi OpenAI terpakai di situ.

Adakah platform Finogrid di dalam FinGPT turut menyokong endpoint custom?

Tidak didokumentasikan setakat Julai 2026. Finogrid memilih penyedia melalui FINGPT_LLM_PROVIDER dan membaca OPENAI_API_KEY, tetapi fail environment contohnya tidak menunjukkan override base-URL, jadi anggap penghalaan vendor terus di situ sehingga upstream menambah satu.