FinGPT'nin agent pipeline'larını özel bir OpenAI-compatible endpoint üzerinde çalıştırın.

Updated 2026-07-30

FinGPT'nin çok agent'lı analiz pipeline'ı, LLM'ini api_type "openai" ve bir base_url alan bir AG2 LLMConfig dict'i üzerinden yapılandırır. base_url'i https://api.apisrouter.com/v1 olarak ayarlayın, tek bir anahtar geçirin ve araştırmacı, sentiment ve danışman agent'ları katalogdaki herhangi bir model id'sinde çalışabilir.

Hızlı yanıt: AG2 LLMConfig dict'inde base_url.

FinGPT'nin çok agent'lı finansal analiz pipeline'ı (üst akış repo'da fingpt/ag2_financial_analysis_pipeline.ipynb), LLM yapılandırmasını dört anahtarlı bir AG2 LLMConfig dict'i olarak inşa eder: model, api_key, api_type ve base_url. Üst akış notebook'un kendisi base_url'i api.openai.com yerine bir OpenAI-compatible router endpoint'ine yönlendirir, bu yüzden burada bir gateway üzerinden yönlendirmek bir çözüm değil, belgelenmiş desendir. Pipeline'ı APIsRouter üzerinden çalıştırmak için api_type'ı "openai" olarak ayarlayın, base_url'i https://api.apisrouter.com/v1 olarak ayarlayın, gateway anahtarınızı api_key'e koyun ve model'i herhangi bir katalog id'sine ayarlayın. Notebook'taki her AssistantAgent aynı llm_config nesnesini alır, bu yüzden tek bir dict tüm agent takımını taşır.

from autogen import LLMConfig  # ag2[openai]>=0.11.4

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

FinGPT'nin gerçekten bir LLM API'sini çağırdığı yer.

FinGPT (GitHub'da AI4Finance-Foundation, yaklaşık 21K yıldız), aynı ad altında iki şeydir ve hangi yarısını çalıştırdığınızı bilmek özel bir endpoint'in önemli olup olmadığına karar verir. Birinci yarı ince ayarlanmış açık ağırlıklardır: projeyi tanınır kılan Llama ve ChatGLM için LoRA eğitim notebook'ları. Bunlar yerel olarak veya kiralık GPU'larda Hugging Face transformers üzerinden çalışır, hiçbir chat-completions çağrısı yapmaz ve onlara hiçbir base URL uygulanmaz. İkinci yarı uygulama pipeline'larıdır ve OpenAI-compatible yüzeyin yaşadığı yer burasıdır. AG2 çok agent'lı analiz pipeline'ı, üç AssistantAgent'ı (bir haber araştırmacısı, bir sentiment analisti ve bir yatırım danışmanı) tek bir LLMConfig'e bağlar, onları yfinance tool çağrıları ve yerel bir FinBERT sentiment sınıflandırıcısıyla güçlendirir ve rollere bir hisse senedi analizini geçirmelerine izin verir. Finansal rapor analizi pipeline'ı (fingpt/FinGPT_FinancialReportAnalysis), sec-api ve Financial Modeling Prep üzerinden çekilen SEC dosyalarına karşı LangChain'in ChatOpenAI'ını çalıştırır. Her iki pipeline da standart /v1/chat/completions istekleri gönderir, her ikisi de endpoint'i bir parametre olarak açığa çıkarır ve her ikisi de model alanını düz bir dize olarak iletir, ki bu, base_url arkasındaki endpoint onu sunduğunda bir Claude veya DeepSeek id'sinin "openai" api_type'ında binmesine izin veren şeydir.

Tam kurulum: AG2 pipeline'ı ve rapor-analizi pipeline'ı.

AG2 pipeline'ı en temiz entegrasyondur. Notebook'un LLMConfig değerlerini gateway endpoint'i ve tercih ettiğiniz model id'siyle değiştirin, üç agent artı tool-çağırma döngüleri değişmeden çalışır. Finansal-veri tarafı (yfinance fiyatları, FinBERT sentiment skorlaması) yereldir ve API anahtarlarından bağımsızdır, bu yüzden taşıdığınız tek dış bağımlılık LLM endpoint'idir. Rapor-analizi pipeline'ı, api_key ve base_url'i constructor argümanları olarak kabul eden LangChain'in ChatOpenAI'ını kullanır; üst akış notebook'u, yerel bir OpenAI-compatible sunucuyu nasıl takacağını gösterirken tam olarak bu çifti sergiler. Aynı iki argümanı bunun yerine gateway'e yönlendirin. Bu notebook'un veri çekimleri için SEC ve Financial Modeling Prep kimlik bilgilerini de istediğini unutmayın; bunlar piyasa-verisi anahtarlarıdır, LLM endpoint'iyle ilgisizdir ve oldukları gibi kalırlar.

import os
from autogen import AssistantAgent, LLMConfig

llm_config = LLMConfig({
    "model": "claude-sonnet-4-6",         # any catalog id
    "api_key": os.environ["APISROUTER_API_KEY"],
    "api_type": "openai",
    "base_url": "https://api.apisrouter.com/v1",
})

researcher = AssistantAgent(name="News_Researcher", llm_config=llm_config)
analyst = AssistantAgent(name="Sentiment_Analyst", llm_config=llm_config)
advisor = AssistantAgent(name="Investment_Advisor", llm_config=llm_config)

Finansal analiz agent'ları için model seçmek.

Her aday aynı endpoint'e karşı tek bir model dizesi olduğundan, pratik döngü ticker'larınızı ve tarihlerinizi sabitlemek, pipeline'ı aday id başına bir kez çalıştırmak ve danışman çıktısını karşılaştırmaktır. Anahtar başına kullanım logu her aday çalıştırmayı sizin için fiyatlandırır, ki bu kalite-token argümanını içgüdü yerine sayılarla çözer.

  • Danışman rolü muhakeme darboğazıdır. Araştırmacının bulgularını, sentiment skorlarını ve risk resmini bir görünüme sentezler ve bir frontier muhakeme modeli (claude-opus-4-7, gpt-5.5), bu sentezin genericten çıktığı yerdir.
  • Araştırmacı ve analist rolleri hacim rolleridir: başlıkları okumak, tool çıktısını yapılandırmak, taslakları skorlamak. claude-sonnet-4-6 veya deepseek-v4-pro, her ara turda frontier fiyatlandırması olmadan onları keskin tutar.
  • Rapor analizi uzun bağlamlı bir iş yüküdür. Bir 10-K bölümü artı fiyat-hedefi bağlamı büyük bir prompt'tur, bu yüzden varsayılanı kabul etmeden önce dosyalama tarafında gemini-3.1-pro-preview veya claude-sonnet-4-6'yı test edin.
  • FinGPT'nin kökleri iki dillidir. Pipeline'ınız Çince dilinde dosyalamalar veya haberler okuyorsa, glm-5.2 ve deepseek-v4-pro orada doğal olarak güçlüdür ve aynı endpoint üzerinden id ile adreslenebilir.
  • Tüm agent'lar için tek bir LLMConfig çalıştırmak notebook varsayılanıdır, ama aynı base_url'e karşı iki dict inşa etmenizi, danışman için bir frontier ve okuyucular için bir hızlı olanı, ve bunları agent başına atamanızı engelleyen hiçbir şey yoktur.

Kullandıkça öde · resmi fiyatların altında

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

ModelResmi FiyatBizim Fiyatımız
Claude Opus 4.7$5.00 / $25.00 per M$4.00 / $20.00 per M
Claude Sonnet 4.6$3.00 / $15.00 per M$2.40 / $12.00 per M
GPT-5.5$5.00 / $30.00 per M$4.00 / $24.00 per M
DeepSeek V4 Pro$0.43 / $0.87 per M$0.40 / $0.90 per M
GLM-5.2$1.14 / $4.00 per M$1.10 / $4.00 per M

Uyarılar: FinGPT'deki her base_url LLM değildir.

FinGPT bir araştırma monorepo'sudur ve birkaç şey, öyle olmadan LLM endpoint ayarı gibi görünür. Forecaster'ın market_sentiment.py'sinin api_key ve base_url parametreleri vardır, ama bunlar bir chat-completions endpoint'i değil, bir piyasa-verisi sentiment servisini (ADANOS_API_KEY'den okunan) yapılandırır. O base_url'i değiştirmek hiçbir LLM trafiğini yönlendirmez. FinGPT-Forecaster modellerinin kendisi Hugging Face üzerinden sunulan ince ayarlanmış Llama ağırlıklarıdır, bu yüzden forecaster demosu hiç OpenAI-compatible bir tüketici değildir. Repo içindeki daha yeni Finogrid platformu, LLM'ini bir FINGPT_LLM_PROVIDER ortam değişkeni (openai, minimax veya fingpt) üzerinden seçer ve openai sağlayıcısı için OPENAI_API_KEY'i okur. Temmuz 2026 itibarıyla örnek ortam dosyası sağlayıcı değişimini ve anahtarı belgeler, ama bir base-URL override değişkeni yoktur, bu yüzden üst akış birini belgeleyene kadar Finogrid'i bir gateway için kapsam dışı sayın. Son olarak, AG2 notebook'u ag2[openai]'ı 0.11.4 veya daha yenisine sabitler. Daha eski pyautogen 0.2 dönemi kurulumları, aynı dört anahtarı LLMConfig sınıfı yerine config_list girdileri üzerinden yapılandırır; anahtarlar aynıdır, bu yüzden yönlendirme çalışır, ama import stilinizi gerçekten kurulu olan AutoGen kuşağıyla eşleştirin.

FinGPT'yi bir gateway üzerinden kim yönlendirir.

  • Çok agent'lı analizi bir ticker listesi genelinde çalıştıran kantitatif araştırmacılar. Hisse başına düzinelerce agent turu, anahtar başına kullanım görünürlüğünü sağlayıcı başına bir satıcı dashboard'undan daha kullanışlı yapar.
  • Model aileleri genelinde analiz kalitesini karşılaştıran ekipler. Her aday LLMConfig'de bir model dizesidir, yeni bir sağlayıcı entegrasyonu ve hesabı değil.
  • Dosyalamaları rapor pipeline'ı üzerinden toplu işleyen, id'ler arasındaki uzun bağlamlı fiyatlandırma farklarının faturaya hakim olduğu analistler.
  • glm-5.2 veya deepseek-v4-pro gibi Çince-güçlü id'leri Claude veya GPT muhakemesiyle, hepsi tek bir endpoint arkasında eşleştiren iki dilli finans ekipleri.
  • Belirli bir satıcının faturalandırmasına erişimi olmayan geliştiriciler. Kart gerektirmeyen yükleme tabanlı erişim, sağlayıcı başına kayıt bağımlılığını ortadan kaldırır.

Endpoint'i doğrulayın ve ilk çalıştırmayı hata ayıklayın.

Notebook'u başlatmadan önce anahtarınızın adresleyebildiği modelleri listeleyin; LLMConfig'deki model dizesi sunulan bir id ile tam olarak eşleşmelidir. İlk çalıştırma hataları kısa bir liste izler. 401, dict'teki api_key'in base_url'deki endpoint için geçerli bir anahtar olmadığı anlamına gelir; ikisi de aynı dict'te yaşadığından, dict'i (anahtar hariç) yazdırın ve agent'ların gerçekten aldığı kopyayı düzenlediğinizi kontrol edin. Bir model-not-found hatası bir id yazım hatasıdır ve /v1/models çıktısı yetkili yazımdır. Bir bağlantı hatası genellikle base_url'in /v1 son ekini kaybettiği anlamına gelir, çünkü client verdiğiniz base'e /chat/completions ekler. Ve agent sohbeti çalışırken sentiment adımı başarısız olursa, bu gateway değil yerel FinBERT sınıflandırıcısı veya eksik bir transformers kurulumudur. İstekler akmaya başladığında, APIsRouter konsolu istek başına modeli, token sayılarını ve harcamayı gösterir. Çok agent'lı pipeline'lar çağrıları hızla çarpar ve kullanım görünümü, çalıştırmayı tam bir izleme listesine ölçeklendirmeden önce hangi agent rolünün token'ları tükettiğini gördüğünüz yerdir.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

Sık sorulan sorular

FinGPT kutudan çıkar çıkmaz özel bir OpenAI-compatible endpoint'i destekler mi?

Evet, API-yönlendirmeli pipeline'larında. AG2 çok agent'lı analiz notebook'u, LLMConfig'i api_type "openai" artı bir base_url ile yapılandırır ve rapor-analizi notebook'u base_url'i LangChain'in ChatOpenAI'ına geçirir. Her ikisi de üst akış desenidir; ince ayarlanmış yerel modeller projenin ayrı, çevrimdışı bir yarısıdır.

FinGPT agent'ları bu şekilde Claude veya DeepSeek modellerinde çalışabilir mi?

Evet. api_type "openai" olarak kalır ve model alanı /v1/chat/completions üzerinden düz bir dize olarak iletilir. base_url arkasındaki endpoint'in sunduğu herhangi bir id çalışır, Claude, DeepSeek, GLM ve Gemini id'leri dahil.

AG2 pipeline'ı için hâlâ bir OpenAI hesabına ihtiyacım var mı?

Hayır. base_url gateway'e işaret ederken ve api_key bir gateway anahtarı tutarken, hiçbir istek OpenAI host'larına değmez. Üst akış notebook'u bunu, OpenAI olmayan uyumlu bir endpoint üzerinden yönlendirerek kendisi gösterir.

Özel bir base_url, FinGPT'nin piyasa verisini veya FinBERT sentiment skorlamasını etkiler mi?

Hayır. yfinance fiyatları ve FinBERT sınıflandırıcısı API anahtarları olmadan yerel çalışır ve rapor pipeline'ının SEC ile Financial Modeling Prep kimlik bilgileri ayrı veri anahtarlarıdır. base_url'in taşıdığı tek şey LLM endpoint'idir.

Forecaster'ın market_sentiment.py'sindeki base_url parametresi ne olacak?

Bu, ADANOS_API_KEY ile kimlik doğrulanan bir piyasa-verisi sentiment servisini yapılandırır, bir LLM endpoint'ini değil. Forecaster'ın kendi modelleri Hugging Face üzerinden sunulan ince ayarlanmış ağırlıklardır, bu yüzden orada hiçbir OpenAI-compatible yönlendirme uygulanmaz.

FinGPT içindeki Finogrid platformu da özel bir endpoint'i destekliyor mu?

Temmuz 2026 itibarıyla belgelenmemiş. Finogrid bir sağlayıcıyı FINGPT_LLM_PROVIDER üzerinden seçer ve OPENAI_API_KEY'i okur, ama örnek ortam dosyası bir base-URL override göstermez, bu yüzden üst akış birini eklemeden önce orada doğrudan satıcı yönlendirmesi varsayın.