RAGFlow chat'i bir OpenAI-API-Compatible base URL üzerinde çalıştırın.

Hızlı yanıt: modeli Model providers sayfasında ekleyin.

RAGFlow'a giriş yapın, sağ üstteki logonuza tıklayın ve Model providers'ı açın. Models to be added altında OpenAI-API-Compatible kartını bulun ve Add the model'a tıklayın. Add LLM dialogunda Model type'ı chat olarak ayarlayın, Model name olarak tam katalog id'sini girin, Base url'e https://api.apisrouter.com/v1 yazın, API-Key'e anahtarınızı yapıştırın ve Max tokens'ı modelin gerçek bağlam boyutuna ayarlayın. OK'e tıklayın. Sonra bir işe yaraması için: aynı sayfada Set default models'ı açın ve yeni modelinizi varsayılan LLM olarak seçin. Chat asistanları, veri kümesi soru yanıtlama ve agent düğümlerinin tümü, aksi belirtilmedikçe bu varsayılana çözümlenir. İlk çalıştırmadan önce bilinmesi gereken keskin bir kenar: RAGFlow'un Max tokens alanı varsayılan olarak 512'dir ve kendi tooltip'i geçersiz bir değerin hatalara yol açtığı konusunda uyarır, bu yüzden modelin belgelenmiş penceresini girmek bir optimizasyon değil, kurulumun bir parçasıdır.

Model type:  chat
Model name:  deepseek-v4-pro
Base url:    https://api.apisrouter.com/v1
API-Key:     sk-YOUR-APISROUTER-KEY
Max tokens:  128000

then: Set default models → LLM → deepseek-v4-pro

RAGFlow modelleri işe nasıl bağlar.

RAGFlow (GitHub'da infiniflow, yaklaşık 85K yıldız), derin doküman RAG motorudur: PDF'lerin ve tabloların layout farkında ayrıştırması, temellendirilmiş atıflarla chunking, veri kümeleri, chat asistanları ve üzerine agent iş akışları. Bu pipeline'ın farklı parçaları farklı model slotlarına bağlanır ve bu bağlama açıktır. Chat modelleri yanıt üretir. Embedding modelleri retrieval için chunk'ları vektörleştirir. Rerank modelleri adayları yeniden sıralar ve img2txt modelleri ayrıştırma sırasında figürleri tanımlar. OpenAI-API-Compatible provider, bu türler için modelleri ayrı ayrı kaydedebilir; her Add LLM dialogu tür, id, base url ve anahtardan oluşan bir bağlama oluşturur. Kayıtlı her chat modeli, Model name'i tel (wire) string'i olarak kullanarak base url'e standart chat completions konuşur, bu yüzden gateway'in sunduğu her id, satıcıdan bağımsız olarak geçerlidir. Bu ayrım operasyonel olarak önemlidir: yanıt modelinizi gpt-5.5'ten claude-sonnet-4-6'ya değiştirmek her gün güvenlidir, ama embedding modeli indekslenmiş vektörlerinize kaynaklanmıştır. RAGFlow, zaten chunk'ları olan bir veri kümesinde embedding modelleri değiştirilirken bir uyumluluk kontrolüyle bunu zorunlu kılar ve pratik kural daha basittir: embedding kurulumunu bir kez seçin ve chat modellerini özgürce ayarladığınız katman olarak ele alın.

Çin ve Batı modelleri için birlikte tek anahtar.

RAGFlow dağıtımları çoğunlukla iki dillidir: karışık dilli doküman tabanları işleyen Çin kökenli ekipler ve Çince dokümanlar için özellikle Çin modellerini isteyen uluslararası ekipler. Doğrudan servis edildiğinde bu karışım zahmetlidir, çünkü DeepSeek, Zhipu, Moonshot ve Alibaba ayrı ayrı faturalandırır ve bazılarına yurt dışından ödeme yapmak zordur, Anthropic ve OpenAI ise diğer yönden zordur. Tek bir OpenAI-API-Compatible base url üzerinden, bu karışım yalnızca daha fazla Add LLM dialogu demektir: Çin ağırlıklı corpus'lar için deepseek-v4-pro ve glm-5.2, güçlü bölgesel alternatifler olarak qwen3.7-max ve kimi-k2.6, yanıt cilası en çok önemli olduğunda claude-sonnet-4-6. Aynı base url, aynı anahtar, doğrudan katalogdan id'ler. Asya'daki ekipler için aynı yol tersten işler: Claude ve GPT id'leri, Batılı bir kart olmadan ön ödemeli bir bakiye üzerinden erişilebilir hale gelir; bu da birçok RAGFlow kullanıcısı için bir modeli değerlendirmekle onun hakkında okumak arasındaki farktır. Bilinmeye değer bir başlangıç-zamanı yolu da vardır: service_conf.yaml.template, taze kurulumların önceden bağlanmış gelmesi için bir user_default_llm bloğunu (factory, api_key, base_url) kabul eder. RAGFlow'un dokümanları, girişten sonra yapılandırmanın yalnızca Model providers sayfasında gerçekleştiğini açıkça belirtir, bu yüzden YAML'ı canlı yapılandırma değil, ilk-önyükleme provizyonlaması olarak ele alın.

user_default_llm:
  factory: OpenAI-API-Compatible
  api_key: sk-YOUR-APISROUTER-KEY
  base_url: https://api.apisrouter.com/v1

Bir doküman pipeline'ı için model seçmek.

Retrieval kalitesi tavanı belirler ve yanıt modeli ona ne kadar yaklaştığınıza karar verir, bu yüzden yanıt modellerini gerçek corpus'unuz üzerinde A/B test edin: aynı veri kümesi, aynı sorular, iki id'ye sabitlenmiş iki asistan ve yanıtlar hakkındaki kendi değerlendirmenizin yanında APIsRouter konsolundaki model başına harcama.

• Alınan chunk'lar üzerinde temellendirilmiş yanıtlama, orta seviye modellerin parladığı girdi ağırlıklı bir iştir: deepseek-v4-pro ve glm-5.2, iki dilli corpus'larda atıf takip eden yanıtları iyi taşır.
• qwen3.7-max ve kimi-k2.6, yanıtların Çince'de doğal okunması gerektiğinde test edilmeye değer bölgesel ağır sıklettir; Çin modelleri arasındaki kalite farkları retrieval'dan çok generation'da kendini gösterir.
• claude-sonnet-4-6, sentez kalitesinin ürün olduğu yanıt slotunu hak eder: yönetici özetleri, sözleşme analizi, bir insanın düzenlemeden ilettiği her şey.
• Araç çağıran agent iş akışları güvenilir function calling gerektirir; önce agent yolunu claude-sonnet-4-6 üzerinde test edin, ardından akışlarınızda hangi bölgesel id'nin ona denk düştüğünü görün.
• Max tokens kayıt başınadır, bu yüzden bir asistan uzun yanıtlara ihtiyaç duyarken diğeri kısa yanıtlara ihtiyaç duyuyorsa aynı id'yi farklı limitlerle iki kez kaydedin.

Kullandıkça öde · resmi fiyatların altında

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

RAGFlow'a özgü hata modları.

Max tokens varsayılanı klasik olanıdır. 512'de bırakıldığında, uzun yanıtlar model sorunu gibi görünen şekillerde kesilir veya hata verir; tooltip'in kendisinin de uyardığı gibi, kayıt sırasında belgelenmiş bağlam boyutunu ayarlayın. Hemen hata veren kayıtlı bir model genellikle Model name yazımıdır (tam olarak /v1/models listesiyle eşleşmelidir) veya /v1 sonekinin eksik olduğu bir Base url'dir, çünkü RAGFlow girdiğiniz değere rota yolları ekler. Kayıttan sonra hiçbir şeyin olmaması bir varsayılan sorunudur: bir modeli kaydetmek onu seçmez. Set default models'ı kontrol edin ve workspace varsayılanını geçersiz kılan asistan başına model ayarlarını kontrol edin. Embedding karışıklığı listeyi tamamlar. Uyumlu provider üzerinden bir embedding id'si bağlarsanız, indekslemeden önce endpoint'in onu gerçekten sunduğunu doğrulayın; ve bir veri kümesinde chunk'lar olduktan sonra, embedding modelini değiştirmek bir benzerlik kontrolüyle kısıtlanır ve sıfırdan yeniden indeksleme gerektirebilir. Chat modeli değişiklikleri böyle bir maliyet taşımaz, bu da tam olarak chat katmanının deney yapmanız gereken yer olmasının nedenidir.

RAGFlow'u bir gateway üzerinden kim yönlendirir.

• DeepSeek, GLM, Qwen ve Kimi'yi Claude ve GPT id'leriyle tek bir base url ve tek bir anahtar arkasında karıştıran iki dilli doküman ekipleri.
• Batılı bir kart olmadan ön ödemeli bir bakiye üzerinden Claude kalitesinde yanıtlar isteyen Asya'daki ekipler ve bölgesel faturalandırma olmadan Çin modellerini isteyen Batılı ekipler.
• Dahili bilgi tabanları için RAGFlow çalıştıran ve tüm dağıtımın bulut harcamasını tek bir kullanım günlüğünde görmek isteyen self-hosterlar.
• Sabit bir corpus üzerinde yanıt modellerini karşılaştıran, her adayın bir satıcı hesabı yerine bir Add LLM dialogu olduğu builderlar.
• İlk önyüklemede endpoint önceden bağlanmış olarak service_conf.yaml.template'den taze kurulumlar provizyonlayan ops ekipleri.

Endpoint'i doğrulayın ve ilk sohbeti hata ayıklayın.

Önce modeller listesini curl edin; Model name alanı serbest metindir ve id'leri listeden kopyalamak en yaygın hatayı gerçekleşmeden önce ortadan kaldırır. Ardından kaydetmeyi planladığınız id'ye karşı bir chat completion çalıştırın. RAGFlow içinde, modeli kaydedin, varsayılan LLM olarak ayarlayın ve veri kümelerini işin içine katmadan önce düz bir chat asistanında test edin. Kimlik doğrulama hataları API-Key'e işaret eder; bulunamadı hataları Model name'e; bağlantı hataları Base url'e veya container egress'ine işaret eder, çünkü endpoint'e ulaşması gereken tarayıcınız değil, RAGFlow sunucusudur. Kesilen veya başarısız olan uzun yanıtlar Max tokens'a geri işaret eder. Sohbetler akmaya başladığında, APIsRouter konsolu istek başına modeli, token sayılarını ve harcamayı gösterir. RAG trafiği girdi ağırlıklıdır ve kullanım günlüğü, corpus'unuzun sorgulanmasının gerçekte modele göre, güne göre ne kadara mal olduğunu, Çin ve Batı id'leri için tek bir sayfada gördüğünüz yerdir.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"deepseek-v4-pro",
       "messages":[{"role":"user","content":"ping"}]}'

Sık sorulan sorular