Jalankan sembang RAGFlow pada base URL serasi OpenAI-API-Compatible.

Jawapan pantas: tambah model pada halaman Model providers.

Log masuk ke RAGFlow, klik logo anda di kanan atas, dan buka Model providers. Di bawah Models to be added, cari kad OpenAI-API-Compatible dan klik Add the model. Dalam dialog Add LLM, tetapkan Model type kepada chat, masukkan id katalog yang tepat sebagai Model name, masukkan https://api.apisrouter.com/v1 dalam Base url, tampal kunci anda dalam API-Key, dan tetapkan Max tokens kepada saiz konteks sebenar model. Klik OK. Kemudian jadikan ia berbuat sesuatu: buka Set default models pada halaman yang sama dan pilih model baharu anda sebagai default LLM. Chat assistant, dataset question answering, dan agent node semuanya menyelesaikan kepada lalai itu melainkan ia diatasi. Satu bahagian tajam untuk diketahui sebelum larian pertama: medan Max tokens RAGFlow melalai kepada 512 dan tooltip-nya sendiri mengamarkan bahawa nilai tidak sah menyebabkan ralat, jadi memasukkan tetingkap yang didokumentasikan model adalah sebahagian daripada persediaan, bukan pengoptimuman.

Model type:  chat
Model name:  deepseek-v4-pro
Base url:    https://api.apisrouter.com/v1
API-Key:     sk-YOUR-APISROUTER-KEY
Max tokens:  128000

then: Set default models → LLM → deepseek-v4-pro

Bagaimana RAGFlow mengikat model kepada kerja.

RAGFlow (infiniflow di GitHub, lebih kurang 85K bintang) ialah enjin RAG dokumen-mendalam: parsing sedar-susun-atur untuk PDF dan jadual, chunking dengan petikan berasaskan, dataset, chat assistant, dan workflow agent di atasnya. Bahagian berbeza pipeline itu mengikat kepada slot model berbeza, dan ikatan itu eksplisit. Chat model menjana jawapan. Embedding model memvektorkan serpihan untuk retrieval. Rerank model menyusun semula calon, dan img2txt model menerangkan rajah semasa parsing. Penyedia OpenAI-API-Compatible boleh mendaftarkan model untuk jenis ini secara individu, setiap dialog Add LLM mencipta satu ikatan jenis, id, base url, dan kunci. Setiap chat model berdaftar bertutur chat completions standard ke base url dengan Model name sebagai rentetan wire, jadi mana-mana id yang dilayani gateway sah, tidak kira vendor. Pemisahan itu penting secara operasi: menukar model jawapan anda daripada gpt-5.5 kepada claude-sonnet-4-6 selamat bila-bila masa, tetapi embedding model dikimpal kepada vektor terindeks anda. RAGFlow menguatkuasakan ini dengan semakan keserasian apabila menukar embedding model pada dataset yang sudah mempunyai serpihan, dan peraturan praktikalnya lebih ringkas: pilih persediaan embedding sekali, dan anggap chat model sebagai lapisan yang anda tala secara bebas.

Satu kunci untuk model Cina dan Barat bersama.

Deployment RAGFlow condong dwibahasa: pasukan berasal Cina yang memproses pangkalan dokumen berbilang bahasa, dan pasukan antarabangsa yang khusus mahukan model Cina untuk dokumen Cina. Dilayani terus, campuran itu menyakitkan, kerana DeepSeek, Zhipu, Moonshot, dan Alibaba masing-masing membil berasingan dan sesetengah janggal dibayar dari luar negara, manakala Anthropic dan OpenAI janggal daripada arah yang lain. Melalui satu base url OpenAI-API-Compatible, campuran itu hanyalah lebih banyak dialog Add LLM: deepseek-v4-pro dan glm-5.2 untuk korpus berat-Cina, qwen3.7-max dan kimi-k2.6 sebagai alternatif serantau yang kuat, claude-sonnet-4-6 di mana kehalusan jawapan paling penting. Base url yang sama, kunci yang sama, id terus daripada katalog. Bagi pasukan di Asia laluan yang sama berfungsi secara songsang: id Claude dan GPT menjadi boleh dicapai pada baki prabayar tanpa kad Barat, yang bagi banyak kedai RAGFlow adalah perbezaan antara menilai model dan hanya membaca tentangnya. Terdapat juga laluan masa-but yang berbaloi diketahui: service_conf.yaml.template menerima blok user_default_llm (factory, api_key, base_url) supaya pemasangan baharu muncul sudah tersambung. Dokumentasi RAGFlow jelas menyatakan selepas log masuk, konfigurasi hanya berlaku pada halaman Model providers, jadi anggap YAML itu sebagai provisioning but-pertama, bukan config langsung.

user_default_llm:
  factory: OpenAI-API-Compatible
  api_key: sk-YOUR-APISROUTER-KEY
  base_url: https://api.apisrouter.com/v1

Memilih model untuk pipeline dokumen.

Kualiti retrieval menetapkan siling dan model jawapan memutuskan sedekat mana anda sampai, jadi A/B model jawapan atas korpus sebenar anda: dataset sama, soalan sama, dua assistant disematkan kepada dua id, dan perbelanjaan per-model dalam konsol APIsRouter bersebelahan penilaian anda sendiri terhadap jawapan.

• Menjawab berasaskan atas serpihan yang diambil adalah kerja berat-input di mana model tahap-pertengahan bersinar: deepseek-v4-pro dan glm-5.2 membawa jawapan mengikut petikan dengan baik pada korpus dwibahasa.
• qwen3.7-max dan kimi-k2.6 adalah pihak berat serantau yang berbaloi diuji apabila jawapan mesti berbunyi natif dalam Bahasa Cina; perbezaan kualiti merentasi model Cina lebih ketara dalam penjanaan berbanding retrieval.
• claude-sonnet-4-6 layak mendapat slot jawapan di mana kualiti sintesis adalah produk itu sendiri, ringkasan eksekutif, analisis kontrak, apa sahaja yang dihantar manusia tanpa disunting.
• Workflow agent yang memanggil alat memerlukan function calling yang boleh dipercayai; uji laluan agent pada claude-sonnet-4-6 dahulu, kemudian lihat id serantau mana yang menyamainya pada flow anda.
• Max tokens adalah per-pendaftaran, jadi daftarkan id yang sama dua kali dengan had berbeza jika satu assistant memerlukan jawapan panjang dan satu lagi memerlukan yang ketat.

Bayar mengikut penggunaan · bawah harga rasmi

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Mod kegagalan khusus RAGFlow.

Lalai Max tokens adalah yang klasik. Dibiarkan pada 512, jawapan panjang terpotong atau memberi ralat dengan cara yang kelihatan seperti masalah model; tetapkan saiz konteks yang didokumentasikan semasa mendaftar, seperti diamarkan tooltip itu sendiri. Model berdaftar yang memberi ralat serta-merta biasanya ejaan Model name (ia mesti sepadan tepat dengan senarai /v1/models) atau Base url yang hilang akhiran /v1-nya, kerana RAGFlow melampirkan laluan route kepada apa yang anda masukkan. Tiada apa berlaku selepas pendaftaran adalah masalah lalai: mendaftarkan model tidak memilihnya. Semak Set default models, dan semak tetapan model per-assistant, yang mengatasi lalai workspace. Kekeliruan embedding melengkapkan senarai. Jika anda mengikat id embedding melalui penyedia serasi, sahkan endpoint benar-benar melayaninya sebelum mengindeks; dan sebaik sahaja dataset mempunyai serpihan, menukar embedding model-nya digerbangkan oleh semakan persamaan dan mungkin memerlukan pengindeksan semula dari sifar. Perubahan chat model tidak membawa kos sedemikian, itulah tepat sebab lapisan sembang adalah tempat anda patut bereksperimen.

Siapa yang menghalakan RAGFlow melalui gateway.

• Pasukan dokumen dwibahasa yang mencampurkan DeepSeek, GLM, Qwen, dan Kimi dengan id Claude dan GPT di sebalik satu base url dan satu kunci.
• Pasukan di Asia yang mahukan jawapan berkualiti Claude pada baki prabayar tanpa kad Barat, dan pasukan Barat yang mahukan model Cina tanpa pengebilan serantau.
• Self-hoster yang menjalankan RAGFlow untuk knowledge base dalaman yang mahukan keseluruhan perbelanjaan cloud deployment pada satu log penggunaan.
• Pembina yang membandingkan model jawapan atas korpus tetap, di mana setiap calon adalah satu dialog Add LLM dan bukan akaun vendor.
• Pasukan Ops yang memprovisyen pemasangan baharu daripada service_conf.yaml.template dengan endpoint sudah tersambung pada but pertama.

Sahkan endpoint dan nyahpepijat sembang pertama.

Curl senarai model dahulu; medan Model name adalah teks bebas, dan menyalin id daripada senarai menghapuskan kegagalan paling biasa sebelum ia berlaku. Kemudian jalankan satu chat completion terhadap id yang anda rancang daftarkan. Dalam RAGFlow, daftarkan model, tetapkan sebagai default LLM, dan uji dalam chat assistant biasa sebelum melibatkan dataset. Ralat pengesahan menunjuk kepada API-Key; not-found kepada Model name; ralat sambungan kepada Base url atau egress kontainer, kerana pelayan RAGFlow, bukan pelayar anda, yang perlu mencapai endpoint. Jawapan panjang yang terpotong atau gagal menunjuk kembali kepada Max tokens. Sebaik sahaja sembang mengalir, konsol APIsRouter menunjukkan model per permintaan, kiraan token, dan perbelanjaan. Trafik RAG didominasi input, dan log penggunaan adalah tempat anda melihat berapa kos sebenar korpus anda untuk disoal, per model, per hari, satu halaman untuk id Cina dan Barat bersama.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"deepseek-v4-pro",
       "messages":[{"role":"user","content":"ping"}]}'

Soalan lazim