הריצו את הצ'אט של RAGFlow על base URL תואם OpenAI-API-Compatible.

תשובה מהירה: הוסיפו את המודל בעמוד Model providers.

היכנסו ל-RAGFlow, לחצו על הלוגו שלכם בפינה הימנית העליונה, ופתחו Model providers. תחת Models to be added, מצאו את הכרטיס OpenAI-API-Compatible ולחצו Add the model. בדיאלוג Add LLM, הגדירו Model type ל-chat, הזינו את ה-id המדויק מהקטלוג ב-Model name, שימו https://api.apisrouter.com/v1 ב-Base url, הדביקו את המפתח שלכם ב-API-Key, והגדירו Max tokens לגודל ההקשר האמיתי של המודל. לחצו OK. לאחר מכן גרמו לזה לעשות משהו: פתחו Set default models באותו עמוד ובחרו את המודל החדש שלכם כ-LLM ברירת המחדל. עוזרי צ'אט, שאלות-תשובות ב-dataset, וצמתי agent כולם נפתרים לברירת המחדל הזו אלא אם הם דורסים אותה. קצה חד אחד לדעת לפני ההרצה הראשונה: שדה Max tokens של RAGFlow ברירת מחדל ל-512 וה-tooltip שלו עצמו מזהיר שערך לא תקין גורם לשגיאות, אז הזנת החלון המתועד של המודל היא חלק מההגדרה, לא אופטימיזציה.

Model type:  chat
Model name:  deepseek-v4-pro
Base url:    https://api.apisrouter.com/v1
API-Key:     sk-YOUR-APISROUTER-KEY
Max tokens:  128000

then: Set default models → LLM → deepseek-v4-pro

איך RAGFlow מקשר מודלים לעבודה.

RAGFlow (infiniflow ב-GitHub, כ-85K כוכבים) הוא מנוע RAG למסמכים עמוקים: ניתוח מודע-פריסה של PDFs וטבלאות, חלוקה עם ציטוטים מעוגנים, datasets, עוזרי צ'אט, ו-workflows של agent מעליהם. חלקים שונים בצינור הזה מתחברים לסלוטי מודל שונים, וההתחברות מפורשת. מודלי צ'אט מייצרים תשובות. מודלי embedding מווקטרים מקטעים לאחזור. מודלי rerank מסדרים מחדש מועמדים, ומודלי img2txt מתארים דמויות במהלך ניתוח. ספק ה-OpenAI-API-Compatible יכול לרשום מודלים עבור הסוגים האלה בנפרד, כל דיאלוג Add LLM יוצר קישור אחד של סוג, id, base url, ומפתח. כל מודל צ'אט רשום מדבר chat completions סטנדרטי אל ה-base url עם Model name כמחרוזת ה-wire, כך שכל id שה-gateway משרת תקף, ללא קשר לספק. הפרדה זו חשובה תפעולית: החלפת מודל התשובה שלכם מ-gpt-5.5 ל-claude-sonnet-4-6 בטוחה בכל יום, אבל מודל ה-embedding מולחם לוקטורים המאונדקסים שלכם. RAGFlow אוכף את זה עם בדיקת תאימות בהחלפת מודלי embedding על dataset שכבר יש לו מקטעים, והכלל המעשי פשוט יותר: בחרו את הגדרת ה-embedding פעם אחת, והתייחסו למודלי צ'אט כשכבה שאתם מכווננים בחופשיות.

מפתח אחד למודלים סיניים ומערביים יחד.

פריסות RAGFlow נוטות דו-לשוניות: צוותים ממקור סיני שמעבדים בסיסי מסמכים בשפה מעורבת, וצוותים בינלאומיים שדווקא רוצים מודלים סיניים למסמכים סיניים. כשמוגש ישירות, התמהיל הזה כואב, מכיוון ש-DeepSeek, Zhipu, Moonshot, ו-Alibaba כל אחד מחייב בנפרד וחלקם קשים לתשלום מחו"ל, בעוד Anthropic ו-OpenAI קשים מהכיוון השני. דרך base url אחד תואם OpenAI-API-Compatible, התמהיל הוא רק עוד דיאלוגי Add LLM: deepseek-v4-pro ו-glm-5.2 ל-corpora עתירי-סינית, qwen3.7-max ו-kimi-k2.6 כחלופות אזוריות חזקות, claude-sonnet-4-6 היכן שליטוש התשובה חשוב ביותר. אותו base url, אותו מפתח, ids ישר מהקטלוג. לצוותים באסיה אותו נתיב עובד הפוך: ids של Claude ו-GPT הופכים נגישים על יתרה מוטענת מראש בלי כרטיס מערבי, מה שעבור חנויות RAGFlow רבות ההבדל בין להעריך מודל לבין לקרוא עליו. יש גם נתיב בזמן-אתחול ששווה לדעת: service_conf.yaml.template מקבל בלוק user_default_llm (factory, api_key, base_url) כך שהתקנות חדשות עולות מחווטות מראש. התיעוד של RAGFlow מפורש שאחרי כניסה, ההגדרה קורית רק בעמוד Model providers, אז התייחסו ל-YAML כאכלוס בזמן-אתחול, לא הגדרה חיה.

user_default_llm:
  factory: OpenAI-API-Compatible
  api_key: sk-YOUR-APISROUTER-KEY
  base_url: https://api.apisrouter.com/v1

בחירת מודלים לצינור מסמכים.

איכות האחזור קובעת את התקרה ומודל התשובה מחליט כמה קרובים אתם מגיעים אליה, אז בצעו A/B למודלי תשובה על ה-corpus האמיתי שלכם: אותו dataset, אותן שאלות, שני עוזרים מוצמדים לשני ids, וההוצאה לפי מודל בקונסולת APIsRouter לצד השיפוט שלכם על התשובות.

• מענה מעוגן על פני מקטעים מאוחזרים היא עבודה עתירת-קלט שבה מודלים ברמת-ביניים זוהרים: deepseek-v4-pro ו-glm-5.2 נושאים היטב תשובות שעוקבות ציטוטים על corpora דו-לשוניים.
• qwen3.7-max ו-kimi-k2.6 הם כבדי-המשקל האזוריים ששווים בדיקה כשתשובות חייבות להיקרא באופן טבעי בסינית; הבדלי איכות בין מודלים סיניים מופיעים יותר ביצירה מאשר באחזור.
• claude-sonnet-4-6 מרוויח את סלוט התשובה שם איכות הסינתזה היא המוצר, סיכומים למנהלים, ניתוח חוזים, כל דבר שבן אדם מעביר הלאה בלי עריכה.
• workflows של agent שקוראים לכלים צריכים קריאת פונקציות אמינה; בדקו את נתיב ה-agent על claude-sonnet-4-6 קודם, ואז ראו איזה id אזורי תואם אותו על ה-flows שלכם.
• Max tokens הוא לכל רישום, אז רשמו את אותו id פעמיים עם מגבלות שונות אם עוזר אחד צריך תשובות ארוכות ואחר צריך צמודות.

תשלום לפי שימוש · מתחת למחיר הרשמי

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

מצבי כשל ספציפיים ל-RAGFlow.

ברירת המחדל של Max tokens היא הקלאסית. כשנשאר על 512, תשובות ארוכות נקטעות או שוגות בדרכים שנראות כמו בעיות מודל; הגדירו את גודל ההקשר המתועד בעת הרישום, כפי שה-tooltip עצמו מזהיר. מודל שנרשם אבל שוגה מיד הוא בדרך כלל האיות של Model name (הוא חייב להתאים בדיוק לרשימת /v1/models) או Base url שחסר לו הסיומת /v1, מכיוון ש-RAGFlow מוסיף נתיבי route למה שאתם מזינים. שום דבר לא קורה אחרי הרישום היא בעיית ברירות מחדל: רישום מודל לא בוחר אותו. בדקו את Set default models, ובדקו הגדרות מודל לכל עוזר, שדורסות את ברירת המחדל של ה-workspace. בלבול embedding משלים את הרשימה. אם אתם מקשרים id embedding דרך הספק התואם, אשרו שה-endpoint באמת משרת אותו לפני האנדקסציה; וברגע ש-dataset יש לו מקטעים, שינוי מודל ה-embedding שלו מגודר בבדיקת דמיון ועשוי לדרוש אינדוקס מחדש מאפס. שינויי מודל צ'אט לא נושאים עלות כזו, וזו בדיוק הסיבה שהשכבה הזו היא המקום לנסות בו.

מי מנתב את RAGFlow דרך gateway.

• צוותי מסמכים דו-לשוניים שמערבבים DeepSeek, GLM, Qwen, ו-Kimi עם ids של Claude ו-GPT מאחורי base url אחד ומפתח אחד.
• צוותים באסיה שרוצים תשובות באיכות Claude על יתרה מוטענת מראש בלי כרטיס מערבי, וצוותים מערביים שרוצים מודלים סיניים בלי חיוב אזורי.
• self-hosters שמריצים RAGFlow לבסיסי ידע פנימיים ורוצים שכל הוצאת הענן של הפריסה תהיה על לוג שימוש אחד.
• בונים שמשווים מודלי תשובה על corpus קבוע, שם כל מועמד הוא דיאלוג Add LLM אחד ולא חשבון ספק.
• צוותי ops שמתקינים התקנות חדשות מ-service_conf.yaml.template עם ה-endpoint מחווט מראש בהפעלה ראשונה.

אמתו את ה-endpoint ובצעו דיבוג לצ'אט הראשון.

בצעו curl לרשימת המודלים קודם; שדה Model name הוא טקסט חופשי, והעתקת ids מהרשימה מבטלת את הכשל הנפוץ ביותר לפני שהוא קורה. לאחר מכן הריצו השלמת צ'אט אחת מול ה-id שאתם מתכננים לרשום. בתוך RAGFlow, רשמו את המודל, הגדירו אותו כ-LLM ברירת מחדל, ובדקו בעוזר צ'אט פשוט לפני מעורבות datasets. שגיאות אימות מצביעות על API-Key; not-found על Model name; שגיאות חיבור על Base url או egress ה-container, מכיוון ששרת RAGFlow, לא הדפדפן שלכם, הוא זה שחייב להגיע ל-endpoint. תשובות ארוכות שנקטעות או נכשלות מצביעות בחזרה על Max tokens. ברגע שהצ'אטים זורמים, קונסולת APIsRouter מציגה מודל לכל בקשה, ספירות טוקן, והוצאה. תעבורת RAG שולטת בה קלט, ולוג השימוש הוא המקום שבו אתם רואים כמה ה-corpus שלכם באמת עולה לשאילתה, לפי מודל, ליום, עמוד אחד ל-ids הסיניים והמערביים יחד.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"deepseek-v4-pro",
       "messages":[{"role":"user","content":"ping"}]}'

שאלות נפוצות