הריצו את AnythingLLM על כל מודל דרך Generic OpenAI.
Updated 2026-07-29
ספק ה-Generic OpenAI של AnythingLLM מחבר את כל האפליקציה לכל endpoint תואם OpenAI: Base URL https://api.apisrouter.com/v1, מפתח אחד, id של מודל צ'אט, ומגבלות טוקן הוגנות. ids של Claude, GPT, Gemini, ו-DeepSeek כולם כשירים, למסמכים, agents, וצ'אט כאחד.
תשובה מהירה: חמישה שדות ב-LLM Preference.
פתחו את ההגדרות של AnythingLLM, עברו לחלק ה-LLM תחת AI Providers (המסך שנקרא היסטורית LLM Preference), וחפשו ברשימת הספקים את Generic OpenAI. בחירה בו חושפת חמישה שדות: Base URL, API Key, Chat Model Name, Token Context Window, ו-Max Tokens. מלאו אותם כך: Base URL https://api.apisrouter.com/v1 (ה-/v1 שייך לשדה הזה), המפתח שלכם, ואת ה-id המדויק מהקטלוג ב-Chat Model Name, לדוגמה claude-sonnet-4-6. ואז שני המספרים: Token Context Window הוא החלון הכולל של המודל ו-Max Tokens מגביל תגובה בודדת, אז קחו את שניהם מהתיעוד של המודל במקום לנחש. שמרו, וכל workspace שעוקב אחרי ברירת המחדל של המערכת מצ'אטט עכשיו דרך ה-gateway. התיעוד מסמן את הספק הזה כמכוון-למפתחים בדיוק בגלל שהוא סומך על הקלטים שלכם; זו לא אזהרה נגד השימוש בו, רק אמירה שחמשת השדות הם חוזה.
Base URL: https://api.apisrouter.com/v1
API Key: sk-YOUR-APISROUTER-KEY
Chat Model Name: claude-sonnet-4-6
Token Context Window: 200000
Max Tokens: 8192מה ספק ה-Generic OpenAI באמת מפעיל.
AnythingLLM (Mintplex Labs ב-GitHub, כ-63K כוכבים) הוא עוזר המסמכים הפרטי כל-באחד: workspaces שמטמיעים את הקבצים שלכם, צ'אט מעוגן בהקשר מאוחזר, agents עם שימוש בכלים, זמין כאפליקציית desktop וכשרת self-hosted. ה-LLM preference שהוגדר למעלה הוא המוח ברירת המחדל של כל זה. בקשות יוצאות כ-chat completions סטנדרטיות מול ה-Base URL שלכם עם Chat Model Name כמחרוזת המודל, כך שהספק לא משנה: id של Claude תקף בדיוק כמו id של GPT, והחלפה פירושה עריכת שדה אחד. workspaces יכולים גם לדרוס את ברירת המחדל של המערכת עם ההגדרות שלהם, וכך פריסה אחת מריצה את claude-sonnet-4-6 עבור ה-workspace המשפטי ו-gpt-5.5 עבור ה-הנדסה בלי ששניהם יודעים אחד על השני. שני שדות הטוקן ראויים לכבוד כי AnythingLLM משתמש בהם כדי לתקצב הקשר. ערך חלון ההקשר קובע כמה טקסט מסמכים מאוחזר והיסטוריית צ'אט נדחסים לכל בקשה; הפחיתו אותו והמסמכים שהטמעתם בקפידה נחתכים מהתשובות שלהם, הגזימו אותו ובקשות מתנגשות במגבלה האמיתית של המודל. זה צמד השדות מאחורי רוב הדיווחים על "RAG מרגיש טיפש" ב-endpoints גנריים.
Embeddings הן החלטה נפרדת.
AnythingLLM מפצל את ה-LLM preference מה-embedding preference, והפיצול נושא משקל. מודל הצ'אט עונה על שאלות; ה-embedder הופך את המסמכים שלכם לוקטורים בזמן ההעלאה, והוקטורים האלה נשארים. שינוי מודלי צ'אט חופשי, בכל יום, לכל workspace. שינוי embedders מבטל את הגאומטריה של כל מה שכבר הוטמע ומחייב הטמעה מחדש של המסמכים שלכם. ההגדרה המעשית: AnythingLLM מגיע עם embedder מקומי מובנה שעובד אופליין ולא עולה כלום, ופריסות רבות פשוט שומרות עליו. אם אתם מכוונים את ה-embedding preference במקום זאת ל-endpoint מרוחק, ודאו שה-id הספציפי של ההטמעה מוגש שם לפני העלאת בסיס המסמכים שלכם, והתייחסו לבחירה הזו כנשואה למאגר הוקטורים. החופש שזה קונה בצד הצ'אט הוא הנקודה של הארכיטקטורה: עם ה-embeddings מוסדרים, מודל הצ'אט של Generic OpenAI הוא חוגה בסיכון נמוך. הריצו deepseek-v4-pro לחודש של סיכום כבד, החליפו את השדה ל-claude-sonnet-4-6 לרבעון של עבודת לקוחות, ושום דבר לגבי המסמכים שלכם לא צריך לזוז.
curl -s https://api.apisrouter.com/v1/models \
-H "Authorization: Bearer $APISROUTER_API_KEY" | head -50
# Chat Model Name must match one of these ids exactlyבחירת מודלים לעבודת מסמכים.
כל id מחויב דרך אותו מפתח, אז לולאת ההשוואה היא עריכת הגדרות: אותו workspace, אותם מסמכים, שבועיים על כל מועמד, וההוצאה לפי מודל בקונסולת APIsRouter לצד השיפוט שלכם על התשובות.
- שאלות-תשובות מעוגנות על פני מקטעים מאוחזרים הן עבודה עתירת-קלט: claude-haiku-4-5-20251001 ו-gemini-3.5-flash עונים היטב על שאלות שעוקבות אחר ציטוטים במחירי נפח.
- claude-sonnet-4-6 מרוויח את ברירת המחדל היכן שתשובות מגיעות לבני אדם בלי עריכה: סקירת חוזים, ניסוח דוחות, כל דבר עם השלכות.
- deepseek-v4-pro הוא סוס העבודה של הקשר-ארוך עבור workspaces שנבנו על מסמכים גדולים, שם החלון ותמחור הקלט שולטים בחוויה.
- workspaces של agents צריכים קריאת כלים אמינה; התחילו agents על claude-sonnet-4-6, ואז בדקו אם id קליל יותר עומד בתהליכים האמיתיים שלכם.
- השתמשו בדריסות לכל workspace כמדיניות: ברירת המחדל נשארת מהירה, וה-id היקר חי רק ב-workspaces שהעבודה שלהם מצדיקה זאת.
תשלום לפי שימוש · מתחת למחיר הרשמי
Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.
| מודל | מחיר רשמי | המחיר שלנו |
|---|---|---|
| Claude Sonnet 4.6 | $3.00 / $15.00 per M | $2.40 / $12.00 per M |
| Claude Haiku 4.5 20251001 | $1.00 / $5.00 per M | $0.80 / $4.00 per M |
| GPT-5.5 | $5.00 / $30.00 per M | $4.00 / $24.00 per M |
| Gemini 3.5 Flash | $1.50 / $9.00 per M | $1.20 / $7.20 per M |
| DeepSeek V4 Pro | $0.43 / $0.87 per M | $0.40 / $0.90 per M |
מצבי כשל ספציפיים ל-AnythingLLM.
שדות הטוקן גורמים לכשלים העדינים. חלון הקשר שהוגדר נמוך מדי גוזם בשקט הקשר מאוחזר, מה שמוצג כמודל שמתעלם מהמסמכים שלכם; הגדירו את החלון המתועד עבור ה-id ב-Chat Model Name. Max Tokens שהוגדר גבוה מדי עבור המודל מייצר שגיאות קשות על תשובות ארוכות; הגדירו אותו למה שהמודל באמת מרשה לפלט. שגיאות קשות כנות יותר. כשלי אימות הם שדה ה-API Key. Model-not-found הוא Chat Model Name שסוטה מהאיות בקטלוג; השדה הוא טקסט חופשי ורשימת ה-/v1/models היא מקור האמת. שגיאות חיבור באפליקציית ה-desktop בדרך כלל אומרות proxy או firewall בין האפליקציה ל-endpoint; בפריסות Docker, זכרו שה-container הוא זה שחייב להגיע ל-Base URL, לא הדפדפן שלכם. אם הצ'אט עובד אבל workspace מתנהג אחרת מהצפוי, בדקו את הגדרות הדריסה שלו; הגדרות ספק ברמת ה-workspace מנצחות את ברירת המחדל של המערכת, ודריסה שנשכחה היא המסתורין הקלאסי של "אותה שאלה, מודל אחר". המסגור מכוון-למפתחים של התיעוד מסכם את כל זה: הספק עושה בדיוק מה שחמשת השדות שלו אומרים, לא יותר ולא פחות.
מי מנתב את AnythingLLM דרך gateway.
- צוותים שמריצים עוזרי מסמכים פרטיים ורוצים איכות תשובה מתקדמת בלי חשבון ספק לכל משפחת מודלים.
- משתמשי desktop שמכוונים את בסיס המסמכים האישי שלהם ל-ids של Claude או GPT על יתרה מוטענת מראש, ללא צורך בכרטיס להתחלה.
- self-hosters ששומרים על ה-embedder המקומי המובנה ומתייחסים לצ'אט מרוחק כנתיב הנמדד היחיד, נקרא לפי מודל בלוג שימוש אחד.
- פריסות מפולחות לפי workspace, שבהן דריסות לכל workspace בתוספת מדידה לפי מפתח נותנות לכל צוות מודל משלו וחשבון משלו.
- בונים שמשווים מודלי תשובה על בסיס מסמכים קבוע, שבו כל מועמד הוא עריכת הגדרה אחת ולא מיגרציה.
אמתו את ה-endpoint ובצעו דיבוג לצ'אט הראשון ב-workspace.
בצעו curl לרשימת המודלים ולהשלמת צ'אט אחת קודם, עם ה-id המדויק שאתם מתכננים לשים ב-Chat Model Name. עם שתיהן עוברות, מחצית ה-gateway מוכחת וכל סימפטום שנותר חי בחמשת השדות. לאחר מכן שמרו את הגדרות הספק ושאלו שאלה אחת ב-workspace עם מסמך שאתם מכירים היטב. תשובה מעוגנת עם ציטוטים אומרת שכל הצינור עובד. תשובה שמתעלמת מהמסמך מצביעה על ערך חלון ההקשר או על הגדרות האחזור של ה-workspace עצמו. שגיאות קשות ממופות בבירור: מפתח, איות ה-id, צורת ה-Base URL. ברגע שהצ'אטים זורמים, קונסולת APIsRouter מציגה מודל לכל בקשה, ספירות טוקן, והוצאה. שאלות-תשובות על מסמכים מכפילות טוקני קלט דרך אחזור, ולוג השימוש הוא המקום שבו אתם לומדים כמה בסיס המסמכים שלכם באמת עולה לשאילתה, לפי מודל, ליום, ולפי מפתח workspace אם אתם מפצלים אותם.
curl -s https://api.apisrouter.com/v1/chat/completions \
-H "Authorization: Bearer $APISROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"claude-sonnet-4-6",
"messages":[{"role":"user","content":"ping"}]}'שאלות נפוצות
איך מגדירים Base URL מותאם אישית ב-AnythingLLM?
בהגדרות תחת AI Providers, פתחו את מסך ה-LLM preference ובחרו Generic OpenAI מרשימת הספקים. הגדירו Base URL ל-https://api.apisrouter.com/v1, הוסיפו את המפתח שלכם, הכניסו את ה-id המדויק מהקטלוג ב-Chat Model Name, ומלאו את שני שדות הטוקן מתיעוד המודל.
מה Token Context Window ו-Max Tokens שולטים בהם?
חלון ההקשר אומר ל-AnythingLLM כמה טקסט מאוחזר והיסטוריה הוא רשאי לדחוס לכל בקשה; Max Tokens מגביל תגובה בודדת. הפחתה מדי של החלון גוזמת את המסמכים שלכם מהתשובות, והגזמה בכל אחד מהם מייצרת בקשות שהמודל דוחה.
האם AnythingLLM יכול להריץ Claude או DeepSeek דרך Generic OpenAI?
כן. הספק שולח את Chat Model Name כמחרוזת פשוטה ל-Base URL דרך chat completions סטנדרטי, כך ש-claude-sonnet-4-6, deepseek-v4-pro, gemini-3.5-flash, ו-ids של GPT כולם עובדים, ניתנים להחלפה בעריכת שדה אחד או לכל workspace.
האם החלפת מודל הצ'אט משפיעה על המסמכים המוטמעים שלי?
לא. העדפות צ'אט והטמעה נפרדות; וקטורים נשארים ומודלי צ'אט מתחלפים בחופשיות. רק שינוי ה-embedder מבטל וקטורים קיימים ומחייב הטמעה מחדש, וזו הסיבה שפריסות רבות שומרות על ה-embedder המקומי המובנה ומכוונות רק את צד הצ'אט.
למה עמוד התיעוד קורא ל-Generic OpenAI מכוון-למפתחים?
כי הוא סומך על הקלטים שלכם במקום לספק presets לכל ספק: ids, כתובות, או ערכי טוקן שגויים נכשלים בזמן ריצה במקום להיתפס על ידי הטופס. עם ids מועתקים מ-/v1/models ומגבלות מתיעוד המודל, זהו נתיב יציב ומדרגה ראשונה.
האם workspaces שונים יכולים להשתמש במודלים שונים?
כן. workspaces יורשים את ברירת המחדל של המערכת אבל יכולים לדרוס את הספק והמודל בהגדרות הצ'אט שלהם, כך שפריסה אחת יכולה להריץ id מהיר כברירת מחדל ולהצמיד claude-sonnet-4-6 רק ב-workspaces שהעבודה שלהם מזכה בכך.