Faites tourner Onyx sur un fournisseur LLM personnalisé compatible OpenAI.

Réponse rapide : Add Custom LLM Provider dans le panneau d'administration.

La documentation d'Onyx est explicite sur le fait qu'un fournisseur personnalisé fonctionne tant qu'il expose des endpoints compatibles OpenAI, et sa forme d'exemple de Base URL est exactement du style passerelle https://yourprovider.com/v1. Le flux : ouvrez l'Admin Panel depuis votre icône de profil, allez dans Configuration, puis Language Models, et choisissez Add Custom LLM Provider. Quatre décisions comptent dans ce formulaire. Display Name est cosmétique. Provider Name doit correspondre à une clé de fournisseur LiteLLM, parce qu'Onyx achemine les appels de modèle via LiteLLM sous le capot ; pour une passerelle compatible OpenAI c'est openai. Base URL est l'endpoint de la passerelle incluant le suffixe /v1. Et la section Model Configurations est où vous enregistrez chaque id de modèle que vous voulez disponible, orthographié exactement comme le sert le catalogue. Enregistrez, choisissez un défaut, et les chats acheminent via la passerelle immédiatement.

Admin Panel -> Configuration -> Language Models
  -> Add Custom LLM Provider

Display Name:   APIsRouter
Provider Name:  openai            (LiteLLM provider key)
Base URL:       https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Model Configurations:
  claude-sonnet-4-6
  claude-haiku-4-5-20251001
  deepseek-v4-pro

Où se situe le LLM dans l'architecture d'Onyx.

Onyx (onyx-dot-app sur GitHub, environ 31 000 étoiles, anciennement Danswer) est une plateforme IA open source pour la connaissance d'entreprise : elle indexe des sources comme Slack, Google Drive, Confluence, et des dizaines d'autres connecteurs, puis répond à des questions dessus via une interface de chat, des assistants et des workflows d'agents. C'est l'une des piles de recherche d'entreprise auto-hébergées les plus déployées, ce qui explique exactement pourquoi sa facture LLM mérite une décision de routage plutôt qu'un défaut. Le pipeline se sépare proprement en deux. L'indexation et la récupération, y compris l'embedding de documents et le rerank, tournent sur le propre serveur de modèles d'Onyx avec des modèles locaux par défaut ; rien de tout cela ne touche votre fournisseur LLM. La génération de réponse est l'autre moitié : une fois que la récupération assemble les passages pertinents, un LLM les lit et écrit la réponse ancrée, et cet appel passe par LiteLLM vers quel que soit le fournisseur que l'administrateur a configuré. Le flux de fournisseur personnalisé échange la destination exactement de cette moitié. Comme LiteLLM transmet l'id de modèle comme simple chaîne à un fournisseur de type openai, les ids que vous enregistrez dans Model Configurations peuvent être tout ce que sert l'endpoint derrière la Base URL : Claude pour des réponses ancrées soignées, DeepSeek pour le volume, Gemini pour de très longs contextes source. Différents assistants peuvent avoir des modèles par défaut différents, donc un assistant support et un assistant ingénierie peuvent chevaucher différents points de prix via la même entrée de fournisseur.

Configuration complète, et ce qui reste intact.

Le formulaire de fournisseur est toute l'intégration ; il n'y a aucun fichier de config à éditer ni conteneur à reconstruire pour cela. Après l'enregistrement, réglez le modèle par défaut de l'espace de travail, et surchargez éventuellement le modèle par assistant là où vous voulez différents paliers de qualité. Ce qui reste délibérément intact : les connecteurs gardent leurs propres identifiants, l'index n'est pas affecté, et le modèle d'embedding configuré pour la recherche ne bouge pas. Cette séparation mérite d'être précisée parce qu'elle fait de ceci un changement à faible risque. Si la passerelle se comportait mal, la recherche et les sources fonctionneraient quand même ; seule la génération de réponse produirait des erreurs, et rebasculer le défaut vers un fournisseur précédent est un simple menu déroulant. Pour les équipes qui automatisent les déploiements, la même définition de fournisseur peut être amorcée via l'API d'Onyx plutôt que cliquée dans l'interface, mais le chemin du panneau d'administration est la surface documentée et stable, et une configuration ponctuelle justifie rarement davantage.

# confirm the gateway lists the ids you plan to register
curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

# confirm a chat completion works end to end
curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"claude-sonnet-4-6",
       "messages":[{"role":"user","content":"ping"}]}'

Choisir des modèles pour des réponses d'entreprise ancrées.

L'évaluation de modèle à l'intérieur d'Onyx est inhabituellement concrète : posez la même question contre les mêmes connecteurs avec deux défauts d'assistants différents et comparez quelle réponse cite les bons passages. Le journal d'usage par clé chiffre les deux candidats sur votre mélange réel de questions.

• Répondre de façon ancrée est lourd en entrée : le modèle lit des passages récupérés qui éclipsent la réponse qu'il écrit. Le tarif par token d'entrée fixe donc votre coût par question plus que le tarif de sortie.
• claude-sonnet-4-6 est un défaut d'espace de travail solide : discipliné pour rester à l'intérieur des sources récupérées et résistant à inventer des politiques qui ne sont pas dans les documents.
• Les assistants à fort trafic (support IT, FAQ RH) tournent bien sur claude-haiku-4-5-20251001 ou deepseek-v4-pro, où le tarif de volume garde le coût par siège prévisible.
• Les longs documents source favorisent les ids longue contexte ; gemini-3.1-pro-preview vaut la peine d'être testé pour les assistants qui font entrer de gros documents de conception ou des contrats dans le contexte.
• Enregistrez plusieurs ids dans une seule entrée de fournisseur et assignez-les par assistant. Des paliers de qualité par équipe battent un modèle de compromis global unique.

Paiement à l'usage · en dessous du tarif officiel

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Modes d'échec spécifiques à Onyx.

Provider Name n'est pas une étiquette en texte libre. Il doit correspondre à une clé de fournisseur LiteLLM, et pour une passerelle cette clé est openai. Un nom inventé échoue au moment de la requête avec une erreur de fournisseur LiteLLM même si le formulaire s'est bien enregistré. La Base URL veut le suffixe /v1. La propre documentation d'Onyx montre des formes d'endpoint se terminant par /v1 ; sans lui, le chemin chat-completions se résout mal et les requêtes font 404 à la passerelle. Les ids de modèles vivent dans Model Configurations. Un modèle que vous n'y avez jamais enregistré ne peut pas être sélectionné comme défaut, et une faute de frappe dans un id enregistré apparaît comme une erreur model-not-found à la première utilisation, pas au moment de l'enregistrement. Le listing /v1/models de la passerelle fait foi pour l'orthographe. Si votre interface d'administration manque du champ Base URL sur le formulaire de modèles personnalisés, vous avez rencontré une régression d'interface signalée dans certaines versions 2026 plutôt qu'une fonctionnalité manquante ; la mise à jour restaure le champ. Et rappelez-vous quelle moitié vous avez déplacée : si les résultats de recherche semblent incorrects ou périmés, c'est l'indexation et les connecteurs, qui ne touchent jamais le fournisseur personnalisé. Seules les réponses générées acheminent via la passerelle.

Qui route Onyx via une passerelle.

• Les équipes auto-hébergées qui remplacent des comptes par fournisseur par un seul endpoint, une seule clé, et un usage par clé qui se cartographie proprement à un espace de travail ou un département.
• Les entreprises qui se sont standardisées sur Onyx pour la recherche interne et veulent des réponses ancrées de qualité Claude sans relation de facturation Anthropic séparée.
• Les équipes plateforme qui font tourner plusieurs assistants à différents paliers de qualité, chiffrés par assistant via des ids de modèles enregistrés sur un seul fournisseur.
• Les évaluateurs qui comparent la qualité de réponse entre familles de modèles sur des corpus identiques, où chaque candidat est un id enregistré plutôt qu'une nouvelle intégration de fournisseur.
• Les développeurs sans accès à la facturation d'un fournisseur donné. Un accès basé sur la recharge, sans exigence de carte, supprime la dépendance à une inscription par fournisseur.

Vérifiez l'endpoint et déboguez le premier chat.

Les deux vérifications curl ci-dessus couvrent la moitié passerelle avant que vous ne touchiez au formulaire : les ids que vous comptez enregistrer doivent apparaître dans /v1/models, et une chat completion directe doit répondre. À l'intérieur d'Onyx, les échecs se localisent rapidement. Une erreur de fournisseur nommant LiteLLM signifie que Provider Name n'est pas une clé valide ; réglez-la sur openai. Une erreur d'authentification au premier chat signifie que l'API Key n'appartient pas à l'endpoint dans Base URL. Une erreur model-not-found est un décalage d'id entre Model Configurations et le catalogue. Des réponses qui se génèrent mais ignorent vos documents sont un problème de récupération ou de connecteur, entièrement en amont du fournisseur LLM. Une fois les chats en circulation, la console APIsRouter affiche le modèle par requête, le nombre de tokens et la dépense. Pour un outil d'espace de travail où chaque question porte du contexte récupéré, ce chiffre de tokens par question est la base honnête pour la planification de capacité, et une clé par espace de travail transforme le journal d'usage en rapport de coûts au niveau du département.

Questions fréquentes