Ejecuta Onyx con un proveedor LLM personalizado compatible con OpenAI.

Respuesta rápida: Add Custom LLM Provider en el panel de administración.

La documentación de Onyx es explícita en que un proveedor personalizado funciona siempre que exponga endpoints compatibles con OpenAI, y su forma de ejemplo de Base URL es exactamente un estilo de gateway https://yourprovider.com/v1. El flujo: abre el Admin Panel desde tu icono de perfil, ve a Configuration, luego Language Models, y elige Add Custom LLM Provider. Cuatro decisiones importan en ese formulario. Display Name es cosmético. Provider Name debe coincidir con una clave de proveedor de LiteLLM, porque Onyx enruta las llamadas de modelo a través de LiteLLM por debajo; para un gateway compatible con OpenAI eso es openai. Base URL es el endpoint del gateway incluyendo el sufijo /v1. Y la sección Model Configurations es donde registras cada id de modelo que quieres disponible, escrito exactamente como lo sirve el catálogo. Guarda, elige uno por defecto, y los chats se enrutan a través del gateway de inmediato.

Admin Panel -> Configuration -> Language Models
  -> Add Custom LLM Provider

Display Name:   APIsRouter
Provider Name:  openai            (LiteLLM provider key)
Base URL:       https://api.apisrouter.com/v1
API Key:        sk-YOUR-APISROUTER-KEY
Model Configurations:
  claude-sonnet-4-6
  claude-haiku-4-5-20251001
  deepseek-v4-pro

Dónde se sitúa el LLM en la arquitectura de Onyx.

Onyx (onyx-dot-app en GitHub, unas 31K estrellas, antes Danswer) es una plataforma de IA de código abierto para el conocimiento de la empresa: indexa fuentes como Slack, Google Drive, Confluence, y docenas de otros conectores, y luego responde preguntas sobre ellas a través de una interfaz de chat, asistentes y flujos de trabajo de agente. Es una de las pilas de búsqueda empresarial autoalojadas más desplegadas, que es exactamente por qué su factura de LLM merece una decisión de enrutamiento y no un valor por defecto. El pipeline se divide limpiamente en dos. La indexación y la recuperación, incluyendo el embedding de documentos y el reranking, corren en el propio servidor de modelos de Onyx con modelos locales por defecto; nada de eso toca tu proveedor de LLM. La generación de respuestas es la otra mitad: una vez que la recuperación ensambla los pasajes relevantes, un LLM los lee y escribe la respuesta fundamentada, y esa llamada pasa por LiteLLM hacia el proveedor que configuró el administrador. El flujo de proveedor personalizado cambia el destino de exactamente esa mitad. Como LiteLLM reenvía el id del modelo como un string simple a un proveedor de tipo openai, los ids que registras en Model Configurations pueden ser cualquier cosa que sirva el endpoint detrás de la Base URL: Claude para respuestas fundamentadas cuidadosas, DeepSeek para volumen, Gemini para contextos de fuente muy largos. Distintos asistentes pueden tener por defecto distintos modelos, así que un asistente de soporte y un asistente de ingeniería pueden correr en distintos puntos de precio a través de la misma entrada de proveedor.

Configuración completa, y lo que se queda intacto.

El formulario de proveedor es toda la integración; no hay ningún archivo de configuración que editar ni contenedor que reconstruir para ello. Tras guardar, configura el modelo por defecto para el workspace, y opcionalmente anula el modelo por asistente donde quieras distintos niveles de calidad. Lo que deliberadamente se queda intacto: los conectores mantienen sus propias credenciales, el índice no se ve afectado, y el modelo de embedding configurado para la búsqueda no se mueve. Esa separación merece explicitarse porque hace de esto un cambio de bajo riesgo. Si el gateway se comportara mal, la búsqueda y las fuentes seguirían funcionando; solo la generación de respuestas daría error, y volver a cambiar el valor por defecto a un proveedor anterior es un solo desplegable. Para equipos que automatizan despliegues, la misma definición de proveedor puede sembrarse a través de la API de Onyx en lugar de hacerse clic en la interfaz, pero la ruta del panel de administración es la superficie documentada y estable, y una configuración de una sola vez rara vez justifica más.

# confirm the gateway lists the ids you plan to register
curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

# confirm a chat completion works end to end
curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"claude-sonnet-4-6",
       "messages":[{"role":"user","content":"ping"}]}'

Elegir modelos para respuestas empresariales fundamentadas.

La evaluación de modelo dentro de Onyx es inusualmente concreta: haz la misma pregunta contra los mismos conectores con dos valores por defecto de asistente distintos y compara qué respuesta cita los pasajes correctos. El log de uso por clave tasa ambos candidatos sobre tu mezcla real de preguntas.

• Responder de forma fundamentada consume mucha entrada: el modelo lee pasajes recuperados que eclipsan la respuesta que escribe. El precio por token de entrada, por tanto, fija tu coste por pregunta más que el precio de salida.
• claude-sonnet-4-6 es un valor por defecto sólido para el workspace: disciplinado para mantenerse dentro de las fuentes recuperadas y resistente a inventar políticas que no están en los documentos.
• Los asistentes de alto tráfico (mesa de ayuda de TI, preguntas frecuentes de RR.HH.) funcionan bien con claude-haiku-4-5-20251001 o deepseek-v4-pro, donde el precio de volumen mantiene predecible el coste por puesto.
• Los documentos de fuente largos favorecen ids de contexto largo; gemini-3.1-pro-preview merece probarse para asistentes que traen documentos de diseño grandes o contratos al contexto.
• Registra varios ids en una entrada de proveedor y asígnalos por asistente. Los niveles de calidad por equipo vencen a un solo modelo de compromiso global.

Pago por uso · por debajo del precio oficial

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Modos de fallo específicos de Onyx.

Provider Name no es una etiqueta de texto libre. Debe coincidir con una clave de proveedor de LiteLLM, y para un gateway esa clave es openai. Un nombre inventado falla en tiempo de petición con un error de proveedor de LiteLLM aunque el formulario se guardara bien. La Base URL quiere el sufijo /v1. La propia documentación de Onyx muestra formas de endpoint terminadas en /v1; sin él, la ruta de chat-completions se resuelve mal y las peticiones dan 404 en el gateway. Los ids de modelo viven en Model Configurations. Un modelo que nunca registraste ahí no puede seleccionarse como valor por defecto, y una errata en un id registrado aparece como un error de modelo no encontrado en el primer uso, no al guardar. El listado de /v1/models del gateway es la ortografía autorizada. Si tu interfaz de administración no tiene el campo Base URL en el formulario de modelos personalizados, has topado con una regresión de interfaz reportada en algunas versiones de 2026 en lugar de una característica faltante; actualizar restaura el campo. Y recuerda qué mitad moviste: si los resultados de búsqueda se ven mal o desactualizados, eso es la indexación y los conectores, que nunca tocan el proveedor personalizado. Solo las respuestas generadas se enrutan a través del gateway.

Quién enruta Onyx a través de un gateway.

• Equipos autoalojados que reemplazan cuentas por proveedor con un endpoint, una clave, y un uso por clave que se mapea limpiamente a un workspace o departamento.
• Empresas que estandarizaron Onyx para búsqueda interna y quieren respuestas fundamentadas con calidad Claude sin una relación de facturación separada con Anthropic.
• Equipos de plataforma que ejecutan varios asistentes en distintos niveles de calidad, tasados por asistente a través de ids de modelo registrados en un proveedor.
• Evaluadores que comparan la calidad de respuesta entre familias de modelos sobre corpus idénticos, donde cada candidato es un id registrado en lugar de una integración de proveedor nueva.
• Desarrolladores sin acceso a la facturación de un proveedor concreto. El acceso mediante recarga sin necesidad de tarjeta elimina la dependencia de registrarse en cada proveedor.

Verifica el endpoint y depura el primer chat.

Las dos comprobaciones curl de arriba cubren la mitad del gateway antes de tocar el formulario: los ids que planeas registrar deben aparecer en /v1/models, y una chat completion directa debería responder. Dentro de Onyx, los fallos se localizan rápido. Un error de proveedor que menciona LiteLLM significa que Provider Name no es una clave válida; configúralo a openai. Un error de autenticación en el primer chat significa que la API Key no pertenece al endpoint en Base URL. Un error de modelo no encontrado es un desajuste de id entre Model Configurations y el catálogo. Las respuestas que se generan pero ignoran tus documentos son un problema de recuperación o de conector, completamente ajeno al proveedor de LLM. Una vez que los chats fluyen, la consola de APIsRouter muestra el modelo por petición, el recuento de tokens y el gasto. Para una herramienta de workspace donde cada pregunta lleva contexto recuperado, ese número de tokens por pregunta es la base honesta para la planificación de capacidad, y una clave por workspace convierte el log de uso en un informe de coste a nivel de departamento.

Preguntas frecuentes