Rode o chat do RAGFlow em uma base URL compatível com OpenAI-API.

Resposta rápida: adicione o modelo na página Model providers.

Entre no RAGFlow, clique no seu logo no canto superior direito, e abra Model providers. Em Models to be added, encontre o card OpenAI-API-Compatible e clique em Add the model. No diálogo Add LLM, defina Model type como chat, digite o id exato do catálogo em Model name, coloque https://api.apisrouter.com/v1 em Base url, cole sua chave em API-Key, e defina Max tokens como o tamanho de contexto real do modelo. Clique em OK. Depois faça isso funcionar de verdade: abra Set default models na mesma página e escolha seu novo modelo como o LLM padrão. Assistentes de chat, perguntas e respostas de dataset, e nós de agente todos se resolvem para esse padrão a menos que sobrescrevam. Uma aresta afiada que vale a pena conhecer antes da primeira execução: o campo Max tokens do RAGFlow tem padrão 512 e sua própria dica avisa que um valor inválido causa erros, então digitar a janela documentada do modelo é parte da configuração, não uma otimização.

Model type:  chat
Model name:  deepseek-v4-pro
Base url:    https://api.apisrouter.com/v1
API-Key:     sk-YOUR-APISROUTER-KEY
Max tokens:  128000

then: Set default models → LLM → deepseek-v4-pro

Como o RAGFlow vincula modelos ao trabalho.

O RAGFlow (infiniflow no GitHub, cerca de 85 mil estrelas) é um motor de RAG para documentos profundos: parsing consciente de layout de PDFs e tabelas, fragmentação com citações fundamentadas, datasets, assistentes de chat, e fluxos de agente por cima. Partes diferentes desse pipeline se vinculam a slots de modelo diferentes, e a vinculação é explícita. Chat models geram respostas. Modelos de embedding vetorizam fragmentos para recuperação. Modelos de rerank reordenam candidatos, e modelos img2txt descrevem figuras durante o parsing. O provedor OpenAI-API-Compatible pode registrar modelos para esses tipos individualmente, cada diálogo Add LLM criando uma vinculação de tipo, id, base url, e chave. Todo chat model registrado fala chat completions padrão com a base url com o Model name como a string de fio, então qualquer id que o gateway sirva é válido, independentemente do fornecedor. Essa separação importa operacionalmente: trocar seu modelo de resposta de gpt-5.5 para claude-sonnet-4-6 é seguro em qualquer dia, mas o modelo de embedding está soldado aos seus vetores indexados. O RAGFlow reforça isso com uma checagem de compatibilidade ao trocar modelos de embedding em um dataset que já tem fragmentos, e a regra prática é mais simples: escolha a configuração de embedding uma vez, e trate chat models como a camada que você ajusta livremente.

Uma chave para modelos chineses e ocidentais juntos.

Deployments do RAGFlow tendem a ser bilíngues: times de origem chinesa processando bases de documentos multilíngues, e times internacionais que especificamente querem modelos chineses para documentos chineses. Servido diretamente, essa mistura é dolorosa, já que DeepSeek, Zhipu, Moonshot, e Alibaba faturam cada um separadamente e alguns são difíceis de pagar de fora, enquanto Anthropic e OpenAI são difíceis na outra direção. Através de uma base url OpenAI-API-Compatible, a mistura é só mais diálogos Add LLM: deepseek-v4-pro e glm-5.2 para corpora pesados em chinês, qwen3.7-max e kimi-k2.6 como fortes alternativas regionais, claude-sonnet-4-6 onde o polimento da resposta importa mais. Mesma base url, mesma chave, ids direto do catálogo. Para times na Ásia o mesmo caminho funciona ao contrário: ids Claude e GPT se tornam alcançáveis em um saldo pré-pago sem um cartão ocidental, o que para muitas operações de RAGFlow é a diferença entre avaliar um modelo e só ler sobre ele. Também existe um caminho no momento da inicialização que vale a pena conhecer: service_conf.yaml.template aceita um bloco user_default_llm (factory, api_key, base_url) para que instalações novas já subam pré-conectadas. A documentação do RAGFlow é explícita que depois do login, a configuração acontece só na página Model providers, então trate o YAML como provisionamento de primeira inicialização, não configuração ao vivo.

user_default_llm:
  factory: OpenAI-API-Compatible
  api_key: sk-YOUR-APISROUTER-KEY
  base_url: https://api.apisrouter.com/v1

Escolhendo modelos para um pipeline de documentos.

A qualidade de recuperação define o teto e o modelo de resposta decide o quanto você chega perto, então faça A/B de modelos de resposta no seu corpus real: mesmo dataset, mesmas perguntas, dois assistentes fixados em dois ids, e o gasto por modelo no console da APIsRouter ao lado do seu próprio julgamento das respostas.

• Responder de forma fundamentada sobre fragmentos recuperados é trabalho pesado em entrada onde modelos de nível médio brilham: deepseek-v4-pro e glm-5.2 carregam bem respostas que seguem citações em corpora bilíngues.
• qwen3.7-max e kimi-k2.6 são os pesos-pesados regionais que valem a pena testar quando as respostas precisam soar naturais em chinês; diferenças de qualidade entre modelos chineses aparecem mais na geração do que na recuperação.
• claude-sonnet-4-6 merece o slot de resposta onde a qualidade de síntese é o produto, resumos executivos, análise de contrato, qualquer coisa que um humano encaminha sem editar.
• Fluxos de agente que chamam ferramentas precisam de chamadas de função confiáveis; teste o caminho de agente em claude-sonnet-4-6 primeiro, depois veja qual id regional o acompanha nos seus fluxos.
• Max tokens é por registro, então registre o mesmo id duas vezes com limites diferentes se um assistente precisa de respostas longas e outro precisa de respostas curtas.

Pague pelo uso · abaixo do preço oficial

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Modos de falha específicos do RAGFlow.

O padrão de Max tokens é o clássico. Deixado em 512, respostas longas truncam ou dão erro de formas que parecem problemas de modelo; defina o tamanho de contexto documentado ao registrar, como a própria dica avisa. Um modelo registrado que dá erro imediatamente geralmente é a grafia do Model name (precisa corresponder exatamente à listagem /v1/models) ou uma Base url faltando seu sufixo /v1, já que o RAGFlow anexa caminhos de rota ao que você digita. Nada acontecendo depois do registro é um problema de padrões: registrar um modelo não o seleciona. Confira Set default models, e confira as configurações de modelo por assistente, que sobrescrevem o padrão do workspace. Confusão de embedding completa a lista. Se você vincular um id de embedding pelo provedor compatível, confirme que o endpoint realmente o serve antes de indexar; e uma vez que um dataset tem fragmentos, mudar seu modelo de embedding é bloqueado por uma checagem de similaridade e pode exigir reindexação do zero. Mudanças de chat model não carregam esse custo, que é exatamente por que a camada de chat é onde você deveria experimentar.

Quem roteia o RAGFlow por um gateway.

• Times de documentos bilíngues misturando DeepSeek, GLM, Qwen, e Kimi com ids Claude e GPT atrás de uma base url e uma chave.
• Times na Ásia que querem respostas com qualidade Claude em um saldo pré-pago sem um cartão ocidental, e times ocidentais que querem modelos chineses sem faturamento regional.
• Auto-hospedeiros rodando o RAGFlow para bases de conhecimento internas que querem todo o gasto em nuvem do deployment em um único log de uso.
• Criadores comparando modelos de resposta em um corpus fixo, onde cada candidato é um diálogo Add LLM em vez de uma conta de fornecedor.
• Times de operações provisionando instalações novas a partir de service_conf.yaml.template com o endpoint pré-conectado na primeira inicialização.

Verifique o endpoint e depure o primeiro chat.

Faça curl na listagem de modelos primeiro; o campo Model name é texto livre, e copiar ids da listagem elimina a falha mais comum antes que ela aconteça. Depois rode uma chat completion contra o id que você planeja registrar. Dentro do RAGFlow, registre o modelo, defina-o como LLM padrão, e teste em um assistente de chat simples antes de envolver datasets. Erros de autenticação apontam para API-Key; not-found para Model name; erros de conexão para Base url ou egresso do container, já que é o servidor do RAGFlow, não seu navegador, que precisa alcançar o endpoint. Respostas longas truncadas ou falhando apontam de volta para Max tokens. Assim que os chats fluem, o console da APIsRouter mostra modelo, contagens de token e gasto por requisição. Tráfego de RAG é dominado por entrada, e o log de uso é onde você vê o que seu corpus realmente custa para consultar, por modelo, por dia, uma página para os ids chineses e ocidentais juntos.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"deepseek-v4-pro",
       "messages":[{"role":"user","content":"ping"}]}'

Perguntas frequentes