Open WebUI-কে একটা কাস্টম OpenAI-compatible endpoint-এর সাথে connect করুন।

দ্রুত উত্তর: Admin Settings-এ এক connection।

একজন admin হিসেবে, Admin Settings খুলুন, Connections-এ যান, এবং OpenAI API section-এর নিচে একটা connection যোগ করতে click করুন। দুটো field গুরুত্বপূর্ণ: URL, https://api.apisrouter.com/v1-এ সেট করা, এবং API key। Save করুন, এবং Open WebUI model selector পূরণ করতে endpoint-এর /v1/models listing query করে; connection-এর check control দিয়ে verify করুন, তারপর একটা নতুন chat-এ যেকোনো catalog id pick করুন। এভাবে যোগ করা connection workspace-wide: আপনার Open WebUI instance-এর প্রতিটা user model দেখে, আপনি যে model-access control configure করেন তার অধীন। একই value বদলে deploy time-এ environment variable হিসেবে ship করতে পারে, OPENAI_API_BASE_URL এবং OPENAI_API_KEY, যা instance compose file দিয়ে provision হলে click করে shape দেওয়ার চেয়ে cleaner path।

URL:      https://api.apisrouter.com/v1
API Key:  sk-YOUR-APISROUTER-KEY

Save → models auto-populate from /v1/models
(optional) Model IDs allowlist to curate the selector

Open WebUI কীভাবে OpenAI connection ব্যবহার করে।

Open WebUI (প্রায় 145K GitHub star) হলো default self-hosted AI chat front end: user এবং permission, RAG এবং knowledge collection, tool calling, এবং model management সহ একটা full-featured web client, classically local model-এর জন্য Ollama-র সাথে paired কিন্তু remote API-র সাথে কথা বলতেও সমান স্বচ্ছন্দ। এর connection model additive। Ollama section local runtime cover করে; OpenAI API section standard chat-completions dialect বলা যেকোনো endpoint cover করে, এবং আপনি পাশাপাশি একাধিক connection যোগ করতে পারেন। প্রতিটা connection shared selector-এ তার model list contribute করে, প্রতিটার নিজস্ব key আছে, এবং প্রতিটা এর configuration delete না করেই toggle off করা যায়। Request model id-কে একটা plain string হিসেবে যে connection serve করে সেখানে বহন করে। সেই design মানে একটা gateway connection কিছুই displace করে না: আপনার local model প্রতি-token কোনো cost ছাড়াই Ollama দিয়ে চলতে থাকে, যখন claude-sonnet-4-6, gpt-5.5, gemini-3.5-flash, এবং deepseek-v4-pro frontier quality দরকার এমন conversation-এর জন্য selector entry হয়ে যায়। এক key সবগুলো cover করে, এবং admin-side usage readable থাকে কারণ cloud traffic ঠিক এক জায়গা দিয়েই বের হয়।

Deploy-time সেটআপ: environment variable।

docker-compose এবং Kubernetes deployment-এর জন্য, connection manifest-এর অংশ হতে পারে। OPENAI_API_BASE_URL endpoint নেয় এবং OPENAI_API_KEY key নেয়; instance connection ইতিমধ্যে present সহ চালু হয়। আপনি একাধিক remote source চালালে plural form দিয়ে (semicolon-separated value সহ OPENAI_API_BASE_URLS এবং OPENAI_API_KEYS) একাধিক endpoint সাপোর্ট করা হয়। দুটো operational note। প্রথমত, UI দিয়ে সেট করা value Open WebUI-এর database-এ persist করে এবং first boot-এর পরে environment default-এর চেয়ে precedence পায়, একটা documented behavior যা নিয়মিতভাবে সেই operator-দের অবাক করে যারা env বদলায় এবং কিছুই হতে দেখে না; Admin Settings-এ বিদ্যমান connection adjust করুন, অথবা environment-কে authoritative রাখতে চাইলে ENABLE_PERSISTENT_CONFIG=false সেট করুন। দ্বিতীয়ত, endpoint-এর model listing বড় হলে, আপনার user রা কী দেখে তা curate করতে connection-এর Model IDs allowlist ব্যবহার করুন; একটা চার-item selector ব্যবহৃত হয়, একটা দুইশ-item selector scroll করে পার হয়ে যায়। Version note: project-এর দ্রুত release cadence জুড়ে menu wording বদলেছে (Settings বনাম Admin Settings, Connections-এর ভেতরে section name), তাই পুরনো build-এ connection যেখানেই থাকুক OpenAI API base URL এবং key pair খুঁজুন।

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    environment:
      - OPENAI_API_BASE_URL=https://api.apisrouter.com/v1
      - OPENAI_API_KEY=sk-YOUR-APISROUTER-KEY
    ports:
      - "3000:8080"

Multi-user workspace-এর জন্য model বেছে নেওয়া।

প্রতিটা cloud model যেহেতু এক key দিয়ে বিল হয়, A/B testing একটা selector choice। দুই সপ্তাহের ব্যবধানে দুটো candidate default-এ একই team workload চালান এবং benchmark থেকে অনুমান না করে APIsRouter console-এর per-model usage view-কে প্রতি model ও প্রতি দিন referee করতে দিন।

• একটা shared instance-এ Default-model choice সবচেয়ে বেশি কাজ করে। workspace default হিসেবে claude-haiku-4-5-20251001 বা gemini-3.5-flash casual ব্যবহারের per-conversation cost flat রাখে।
• drafting, analysis, এবং code প্রশ্নের জন্য claude-sonnet-4-6 এবং gpt-5.5-এর জায়গা selector-এ; task যোগ্য হলে user রা step up করে।
• RAG pipeline input token multiply করে: প্রতিটা answer retrieved chunk বহন করে। RAG workhorse হিসেবে deepseek-v4-pro test করার যোগ্য, যেখানে per token spent long-context handling decisive trait।
• সত্যিই private material Ollama দিয়ে local model-এ রাখুন এবং বাকি সবকিছু gateway দিয়ে route করুন; selector honestly দুই lane-ই ধরে রাখে।
• Model IDs allowlist-কে policy হিসেবে ব্যবহার করুন: selector-এ যা নেই তা usage log-এ আপনাকে surprise করতে পারে না।

ব্যবহার অনুযায়ী পেমেন্ট · অফিশিয়াল মূল্যের নিচে

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Open WebUI-specific failure mode।

Connection যোগ করার পর কোনো model না দেখানো সবচেয়ে সাধারণ report। কারণগুলো এভাবে সাজানো: key /v1/models-এর বিরুদ্ধে fail করেছে (connection-এর verify control দিয়ে check করুন), URL-এ এর /v1 suffix missing, বা connection toggle off। Open WebUI listing যা ফেরত দেয় তা থেকে selector বানায়, তাই একটা খালি selector মানে listing call fail করেছে বা কিছুই ফেরত দেয়নি। Ignored মনে হওয়া Environment change হলো উপরে বর্ণিত persistent-config rule: first boot-এর পরে, UI যে settings manage করে তার জন্য database environment-কে হারিয়ে দেয়। Admin Settings-এ connection edit করুন বা explicitly persistent config disable করুন। list হয় কিন্তু chat-এ error করে এমন একটা model সাধারণত এমন একটা id যা listing expose করে কিন্তু আপনার key ব্যবহার করতে পারে না, বা Model IDs allowlist হাতে edit করার সময় introduced একটা typo; raw /v1/models output-এর বিরুদ্ধে তুলনা করুন। এবং debug করার সময় lane সোজা রাখুন: Ollama connection problem এবং OpenAI connection problem chat window থেকে অভিন্ন দেখায়। Connections page দেখায় একটা model কোন lane-এর অন্তর্গত; পুরো instance down ধরে নেওয়ার আগে fail করা lane সরাসরি test করুন।

কারা একটা gateway দিয়ে Open WebUI route করে।

• Team যারা সবার জন্য এক chat front end self-host করে এবং individual user-কে vendor key issue না করে frontier model available চান।
• Ollama ব্যবহারকারী যারা private কাজের জন্য local model রাখে কিন্তু দরকার হয় এমন conversation-এর জন্য একই selector-এ Claude এবং GPT quality চান।
• Admin যাদের cloud bill legible দরকার: চার vendor-এর receipt-এর বদলে এক connection, এক key, এবং একটা per-model usage log।
• যে region-এ কিছু vendor sign-up কষ্টকর সেখানকার operator; কোনো card requirement ছাড়া top-up based access per-provider dependency সরিয়ে দেয়।
• Homelabber যারা household-এর জন্য Open WebUI চালান, যেখানে যেকোনো subscription-এর চেয়ে একটা single prepaid balance নিয়ে reason করা সহজ।

Endpoint verify করুন এবং প্রথম chat debug করুন।

প্রথমে server থেকে endpoint প্রমাণ করুন, বিশেষত containerized deployment-এ যেখানে container-এর network আপনার laptop-এর নয়। host-এর ভেতর থেকে একটা models listing এবং একটা chat completion Open WebUI ছবিতে আসার আগে gateway অংশ confirm করে। তারপর connection যোগ করুন এবং selector populate হতে দেখুন। Authentication error হলো key field; একটা খালি selector হলো listing call; server log-এ একটা doubled path (/v1/v1/...) মানে URL field ইতিমধ্যে একটা /v1 বহন করছিল এবং কিছু আরেকটা append করেছে, তাই URL ঠিক save করা অবস্থায় পড়ুন। Chat চলতে শুরু করলে, APIsRouter console per-request model, token count, এবং spend দেখায়। একটা multi-user instance-এর জন্য এটাই সেই সংখ্যা যা গুরুত্বপূর্ণ: আপনার user রা আসলে কোন model pick করছে, এবং workspace-এর এক সপ্তাহ আসলে কত খরচ করে, প্রতি model, প্রতি দিন, এক পেজে।

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"claude-haiku-4-5-20251001",
       "messages":[{"role":"user","content":"ping"}]}'

সাধারণ প্রশ্ন