একটা কাস্টম OpenAI-compatible endpoint-এ LobeChat চালান।

Updated 2026-07-29

LobeChat-এর provider module যেকোনো OpenAI-compatible service accept করে: OpenAI SDK type দিয়ে একটা কাস্টম provider তৈরি করুন, endpoint-কে https://api.apisrouter.com/v1-এ সেট করুন, এক key paste করুন, এবং model list fetch করুন। Claude, GPT, Gemini, এবং DeepSeek id প্রতিটা assistant-এর model picker-এ চলে যায়।

দ্রুত উত্তর: এক কাস্টম provider, এক endpoint, এক key।

LobeChat settings খুলুন এবং AI service provider section-এ যান (release অনুযায়ী AI Service Provider বা Language Model লেবেলযুক্ত)। v1.44-এ provider-management module আসার পর থেকে, built-in OpenAI entry-তে piggyback না করে আপনি একটা কাস্টম provider তৈরি করতে পারেন: একটা provider যোগ করুন, এটাকে একটা id এবং একটা display name দিন (apisrouter / APIsRouter), OpenAI SDK type বেছে নিন, তারপর API key এবং endpoint proxy URL https://api.apisrouter.com/v1 দিয়ে পূরণ করুন। Provider-এর model list-এ, /v1/models দিয়ে endpoint যে প্রতিটা id serve করে তা টেনে আনতে fetch-models action ব্যবহার করুন, আপনি যেগুলো চান তা enable করুন, এবং built-in connectivity check চালান। তারপর থেকে, যেকোনো assistant বা conversation model picker থেকে সেই id গুলো select করতে পারে। প্রজেক্ট এখন GitHub-এ lobehub/lobehub-এ থাকে (lobe-chat repo name সেখানে redirect করে), এবং release জুড়ে menu label বদলায়, তাই exact wording-এর বদলে flow-কে (provider entry, SDK type, URL, key, fetch) stable অংশ হিসেবে ধরুন।

Provider ID:    apisrouter
Provider Name:  APIsRouter
SDK Type:       OpenAI
API Key:        sk-YOUR-APISROUTER-KEY
API Proxy URL:  https://api.apisrouter.com/v1

Model List → Fetch models → enable ids → check

LobeChat কীভাবে request একটা provider-এ route করে।

LobeChat (প্রায় 80K GitHub star, এখন LobeHub নামে) সবচেয়ে বেশি deploy করা open-source chat framework-গুলোর একটা: একটা polished web client, নিজস্ব prompt এবং model সহ assistant, একটা plugin system, এবং knowledge-base feature, একটা browser session-এ বা database সহ self-hosted deploy করা যায়। প্রতিটা provider entry বর্ণনা করে request কোথায় যায় এবং কোন SDK dialect বলতে হবে। OpenAI SDK type-এ একটা কাস্টম provider model id-কে একটা plain string হিসেবে আপনার proxy URL-এ standard chat-completions request পাঠায়, যা ঠিক একটা multi-vendor gateway যা আশা করে তাই। তাই এক entry পুরো catalog বহন করে: assistant careful কাজের জন্য claude-sonnet-4-6 pin করতে পারে যখন quick conversation gemini-3.5-flash চালায়, কোথাও দ্বিতীয় account ছাড়াই। Endpoint URL-এর একটা documented nuance উদ্ধৃত করার যোগ্য: URL-এর একটা /v1 suffix দরকার কিনা তা এর পেছনের service-এর উপর নির্ভর করে। LobeChat আপনার দেওয়া base-এ /chat/completions-এর মতো route path append করে, তাই APIsRouter-এর জন্য সঠিক value হলো https://api.apisrouter.com/v1। একটা missing suffix-এর documented symptom হলো model test-এ একটা খালি reply ফেরত দেওয়া; এটা দেখলে, /v1 যোগ করুন এবং আবার try করুন।

Self-hosting: environment-variable path।

আপনি নিজে LobeChat deploy করলে, একই routing UI-তে click করার বদলে container-এ ship করতে পারে। classic pair built-in OpenAI provider override করে: OPENAI_API_KEY gateway key নেয় এবং OPENAI_PROXY_URL https://api.apisrouter.com/v1 নেয়। সেই deployment-এর প্রতিটা user তখন settings touch না করেই endpoint inherit করে। Model visibility model-list syntax দিয়ে নিয়ন্ত্রিত হয়: OPENAI_MODEL_LIST যোগ করতে +id, লুকাতে -id, এবং relabel করতে id=Display Name accept করে, entry কমা-separated। value-টা -all দিয়ে শুরু করলে built-in list clear হয়ে যায় তাই শুধু আপনার explicit id দেখা যায়, যা একটা curated deployment-এর জন্য clean shape। নতুন server build একটা CUSTOM_PROVIDER_* family-ও document করে (count, id, name, type, base URL, key) deploy time-এ পূর্ণাঙ্গ কাস্টম provider declare করার জন্য, UI module যা করে তার সাথে মিলিয়ে। এর উপর নির্ভর করার আগে আপনার version-এর জন্য current environment-variable reference check করুন, যেহেতু এই surface OPENAI_* pair-এর চেয়ে নতুন এবং এখনো evolving।

OPENAI_API_KEY=sk-YOUR-APISROUTER-KEY
OPENAI_PROXY_URL=https://api.apisrouter.com/v1
OPENAI_MODEL_LIST=-all,+claude-sonnet-4-6=Claude Sonnet 4.6,+gpt-5.5,+gemini-3.5-flash,+deepseek-v4-pro

Assistant-এর জন্য model বেছে নেওয়া।

সব assistant যেহেতু এক key দিয়ে বিল হয়, model comparison একটা assistant-settings change। দুটো duplicate assistant-এ দুটো candidate pin করুন, এক সপ্তাহ আপনার real prompt চালান, এবং আপনি যে answer quality observe করেছেন তার পাশে APIsRouter console-এ per-model spend পড়ুন।

  • Assistant হলো per-role model pin। claude-sonnet-4-6-এ একটা writing assistant, claude-haiku-4-5-20251001-এ একটা quick-answer assistant, এবং gpt-5.5-এ একটা research assistant সবাই এক provider entry-র পেছনে coexist করে।
  • default conversation model-এর জন্য gemini-3.5-flash হলো responsiveness pick; একটা chat framework-এ বেশিরভাগ turn ছোট এবং fast model UI-কে instant মনে করায়।
  • লম্বা multilingual conversation এবং heavy summarization-এর জন্য deepseek-v4-pro একটা slot অর্জন করে, যেখানে per token spent এর long-context behavior-ই আকর্ষণ।
  • Vision conversation-এর জন্য provider-এর model config-এ capability enable করা একটা vision-capable id দরকার; LobeChat provider module-এ per-model capability toggle expose করে।
  • ইচ্ছাকৃতভাবে একটা two-tier picker enable করুন, একটা fast id এবং একটা frontier id, এবং শুধু একটা real assistant-এর দরকার হলেই আরও যোগ করুন; প্রতিটা enabled model এমন একটা row যা user scroll করে।

ব্যবহার অনুযায়ী পেমেন্ট · অফিশিয়াল মূল্যের নিচে

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

মডেলঅফিশিয়াল মূল্যআমাদের মূল্য
Claude Sonnet 4.6$3.00 / $15.00 per M$2.40 / $12.00 per M
GPT-5.5$5.00 / $30.00 per M$4.00 / $24.00 per M
Gemini 3.5 Flash$1.50 / $9.00 per M$1.20 / $7.20 per M
DeepSeek V4 Pro$0.43 / $0.87 per M$0.40 / $0.90 per M
Claude Haiku 4.5 20251001$1.00 / $5.00 per M$0.80 / $4.00 per M

LobeChat-specific failure mode।

connectivity check-এ একটা খালি reply হলো একটা base-URL suffix problem-এর documented signature। /v1 যোগ বা সরান (APIsRouter-এর জন্য এটা অবশ্যই থাকতে হবে) এবং আরও গভীরে debug করার আগে আবার try করুন। একটা assistant-এর picker থেকে model অনুপস্থিত মানে সাধারণত সেগুলো fetch হয়েছে কিন্তু provider-এর model list-এ enable হয়নি, বা provider toggle-টাই off। দুটোই fetch action-এর মতো একই settings screen-এ থাকে। Self-hosted deployment-এ, precedence মনে রাখুন: environment variable server-side default configure করে, যখন user রা আপনার deployment-এর auth এবং feature flag-এর উপর নির্ভর করে এখনো client-side তাদের নিজস্ব provider settings enter করতে পারে। একটা deployment আপনার OPENAI_PROXY_URL ignore করলে, confirm করুন container আসলে নতুন environment-সহ restart হয়েছে এবং client session locally এটা override করছে না। Version drift এখানে বাস্তব: settings tree একাধিকবার reorganize হয়েছে (Language Model, তারপর AI Service Provider, v1.44-এ provider module এসে), এবং পুরনো tutorial-এর screenshot বর্তমান menu-র সাথে মিলবে না। field গুলো নিজে, id, name, SDK type, URL, key, স্থিতিশীল থেকেছে।

কারা একটা gateway দিয়ে LobeChat route করে।

  • Self-hoster যারা team-এর জন্য LobeChat চালান এবং per-user vendor key-এর বদলে container-এ এক endpoint এবং সবার জন্য এক usage log চান।
  • Assistant power user যারা প্রতি role-এ ভিন্ন vendor pin করেন, writing-এর জন্য Claude, analysis-এর জন্য GPT, volume-এর জন্য DeepSeek, প্রতিটার জন্য account maintain না করেই।
  • ব্যবহারকারী যারা built-in provider list যা বহন করে না এমন model চান, upstream release-এর জন্য অপেক্ষা না করে gateway catalog fetch করে enabled।
  • Developer যাদের কোনো নির্দিষ্ট vendor-এর billing-এ access নেই। কোনো card requirement ছাড়া Top-up based access per-provider sign-up dependency সরিয়ে দেয়।
  • মানুষ যারা ইতিমধ্যে তাদের editor, launcher, বা CLI tool একটা gateway দিয়ে route করছেন এবং একই key-তে তাদের chat framework চান।

Endpoint verify করুন এবং প্রথম conversation debug করুন।

প্রথমে models listing curl করুন এবং output খোলা রাখুন; আপনি fetch করে বা হাতে যে প্রতিটা id enable করেন তার জন্য এটা authoritative spelling। তারপর আপনি default বানানোর পরিকল্পনা করা id-এর বিরুদ্ধে একটা chat completion চালান। LobeChat-এর ভেতরে, real conversation-এর আগে connectivity check চালান। Authentication failure key field-এর দিকে নির্দেশ করে। একটা খালি reply /v1 suffix-এর দিকে নির্দেশ করে। একটা নির্দিষ্ট model-এ Not-found error মানে enabled id listing-এর সাথে মেলে না, যা বেশিরভাগ ঘটে display name এবং id একসাথে হাতে edit করার পরে। Conversation চলতে শুরু করলে, APIsRouter console per-request model, token count, এবং spend দেখায়। Assistant-সহ একটা chat framework একসাথে একাধিক model জুড়ে traffic তৈরি করে, এবং per-key usage view-ই সেই জায়গা যেখানে প্রতিটা assistant-এর অভ্যাস প্রতি model, প্রতি দিন আপনি দেখতে পারেন এমন একটা cost হয়ে যায়।

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"gemini-3.5-flash",
       "messages":[{"role":"user","content":"ping"}]}'

সাধারণ প্রশ্ন

LobeChat-এ কীভাবে একটা কাস্টম OpenAI-compatible provider যোগ করব?

settings-এ, AI service provider section খুলুন এবং একটা কাস্টম provider তৈরি করুন: id এবং display name, SDK type OpenAI, endpoint https://api.apisrouter.com/v1, এবং আপনার key। model list fetch করুন, আপনি যে id গুলো চান তা enable করুন, এবং connectivity check চালান।

endpoint URL-এর কি /v1 দরকার?

APIsRouter-এর জন্য, হ্যাঁ: https://api.apisrouter.com/v1। LobeChat আপনার দেওয়া base-এ /chat/completions-এর মতো route append করে, এবং এর docs উল্লেখ করে একটা ভুল suffix সাধারণত test-এ একটা খালি reply হিসেবে দেখা যায়। এটা দেখলে, suffix ঠিক করুন এবং আবার try করুন।

OPENAI_PROXY_URL কী এবং কখন এটা ব্যবহার করব?

এটা সেই self-hosting environment variable যা LobeChat-এর built-in OpenAI provider-কে অন্য একটা base URL-এ repoint করে। container-এ OPENAI_API_KEY দিয়ে এটা সেট করুন এবং সেই deployment-এর প্রতিটা user endpoint inherit করে; কোন id দেখা যাবে তা curate করতে OPENAI_MODEL_LIST ব্যবহার করুন।

ভিন্ন assistant কি এক provider দিয়ে ভিন্ন vendor ব্যবহার করতে পারে?

হ্যাঁ। প্রতিটা assistant নিজের model pin করে, এবং id প্রতি request একটা plain string হিসেবে endpoint-এ যায়। এক provider entry একটা Claude assistant, একটা GPT assistant, এবং একটা DeepSeek assistant পাশাপাশি serve করতে পারে, সবাই একই key দিয়ে বিল হয়।

LobeChat কি LobeHub-এর মতো একই প্রজেক্ট?

হ্যাঁ। প্রজেক্ট rebrand হয়েছে এবং GitHub repo এখন lobehub/lobehub-এ থাকে, পুরনো lobe-chat নাম সেখানে redirect করে। Transition চলাকালীন docs এবং menu দুই নামই মিশিয়ে ব্যবহার করে, যে কারণে release জুড়ে settings label ভিন্ন হয়।

আমার fetched model কেন conversation-এ দেখা যাচ্ছে না?

Fetching id list করে; সেগুলো enable করা provider-এর model list-এ প্রতি model একটা আলাদা toggle, এবং provider-এর নিজের একটা enable switch আছে। দুটোই check করুন, তারপর model picker আবার খুলুন। একটা enabled id তবুও error করলে, /v1/models output-এর বিরুদ্ধে এর spelling তুলনা করুন।