AutoGPT کو ایک custom OpenAI base URL پر چلائیں۔

فوری جواب: .env میں دو لائنیں۔

AutoGPT Classic کی .env.template OPENAI_API_BASE_URL کو "Custom url for the OpenAI API, useful for connecting to custom backends" کے طور پر document کرتی ہے، اور provider code اسے سیدھا client میں wire کرتا ہے: OpenAICredentials class اس variable سے api_base پڑھتی ہے اور اسے base_url کے طور پر pass کرتی ہے۔ تو override ایک لائن uncomment کرنا اور key سیٹ کرنا ہے: OPENAI_API_BASE_URL کو https://api.apisrouter.com/v1 اور OPENAI_API_KEY کو اپنی gateway key پر۔ ایک scoping بات پہلے سے: یہ AutoGPT Classic پر لاگو ہوتا ہے، وہ autonomous agent جو repo میں classic/original_autogpt کے تحت رہتا ہے۔ Repo کا نیا تر AutoGPT Platform (visual builder) ہر block کے لیے model credentials اپنے backend کے ذریعے manage کرتا ہے، اور یہ environment variable اسے configure کرنے کا طریقہ نہیں ہے۔

OPENAI_API_BASE_URL=https://api.apisrouter.com/v1
OPENAI_API_KEY=sk-APIsRouter-...
SMART_LLM=gpt-5.4
FAST_LLM=gpt-5.4-mini

AutoGPT Classic model calls کو کیسے route کرتا ہے۔

AutoGPT (GitHub پر Significant-Gravitas، تقریباً 185K stars، وجود میں سب سے زیادہ starred agent repo) نے autonomous loop کی بنیاد رکھی: agent plan بناتا ہے، ایک action چنتا ہے، اسے execute کرتا ہے، نتیجہ evaluate کرتا ہے، اور دہراتا رہتا ہے جب تک goal پورا نہ ہو یا budget ختم نہ ہو جائے۔ Classic اپنے model usage کو دو slots میں تقسیم کرتا ہے۔ SMART_LLM agent کے اصل reasoning turns چلاتا ہے، اور FAST_LLM ہلکا کام سنبھالتا ہے؛ defaults config میں enum values کے طور پر رہتے ہیں، environment سے overridable۔ Routing mechanics اتنی پرانی project کے لیے غیر معمولی طور پر صاف ہیں: OpenAICredentials.api_base OPENAI_API_BASE_URL سے UserConfigurable ہے، اور get_api_access_kwargs() اسے OpenAI client کو base_url کے طور پر دیتا ہے۔ agent کی ہر OpenAI-provider request، planning turns، tool-use decisions، summaries، اسی host کو جاتی ہے جس کا نام یہ variable لیتا ہے۔ وہ constraint جو AutoGPT کو freeform tools سے الگ کرتا ہے: SMART_LLM اور FAST_LLM ModelName enums کے طور پر typed ہیں، agent میں compile کی گئی model registry کے خلاف validated، free strings نہیں۔ حالیہ builds کی registry gpt-5.4 تک GPT-5 series کے ساتھ 4.1، 4o، اور o-series families کو cover کرتی ہے، مگر عملی اصول یہ ہے کہ اپنے checkout کے enum میں موجود ناموں میں سے چنیں۔ gateway پھر بالکل وہی id وصول کرتا ہے، تو id کا کیٹلاگ میں بھی موجود ہونا ضروری ہے؛ gpt-5.4 اور gpt-5.4-mini آج دونوں طرف پورا اترتے ہیں۔

مکمل سیٹ اپ: درست directory میں .env، registry سے models۔

.env.template کو classic/original_autogpt کے اندر .env میں copy کریں، چاروں values کو uncomment اور سیٹ کریں، اور agent کو اسی directory سے چلائیں۔ .env classic agent کے working layout کے relative میں load ہوتی ہے، تو repo root میں ایک خوبصورتی سے configured file اس کے لیے کچھ نہیں کرتی۔ Model selection ایک registry lookup ہے، passthrough نہیں۔ SMART_LLM کو ایسی id پر سیٹ کرنا جو enum میں موجود نہ ہو startup پر validation فیل کرتی ہے، کسی request سے پہلے، جو کم از کم زور سے fail ہوتی ہے۔ اس کا نتیجہ یہ ہے کہ Claude ids اس path سے بالکل addressable نہیں: Classic میں ان enum names کے لیے ایک الگ native Anthropic provider (ANTHROPIC_API_KEY) ہے، اور وہ provider OPENAI_API_BASE_URL نہیں پڑھتا۔ اگر آپ کا مقصد ایک endpoint کے ذریعے ایک key ہے، تو دونوں slots کو gateway کی سرو کردہ OpenAI-registry names پر رکھیں۔ Budget discipline اب بھی لاگو ہوتی ہے۔ autonomous loop unattended bursts میں tokens خرچ کرنے کے لیے مشہور ہے، اور اسے reroute کرنا یہ نہیں بدلتا؛ یہ اسے measurable بنا دیتا ہے۔ Classic کی اپنی budget settings سیٹ کرنا اب بھی قابلِ قدر ہے، اور per-key usage view آپ کو فی run بیرونی ledger دیتا ہے۔

cd classic/original_autogpt
cp .env.template .env
# edit .env:
#   OPENAI_API_BASE_URL=https://api.apisrouter.com/v1
#   OPENAI_API_KEY=sk-APIsRouter-...
#   SMART_LLM=gpt-5.4
#   FAST_LLM=gpt-5.4-mini
./autogpt.sh run   # or: poetry run autogpt run

SMART_LLM اور FAST_LLM چننا۔

ایماندار comparison فی goal ہے، فی call نہیں: agent کو دو SMART_LLM انتخاب کے تحت ایک ہی goal دیں اور usage log میں کل tokens اور نتیجے کا معیار compare کریں۔ Autonomous agents وہ واحد workload ہیں جہاں مضبوط تر model باقاعدگی سے کل قیمت پر جیتتا ہے۔

• SMART_LLM agent کا judgment ہے۔ یہ ہر loop iteration پر فیصلہ کرتا ہے کہ آگے کیا کرنا ہے، اور ایک برا فیصلہ صرف ایک call ضائع نہیں کرتا، یہ ضائع شدہ calls کا ایک subtree پیدا کر دیتا ہے۔ gpt-5.4 آج اس slot کے لیے سب سے مضبوط registry-and-catalog match ہے۔
• FAST_LLM mechanical volume کو جذب کرتا ہے۔ gpt-5.4-mini loop کی supporting calls کو smart slot کی قیمت کے ایک چھوٹے سے حصے پر رکھتا ہے، جو اہم ہے کیونکہ autonomous runs ہر چیز کو ضرب دیتے ہیں۔
• پیسے بچانے کے لیے FAST_LLM کو smart slot کے طور پر چلانے کے لالچ سے بچیں: autonomous loop decision quality کو compound کرتا ہے، تو ایک کمزور planner عام طور پر فی call بچائی گئی رقم سے زیادہ کل tokens میں خرچ کر دیتا ہے۔
• Registry names checkout کے ساتھ بدلتی ہیں۔ نیا version pull کرنے کے بعد، دوبارہ چیک کریں کہ آپ کے configured نام اب بھی validate ہوتے ہیں؛ ایک enum rename ایک واضح error کے ساتھ startup پر fail ہوتی ہے، جو silent fallback سے بہتر ہے۔

استعمال کے مطابق ادائیگی · سرکاری قیمت سے کم

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

AutoGPT سے مخصوص failure modes۔

Variable-name trap۔ تین مختلف tools تین مختلف spellings استعمال کرتے ہیں: mem0 OPENAI_BASE_URL پڑھتا ہے، Aider OPENAI_API_BASE پڑھتا ہے، اور AutoGPT Classic OPENAI_API_BASE_URL پڑھتا ہے۔ کسی دوسرے tool کی muscle memory غلط variable سیٹ چھوڑ دیتی ہے، AutoGPT اسے خاموشی سے نظر انداز کرتا ہے، اور requests جو بھی OPENAI_API_KEY رکھے اس پر api.openai.com کی طرف جاتی رہتی ہیں۔ آپ کے gateway usage log میں requests کا ظاہر نہ ہونا سب سے پہلے یہی چیک کرنے کا اشارہ ہے۔ Startup پر Enum rejection۔ SMART_LLM یا FAST_LLM کو compiled registry سے باہر کسی id پر سیٹ کرنا agent کے چلنے سے پہلے validation فیل کر دیتا ہے۔ یہ درست رویہ ہے، مگر freeform tools سے آنے والوں کو حیران کر دیتا ہے جہاں کوئی بھی string forward ہو جاتی ہے؛ error کا مطلب ہے "ایک registry name چنیں"، نہ کہ "endpoint down ہے"۔ Claude names native طور پر route ہونا۔ Anthropic enum names Anthropic provider اور ANTHROPIC_API_KEY سے گزرتے ہیں، OPENAI_API_BASE_URL کو bypass کرتے ہوئے۔ اگر آپ نے ایک ہی usage log میں ہر request کی توقع کی تھی اور صرف کچھ نظر آئیں، تو غائب traffic ایک native provider path پر ہے۔ غلط .env۔ classic agent اپنی اپنی directory کی .env load کرتا ہے۔ repo root میں کوئی file، یا کسی پرانی .env value سے shadow ہوتی shell export، confusing نیم-configured states پیدا کرتی ہے۔ چاروں values کو ایک جگہ رکھیں: classic/original_autogpt/.env۔ Platform expectations۔ AutoGPT Platform کے blocks credentials اپنے backend میں manage کرتے ہیں؛ یہ environment variable سیٹ کرنا انہیں reroute نہیں کرتا۔ اس page کا path Classic کا ہے۔

AutoGPT کو gateway کے ذریعے کون route کرتا ہے۔

• وہ developers جو autonomous experiments کے لیے Classic کو دوبارہ زندہ کر رہے ہیں اور loop کی مشہور token appetite کو پہلے run سے ہی ایک metered، per-key ledger پر چاہتے ہیں۔
• وہ tinkerers جو لمبے unattended goals چلاتے ہیں، جہاں agent نے اپنے budget کے ساتھ اصل میں کیا کیا اس کی per-request visibility کل کے برابر اہم ہے۔
• وہ teams جو کئی tools پر ایک endpoint standardize کر رہی ہیں، جہاں AutoGPT اسی key کی طرف point کی گئی ایک اور .env ہے، الگ account نہیں۔
• وہ users جو gpt-5.4 کے judgment کو gpt-5.4-mini کے volume کے ساتھ pair کرتے ہیں، فی token قیمت پر، دونوں slots سے کوئی subscription منسلک نہیں۔
• وہ developers جن کے پاس کسی مخصوص vendor کی billing تک رسائی نہیں۔ Top-up پر مبنی رسائی بغیر کارڈ کی شرط کے فی-provider sign-up کا انحصار ختم کر دیتی ہے۔

Endpoint verify کریں اور پہلا run debug کریں۔

تصدیق کریں کہ gateway وہی exact ids serve کرتا ہے جو آپ نے SMART_LLM اور FAST_LLM میں ڈالی ہیں؛ agent وہ strings حرف بہ حرف بھیجتا ہے۔ پہلی-run کی ladder: startup پر آپ کے model کا نام لینے والا validation error مطلب ہے id آپ کے build کی registry میں نہیں، تو کوئی اور registry name چنیں۔ ایک 401 مطلب ہے classic agent کی اپنی .env میں OPENAI_API_KEY gateway key نہیں۔ gateway سے ایک model-not-found error مطلب ہے آپ کا چنا گیا registry name کیٹلاگ میں نہیں؛ دونوں طرف align کریں۔ اور ایک run جو کام کرے مگر usage log میں کبھی نظر نہ آئے مطلب ہے base URL variable کی غلط spelling ہے یا غلط file میں ہے، اور traffic default host کی طرف جا رہی ہے۔ جب loop چل رہا ہو، پہلے goal کے دوران per-request view دیکھیں، بعد میں نہیں۔ Autonomous agents اپنا token رویہ پہلے چند منٹوں میں ظاہر کرتے ہیں، اور ایک بھاگتے loop کو جلدی پکڑنا کسی بھی فی-token قیمت کے فرق سے زیادہ قیمتی ہے۔

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $OPENAI_API_KEY" | head -50

عمومی سوالات