ایک OpenAI-compatible API۔ ہر frontier ماڈل۔ سستا۔

Updated 2026-07-15

APIsRouter ایک واحد /v1 endpoint expose کرتا ہے جو OpenAI SDK کو روانی سے بولتا ہے — وہی request body، وہی response shape، وہی tool-call format — Claude، GPT، Gemini، DeepSeek اور 20+ مزید کے لیے۔

"OpenAI-compatible" مختلف vendors پر مختلف مطلب رکھتا ہے۔

آپ نے شاید کچھ "OpenAI-compatible" APIs آزمائے ہوں گے اور دریافت کیا ہوگا کہ وہ صرف نام میں compatible ہیں۔ کچھ format قبول کرتے ہیں لیکن صرف ایک ماڈل واپس کرتے ہیں۔ کچھ tool calls سپورٹ نہیں کرتے۔ کچھ streaming میں اٹک جاتے ہیں جب context 100k token سے زیادہ ہو۔ کچھ کو مخصوص model-name prefix چاہیے جو آپ کی موجودہ SDK config توڑتی ہے۔ APIsRouter ایک حقیقی drop-in ہونے کے لیے بنایا گیا ہے۔ OpenAI Python SDK بغیر ترمیم کے کام کرتا ہے۔ Anthropic SDK /v1/messages کے خلاف کام کرتا ہے۔ Streaming، tool calls، vision، JSON mode، structured outputs — سب direct جیسے بالکل ایک جیسے کام کرتے ہیں۔ آپ بالکل ایک لائن بدلتے ہیں — base_url — اور ship کرتے ہیں۔

وہی SDK، وہی code، مختلف host۔

OpenAI Python (سب سے عام راستہ):

from openai import OpenAI

client = OpenAI(
    api_key="sk-APIsRouter-...",
    base_url="https://api.apisrouter.com/v1",  # <-- صرف یہی تبدیلی
)

response = client.chat.completions.create(
    model="gpt-5.5",
    messages=[{"role": "user", "content": "Hello"}],
    tools=[...],  # standard tool format کام کرتا ہے
)

کیا سپورٹ ہے (اور کیا ابھی نہیں)۔

ہمارے base_url کے ساتھ Anthropic کے سرکاری SDK کو استعمال کریں اور Claude ماڈل natively کام کرتے ہیں۔ OpenAI کے سرکاری SDK کو استعمال کریں اور GPT ماڈل natively کام کرتے ہیں۔ انہیں ایک ہی project میں mix کریں — وہی key، دونوں SDKs، کوئی context switching نہیں۔

  • بالکل ایک جیسا کام کرتا ہے: /v1/chat/completions (OpenAI format)، /v1/messages (Anthropic format)، /v1/images/generations، /v1/embeddings۔
  • Tool / function calling — OpenAI اور Anthropic دونوں formats۔
  • Streaming (SSE)، Vision / multimodal، JSON mode + structured outputs۔
  • Anthropic کا prompt caching (cache_control headers)۔
  • Roadmap (Q3 2026): /v1/audio/* (TTS / Whisper)۔ ابھی نہیں: Fine-tuning APIs، Assistants API۔

جب "ایک OpenAI-compatible key" واقعی اہم ہو۔

  • Multi-model agent chains — planning کے لیے GPT، reasoning کے لیے Claude Opus، vision کے لیے Gemini۔ ایک key، تین ماڈل، ایک بل۔
  • Provider-agnostic codebases — OpenAI SDK کے خلاف build کریں، `model` string بدل کر ماڈل switch کریں۔
  • Drop-in migration — مہینوں پہلے OpenAI کے خلاف لکھا؟ refactor مت کریں۔ base_url کو APIsRouter پر point کریں، model name کے طور پر `claude-sonnet-4-6` استعمال کریں۔
  • Cost-aware fallback — Premium tasks → Claude Opus۔ Low-stakes → Haiku یا DeepSeek V4۔ سب ایک ہی client سے۔
  • Local + cloud agents ایک billing surface شیئر کریں — Codex CLI، Hermes، OpenClaw — سب ایک key کے ذریعے۔

عمومی سوالات

APIsRouter اور OpenRouter میں کیا فرق ہے؟

عالمی ماڈلز سرکاری قیمت سے 20% سستے، چینی ماڈلز سرکاری قیمت سے کم۔ کوئی سبسکرپشن نہیں، استعمال کے مطابق ادائیگی۔ پہلا ٹاپ اپ +50% اضافی بیلنس دیتا ہے۔

کیا response shape بالکل OpenAI جیسا ہے؟

جی ہاں — id، choices array، usage object، تمام fields موجود اور صحیح typed۔ ہم OpenAI spec کو سختی سے implement کرتے ہیں۔ /v1/messages کے لیے بھی Anthropic کے spec سے matching ہے۔

آپ model-name overlap کیسے handle کرتے ہیں (مثلاً gpt-5.5 بمقابلہ claude-sonnet)؟

معیاری convention — ہر ماڈل کا ایک canonical ID ہے۔ مکمل mapping کے لیے ہمارا /models صفحہ دیکھیں۔ ہم alias یا rename نہیں کرتے — آپ جو pass کرتے ہیں وہی ہم route کرتے ہیں۔

کیا میری custom SDK middleware ٹوٹے گی؟

نہیں ہونا چاہیے — middleware request/response semantics پر کام کرتی ہے، جسے ہم بالکل محفوظ رکھتے ہیں۔ اگر آپ کو کوئی رویوں میں فرق نظر آئے، issue file کریں اور ہم upstream سے match کریں گے۔

proxy overhead کتنا تیز ہے؟

APIsRouter عام طور پر فی request ~30-80ms routing latency شامل کرتا ہے (آپ کے region بمقابلہ ہمارے edge پر منحصر)۔ streaming کے لیے، time-to-first-token upstream کو closely track کرتا ہے۔ ہم mid-stream buffer یا transform نہیں کرتے۔

کیا میں self-host یا private instance چلا سکتا ہوں؟

ابھی نہیں — APIsRouter ایک hosted aggregator ہے۔ self-hosted کے لیے LiteLLM یا one-api (open source) دیکھیں۔ ان کے پاس discount channels نہیں لیکن چلانا مفت ہے۔