Dify uygulamalarını OpenAI-API-compatible bir endpoint üzerinde çalıştırın.

Hızlı yanıt: sağlayıcıyı kurun, modelleri id ile ekleyin.

Dify'da Settings'i açın ve Model Provider'a gidin. Dify 1.0'dan bu yana sağlayıcılar eklentidir: listede OpenAI-API-compatible'ı (langgenius tarafından yayımlanır) bulun veya Marketplace'ten kurun, ardından kartındaki Add Model'e tıklayın. Diyalog model başınadır: Model Type'ı seçin (chat modelleri için LLM), Model Name'e tam katalog id'sini girin, API Key'e anahtarınızı yapıştırın ve API Base URL'i https://api.apisrouter.com/v1 olarak ayarlayın. Completion mode'u Chat üzerinde bırakın, ardından Model context size ve Upper bound for max tokens'ı eklediğiniz id'nin belgelenmiş sınırlarına ayarlayın. Kaydedin, model sağlayıcının listesinde görünür ve her uygulamanın model dropdown'ından seçilebilir olur. İstediğiniz her id için diyaloğu tekrarlayın; model başına iki dakika, bir kez.

Model Type:                LLM
Model Name:                claude-sonnet-4-6
API Key:                   sk-YOUR-APISROUTER-KEY
API Base URL:              https://api.apisrouter.com/v1
Completion mode:           Chat
Model context size:        200000
Upper bound for max tokens: 64000

Dify uyumlu bir sağlayıcıyla nasıl konuşur.

Dify (GitHub'da langgenius, yaklaşık 149K yıldız), önde gelen açık kaynaklı LLM uygulama platformudur: görsel workflow'lar, agent node'ları, bilgi tabanları üzerinde RAG pipeline'ları ve kendi API endpoint'lerine sahip yayımlanmış uygulamalar. Bu yığındaki her LLM node'u, bir sağlayıcı altında kayıtlı bir modele çözümlenir. OpenAI-API-compatible sağlayıcısı bilinçli olarak geneldir. Eklediğiniz her model kendi başına yeten bir kayıttır: id, endpoint, anahtar, limitler; ve Dify, Model Name'inizi model dizesi olarak kullanarak yapılandırılmış base URL'e standart chat-completions istekleri gönderir. İstekte hiçbir şey modeli hangi satıcının eğittiğiyle ilgilenmez, bu yüzden claude-sonnet-4-6 ve deepseek-v4-pro burada herhangi bir GPT id'si kadar geçerlidir ve farklı modeller, gerekirse farklı endpoint'lere bile işaret edebilir. Sürtünme gibi hissettiren model başına kayıt, aynı zamanda kontrol yüzeyidir: girdiğiniz context size ve max-tokens değerleri, Dify'ın orchestrator'ının promptları bütçelemek, konuşma geçmişini kırpmak ve node ayarlarını doğrulamak için kullandığı değerlerdir. Modelin belgelerinden dürüst sayılar girin. Context'i olduğundan büyük göstermek endpoint'in reddettiği istekler üretir; olduğundan küçük göstermek ise RAG node'larınızın almak için çalıştığı bağlamı sessizce keser.

Gerçek işi yapan alanlar.

Model Name, tel üzerindeki değerdir: her istekte taşındığı için gateway'in /v1/models listesiyle karakter karakter eşleşmelidir. İsteğe bağlı model display name yalnızca UI'daki etiketi değiştirir. Completion mode, mevcut katalogdaki her model için Chat üzerinde kalmalıdır; Completion seçeneği eski text-completion endpoint'leri için vardır ve chat modellerine karşı bozuk istekler üretir. Model context size ve Upper bound for max tokens, insanların acele ettiği çifttir. Context size modelin toplam penceresidir; upper bound bir node'un isteyebileceği çıktı token sayısını sınırlar. Dify ikisini de varsayılan olarak 4096'ya ayarlar, bu da mevcut modellerin desteklediğinin çok altındadır ve varsayılanları bırakmak uzun belge RAG'ını ve uzun formatlı üretimi sessizce sakatlar. Bunları alışkanlıktan değil model belgelerinden ayarlayın. Yetenek seçicileri, uygulamalarınız onları kullandığında önemlidir: yalnızca görüntü girdisi kabul eden id'ler için Vision Support ve modelin tool-use desteğiyle eşleşecek function-call ayarı, çünkü agent node'ları buna dayanır. Yanlış bir yetenek beyanı workflow içinde runtime'da başarısız olur, bu da bu diyalogdan daha yavaş hata ayıklanan bir yerdir. Workspace'iniz embedding veya rerank modelleri de kullanıyorsa, aynı sağlayıcı bunları aynı base URL'e karşı kendi Model Type girdileri altında kaydeder; bilgi tabanı ayarlarını bunlara bağlamadan önce belirli id'lerin endpoint tarafından sunulduğunu doğrulayın.

curl -s https://api.apisrouter.com/v1/models \
  -H "Authorization: Bearer $APISROUTER_API_KEY" | head -50
# register these ids verbatim as Model Name entries

Workflow'lar ve agent'lar için model seçmek.

Dify'ın kendi overview sayfaları uygulama başına token sayısını gösterir, ancak APIsRouter konsolundaki anahtar başına kullanım görünümü, aynı sayfada tüm uygulamalar genelinde model başına dağılımı ekler; slotu hangi id'nin koruduğuna karar veren sayı budur.

• Workflow LLM node'ları hacimdir: her çalıştırmada tetiklenen sınıflandırma, çıkarım, yönlendirme, özetleme adımları. claude-haiku-4-5-20251001, gpt-5.4-mini ve gemini-3.5-flash, çalıştırma başına maliyeti sabit tutar.
• Agent node'ları ve karmaşık muhakeme adımları claude-sonnet-4-6'yı hak eder ve onun güvenilir tool use'u, agent'larda ham benchmark skorlarından daha çok önem taşır.
• RAG answer node'ları her çağrıda alınan bağlamı taşır, bu yüzden input fiyatlandırması baskındır; retrieval'in ağır ve yanıtların uzun olduğu yerlerde deepseek-v4-pro test edilmeye değer.
• Aynı rol için hızlı bir id ve güçlü bir id kaydedin ve bunları node başına A/B test edin: Dify'da bir node'un modelini değiştirmek bir dropdown'dur, migration değil.
• Yayımlanan uygulamalar, node'larının model seçimlerini devralır, bu yüzden editörde yaptığınız dropdown kararı, yayınladığınız uygulamanın birim ekonomisidir.

Kullandıkça öde · resmi fiyatların altında

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

Dify'a özgü hata modları.

Listede sağlayıcının olmaması, eklentinin kurulu olmadığı anlamına gelir: Dify 1.0'dan bu yana OpenAI-API-compatible sağlayıcısı bir Marketplace eklentisi olarak gelir ve yeni self-hosted kurulumlar onsuz başlar. Workspace başına bir kez kurun. Kaydedilen ama ilk kullanımda hata veren bir model genellikle üç şeyden biridir: katalog yazımıyla eşleşmeyen bir Model Name, /v1 eksik bir base URL (Dify, girdiğinize /chat/completions gibi route yolları ekler) veya modelin kabul ettiğinden fazla context/max-token değerleri. Hata, uygulama veya workflow log'unda görünür; düzeltme Add Model diyaloğuna geri döner. Düz chat node'ları çalışırken agent node'larının başarısız olması, function-calling yetenek ayarına veya tool use'u agent stratejisinin beklediğini karşılamayan bir modele işaret eder. Yapılandırma sorunlarını model seçiminden ayırmak için önce agent'ları claude-sonnet-4-6'ya karşı test edin. Ve katı egress kuralları arkasındaki self-hosted kurulumlarda, endpoint'e ulaşması gerekenin tarayıcınız değil Dify api container'ı olduğunu unutmayın; o container içinden bir curl, bağlantı sorularını hızla çözer.

Dify'ı bir gateway üzerinden kim yönlendirir.

• Sağlayıcı başına bir satıcı hesabı sürdürmeden Claude, GPT, Gemini ve DeepSeek'i node başına seçilebilir isteyen LLM uygulaması geliştiren ekipler.
• Dify'ı iç araçlar için çalıştıran self-hoster'lar; burada tek sağlayıcıdaki tek bir anahtar, tüm workspace'in cloud harcamasını tek bir kullanım logunda tutar.
• Gerçek workflow'larda modelleri karşılaştıran geliştiriciler: her aday bir Add Model diyaloğu ve bir dropdown değişimidir, yeni bir entegrasyon değil.
• Belirli bir satıcının faturalandırmasına erişimi olmayan geliştiriciler. Kart gerektirmeyen yükleme tabanlı erişim, sağlayıcı başına kayıt bağımlılığını ortadan kaldırır.
• Dify üzerinde müşteri uygulamaları yayınlayan ve her müşterinin model harcamasının kendini raporlaması için proje başına anahtara ihtiyaç duyan ajanslar.

Endpoint'i doğrulayın ve ilk çalıştırmayı hata ayıklayın.

Önce models listesini curl'leyin ve id'leri çıktısından kaydedin; elle yazılan Model Name'ler, alan serbest metin olduğu için not-found hatalarının başlıca nedenidir. Ardından kaydettiğiniz id'ye karşı, aynı anahtarla bir chat completion çalıştırın. Dify içinde, üretim workflow'larını bağlamadan önce bir taslak uygulamada test edin: bir LLM node'u ekleyin, yeni modeli seçin, bir kez çalıştırın. Authentication hataları API Key alanına işaret eder; not-found Model Name'e; connection hataları base URL'e veya container egress'ine; length hataları context ve max-token değerlerine. Çalıştırmalar aktığında, APIsRouter konsolu istek başına modeli, token sayılarını ve harcamayı gösterir. Workflow'lar, editörden gözle kestirilmesi zor şekillerde LLM çağrılarını çoğaltır ve kullanım logu, beş node'lu bir pipeline'ın gerçek token profilinin model başına, gün başına görünür hale geldiği yerdir.

curl -s https://api.apisrouter.com/v1/chat/completions \
  -H "Authorization: Bearer $APISROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"claude-haiku-4-5-20251001",
       "messages":[{"role":"user","content":"ping"}]}'

Sık sorulan sorular