KoboldAI Lite di endpoint OpenAI-compatible kustom.

Updated 2026-07-29

KoboldAI Lite terhubung ke endpoint kustom secara native: README proyek sendiri mencantumkan API berbentuk OpenAI dan Claude di samping instance Kobold dan AI Horde. Arahkan field URL kustomnya ke https://api.apisrouter.com/v1 dengan key Anda, dan setiap model katalog, DeepSeek, GLM, Kimi, Claude, Grok, menjadi bisa dipilih di dalam interface story yang sama, baik Anda menggunakan Lite hosted di lite.koboldai.net atau salinan yang dibundel dengan KoboldCpp.

Jawaban singkat: nilai yang dibutuhkan Lite.

Buka panel koneksi AI (tombol AI di menu atas Lite), alihkan dari AI Horde default ke grup endpoint kustom, dan pilih opsi OpenAI-compatible. Label persis bergeser sedikit antar build, tapi field-nya konstan: API URL, key, dan model yang dipilih setelah terhubung. Dua detail spesifik-Lite menyebabkan sebagian besar masalah saat ini gagal. Pertama, checkbox versi: Lite menawarkan toggle bergaya "Add Ver. Num" yang menambahkan /v1 ke URL untuk Anda, jadi memasukkan https://api.apisrouter.com dengan kotak dicentang dan https://api.apisrouter.com/v1 dengan kotak tidak dicentang keduanya resolve dengan benar, sementara menggandakan /v1 tidak. Kedua, persistensi: Lite secara historis mereset URL endpoint kustom saat reconnect, jadi simpan URL-nya dekat daripada berasumsi field bertahan setiap sesi.

API URL:  https://api.apisrouter.com/v1   (atau base URL + "Add Ver. Num" dicentang)
API key:  sk-...                            (dari APIsRouter)
Model:    deepseek-v4-flash                 (atau id katalog apa pun setelah terhubung)

Apa itu Lite, dan bagaimana ia menjangkau model hosted.

KoboldAI Lite adalah web UI zero-install dari ekosistem Kobold: aplikasi single-page untuk penulisan story, mode adventure, dan chat karakter yang berjalan sepenuhnya di browser Anda. Ia dirilis dalam dua bentuk yang berbagi pengaturan yang sama: instance hosted di lite.koboldai.net, dan salinan bundled yang dilayani KoboldCpp di localhost saat Anda menjalankan model secara lokal. README proyek menjelaskannya sebagai mampu terhubung ke endpoint kustom termasuk API berbentuk OpenAI dan Claude, di samping instance Kobold lokal dan remote serta AI Horde yang crowdsourced. Karena Lite adalah aplikasi browser tanpa server sendiri, request API Anda langsung dari browser ke endpoint apa pun yang Anda konfigurasikan. Desain itulah yang membuat rute endpoint kustom berfungsi sama sekali, dan juga mengapa bagian CORS di bawah ada: endpoint harus menjawab request browser-origin, dan saat tidak, Lite menawarkan toggle proxy dengan trade-off yang layak dipahami sebelum menyalakannya. Bagi orang yang datang dari AI Horde: daya tarik endpoint bermeter dibanding cluster relawan adalah prediktabilitas. Horde benar-benar gratis dengan antrean; endpoint berbayar menjawab segera dengan model persis yang Anda minta, dan pada tarif keluarga value semalam bermain menghabiskan sebagian kecil dari sen per pesan.

Setup, field demi field.

Jika daftar model tetap kosong setelah terhubung, penyebab biasanya berurutan: /v1 ganda atau hilang (cek checkbox versi dulu), key yang ditempel dengan whitespace, atau ekstensi browser yang memblokir request. Tiga nilai yang sama berfungsi dalam perintah curl adalah cara tercepat membuktikan sisi endpoint baik-baik saja dan melokalisasi masalah ke browser.

  • Buka Lite (hosted atau bundled) dan klik tombol AI di menu atas untuk membuka panel koneksi.
  • Alihkan pilihan provider dari AI Horde ke grup endpoint kustom, dan pilih opsi OpenAI-compatible (label sedikit bervariasi per build; opsi berbentuk Claude ada di sampingnya).
  • Masukkan URL: https://api.apisrouter.com/v1, memperhatikan checkbox versi yang dijelaskan di atas agar /v1 muncul tepat sekali.
  • Tempel key sk-... Anda ke field key.
  • Hubungkan, lalu pilih model dari daftar yang diambil Lite, atau ketik id katalog persis jika build Anda meminta nama model manual.
  • Kirim satu pesan singkat di story baru untuk konfirmasi round trip sebelum memuat sesi panjang.

Opsi endpoint Claude, dan kapan menggunakannya.

Grup endpoint kustom Lite juga mencakup opsi berbentuk Claude untuk API dialek Anthropic. APIsRouter juga melayani dialek itu, di /v1/messages, jadi id claude bisa dijangkau lewat kedua pintu. Dalam praktik rute OpenAI-compatible adalah default yang lebih sederhana bahkan untuk model Claude, karena satu konfigurasi kemudian melayani setiap keluarga: claude-sonnet-4-6 untuk prosa high-end, deepseek-v4-flash untuk play volume, glm-5.2 dan kimi-k2.6 untuk rotasi, semuanya sebagai perubahan field model daripada rekonfigurasi. Di mana opsi berbentuk Claude mendapat tempatnya adalah jika Anda menyimpan preset yang disetel khusus untuk format request Anthropic atau migrasi pengaturan dari tool dialek-Anthropic lain. Secara fungsional, kedua rute berakhir di model yang sama melalui gateway ini; pilih satu dan konsisten agar pengaturan tersimpan Anda tetap portabel.

Sampler dan mode: apa yang benar-benar berlaku di endpoint hosted.

Lite menampilkan seluruh kebun binatang sampler lokal-model di pengaturannya, dan sebagian besar tidak ikut terbawa. Di endpoint OpenAI-compatible, dokumentasi Lite sendiri mencatat bahwa hanya kontrol bergaya temperature, top-p, dan repetition-penalty yang berlaku; sampler eksotik seperti Min-P, Top-A, atau TFS adalah fitur inference lokal, dan meski Lite bisa melampirkannya sebagai field ekstra, endpoint hosted umumnya mengabaikan atau menolak parameter non-standar. Atur temperature sekitar 0,8 hingga 0,9 untuk variasi prosa, biarkan top-p di sekitar 0,95, dan jaga repetition penalty rendah; itulah seluruh permukaan yang bisa disetel, dan itu cukup. Semua mode penulisan Lite berfungsi di atas endpoint kustom, dengan satu panduan: mode instruct paling natural dipetakan ke model chat hosted, karena ia menghasilkan pertukaran berbasis role terstruktur yang dilatihkan pada model tersebut. Co-writing story klasik juga berfungsi; harapkan model berperilaku lebih seperti partner percakapan daripada penerus teks mentah, karena itulah yang dimaksud endpoint chat completions. Budgeting context mengikuti aturan yang sama seperti setiap frontend roleplay: Lite mengirim ulang context story yang terlihat setiap giliran, jadi atur ukuran context secara sengaja (working window 16K hingga 32K mencakup sesi panjang) daripada memaksimalkannya karena window model mengizinkan. Panduan panjang context yang ditautkan di bawah menghitung ini lintas model.

Realitas sampler di endpoint OpenAI-compatible, menurut catatan pengaturan Lite sendiri.
PengaturanTitik awalCatatan
Temperature0,8 hingga 0,9Tuas utama yang bertahan sampai ke endpoint hosted
Top P0,95Biarkan saja kecuali output menjadi tidak koheren
Repetition penaltyRendahNilai tinggi merusak nama dalam story panjang
Sampler eksotik (Min-P, Top-A, TFS)AbaikanFitur inference lokal; endpoint hosted membuang atau menolaknya
Ukuran context16K hingga 32KDikirim ulang setiap giliran; biaya berskala dengannya

Bayar sesuai pemakaian · di bawah harga resmi

Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.

ModelHarga ResmiHarga Kami
DeepSeek V4 Flash$0.14 / $0.28 per M$0.10 / $0.30 per M
GLM-5.2$1.14 / $4.00 per M$1.10 / $4.00 per M
Kimi K2.6$0.95 / $4.00 per M$1.00 / $4.00 per M
Claude Sonnet 4.6$3.00 / $15.00 per M$2.40 / $12.00 per M
Grok 4.5$2.00 / $6.00 per M$1.60 / $4.80 per M

CORS, toggle proxy, dan menjaga key Anda tetap waras.

Karena Lite memanggil endpoint langsung dari browser Anda, kegagalan koneksi dengan nilai yang benar biasanya adalah CORS: endpoint menolak request browser-origin. Lite menyediakan toggle "Use CORS Proxy" tepat untuk kasus ini, dan itu layak mendapat peringatan jujur: merutekan melalui proxy pihak ketiga apa pun menempatkan proxy itu di dalam traffic Anda, termasuk key dan konten story. Coba koneksi langsung dulu, konfirmasi endpoint berfungsi via curl jika ragu, dan perlakukan toggle proxy sebagai pilihan terakhir daripada default. Menjalankan Lite bundled dari KoboldCpp lokal adalah workaround bersih lainnya, karena pengaturan endpoint kustom yang sama ada di sana. Kebersihan key sedikit lebih penting di aplikasi browser: key duduk di pengaturan lokal browser Anda, jadi hindari menempelkannya ke mesin bersama atau publik, dan jika suatu saat bocor, revoke dan terbitkan ulang daripada berharap. Key di sini gratis dibuat, jadi key khusus untuk Lite menjaga log penggunaan tetap terbaca dan radius ledakan kecil. Satu catatan konten, dinyatakan jujur: endpoint kustom mengubah ke mana request pergi, bukan model apa yang diizinkan. Kebijakan model upstream dan syarat instance Lite apa pun yang Anda gunakan tetap berlaku; halaman perbandingan kebijakan yang ditautkan di bawah membahas lanskapnya secara faktual, keluarga model demi keluarga model.

Pertanyaan umum

Apakah KoboldAI Lite mendukung endpoint OpenAI-compatible kustom?

Ya, secara native. README proyek mencantumkan endpoint kustom termasuk API berbentuk OpenAI dan Claude di samping instance Kobold dan AI Horde. Konfigurasinya adalah URL, key, dan model, dari panel koneksi AI di Lite hosted maupun bundled-KoboldCpp.

URL apa yang saya masukkan untuk APIsRouter di KoboldAI Lite?

https://api.apisrouter.com/v1, dengan checkbox versi ditangani agar /v1 muncul tepat sekali: toggle bergaya "Add Ver. Num" Lite menambahkan /v1 otomatis saat dicentang. Segmen versi ganda atau hilang adalah penyebab paling umum daftar model kosong.

Bisakah saya menggunakan model Claude di KoboldAI Lite?

Ya, dua cara: melalui endpoint OpenAI-compatible dengan id claude seperti claude-sonnet-4-6 di field model, atau melalui opsi endpoint berbentuk Claude Lite terhadap /v1/messages. Rute OpenAI-compatible adalah default yang lebih sederhana karena konfigurasi yang sama kemudian melayani setiap keluarga lain juga.

Mengapa pengaturan sampler saya sepertinya tidak berpengaruh apa-apa?

Sebagian besar kebun binatang sampler Lite untuk inference lokal. Di atas endpoint OpenAI-compatible hanya kontrol bergaya temperature, top-p, dan repetition-penalty yang berlaku; endpoint hosted mengabaikan atau menolak sampler eksotik. Jika output terasa salah, setel temperature dulu dan cek id model kedua.

Mengapa Lite gagal terhubung padahal curl berhasil?

Hampir selalu CORS: Lite berjalan di browser Anda, jadi endpoint harus menerima request browser-origin. Opsi dalam urutan kasar: coba ulang konfigurasi langsung yang bersih, jalankan Lite bundled dengan KoboldCpp lokal, atau gunakan toggle CORS proxy Lite dengan pemahaman bahwa pihak ketiga kemudian duduk di dalam traffic Anda.

Apakah ini lebih baik dari AI Horde?

Trade-off yang berbeda. Horde benar-benar gratis, dijalankan relawan, dan berantrean, dengan model apa pun yang dihosting relawan. Endpoint bermeter menjawab segera dengan model persis yang Anda pilih, pada tarif keluarga value yang membuat semalam bermain berada di sebagian kecil dari sen per pesan. Banyak orang menjaga keduanya tetap terkonfigurasi.