KoboldAI Lite auf einem benutzerdefinierten OpenAI-kompatiblen Endpoint.
Updated 2026-07-29
KoboldAI Lite verbindet sich nativ mit Custom-Endpoints: Das README des Projekts selbst listet OpenAI-förmige und Claude-förmige APIs neben Kobold-Instanzen und AI Horde auf. Richte das Custom-URL-Feld auf https://api.apisrouter.com/v1 mit deinem Key, und jedes Katalogmodell — DeepSeek, GLM, Kimi, Claude, Grok — wird innerhalb desselben Story-Interfaces auswählbar, egal ob du das gehostete Lite unter lite.koboldai.net nutzt oder die mit KoboldCpp gebündelte Kopie.
Kurzantwort: die Werte, die Lite braucht.
Öffne das AI-Connection-Panel (der AI-Button im oberen Menü von Lite), wechsle vom Standard AI Horde zur Custom-Endpoint-Gruppe, und wähle die OpenAI-kompatible Option. Exakte Labels verschieben sich leicht zwischen Builds, aber die Felder sind konstant: eine API URL, ein Key, und ein nach dem Verbinden gewähltes Modell. Zwei Lite-spezifische Details verursachen die meisten Probleme, wenn es scheitert. Erstens die Versions-Checkbox: Lite bietet einen „Add Ver. Num"-artigen Toggle, der /v1 an die URL anhängt, sodass sowohl https://api.apisrouter.com mit angehakter Box als auch https://api.apisrouter.com/v1 ohne Haken korrekt aufgelöst werden, während ein doppeltes /v1 das nicht tut. Zweitens Persistenz: Lite hat Custom-Endpoint-URLs historisch beim Reconnect zurückgesetzt, halte die URL also griffbereit, statt anzunehmen, das Feld überlebe jede Session.
API URL: https://api.apisrouter.com/v1 (or base URL + "Add Ver. Num" ticked)
API key: sk-... (from APIsRouter)
Model: deepseek-v4-flash (or any catalog id after connecting)Was Lite ist, und wie es ein gehostetes Modell erreicht.
KoboldAI Lite ist das Zero-Install-Web-UI des Kobold-Ökosystems: eine Single-Page-App für Story-Writing, Adventure-Modus und Character-Chat, die vollständig in deinem Browser läuft. Es kommt in zwei Formen, die dieselben Settings teilen: die gehostete Instanz unter lite.koboldai.net, und die gebündelte Kopie, die KoboldCpp auf localhost serviert, wenn du Modelle lokal betreibst. Das README des Projekts beschreibt es als fähig, sich mit Custom-Endpoints zu verbinden, einschließlich OpenAI-förmiger und Claude-förmiger APIs, neben lokalen und entfernten Kobold-Instanzen und dem Crowdsourced AI Horde. Weil Lite eine Browser-App ohne eigenen Server ist, gehen deine API-Requests direkt vom Browser zu jedem Endpoint, den du konfigurierst. Dieses Design ist der Grund, warum der Custom-Endpoint-Weg überhaupt funktioniert, und auch, warum der CORS-Abschnitt unten existiert: Der Endpoint muss Browser-Origin-Requests beantworten, und wenn einer das nicht tut, bietet Lite einen Proxy-Toggle mit Trade-offs, die es sich zu verstehen lohnt, bevor man ihn umlegt. Für Leute, die von AI Horde kommen: Der Reiz eines abgerechneten Endpoints gegenüber dem Volunteer-Cluster ist Vorhersagbarkeit. Horde ist echt kostenlos, mit Warteschlange; ein finanzierter Endpoint antwortet sofort mit genau dem Modell, das du angefragt hast, und zu Value-Familien-Preisen kostet ein Abend Spielen einen kleinen Bruchteil eines Cents pro Nachricht.
Setup, Feld für Feld.
Bleibt die Modellliste nach dem Verbinden leer, sind die üblichen Ursachen der Reihe nach: ein doppeltes oder fehlendes /v1 (prüfe zuerst die Versions-Checkbox), ein mit Whitespace eingefügter Key, oder eine Browser-Extension, die den Request blockiert. Dieselben drei Werte in einem curl-Befehl funktionieren zu sehen ist der schnellste Weg, um zu beweisen, dass die Endpoint-Seite in Ordnung ist, und das Problem auf den Browser einzugrenzen.
- Öffne Lite (gehostet oder gebündelt) und klicke auf den AI-Button im oberen Menü, um das Connection-Panel zu öffnen.
- Wechsle die Provider-Auswahl von AI Horde zur Custom-Endpoint-Gruppe, und wähle die OpenAI-kompatible Option (Labels variieren leicht je nach Build; eine Claude-förmige Option sitzt daneben).
- Trage die URL ein: https://api.apisrouter.com/v1, beachte dabei die oben beschriebene Versions-Checkbox, damit /v1 genau einmal erscheint.
- Füge deinen sk-...-Key in das Key-Feld ein.
- Verbinde, wähle dann ein Modell aus der Liste, die Lite abruft, oder tippe die exakte Katalog-ID, falls dein Build nach einem manuellen Modellnamen fragt.
- Sende eine kurze Nachricht in einer neuen Story, um den Round-Trip zu bestätigen, bevor du eine lange Session lädst.
Die Claude-Endpoint-Option, und wann man sie nutzt.
Lites Custom-Endpoint-Gruppe enthält auch eine Claude-förmige Option für APIs im Anthropic-Dialekt. APIsRouter serviert diesen Dialekt ebenfalls, unter /v1/messages, Claude-IDs sind also über beide Türen erreichbar. In der Praxis ist der OpenAI-kompatible Weg auch für Claude-Modelle der einfachere Default, weil eine Konfiguration dann jede Familie bedient: claude-sonnet-4-6 für High-End-Prosa, deepseek-v4-flash für Volumen-Play, glm-5.2 und kimi-k2.6 zur Rotation, alles als Änderungen im Model-Feld statt Neukonfigurationen. Wo sich die Claude-förmige Option verdient macht: wenn du Presets speziell auf Anthropics Request-Format zugeschnitten hältst, oder Settings von einem anderen Anthropic-Dialekt-Tool migrierst. Funktional enden beide Wege über dieses Gateway bei denselben Modellen; wähle einen und bleibe konsistent, damit deine gespeicherten Settings portabel bleiben.
Sampler und Modi: was über einen gehosteten Endpoint tatsächlich greift.
Lite legt in seinen Settings den kompletten Sampler-Zoo für lokale Modelle offen, und das meiste davon überträgt sich nicht. Über OpenAI-kompatible Endpoints greifen laut Lites eigener Dokumentation nur temperature, top-p und Repetition-Penalty-artige Regler; exotische Sampler wie Min-P, Top-A oder TFS sind Local-Inference-Features, und obwohl Lite sie als zusätzliche Felder anhängen kann, ignorieren oder verwerfen gehostete Endpoints nicht-standardmäßige Parameter meist. Setze temperature auf etwa 0,8 bis 0,9 für Prosa-Varianz, lass top-p nahe bei 0,95, und halte Repetition Penalties niedrig; das ist die gesamte einstellbare Oberfläche, und sie reicht. Lites Schreibmodi funktionieren alle über den Custom Endpoint, mit einem Hinweis: Der Instruct-Modus bildet sich am natürlichsten auf gehostete Chat-Modelle ab, da er den strukturierten, rollenbasierten Austausch erzeugt, für den diese Modelle trainiert sind. Klassisches Story-Co-Writing funktioniert ebenfalls; erwarte, dass sich Modelle eher wie Gesprächspartner als wie reine Textfortsetzer verhalten, denn genau das ist ein Chat-Completions-Endpoint. Context-Budgeting folgt derselben Regel wie jedes Roleplay-Frontend: Lite sendet den sichtbaren Story-Kontext bei jedem Turn erneut, setze die Context-Größe also bewusst (ein 16K-bis-32K-Arbeitsfenster deckt lange Sessions ab), statt sie zu maximieren, nur weil das Fenster des Modells es erlaubt. Der unten verlinkte Context-Length-Guide macht diese Rechnung über Modelle hinweg.
| Setting | Startwert | Hinweis |
|---|---|---|
| Temperature | 0,8 bis 0,9 | Der Haupt-Regler, der die Reise zu einem gehosteten Endpoint übersteht |
| Top P | 0,95 | Unangetastet lassen, außer der Output wird inkohärent |
| Repetition Penalty | Niedrig | Hohe Werte verstümmeln Namen über lange Storys hinweg |
| Exotische Sampler (Min-P, Top-A, TFS) | Ignorieren | Local-Inference-Features; gehostete Endpoints verwerfen oder lehnen sie ab |
| Context-Größe | 16K bis 32K | Wird bei jedem Turn erneut gesendet; Kosten skalieren damit |
Nutzungsbasiert · unter offiziellem Preis
Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.
| Modell | Offizieller Preis | Unser Preis |
|---|---|---|
| DeepSeek V4 Flash | $0.14 / $0.28 per M | $0.10 / $0.30 per M |
| GLM-5.2 | $1.14 / $4.00 per M | $1.10 / $4.00 per M |
| Kimi K2.6 | $0.95 / $4.00 per M | $1.00 / $4.00 per M |
| Claude Sonnet 4.6 | $3.00 / $15.00 per M | $2.40 / $12.00 per M |
| Grok 4.5 | $2.00 / $6.00 per M | $1.60 / $4.80 per M |
CORS, der Proxy-Toggle, und wie du deinen Key im Griff behältst.
Weil Lite den Endpoint direkt aus deinem Browser aufruft, ist ein Verbindungsfehler bei korrekten Werten meist CORS: Der Endpoint lehnt Browser-Origin-Requests ab. Lite liefert genau für diesen Fall einen „Use CORS Proxy"-Toggle, und der verdient eine ehrliche Warnung: Das Routen über einen Drittanbieter-Proxy platziert diesen Proxy in deinem Traffic, Key und Story-Inhalt eingeschlossen. Versuche zuerst eine direkte Verbindung, bestätige den Endpoint im Zweifel per curl, und behandle den Proxy-Toggle als letztes Mittel statt als Standard. Das gebündelte Lite aus einem lokalen KoboldCpp zu betreiben ist ein weiterer sauberer Workaround, da dieselben Custom-Endpoint-Settings dort existieren. Key-Hygiene zählt bei einer Browser-App etwas extra: Der Key liegt in den lokalen Settings deines Browsers, vermeide es also, ihn auf geteilte oder öffentliche Rechner einzufügen, und falls er jemals leakt, widerrufen und neu ausstellen statt zu hoffen. Keys sind hier kostenlos erstellbar, ein dedizierter Key für Lite hält das Usage-Log lesbar und den Blast-Radius klein. Ein Content-Hinweis, offen benannt: Ein Custom-Endpoint ändert, wohin Requests gehen, nicht was Modelle erlauben. Upstream-Modell-Policies und die Bedingungen der jeweiligen Lite-Instanz, die du nutzt, gelten weiterhin; die unten verlinkte Policies-Compared-Seite deckt die Landschaft sachlich ab, Modellfamilie für Modellfamilie.
Häufige Fragen
Unterstützt KoboldAI Lite benutzerdefinierte OpenAI-kompatible Endpoints?
Ja, nativ. Das README des Projekts listet Custom Endpoints, einschließlich OpenAI-förmiger und Claude-förmiger APIs, neben Kobold-Instanzen und AI Horde. Die Konfiguration besteht aus einer URL, einem Key und einem Modell, im AI-Connection-Panel entweder im gehosteten oder im mit KoboldCpp gebündelten Lite.
Welche URL trage ich für APIsRouter in KoboldAI Lite ein?
https://api.apisrouter.com/v1, wobei die Versions-Checkbox so behandelt wird, dass /v1 genau einmal erscheint: Lites „Add Ver. Num"-artiger Toggle hängt /v1 automatisch an, wenn er angehakt ist. Ein doppeltes oder fehlendes Versionssegment ist die häufigste Ursache für eine leere Modellliste.
Kann ich Claude-Modelle in KoboldAI Lite nutzen?
Ja, auf zwei Wegen: über den OpenAI-kompatiblen Endpoint mit einer Claude-ID wie claude-sonnet-4-6 im Model-Feld, oder über Lites Claude-förmige Endpoint-Option gegen /v1/messages. Der OpenAI-kompatible Weg ist der einfachere Default, da dieselbe Config dann auch jede andere Familie bedient.
Warum scheinen meine Sampler-Settings nichts zu bewirken?
Der Großteil von Lites Sampler-Zoo ist für Local Inference. Über einen OpenAI-kompatiblen Endpoint greifen nur temperature, top-p und Repetition-Penalty-artige Regler; gehostete Endpoints ignorieren oder verwerfen exotische Sampler. Fühlt sich der Output falsch an, stelle zuerst temperature ein und prüfe danach die Modell-ID.
Warum scheitert Lite bei der Verbindung, obwohl curl funktioniert?
Fast immer CORS: Lite läuft in deinem Browser, der Endpoint muss also Browser-Origin-Requests akzeptieren. Optionen in grober Reihenfolge: eine saubere direkte Config erneut versuchen, das mit einem lokalen KoboldCpp gebündelte Lite betreiben, oder Lites CORS-Proxy-Toggle nutzen, im Bewusstsein, dass dann ein Dritter in deinem Traffic sitzt.
Ist das besser als AI Horde?
Ein anderer Trade-off. Horde ist echt kostenlos, freiwilligenbetrieben und mit Warteschlange, mit welchen Modellen auch immer Freiwillige hosten. Ein abgerechneter Endpoint antwortet sofort mit genau dem Modell, das du wählst, zu Value-Familien-Preisen, die einen Abend Spielen auf einen kleinen Bruchteil eines Cents pro Nachricht bringen. Viele Leute behalten beides konfiguriert.