KoboldAI Lite на кастомном OpenAI-совместимом эндпоинте.
Updated 2026-07-29
KoboldAI Lite нативно подключается к кастомным эндпоинтам: собственный README проекта перечисляет API в формате OpenAI и Claude наряду с инстансами Kobold и AI Horde. Укажите в поле кастомного URL https://api.apisrouter.com/v1 со своим ключом — и любая модель каталога, DeepSeek, GLM, Kimi, Claude, Grok, станет доступной в том же интерфейсе для историй, используете ли вы хостед Lite на lite.koboldai.net или копию, встроенную в KoboldCpp.
Короткий ответ: какие значения нужны Lite.
Откройте панель AI-подключения (кнопка AI в верхнем меню Lite), переключитесь с дефолтного AI Horde на группу кастомного эндпоинта и выберите опцию OpenAI-compatible. Точные подписи слегка меняются между сборками, но поля постоянны: API URL, ключ и модель, выбираемая после подключения. Две детали, специфичные для Lite, отвечают за большинство проблем при сбое. Во-первых, чекбокс версии: Lite предлагает переключатель в духе «Add Ver. Num», который сам дописывает /v1 к URL, так что и https://api.apisrouter.com с включённым чекбоксом, и https://api.apisrouter.com/v1 с выключенным одинаково корректно резолвятся, а вот удвоение /v1 — нет. Во-вторых, персистентность: исторически Lite сбрасывал URL кастомного эндпоинта при переподключении, так что держите URL под рукой, а не рассчитывайте, что поле переживёт каждую сессию.
API URL: https://api.apisrouter.com/v1 (or base URL + "Add Ver. Num" ticked)
API key: sk-... (from APIsRouter)
Model: deepseek-v4-flash (or any catalog id after connecting)Что такое Lite и как он достигает хостед-модели.
KoboldAI Lite — веб-интерфейс экосистемы Kobold с нулевой установкой: одностраничное приложение для написания историй, режима приключений и чата с персонажами, которое полностью работает в браузере. Оно выпускается в двух формах с общими настройками: хостед-инстанс на lite.koboldai.net и встроенная копия, которую KoboldCpp раздаёт на localhost при локальном запуске моделей. README проекта описывает его как способный подключаться к кастомным эндпоинтам, включая API в формате OpenAI и Claude, наряду с локальными и удалёнными инстансами Kobold и краудсорсинговым AI Horde. Поскольку Lite — браузерное приложение без собственного сервера, ваши API-запросы идут прямо из браузера к любому настроенному вами эндпоинту. Именно поэтому маршрут через кастомный эндпоинт вообще работает, и именно поэтому ниже есть раздел про CORS: эндпоинт должен отвечать на запросы с origin браузера, а когда не отвечает, Lite предлагает переключатель прокси с компромиссами, которые стоит понимать перед тем, как его включать. Для тех, кто приходит из AI Horde: привлекательность тарифицируемого эндпоинта по сравнению с волонтёрским кластером — в предсказуемости. Horde по-настоящему бесплатен, но с очередью; оплаченный эндпоинт отвечает немедленно именно той моделью, которую вы запросили, а по тарифам бюджетных семейств вечер игры стоит небольшую долю цента за сообщение.
Настройка по полям.
Если после подключения список моделей остаётся пустым, обычные причины по рангу: удвоенный или отсутствующий /v1 (сначала проверьте чекбокс версии), ключ, вставленный с пробелами, или расширение браузера, блокирующее запрос. Проверка тех же трёх значений в команде curl — самый быстрый способ подтвердить, что сторона эндпоинта в порядке, и локализовать проблему в браузере.
- Откройте Lite (хостед или встроенный) и нажмите кнопку AI в верхнем меню, чтобы открыть панель подключения.
- Переключите выбор провайдера с AI Horde на группу кастомного эндпоинта и выберите опцию OpenAI-compatible (подписи немного различаются между сборками; рядом есть опция в стиле Claude).
- Введите URL: https://api.apisrouter.com/v1, учитывая описанный выше чекбокс версии, чтобы /v1 появился ровно один раз.
- Вставьте свой ключ sk-... в поле ключа.
- Подключитесь, затем выберите модель из списка, который получает Lite, либо введите точный ID каталога, если ваша сборка просит указать модель вручную.
- Отправьте одно короткое сообщение в новой истории, чтобы подтвердить, что запрос проходит туда и обратно, прежде чем загружать длинную сессию.
Опция эндпоинта Claude и когда её использовать.
Группа кастомного эндпоинта в Lite также включает опцию в стиле Claude для API в диалекте Anthropic. APIsRouter обслуживает и этот диалект, по адресу /v1/messages, так что ID Claude достижимы через любую из двух дверей. На практике маршрут OpenAI-compatible — более простой выбор по умолчанию даже для моделей Claude, потому что одна конфигурация тогда обслуживает каждое семейство: claude-sonnet-4-6 для прозы высокого уровня, deepseek-v4-flash для объёмной игры, glm-5.2 и kimi-k2.6 для ротации — всё это просто смена поля модели, а не переконфигурация. Опция в стиле Claude оправдывает себя, если вы держите пресеты, настроенные именно под формат запросов Anthropic, или переносите настройки из другого инструмента с диалектом Anthropic. Функционально оба маршрута через этот шлюз ведут к одним и тем же моделям; выберите один и придерживайтесь его, чтобы сохранённые настройки оставались переносимыми.
Сэмплеры и режимы: что реально применяется поверх хостед-эндпоинта.
Lite выставляет в настройках весь зоопарк сэмплеров для локальных моделей, и большая часть из этого никуда не «путешествует». На OpenAI-совместимых эндпоинтах, согласно собственной документации Lite, применяются только temperature, top-p и элементы управления в стиле repetition-penalty; экзотические сэмплеры вроде Min-P, Top-A или TFS — это функции локального инференса, и хотя Lite может прикреплять их как дополнительные поля, хостед-эндпоинты обычно игнорируют или отклоняют нестандартные параметры. Установите temperature около 0.8–0.9 для разнообразия прозы, оставьте top-p около 0.95 и держите штрафы за повторение низкими; это вся настраиваемая поверхность, и её достаточно. Все режимы письма в Lite работают поверх кастомного эндпоинта, с одной оговоркой: instruct-режим ложится наиболее естественно на хостед-модели чата, поскольку производит структурированный обмен по ролям, на котором эти модели обучены. Классическое совместное написание истории тоже работает; ожидайте, что модели будут вести себя больше как собеседники, чем как «сырые» продолжатели текста, потому что именно этим и является эндпоинт chat completions. Бюджетирование контекста подчиняется тому же правилу, что и в любом ролплей-фронтенде: Lite заново отправляет видимый контекст истории на каждом ходу, так что задавайте размер контекста осознанно (рабочее окно 16–32K покрывает длинные сессии), а не по максимуму только потому, что окно модели это позволяет. Гайд по длине контекста по ссылке ниже считает это по всем моделям.
| Настройка | Стартовое значение | Заметка |
|---|---|---|
| Temperature | 0.8 to 0.9 | Главный рычаг, который переживает путь до хостед-эндпоинта |
| Top P | 0.95 | Не трогайте, если только вывод не станет бессвязным |
| Repetition penalty | Low | Высокие значения портят имена в длинных историях |
| Exotic samplers (Min-P, Top-A, TFS) | Ignore | Функции локального инференса; хостед-эндпоинты отбрасывают или отклоняют их |
| Context size | 16K to 32K | Пересылается заново каждый ход; стоимость масштабируется вместе с ним |
Оплата по факту · дешевле официальных цен
Selected models are priced below official list prices. Exact input, output, cache, and per-request prices are shown for each model.
| Модель | Официальная цена | Наша цена |
|---|---|---|
| DeepSeek V4 Flash | $0.14 / $0.28 per M | $0.10 / $0.30 per M |
| GLM-5.2 | $1.14 / $4.00 per M | $1.10 / $4.00 per M |
| Kimi K2.6 | $0.95 / $4.00 per M | $1.00 / $4.00 per M |
| Claude Sonnet 4.6 | $3.00 / $15.00 per M | $2.40 / $12.00 per M |
| Grok 4.5 | $2.00 / $6.00 per M | $1.60 / $4.80 per M |
CORS, переключатель прокси и как сохранить ключ в целости.
Поскольку Lite вызывает эндпоинт прямо из вашего браузера, сбой подключения при корректных значениях обычно означает CORS: эндпоинт отклоняет запросы с origin браузера. Именно на этот случай Lite поставляется с переключателем «Use CORS Proxy», и он заслуживает честного предупреждения: маршрутизация через любой сторонний прокси помещает этот прокси внутрь вашего трафика, включая ключ и содержимое историй. Сначала попробуйте прямое подключение, при сомнениях подтвердите работу эндпоинта через curl и относитесь к переключателю прокси как к последнему средству, а не как к варианту по умолчанию. Запуск встроенного Lite из локального KoboldCpp — ещё один чистый обходной путь, поскольку те же настройки кастомного эндпоинта есть и там. Гигиена ключей особенно важна для браузерного приложения: ключ хранится в локальных настройках вашего браузера, так что избегайте вставлять его на общих или публичных машинах, а если он когда-либо утечёт — отзывайте и перевыпускайте, а не надейтесь на лучшее. Ключи здесь создаются бесплатно, так что выделенный ключ для Lite делает лог использования читаемым, а радиус поражения — небольшим. Одна оговорка о контенте, сказанная прямо: кастомный эндпоинт меняет то, куда идут запросы, а не то, что разрешают модели. Политики моделей вышестоящих провайдеров и условия использования того инстанса Lite, которым вы пользуетесь, всё равно действуют; страница сравнения политик по ссылке ниже фактически разбирает этот ландшафт, семейство моделей за семейством.
Частые вопросы
Поддерживает ли KoboldAI Lite кастомные OpenAI-совместимые эндпоинты?
Да, нативно. README проекта перечисляет кастомные эндпоинты, включая API в формате OpenAI и Claude, наряду с инстансами Kobold и AI Horde. Настройка — это URL, ключ и модель, из панели AI-подключения либо в хостед, либо во встроенной в KoboldCpp Lite.
Какой URL вводить для APIsRouter в KoboldAI Lite?
https://api.apisrouter.com/v1, при этом чекбокс версии должен быть учтён так, чтобы /v1 появился ровно один раз: переключатель Lite в стиле «Add Ver. Num» дописывает /v1 автоматически при включении. Удвоенный или отсутствующий сегмент версии — самая частая причина пустого списка моделей.
Можно ли использовать модели Claude в KoboldAI Lite?
Да, двумя способами: через OpenAI-совместимый эндпоинт с ID Claude вроде claude-sonnet-4-6 в поле модели, либо через опцию эндпоинта Lite в стиле Claude по адресу /v1/messages. Маршрут OpenAI-compatible — более простой выбор по умолчанию, поскольку та же конфигурация тогда обслуживает и все остальные семейства.
Почему мои настройки сэмплера, кажется, ни на что не влияют?
Большая часть зоопарка сэмплеров Lite предназначена для локального инференса. Поверх OpenAI-совместимого эндпоинта применяются только temperature, top-p и элементы в стиле repetition-penalty; хостед-эндпоинты игнорируют или отклоняют экзотические сэмплеры. Если вывод кажется неправильным, сначала настройте temperature, а затем проверьте ID модели.
Почему Lite не может подключиться, хотя curl работает?
Почти всегда это CORS: Lite работает в вашем браузере, так что эндпоинт должен принимать запросы с origin браузера. Варианты примерно по порядку: повторить чистую прямую конфигурацию, запустить Lite, встроенный в локальный KoboldCpp, или использовать переключатель CORS-прокси Lite с пониманием, что тогда сторонняя сторона оказывается внутри вашего трафика.
Это лучше, чем AI Horde?
Разный компромисс. Horde по-настоящему бесплатен, работает на волонтёрах и с очередью, с теми моделями, которые хостят волонтёры. Тарифицируемый эндпоинт отвечает немедленно именно той моделью, которую вы выбрали, по тарифам бюджетных семейств, при которых вечер игры стоит небольшую долю цента за сообщение. Многие держат настроенными оба варианта.