Модели, цены, лимиты
EVA не содержит своей модели. Она работает с любыми провайдерами с OpenAI-совместимым API: облачными, корпоративным шлюзом ZeBrains Gate или моделями в своём контуре. Ключи провайдеров задаются только в интерфейсе и хранятся в базе в зашифрованном виде, в переменных окружения их нет.
Админ
Пользователи, роли, модели, рантайм и использование платформы
Провайдер
В Админ → Модели нажмите Добавить провайдера: имя, Базовый URL, API-ключ. Провайдер можно выключить, не удаляя его модели.
Модель
Нажмите + Добавить модель у провайдера. Список моделей подтягивается с провайдера, окно контекста заполняется автоматически.
| Поле | Что задаёт |
|---|---|
| Отображаемое имя | Как модель называется в чате |
| Идентификатор у провайдера | Имя модели в API провайдера. Им же модель называется во внешнем API /v1 |
| Окно контекста | Сколько токенов помещается в модель. От него зависит полоска контекста и автоматическое сжатие |
| Режим API | Chat Completions, Responses API или оба |
| Показывать рассуждения, Уровень рассуждений | Для моделей с рассуждениями |
| Повтор рассуждений после tools | Для моделей, которым после вызова инструмента нужно вернуть их рассуждения |
| Совместимость | Как у провайдера называются роли и поля usage, параллельные вызовы инструментов, строгая схема |
Если модель работает в режиме Responses API или в обоих режимах, внутренний чат EVA пользуется Responses API.
Цены
У провайдера выбирается источник Цены моделей:
- Задаю вручную: цены за 1 млн токенов на вход, выход, чтение и запись кэша;
- Из панели ZeBrains Gate: укажите адрес панели, и цены будут обновляться автоматически.
Стоимость запроса считается в момент записи в журнал расхода по действующим ценам и потом не пересчитывается. Если у модели есть повышенные ставки для длинного контекста, они применяются ко всему запросу. Модели без цены в лимит расходов не входят.
Лимиты
Лимит токенов в месяц
Сумма входных, выходных, кэшированных токенов и токенов рассуждений за календарный месяц.
Лимит расходов в месяц
Сумма стоимости запросов по ценам моделей. Валюта задаётся переменной PRICING_CURRENCY.
- Лимит роли задаётся в Админ → Роли и действует на каждого пользователя роли.
- Личный лимит задаётся в карточке пользователя и важнее лимита роли.
- Лимиты независимы: запросы останавливает тот, что исчерпан первым.
- Проверка идёт перед ходом чата, постановкой в очередь, сжатием контекста и запросом во внешний API. Один запуск может выйти за лимит, следующий будет отклонён.
- Внешний API
/v1учитывается в тех же лимитах.