Рантайм и ёмкость
Как смотреть живую топологию процессов, очередь и нагрузку на внешний API, и как настроить ёмкость рантайма без перезапуска.
Админ → Рантайм показывает, что происходит на платформе прямо сейчас, и задаёт лимиты ёмкости.
Админ
Пользователи, роли, модели, рантайм и использование платформы
ОбновитьСохранить
ПользователиРолиМоделиMCPПакетыAPI-ключиРантаймНастройкиИспользование
Ёмкость
Параметры сохраняются в базе и применяются без перезапуска сервиса.
Макс. процессов сессий
3
Сессий на процесс
3
Макс. фоновых сервисов
8
APIonline
внешний /v1 · 2 запроса сейчасRuntimeоркестратор
3 активных · warm 6 свободноСлот процесса #12 сессии
Слот процесса #21 сессия
Слот процесса #3не запущен
Активные запуски3
Процессы воркеров2 / 3
Очередь0 в ожидании
Что видно
| Блок | Что показывает |
|---|---|
| Сервисы | Доступность API и Runtime |
| Активные запуски | Сколько ходов чата выполняется сейчас |
| Процессы воркеров | Воркеры с pid, числом задач в работе и прогретых сессий |
| Очередь | Сколько ходов ждут свободного слота. Текст сообщений здесь не показывается |
| Внешний API (/v1) | Сколько запросов идёт сейчас и сколько завершено |
| Топология | Схема: API, Runtime, воркеры и сессии |
| Недавние ошибки | Последние сбои запусков |
Ёмкость
Параметры хранятся в базе и применяются без перезапуска сервиса.
| Параметр | Смысл |
|---|---|
| Макс. процессов сессий | Сколько воркеров может поднять Runtime |
| Сессий на процесс | Сколько чатов обслуживает один воркер. Произведение двух параметров даёт число прогретых слотов |
| Макс. параллельных capability-isolate | Сколько навыков из пакетов может выполняться одновременно |
| Макс. фоновых сервисов | Сколько фоновых сервисов может работать одновременно |
| TTL аренды сессии (мс) | Сколько чат держит свой слот в воркере после последнего хода |
| TTL простоя воркера (мс) | Через сколько простаивающий воркер завершается |
Как это работает
Каждый чат закрепляется за воркером, который держит его соединения с MCP. Пока слот за чатом, следующий ход стартует быстро. Когда все слоты заняты, новые ходы встают в очередь, а пользователь видит «Ожидание свободного слота генерации…».
Как ёмкость соотносится с несколькими репликами: Масштабирование.