Перейти к содержанию
modelium.
Начать с задачи
←

AstrBot 4.29.4: отдельная модель для коротких решений бота

31 октября AstrBot 4.29.4 получил отдельное подключение модели для коротких решений: ответить ли на сообщение, какой вариант выбрать или как оценить ситуацию. Это возможность для авторов плагинов, а не автоматическое изменение всех переписок. Локальный запуск возможен только с отдельно настроенным совместимым сервером модели; редакция связку не запускала.

AstrBot 4.29.4: отдельная модель для коротких решений бота

Версия и дата: AstrBot 4.29.4, релиз 31 октября 2026 года. Уровень: настройка и разработка плагинов, не домашний рецепт. s1

Боту иногда нужно решить не что написать, а нужно ли отвечать вообще. В AstrBot 4.29.4 автор плагина может поручить такой короткий выбор отдельной модели, не привязывая его к модели для обычного диалога. Например, плагин передаёт вопрос «ответить сейчас?» и два варианта — «да» и «нет». Решение о том, что делать с ответом, остаётся за плагином. s1 s2

Что изменилось

В настройках появился раздел Providers → Decision («Провайдеры → Решения»). Провайдер здесь — подключение к сервису, который отвечает на вопросы плагина. Разработчик может через self.context.decision запросить выбор из вариантов, вероятность ответа «да» или оценку по заданной шкале; несколько вопросов можно отправить вместе. Это не новый набор весов и не переключатель, который самостоятельно меняет поведение всех ботов. s2

AstrBot поддерживает интерфейс System One — формат запроса к моделям коротких структурированных решений. В релизе есть готовые настройки для внешних сервисов и отдельный пункт Custom System One для собственного адреса. По умолчанию внешние варианты указывают на облачные адреса: выбор пункта «Decision» сам по себе не делает запросы локальными. s3 s6

Когда это полезно с локальной моделью

Представьте бота для группы: плагин оценивает входящее сообщение и решает, отвечать ли публично или оставить его без ответа. Разговорная модель при этом может остаться прежней. Если нужен запуск на своём оборудовании, придётся отдельно поднять модель и сервер с совместимым маршрутом System One, затем указать его адрес и идентификатор модели в Custom System One. Например, в релизе vLLM 0.32.0 заявлен маршрут POST /v1/systemone; это свидетельство наличия интерфейса в vLLM, но не результат проверки конкретной пары AstrBot и модели. s3 s5

Первый ориентир для разработчика: в разделе Decision добавить собственный адрес и модель, запустить проверку подключения в интерфейсе AstrBot и только после этого вызывать модель из плагина. Наблюдаемый результат проверки — доступность провайдера; правильность решений нужно проверять отдельно на собственных примерах. Если сервис запущен на другой машине либо через облако, обработка уже не происходит исключительно на компьютере с ботом. s2 s3

Чего релиз не обещает

Новые веса AstrBot не поставляет: для локальной работы нужны отдельная подходящая модель, сервер и плагин, который действительно вызывает новый интерфейс. Пример в документации показывает вызов из кода плагина, а не готовый сценарий для начинающего пользователя. Числа о скорости или качестве локальной связки в этой заметке не приводятся: Modelium её не запускал. Отдельно проверяйте права на выбранные веса; код AstrBot распространяется по AGPL-3.0, что не определяет лицензию модели. s2 s3 s4

Следующий шаг: если у вас уже есть локальный сервер для структурированных решений, изучите раздел Structured Decisions в документации AstrBot и проверьте на тестовом сообщении собственный плагин. При отсутствии такого сервера не стоит принимать готовые облачные пресеты за офлайн-режим. s2 s3

Источники

  1. AstrBot v4.29.4 — официальный релиз — Опубликован 2026-10-31 11:59 UTC; Decision Provider, интерфейс и прочие изменения.. Получено 31.10.2026.
  2. AstrBot v4.29.4: Structured Decisions, документация плагинов — Закреплённая версия: раздел Structured Decisions, API и ограничения.. Получено 31.10.2026.
  3. AstrBot v4.29.4: настройки провайдеров — Готовые внешние URL и Custom System One; сервер и модель не включены.. Получено 31.10.2026.
  4. AstrBot v4.29.4: LICENSE — AGPL v3 or later для кода AstrBot, не для чужих весов.. Получено 31.10.2026.
  5. vLLM v0.32.0 — официальный релиз — Заявленный маршрут POST /v1/systemone; конкретная пара AstrBot и модели не проверена.. Получено 31.10.2026.
  6. AstrBot v4.29.4: исходный код System One adapter — Формат запроса model/state/questions, base URL и обработка ответа.. Получено 31.10.2026.