Перейти к содержанию
modelium.
Начать с задачи
←

Decision-2.0-Vega-27B: открытый адаптер для локальной маршрутизации и оценок

vLLM Semantic Router выпустила Decision-2.0-Vega-27B для локальных типизированных решений: выбор варианта, бинарный ответ и оценка с вероятностями. В репозитории опубликованы LoRA-адаптер и голова, но базовый Qwen3.8-27B нужно получать отдельно. Пакет под Apache-2.0; авторские метрики не являются тестом Modelium. Пилот требует проверки закреплённого кода, совместимого GPU-стека и качества на собственных данных.

Decision-2.0-Vega-27B: адаптер Qwen3.8 для локальных решений вместо генерации текста

3 октября 2026 года команда vLLM Semantic Router зафиксировала релизную ревизию Decision-2.0-Vega-27B. Это специализированная модель для вопросов вида «какой вариант выбрать», «да или нет» и «насколько высока оценка»: она выдаёт вероятности, а не пишет свободный ответ. Практические сценарии — маршрутизация заявок, выбор обработчика или оценка срочности. Название «27B» относится к классу исходной модели; манифест релиза сообщает о 29,37 млрд параметров при загрузке адаптера и базовой модели вместе. s1 s2 s3

Какие веса опубликованы

Репозиторий не содержит полного отдельного 27B-чекпойнта. В закреплённой ревизии 7aec49ae11a18741706da549ab626b9052795fe7 опубликованы LoRA-адаптер adapter/adapter_model.safetensors, decision_head.safetensors, конфигурация, токенизатор и код загрузки. Манифест фиксирует внешний базовый текстовый backbone Qwen/Qwen3.8-27B на ревизии 1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0: он загружается отдельно, не входит в пакет Vega. Размер файла адаптера — 14 941 293 880 байт; это не требование к RAM или VRAM. Без доступа к закреплённой базе и совместимой среды один файл адаптера не даст локального инференса. s2 s4

В пакете есть реализация Decision2Model через AutoModel и собственный метод system_one. Для загрузки карточка предлагает Transformers не ниже 5.17, PyTorch, Safetensors и PEFT с trust_remote_code=True. Это исполнение кода из репозитория модели: перед развёртыванием в собственной инфраструктуре нужно изучить закреплённую версию кода и обеспечить доверенную среду. Манифест перечисляет дополнительные зависимости и конфигурацию проверенного авторами GPU-стека, включая flash-linear-attention и causal-conv1d; одну строку установки из карточки нельзя автоматически считать полной воспроизводимой средой на любой машине. Modelium загрузку и запуск на своей аппаратуре не проводил. s1 s2 s5

Когда Vega полезна, а когда нет

Одному текстовому входу можно сопоставить несколько типизированных вопросов: выбор из вариантов (choice), бинарный ответ (noul) и оценку по шкале (score). Все возвращают вероятностные результаты для прикладной логики; система должна проверять формат, пороги и качество на собственных размеченных примерах. Это не чат-модель для генерации объяснений и не готовое правило для решений без участия человека. Манифест ограничивает вход 32 768 токенами; это предел пакета Vega, а не автоматически унаследованное окно исходного Qwen. s1 s2

Карточка авторов указывает JevArena 74,0 для Vega против 72,1 у AutoJev-27B и median macro-F1 58,7 по 15 размеченным задачам. Также она приводит Jev Decision Index 56,5: сравнения в этой строке основаны на авторском прогоне официального набора 0.2.1 для Decision 2.0 и публичном снимке доски для остальных моделей от 28 сентября. Это заявления команды модели, а не независимые тесты Modelium; разные наборы JevArena, transfer и Index нельзя складывать в одну «точность». Замер задержки 71,4 мс на одном GPU из карточки также не переносится на произвольную локальную конфигурацию. s1 s2

Лицензия и следующий шаг

Карточка, файл LICENSE и манифест указывают Apache-2.0 для опубликованного пакета; закреплённая исходная модель Qwen3.8-27B тоже помечена Apache-2.0. Лицензия допускает коммерческое использование при соблюдении её условий, но открытые веса не означают, что любой GPU сможет запустить модель, а наличие исходников загрузчика не делает весь тренировочный процесс воспроизводимым. Для пилота сначала сопоставьте свой сценарий маршрутизации с choice/noul/score, прочитайте код закреплённой ревизии, подготовьте базовый Qwen и зависимости, затем проверьте ответы и задержку на собственных данных. Для более лёгкого экспериментального пути уже опубликованы отдельные локальные пакеты Decision 2.0 Kai, Eos и Sol; они решают сходный класс задач, но не эквивалентны Vega по весам или измеренной точности. s1 s2 s4

Источники