# JEV-27B: локальные типизированные решения и генерация в одном vLLM

Источник: https://modelium.tech/zhurnal/jev-27b-typed-decisions-vllm-local/

AutoTrust опубликовала 26 сентября JEV-27B: текстовую модель на базе Qwen3.8-27B с отдельным адаптером для решений «да/нет», выбора и оценки. Полные веса и адаптер доступны на Hugging Face под заявленной Apache-2.0; автор показывает запуск обоих режимов через один vLLM-сервер. Его оценки качества и скорости не являются независимыми тестами Modelium.

JEV-27B: типизированные решения и генерация на одной локальной модели

26 сентября 2026 года AutoTrust загрузила в Hugging Face полные веса JEV-27B, адаптер для быстрых типизированных решений, отдельное представление адаптера для vLLM, конфигурацию калибровки и отчёты об оценке. Это новый чекпойнт, а не просто обновление карточки: история репозитория фиксирует загрузку артефактов 26 сентября в 06:22 UTC; дальнейшие коммиты в тот же день меняли описание. Манифест подтверждает 13 шардов Safetensors, оба адаптера и файл головы решений. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Зачем это локальному агенту

JEV-27B использует текстовую основу Qwen3.8-27B как режим генерации (System 2), а отделяемый LoRA-адаптер с головой решений — как System 1. Последний возвращает распределение вероятностей для `noul` (да/нет), `choice` (выбор из 2–16 вариантов) и `score` (оценка 0–5). Практический сценарий — ранжировать инструменты, выбрать следующий шаг или оценить кандидатов локально, не направляя каждый ограниченный выбор в удалённый API. Два режима работают в одном vLLM-сервере, но генеративная основа не обучена объяснять решения адаптера и может с ним расходиться. Это модель для текста, не универсальный мультимодальный пакет исходной Qwen. [s1](#src-s1)

Авторы публикуют полноценный набор текстовых весов: в манифесте 13 модельных шардов общим объёмом около 53,8 млрд байт, плюс отдельный адаптер. Это **объём файлов**, не требование к RAM или VRAM. Для точного планирования оборудования нужны собственные замеры с выбранной длиной контекста, параллелизмом и настройками сервера; B200 из авторских измерений — тестовая платформа, не объявленный минимум. [s1](#src-s1) [s3](#src-s3)

## Что доступно и как запустить

В карточке приведён следующий стартовый пример автора для vLLM после загрузки репозитория:

hf download autotrust/JEV-27B --local-dir JEV-27Bvllm serve JEV-27B --served-model-name autotrust/JEV-27B \  --enable-lora --max-lora-rank 32 \  --lora-modules jev-decision=JEV-27B/adapter_vllm \  --logprobs-mode processed_logprobs --max-model-len 4096

Обычные запросы к `autotrust/JEV-27B` идут через генеративную основу; запросы к `jev-decision` используют LoRA и ограниченные токены ответа. Для вероятностей авторский Python-пример дополнительно применяет смещения головы и температуры из `adapter_vllm/decision_head.json` и `calibration.json`. Одной команды сервера недостаточно для корректных откалиброванных оценок: нужны также эти файлы и обработка logprobs. Параметр `--max-model-len 4096` выбран в карточке для коротких решений; его нельзя трактовать как максимальный контекст исходной архитектуры. Modelium запуск не воспроизводил. [s1](#src-s1) [s3](#src-s3)

## Лицензия и доказательства качества

В метаданных и карточке JEV-27B для весов указана **Apache-2.0**, как и для исходной Qwen3.8-27B и опубликованного обучающего корпуса Jev Distill Corpus v3. Файла `LICENSE` в дереве JEV-27B на проверенной ревизии нет, поэтому ориентироваться нужно также на карточку и лицензию исходной модели; происхождение обучающих меток из стороннего закрытого TypeSafe Jev 1.13 авторы раскрывают отдельно. Открытые веса и заявленная лицензия не означают открытого исходного кода преподавателя TypeSafe. [s1](#src-s1) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5)

**Это оценки авторов, не независимая проверка.** На 25 376 отложенных примерах с распределениями ответов учителя авторы приводят KL около 0,017; на шести группах публичных задач — среднее 84,07% для JEV-27B и 84,21% для TypeSafe Jev 1.13 в их собственном прогоне. Ещё один результат — 78,0% pass@1 на HumanEval для неизменённого генеративного пути. Часть сравнительных строк для других моделей взята из чужого отчёта, а не повторно измерена AutoTrust. Сравнение задержки с облачным API не равнозначно: локальный замер не включает сетевой путь, удалённый — включает. [s1](#src-s1) [s6](#src-s6)

Граница применения важнее громких цифр: автор предупреждает, что решение наследует ошибки учителя, чувствительно к порядку вариантов и не предназначено для ответственных решений без собственной калибровки и эскалации человеку. Корпус англоязычный; систематических результатов на русском в карточке нет. Для локального агента разумно отдельно проверить свои кандидаты, пороги уверенности и случаи отказа прежде, чем автоматизировать действия. [s1](#src-s1) [s5](#src-s5)

## Источники

1. [AutoTrust JEV-27B — карточка модели, закреплённая ревизия](https://huggingface.co/autotrust/JEV-27B/blob/f478d3d2b4d326b9f9a1f145f3542a6d0cbe3797/README.md) — получено 2026-09-26
2. [История коммитов autotrust/JEV-27B](https://huggingface.co/api/models/autotrust/JEV-27B/commits/main?limit=15) — получено 2026-09-26
3. [Дерево файлов JEV-27B на проверенной ревизии](https://huggingface.co/api/models/autotrust/JEV-27B/tree/f478d3d2b4d326b9f9a1f145f3542a6d0cbe3797?recursive=true&expand=true) — получено 2026-09-26
4. [Лицензия базовой модели Qwen3.8-27B](https://huggingface.co/Qwen/Qwen3.8-27B/blob/1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0/LICENSE) — получено 2026-09-26
5. [Jev Distill Corpus v3 — карточка набора данных](https://huggingface.co/datasets/SargeDev/jev-distill-corpus-v3/blob/fc99c6357a9f89f7512c4a987314352addead049/README.md) — получено 2026-09-26
6. [Авторский отчёт об оценке JEV-27B](https://huggingface.co/autotrust/JEV-27B/blob/f478d3d2b4d326b9f9a1f145f3542a6d0cbe3797/reports/eval_27b_bundle.md) — получено 2026-09-26