# Qev-9B: открытые веса модели для выбора вариантов на базе Qwen3.5

Источник: https://modelium.tech/zhurnal/qev-9b-local-decision-model-lora-open-weights/

29 сентября 2026 года автор Qev выложил код и адаптер Qev-9B для локального выбора ответа из заданных вариантов. Пакет включает LoRA, отдельную голову решений и конфигурацию; базовые веса Qwen3.5-9B-Base загружаются отдельно. Результат 188 из 231 на публичном JevBench — авторский замер, не официальный composite score и не доказательство калибровки вероятностей.

## Что выпущено

29 сентября 2026 года появился репозиторий Qev-9B с весами на Hugging Face, а также публичный исходный код Qev. Это специализированная модель решений на базе `Qwen/Qwen3.5-9B-Base`: она получает контекст, вопрос и заданные варианты, затем выбирает вариант и возвращает вероятности. Авторы выделяют три режима: Choice (вариант из списка), Noul (да/нет) и Score (упорядоченная оценка). Это не новая базовая языковая модель и не самостоятельный полный чекпойнт Qwen. [s1](#src-s1) [s2](#src-s2)

Закреплённая ревизия `54a0dbf` содержит файл LoRA `adapter/adapter_model.safetensors`, `head.safetensors`, `joint.safetensors`, конфигурацию и токенизатор. В `model.json` закреплены база `Qwen3.5-9B-Base` и её ревизия `68c46c4`; именно базу загрузчик получает отдельно. Архив адаптации занимает около 690 МиБ на диске, **не** означает требования 690 МиБ RAM/VRAM и не включает базовые веса. История HF датирует создание репозитория 29 сентября в 15:58 UTC; исходный GitHub-репозиторий тоже создан в этот день. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Для чего использовать локально

Практические сценарии — маршрутизация обращения к отделу, выбор правила по контексту и выставление оценки по явно заданной шкале. Для этого нужен полный стек Qev, а не загрузка LoRA в обычный чат-интерфейс: кроме адаптера используются голова выбора, механизм взаимодействия и специальный формат запроса. В коде доступны Python API и JSONL-интерфейс; документация предполагает Python 3.12, совместимую сборку PyTorch 2.8 и устройство `cuda`. **Modelium не запускал инференс и не проверял совместимость на конкретной видеокарте.** У репозитория кода на момент проверки есть доступный commit `509ccf9`, но отдельного GitHub release/tag `v0.1.0` не найдено; `v0.1.0` — доступная закреплённая ревизия весов на HF. Если повторяете пример, фиксируйте ревизию кода и весов, а не полагайтесь на изменяемый `main`. [s1](#src-s1) [s2](#src-s2)

Один из документированных вызовов после установки проекта из исходников — `Qev.from_pretrained("AustinFu/Qev-9B", revision="v0.1.0", device="cuda")`, затем `predict` с полями `state` и `questions`. Метод и аргумент `revision` присутствуют в опубликованном исходном коде; это **рецепт авторов, а не результат проверки на оборудовании редакции**. Перед использованием в рабочих правилах измерьте качество и калибровку на своих примерах, включая неоднозначные варианты и сдвиг входных данных. [s1](#src-s1) [s2](#src-s2)

## Лицензия и пределы замеров

Для Qev-кода и опубликованной адаптации указан Apache-2.0; в обоих репозиториях доступны LICENSE/NOTICE. Базовая `Qwen3.5-9B-Base` отдельно помечена Apache-2.0 и присутствует по закреплённой ревизии. Это открытые компоненты для самостоятельного использования с условиями лицензий; авторы отдельно оговаривают, что полный исследовательский обучающий корпус **не распространяется**, а исходные наборы данных имеют собственные условия. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

По `benchmarks.json`, Qev-9B правильно ответила на **188 из 231** заданий публичного JevBench (81,39% argmax accuracy); для Kev-9B в авторской таблице — 175 из 231. Это результат **авторских** прогонов, а не независимый тест Modelium или официальный совокупный балл JevBench. Qev использует BF16 для основы и FP32 для головы и ключевых редукций, Kev в этом сравнении — FP32; отличаются реализации и условия оценки. Авторы указывают один seed и наблюдение публичных тестов при разработке: цифры не изолируют эффект архитектуры и не доказывают надёжность вероятностей в продакшене. Не смешивайте также clean- и all-выборки при сравнении таблиц. [s1](#src-s1) [s4](#src-s4)

Есть техническая тонкость для воспроизведения: опубликованный `model.json` задаёт обученные лимиты `max_state=1024` и `max_path=2048`, тогда как протокол отдельного публичного benchmark в `provenance.json` использует лимиты 4096/4096. Поэтому параметры сравнительного прогона нельзя без проверки переносить в повседневный пример запуска. Следующий полезный шаг — сначала протестировать Qev на своём наборе размеченных маршрутов с закреплёнными весами и кодом, а уже потом выбирать порог автоматического решения или передачу человеку. [s1](#src-s1) [s4](#src-s4)

## Источники

1. [AustinFu: Qev-9B — карточка, закреплённый манифест, конфигурация и лицензия](https://huggingface.co/AustinFu/Qev-9B/tree/54a0dbfd2b9416b556a54d6c185cb9667a24902b) — получено 2026-09-29
2. [QiqianFu: исходники и документация Qev на закреплённом commit](https://github.com/QiqianFu/Qev/tree/509ccf9ed3079a06e88a1dfd517f9f70c999d0b3) — получено 2026-09-29
3. [Qwen: Qwen3.5-9B-Base — исходная модель и LICENSE](https://huggingface.co/Qwen/Qwen3.5-9B-Base/tree/68c46c4b3498877f3ef123c856ecfde50c39f404) — получено 2026-09-29
4. [Qev: методика авторской оценки и машиночитаемые результаты](https://github.com/QiqianFu/Qev/blob/509ccf9ed3079a06e88a1dfd517f9f70c999d0b3/docs/evaluation.md) — получено 2026-09-29