# JEV-27B-VL: локальные решения по изображениям с открытыми весами

Источник: https://modelium.tech/zhurnal/jev-27b-vl-local-image-decisions-vllm/

30 сентября AutoTrust выложила JEV-27B-VL: мультимодальную сборку Qwen3.8-27B с текстовым адаптером JEV и головой типизированных решений. В репозитории есть 18 шардов весов, адаптер, лицензия Apache-2.0 и скрипт запуска через vLLM. В авторском опыте на 200 пользователях модель ранжировала обложки видео с AUC 0,727; это не независимая проверка и не доказательство калибровки вероятностей для любых изображений.

JEV-27B-VL: локальные решения по изображениям с открытыми весами

30 сентября 2026 года AutoTrust открыла репозиторий **JEV-27B-VL** — мультимодальную версию уже выпущенной JEV-27B. Она объединяет исходную Qwen3.8-27B с визуальным энкодером и текстовый LoRA-адаптер с головой решений. Это новая сборка весов и способ применить прежнюю голову к изображениям, а не новая модель, обученная с нуля на видеоданных. Репозиторий Hugging Face создан 30 сентября; авторский материал датирован тем же днём. [s1](#src-s1) [s2](#src-s2)

## Зачем это локальному стеку

Есть два режима. **System 1** присваивает вероятности ответам на вопрос по тексту и изображениям: да/нет, выбор одного из 2–16 вариантов или оценка 0–5. **System 2** использует базовую мультимодальную модель для обычного ответа и рассуждения. Оба режима автор предлагает обслуживать одним процессом vLLM; System 1 обращается к адаптеру `jev-decision`, System 2 — к базовой модели. Практический сценарий — отбор изображений по явно сформулированному критерию, например предварительное ранжирование обложек, с возможностью передать сложные случаи более дорогому режиму. Это не готовая система модерации и не гарантия точности на вашем наборе изображений. [s1](#src-s1) [s3](#src-s3)

В закреплённой ревизии `394bbc4b76ca1ac038412e18b8b389b7660d2ae1` доступны индекс, все **18 из 18** шардов Safetensors, адаптер, `decision_head.json`, калибровочные параметры и `serve.sh`; это не пустая карточка. Весовая сборка содержит базовые веса и адаптер, поэтому не следует считать её одной маленькой LoRA. Лицензия репозитория и исходной Qwen3.8-27B — **Apache-2.0**: открытые веса доступны без запрета коммерческого применения со стороны этой лицензии, но при распространении сохраняются её условия и уведомления. Наличие открытых весов отдельно от факта успешного запуска на конкретном оборудовании. [s1](#src-s1) [s4](#src-s4) [s5](#src-s5)

## Что показали авторы

В опыте на **MicroLens-100k** авторы взяли 200 пользователей: для каждого скрыли следующее просмотренное видео среди 19 кандидатов. На вход подавали обложки последних пяти просмотренных видео и обложку кандидата. По опубликованным ими результатам режим «только обложки» получил **AUC 0,727 и HR@5 0,590**; режим «только заголовки» — 0,649 и 0,455. Item-based collaborative filtering, использовавший историю 59 045 других пользователей, получил AUC 0,728 и HR@5 0,490. Эти числа воспроизведены в машинно-читаемой сводке авторского демо, а не измерены редакцией; это сравнение одного сценария с 200 пользователями, не общий рейтинг моделей зрения. [s1](#src-s1) [s6](#src-s6)

Важная граница: голова System 1 обучалась **на тексте**, поэтому решения по изображениям авторы называют zero-shot. Карточка прямо говорит, что систематическая калибровка вероятностей на задачах с изображениями не измерялась. Хорошее ранжирование в этом тесте не означает, что число `0,83` можно трактовать как точную вероятность для вашей задачи. Другие метрики RewardBench, поиска и проверки галлюцинаций в авторском блоге перенесены из **текстовой JEV-27B**; не следует выдавать их за отдельный мультимодальный тест JEV-27B-VL. [s1](#src-s1) [s2](#src-s2)

## Как оценивать перед внедрением

Начните с карточки модели и закреплённого `serve.sh`: автор запускает vLLM с `--enable-lora`, `--max-lora-rank 32`, `--limit-mm-per-prompt '{"image": 8}'` и `**--max-num-seqs 8**`. Последнее — не произвольный тюнинг: по предупреждению автора, при большем размере батча мультимодальный LoRA-путь vLLM может вернуть неверные вероятности System 1. Не убирайте ограничение без собственной проверки. Пример с одним ускорителем от 80 GB — рекомендация автора для его конфигурации, **не установленный минимум VRAM** и не результат наших испытаний. [s1](#src-s1) [s3](#src-s3)

Для пилота зафиксируйте ревизию модели и версию vLLM, проверьте совпадение имён обслуживаемой модели и клиента, затем соберите собственную размеченную выборку изображений: отдельно измерьте ранжирование, калибровку вероятностей и ошибки по классам. Есть практическая нестыковка в исходниках: `serve.sh` публикует базовый маршрут под именем `autotrust/JEV-27B-VL`, а скрипт демо `serve_jev27b_mm.sh` сохраняет имя `autotrust/JEV-27B` для совместимости с его клиентом. Кроме того, адаптерный `adapter_config.json` называет класс `Qwen3_5ForCausalLM`, тогда как основной `config.json` — `Qwen3_5ForConditionalGeneration`. Редакция не проводила запуск и не подтверждает, что эти рецепты взаимозаменяемы: используйте клиент и сервер **из одного и того же источника**, а совместимость конкретной версии vLLM проверьте до production. [s3](#src-s3) [s7](#src-s7) [s8](#src-s8)

Если нужны решения только по тексту, сначала сравните с уже описанной [JEV-27B](/zhurnal/jev-27b-typed-decisions-vllm-local/): мультимодальная сборка нужна именно при участии изображений. Для изображения это исследовательский кандидат с опубликованными весами и одним авторским тестом, а не подтверждённая редакцией промышленная конфигурация. [s1](#src-s1)

## Источники

1. [AutoTrust — JEV-27B-VL, закреплённая карточка и весовой репозиторий](https://huggingface.co/autotrust/JEV-27B-VL/tree/394bbc4b76ca1ac038412e18b8b389b7660d2ae1) — получено 2026-09-30
2. [AutoTrust — JEV-27B-VL: авторский анонс](https://huggingface.co/autotrust/JEV-27B-VL/blob/394bbc4b76ca1ac038412e18b8b389b7660d2ae1/blog/JEV-27B-VL.md) — получено 2026-09-30
3. [AutoTrust — serve.sh для vLLM](https://huggingface.co/autotrust/JEV-27B-VL/blob/394bbc4b76ca1ac038412e18b8b389b7660d2ae1/serve.sh) — получено 2026-09-30
4. [AutoTrust — лицензия Apache-2.0](https://huggingface.co/autotrust/JEV-27B-VL/blob/394bbc4b76ca1ac038412e18b8b389b7660d2ae1/LICENSE) — получено 2026-09-30
5. [Qwen — исходная Qwen3.8-27B и лицензия](https://huggingface.co/Qwen/Qwen3.8-27B/tree/1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0) — получено 2026-09-30
6. [JEV-27B-DEMO — результаты MicroLens в summary.json](https://github.com/yuhai-china/JEV-27B-DEMO/blob/b6255389ee956a82175ac1aae05cbbdd31614a01/07-image-recommendation/summary.json) — получено 2026-09-30
7. [JEV-27B-DEMO — сервер мультимодальной версии](https://github.com/yuhai-china/JEV-27B-DEMO/blob/b6255389ee956a82175ac1aae05cbbdd31614a01/common/serve_jev27b_mm.sh) — получено 2026-09-30
8. [AutoTrust — конфигурация адаптера vLLM](https://huggingface.co/autotrust/JEV-27B-VL/blob/394bbc4b76ca1ac038412e18b8b389b7660d2ae1/adapter_vllm/adapter_config.json) — получено 2026-09-30