# APUS-OpenJev-v1: локальные decision-модели 4B, 9B и 35B-A3B с открытыми весами

Источник: https://modelium.tech/zhurnal/apus-openjev-v1-decision-models-local/

APUS AI-LAB выпустила три специализированные decision-модели на базе Qwen3.5: APUS-OpenJev-v1-4B, 9B и MoE 35B-A3B. Самостоятельные BF16-веса, reference runtime и файлы лицензии опубликованы под Apache-2.0. Модели выбирают один из переданных вариантов и поддерживают ручной выбор глубины вычислений; авторские результаты получены на собственной Frozen80 development panel и не являются независимым тестом Modelium.

## Что выпустили

**APUS AI-LAB** опубликовала семейство **APUS-OpenJev-v1** из трёх специализированных моделей решений на базе Qwen3.5:

- **APUS-OpenJev-v1-4B**;

- **APUS-OpenJev-v1-9B**;

- **APUS-OpenJev-v1-35B-A3B** — MoE-вариант семейства.

Для каждой версии создан самостоятельный Hugging Face-репозиторий с объединёнными BF16-весами: отдельный LoRA-адаптер для запуска не требуется. Все три репозитория появились 22 сентября 2026 года; семейная карточка позднее в тот же день была обновлена после публикации 35B-A3B. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

Это не универсальные чат-модели, ориентированные на длинный свободный ответ. Приложение передаёт общее состояние, инструкцию и от 2 до 16 допустимых вариантов. Reference runtime присваивает вариантам метки, вычисляет относительное распределение и возвращает выбранный ID. Практические сценарии — выбор действия браузерного агента, маршрутизация обращения, следующий шаг бизнес-процесса или проверка текстового критерия. [s1](#src-s1) [s5](#src-s5)

## Веса и лицензия

В закреплённых ревизиях опубликованы следующие файлы модели:

- 4B: три Safetensors-шарда суммарно **9 078 619 904 байта**;

- 9B: шесть шардов суммарно **18 819 720 488 байт**;

- 35B-A3B: четырнадцать шардов суммарно **71 903 878 448 байт**. [s6](#src-s6) [s7](#src-s7) [s8](#src-s8)

Это размеры скачиваемых весов, а не минимальные требования к RAM или VRAM. Реальное потребление памяти зависит от runtime, длины входа, промежуточных тензоров, режима вычислений и пакетной обработки.

Метаданные и файлы `LICENSE` самостоятельных репозиториев указывают **Apache License 2.0**. Она допускает использование, изменение и распространение, в том числе в коммерческих продуктах, при соблюдении условий лицензии, сохранении уведомлений и применимых notices. Публичные веса поэтому корректно называть открытыми весами; наличие весов само по себе не делает весь внешний продукт или сервис открытым исходным кодом. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

## Как устроены режимы low и high

Встроенный runtime позволяет явно выбирать вычислительную глубину:

        

          
        
        
Модель

      
    
        
`low`

      
    
        
`high`

      
    

`  </tr><tr>
    <td>
    <p>4B</p>
  </td>
<td>
    <p>16 слоёв</p>
  </td>
<td>
    <p>32 слоя</p>
  </td>

  </tr><tr>
    <td>
    <p>9B</p>
  </td>
<td>
    <p>16 слоёв</p>
  </td>
<td>
    <p>32 слоя</p>
  </td>

  </tr><tr>
    <td>
    <p>35B-A3B</p>
  </td>
<td>
    <p>20 слоёв</p>
  </td>
<td>
    <p>40 слоёв</p>
  </td>

  </tr></tbody>
    </table>
  <p><code>high</code> — основной режим для качества решений и генерации текста. <code>low</code> использует ранний выход и предназначен для ситуаций, где важнее вычислительный бюджет. Это ручной выбор: автоматического переключения по уверенности нет. Возвращаемые вероятности описывают относительное предпочтение внутри переданного набора кандидатов и <strong>не являются откалиброванной вероятностью правильности или успеха действия</strong>. <a href="#src-s1" rel="noopener noreferrer">s1</a> <a href="#src-s5" rel="noopener noreferrer">s5</a></p><p>У 35B-A3B ранний выход не превращает модель в меньший пакет: runtime по-прежнему загружает полные веса. Авторы приводят ориентир <strong>75 ГБ или больше GPU-памяти</strong> для BF16 и сообщают о проверке на RTX PRO 6000 с 96 ГБ, но прямо называют эту цифру приблизительной оценкой планирования, а не протестированным минимумом. Поэтому конфигурацию авторской проверки нельзя выдавать за обязательное аппаратное требование. <a href="#src-s5" rel="noopener noreferrer">s5</a></p><h2>Локальный запуск</h2><p>Для 35B-A3B авторы приводят базовый путь через Hugging Face CLI и комплектный Python-runtime:</p><p>python -m pip install huggingface_hub<br />hf download apus-ailab/APUS-OpenJev-v1-35B-A3B \<br />  --revision 4947385291375f6f5149b3156ff2811c65ebf020 \<br />  --local-dir ./APUS-OpenJev-v1-35B-A3B<br />cd APUS-OpenJev-v1-35B-A3B<br />python -m pip install -r requirements.txt<br />python examples.py . --device cuda:0 --effort high<br /></p><p>Комплектный loader зафиксирован на Transformers 5.16.1, рассчитан на CUDA и проверяет параметры, чувствительные к приведению dtype. Он предоставляет интерфейс <code>decide()</code> для текстовых запросов и отбрасывает входы длиннее настроенного лимита — не обрезает их молча. Текущий reference runtime однозапросный и text-only: авторы не заявляют автоматический depth routing, production-конкурентность, мультимодальный запуск или эквивалентность с vLLM/SGLang. <a href="#src-s5" rel="noopener noreferrer">s5</a></p><p>Для 4B и 9B команды аналогичны: нужно заменить ID репозитория и запускать комплектный <code>examples.py</code>. Их reference runtime также требует CUDA, PyTorch 2.8.0 и Transformers 5.16.1. Минимальная конфигурация GPU в карточках не заявлена. <a href="#src-s2" rel="noopener noreferrer">s2</a> <a href="#src-s3" rel="noopener noreferrer">s3</a></p><h2>Что показывают авторские тесты</h2><p>На собственной <strong>Frozen80 development panel</strong> авторы сообщают следующие результаты полного режима:</p><ul><li>4B: <strong>66 из 80</strong>, или 82,5%;</li><li>9B: <strong>68 из 80</strong>, или 85%;</li><li>35B-A3B: <strong>71 из 80</strong>, или 88,75%.</li></ul><p>Панель включает задачи Browser, HelpSteer3, BoolQ, MNLI и проверку отдельных атрибутов. Это повторно используемый инженерный набор разработки, а не независимый слепой benchmark и не показатель успешности полного браузерного агента. Modelium эти модели не тестировал. <a href="#src-s1" rel="noopener noreferrer">s1</a> <a href="#src-s2" rel="noopener noreferrer">s2</a> <a href="#src-s3" rel="noopener noreferrer">s3</a> <a href="#src-s4" rel="noopener noreferrer">s4</a></p><p>Для 35B-A3B опубликован отдельный результат экспериментального 20-слойного выхода: <strong>63 из 80</strong>, или 78,75%. Portable runtime воспроизвёл решения native merged-версии на обеих глубинах, однако сравнение исходного адаптера и merged-весов не прошло проверку численной эквивалентности вероятностей. Авторы отдельно предупреждают: калибровку и бизнес-пороги нужно заново проверять на опубликованном merged-чекпойнте, а не переносить со старого адаптера. <a href="#src-s5" rel="noopener noreferrer">s5</a> <a href="#src-s9" rel="noopener noreferrer">s9</a></p><h2>Практический вывод</h2><p>APUS-OpenJev-v1 интересна как готовый локальный слой принятия ограниченных решений: вместо генерации произвольного JSON модель выбирает вариант из набора, который определяет само приложение. Это может упростить роутинг инструментов и обращений, но не снимает необходимости проверять качество на собственных данных.</p><p>Начинать разумнее с 4B или 9B: их артефакты заметно компактнее, а интерфейс совпадает со старшей моделью. 35B-A3B имеет лучший авторский результат на Frozen80, но требует существенно более тяжёлого BF16-развёртывания. В любом размере следует отдельно валидировать prompt, набор кандидатов, калибровку порогов и последствия ошибочного действия.</p>
`

## Источники

1. [APUS-OpenJev-v1 family model card, revision 5c6d744](https://huggingface.co/apus-ailab/APUS-OpenJev-v1/blob/5c6d74426400fdb011e650185a687d8191f10004/README.md) — получено 2026-09-22
2. [APUS-OpenJev-v1-4B model card, revision 65797c5](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-4B/blob/65797c526c27c4d24f564333779162cd4a64328e/README.md) — получено 2026-09-22
3. [APUS-OpenJev-v1-9B model card, revision 9dd2482](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-9B/blob/9dd2482d4c282968e7841f31d5f6ee8f19b77fe0/README.md) — получено 2026-09-22
4. [APUS-OpenJev-v1-35B-A3B model card, revision 4947385](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-35B-A3B/blob/4947385291375f6f5149b3156ff2811c65ebf020/README.md) — получено 2026-09-22
5. [APUS-OpenJev-v1-35B-A3B runtime guide, revision 4947385](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-35B-A3B/blob/4947385291375f6f5149b3156ff2811c65ebf020/RUNTIME.md) — получено 2026-09-22
6. [APUS-OpenJev-v1-4B immutable file tree](https://huggingface.co/api/models/apus-ailab/APUS-OpenJev-v1-4B/tree/65797c526c27c4d24f564333779162cd4a64328e?recursive=true&expand=false) — получено 2026-09-22
7. [APUS-OpenJev-v1-9B immutable file tree](https://huggingface.co/api/models/apus-ailab/APUS-OpenJev-v1-9B/tree/9dd2482d4c282968e7841f31d5f6ee8f19b77fe0?recursive=true&expand=false) — получено 2026-09-22
8. [APUS-OpenJev-v1-35B-A3B release manifest, revision 4947385](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-35B-A3B/blob/4947385291375f6f5149b3156ff2811c65ebf020/release-manifest.json) — получено 2026-09-22
9. [APUS-OpenJev-v1-35B-A3B standalone Frozen80 result](https://huggingface.co/apus-ailab/APUS-OpenJev-v1-35B-A3B/blob/4947385291375f6f5149b3156ff2811c65ebf020/evaluation/standalone-frozen80.json) — получено 2026-09-22