JPT-35B-A3B: локальные вероятностные решения с некоммерческой лицензией

Что делает модель

JPT принимает описание ситуации и типизированные вопросы: выбрать один вариант (choice), оценить уровень на шкале (score) или дать бинарный ответ (noul). Вместо длинного генерируемого текста она возвращает вероятности вариантов. Это полезно для локальной маршрутизации обращений, выбора действия агента и классификации, где приложению нужны структурированные ответы, а не объяснение на естественном языке. Модель обучена на базе Qwen3.5-35B-A3B: авторы описывают её как LoRA, слитую с исходными весами. Изображения архитектурно поддерживаются базовой визуальной частью, но оценку качества JPT-35B-A3B на изображениях авторы ещё не проводили. s1

Новое дерево содержит все 16 файлов model-00001-of-00016.safetensors … model-00016-of-00016.safetensors, конфигурацию и индекс весов; 16 уникальных имён шардов из индекса присутствуют в дереве. Суммарный объём шардов составляет около 70,2 млрд байт на диске. Это не минимальное требование к RAM или VRAM: память при запуске зависит от движка, распределения по устройствам, контекста и служебных буферов. В карточке авторов указан проверенный ими SGLang 0.5.18 на четырёх A100 40 GB с tensor parallelism 4; это конфигурация их теста, не универсальный порог для запуска. s1 s3

Доступ и лицензия

Все четыре репозитория JPT дают скачиваемые веса, но помечены CC BY-NC 4.0: коммерческое использование не разрешено без отдельного права. Базовые модели Qwen3.5 распространяются под Apache 2.0, но это не переносит коммерческое разрешение на производные веса JPT: авторы прямо связывают ограничение с составом обучающих данных. MIT-лицензия отдельного прокси llm2jev относится к его коду, а не меняет лицензию весов. Для коммерческой маршрутизации JPT нельзя считать свободно разрешённым выбором. s1 s4 s5

Как читать результаты авторов

Авторы сообщают 206 правильных ответов из 231 публичного вопроса JevBench v1.4 (0,892) для 35B-A3B; закрытые 308 вопросов недоступны им для самостоятельного прогона, поэтому официального полного балла JevBench у модели пока нет. Для Decision Index 0.2.1 авторы заявляют 52,89 балла на полном прогоне 150 759 запросов через llm2jev и SGLang, но отправка в репозиторий организаторов пока находится в открытом PR и не принята как опубликованный результат таблицы. Это авторские измерения, не тесты Modelium. Не смешивайте публичную долю JevBench, закрытый набор и нормированную шкалу Decision Index. s1 s6

Сама карточка предупреждает, что модель прежде всего ориентирована на английский, ошибается в арифметике и датах, а калибровка зависит от задачи. Для 0.8B, 4B и 9B приведены свои отдельные результаты: выбор размерности и качества нельзя делать по цифре 35B без проверки на собственных типизированных вопросах. s1 s2

Практический следующий шаг

Если нужна некоммерческая локальная проверка, начните с 0.8B или 4B и закрепите ревизию выбранного репозитория; для новой 35B-A3B — d7049ccdcaa7888dbb2d5fddaa55b5096964a96e. Следуйте примерам карточки для конкретной версии движка и llm2jev >= 0.6.1, сначала проверьте запуск и вероятности на собственном наборе choice/score/noul. Команда SGLang в карточке — авторская тестовая конфигурация; вариант vLLM для этого чекпойнта ещё не испытан авторами. Если задача требует коммерческого применения, сперва решите вопрос лицензирования и проверьте альтернативную модель с подходящими условиями. s1 s5 s7