Perplexity выпустила pplx-decider-v1-27b: открытые веса модели решений

pplx-decider-v1-27b: модель Perplexity для локальных решений

1 октября 2026 года Perplexity открыла репозиторий pplx-decider-v1-27b. Это дообученная на Qwen3.8-27B модель для задач выбора: приложению можно передать текстовое состояние, вопрос и набор кандидатов, а получить выбранный вариант с вероятностями. Есть также бинарный вопрос (noul) и вход с изображением. Это не обычный чат-бот: использование для маршрутизации обращений, классификации или проверки условия требует собственного правила принятия действия и проверки ошибок в приложении. Репозиторий появился 1 октября по метаданным Hugging Face; это дата появления публичной карточки, а не независимое свидетельство времени окончания обучения. s1 s2

Что доступно для локального запуска

Закреплённая ревизия 5117a6c7fe73b19308dc1a6b0fb529a40c2ecad4 содержит индекс Safetensors со ссылками на 11 модельных шардов; все 11 перечислены в полном списке файлов API. Отдельно опубликованы readout.safetensors, decision_config.json, процессор, токенизатор и исходники inference.py и source/src/autojev/model.py. Конфигурация решений содержит 255 токенов вариантов и коэффициент калибровки; в NOTICE автор описывает замену генеративной выходной головы и дообучение основной части модели и readout. Один лишь размер файла не определяет минимум RAM или VRAM. s1 s3 s4 s5

В корне чекпойнта есть текст Apache License 2.0; NOTICE закрепляет исходную ревизию Qwen3.8-27B, у которой также указана Apache-2.0. Код в source/ лицензирован отдельно по MIT. Это открытые веса и код с коммерческим использованием на условиях соответствующих лицензий; бесплатный облачный API из этого не следует. Следует сохранить NOTICE и проверить прочие применимые условия при распространении производного продукта. s6 s7 s8

Как проверить на своём наборе

Авторская карточка предлагает Python 3.12+, CUDA и пример inference.py. Сам скрипт скачивает checkpoint через Hugging Face Hub, затем вызывает собственный DecisionModel; для воспроизводимого эксперимента используйте закреплённую ревизию через параметр --revision и сначала просмотрите код и зависимости. Код загружает backbone посредством Qwen3_5Model, отдельную матрицу readout и температуру из конфигурации. Инструкция автора оценивает объём весов примерно в 49 GiB плюс рабочая память — это ориентир их CUDA-примера, не проверенный минимум оборудования и не обещание работоспособности на конкретной видеокарте. Мы не загружали многогигабайтные веса и не запускали модель. s1 s4 s5

Для теста составьте небольшой фиксированный набор обращений с заранее определёнными правилами маршрутизации, измерьте калибровку вероятностей, долю ошибочных решений и стоимость ручной перепроверки. При работе с изображениями отдельно проверьте корректность и права на входные данные. Если нужен готовый GGUF/MLX-путь, сначала ищите проверенный конвертер и совместимый runtime: в этом выпуске официально показан Python/CUDA-загрузчик, а не обещана поддержка Ollama или llama.cpp. s1 s4

Как читать цифры автора

Карточка приводит результаты на 11 наборах задач и итоговое значение 85,71% для pplx-decider-v1-27b против 84,51% у Jev и 74,76% у Qwen3.8-27B. Это оценки, заявленные автором, измеренные через Perplexity API, а не повторённый Modelium локальный бенчмарк. В отдельных строках Jev или базовая Qwen оказываются лучше, поэтому среднее число не гарантирует превосходства на вашей задаче. Отдельно сравните три варианта на собственном распределении входов, одинаковых критериях и одной политике порога; не смешивайте облачную авторскую оценку с локальной производительностью. s1

Итог: новый чекпойнт интересен для локального прототипа выбора между заданными вариантами, когда нужно удержать данные в своём контуре. Перед производственным применением потребуются собственная проверка качества, подбор порога, аудит кода загрузки и аппаратное тестирование. s1 s4