pplx-decider v1.1: обновлённая модель решений и MLX-версия для Mac

Что изменилось по сравнению с первой версией?

По данным Perplexity, новая версия набрала 61,56 в Decision Index против 56,4 у v1. Эти числа относятся к авторской оценке по набору из 38 тестов с собственными весами категорий: они не означают процент правильных ответов в вашей переписке и не измерены Modelium. В подробном файле оценки показатель 61,56 и полнота охвата 0,9993 записаны отдельно; не следует смешивать этот индекс с другими метриками. Разработчик связывает прирост с изменением режима внимания и расширением обучающих данных; сами веса и код обработки решения доступны в репозитории. s1 s2

Что даёт версия для Mac?

У исходного пакета Perplexity — 11 файлов весов и отдельный файл, который переводит вычисления в ответы на вопросы. Это не обычная чат-модель, поэтому попытка открыть её как привычную модель генерации текста даст неправильный способ работы. Сборка сообщества mlx-community/pplx-decider-v1.1-27b-4bit содержит три файла весов и собственный скрипт decider_mlx.py, сохраняющий нужный режим внимания и обработку вероятностей. MLX здесь — библиотека для вычисления модели на Apple Silicon, а «4 бит» — способ уменьшить объём хранения весов, который может изменить вероятности ответов. s1 s3 s4

Автор MLX-сборки указывает Mac с Apple Silicon, минимум 24 ГБ объединённой памяти и Python 3.12+. Это именно заявленное автором требование для его варианта, а не расчёт Modelium по размеру скачиваемых файлов. На 33 проверочных решениях автор сообщает совпадение выбранного ответа с исходной моделью во всех 33 случаях, но расхождения вероятностей остаются. Его замеры скорости на M5 Max с 128 ГБ — результаты конкретной конфигурации, не обещание для любого Mac. Редакция не загружала и не запускала модель. s3

Как понять, подходит ли она для вашей задачи?

Представьте письмо «С карты дважды списали деньги за заказ». Вопрос с вариантами «оплата», «доставка», «техническая помощь» должен привести к категории «оплата»; отдельно можно запросить вероятность того, что обращение срочное. Это учебный критерий проверки, а не результат запуска модели. Для реального использования сначала подготовьте собственные примеры и проверьте выбранные категории и вероятности вручную: даже высокая вероятность не заменяет контроль ошибочных маршрутов. В карточке MLX-пакета есть код и инструкция по установке, но это технический путь для человека, знакомого с Python, а не проверенный редакцией домашний рецепт. s3

Ограничения и доступ

Оба репозитория отмечены Apache-2.0 и содержат LICENSE и NOTICE. Это сведения о лицензировании опубликованных пакетов, а не гарантия пригодности модели для конкретного правового или коммерческого сценария. Официальная карточка всё ещё требует авторизованный доступ к якобы закрытому репозиторию, однако при проверке 8 октября API Hugging Face показывает private: false, gated: false, а файл весов отвечает без авторизации. Следовательно, карточка и текущее состояние доступа расходятся; перед загрузкой проверяйте доступность повторно. s1 s3 s4 s5

Если у вас уже есть первая версия, начните с материала о pplx-decider v1, чтобы сравнить назначение, а затем изучите оригинальную карточку v1.1 и конкретную MLX-сборку. Следующий шаг: на собственных неперсональных примерах проверьте, нужен ли вам выбор из категорий вообще; для свободного ответа на вопросы выбирайте чат-модель, а не decider. s1 s3