Lapis SAL 150M для Mac: локальный выбор действия по запросу

Что стало доступно

Опубликованы веса для MLX — системы вычислений на компьютерах Apple с собственными чипами — и отдельный исходный PyTorch-чекпойнт для дальнейшей разработки. В закреплённом пакете MLX есть файл весов mlx/model.safetensors, настройки, токенизатор и код загрузки. Имя «150M» относится к исходному кодировщику текста; автор указывает примерно 164 млн обученных параметров у полной модели с модулем выбора. s1 s2 s3

Программа получает сообщение и описание доступных действий, затем возвращает их идентификатор или None, если подходящего действия нет. Например, для двух вариантов WEATHER («погода») и CALENDAR («календарь») вопрос о дожде должен направляться к погоде. Это иллюстрация задачи, а не результат проверки Modelium. Реальный помощник должен отдельно получить данные, запросить нужные разрешения и решить, выполнять ли действие. s1

Авторы также предлагают 8-битное сжатие при загрузке тех же весов на Mac: отдельного маленького файла для скачивания нет. Для MLX указан macOS с Apple Silicon и Metal; минимальную оперативную память авторы не подтверждают. Опубликованный размер файла весов — 327 984 812 байт — не является требованием к памяти при запуске. Это инженерный компонент с Python-кодом, а не приложение, которое устанавливают одним нажатием. s1 s3

Насколько надёжен выбор

По данным авторов, MLX-вариант правильно выбрал действие в 951 из 1000 случаев на закрытом синтетическом тесте: 500 англоязычных и 500 испаноязычных примеров, 13 типов действий и вариант «ничего не подходит». Из них отдельно сообщены 97,8% для английского и 92,4% для испанского. Примеры самого финального теста и исходные журналы обучения не опубликованы; независимого воспроизведения этих цифр у Modelium нет. Тест не доказывает качество на русском языке или с вашим набором действий. Для исходного PyTorch-чекпойнта отдельной оценки на этом финальном тесте авторы не приводят. s1 s2

Авторские замеры задержки получены на Apple M5 после прогрева и без времени загрузки модели; это не минимальные требования и не гарантия скорости на другом Mac. Важно: выбор WEATHER не подтверждает правильность прогноза, а выбор HEALTH — безопасность медицинского совета. s1

Стоит ли что-то делать сейчас

Если вы просто хотите локального помощника, новую модель устанавливать не нужно: она лишь один внутренний компонент будущей программы. Если разрабатываете своего помощника на Mac, начните с закреплённой карточки MLX-пакета и проверяйте выбор на собственных сообщениях и меню действий. Полный путь запуска автор описал для Python 3.12, но редакция не устанавливала зависимости и не запускала веса, поэтому не называет его проверенным рецептом. s1

Веса и сопутствующий код Lapis SAL помечены Apache-2.0; пакет сохраняет отдельное уведомление о MIT-компоненте Ettin. Это не передаёт права на закрытый набор данных авторов. Базовая Laya также опубликована под Apache-2.0. Права на скачивание весов, лицензии кода и доступ к обучающим данным здесь разные вещи. s1 s4 s5

Для сравнения назначения можно открыть материал о Laya: Lapis SAL использует её схему выбора, но это другие веса. s1