d1-2B OptiQ для Mac: локальная сортировка обращений с новыми весами

Что именно выпущено?

Сообщество MLX опубликовало d1-2B-OptiQ-4bit — конверсию модели Liquid AI d1-2B. Веса уже загружены: репозиторий содержит файл модели, отдельный файл зрительного компонента, конфигурацию и индекс файлов. OptiQ хранит одни части модели с точностью 4 бита, более чувствительные — с точностью 8 бит; это способ сократить файлы модели, стараясь сохранить качество ответов. В карточке указан объём около 1,7 ГБ на диске, но это не минимальное требование к оперативной памяти. История Hugging Face датирует создание репозитория 30 октября. s1 s3

В тот же день вышел mlx-optiq 0.7.9. Разработчик заявляет в журнале изменений поддержку d1 и маршрута /v1/systemone, через который программа получает решения по нескольким вопросам за один запрос. Опубликованный пакет действительно содержит реализацию d1 и этого маршрута. Однако это интерфейс для разработчика, не кнопка «разобрать почту» в готовом приложении. Из описанных возможностей пока доступны решения по тексту и структурированным данным; чтение изображений и видео для этого варианта автор ещё не обещает, хотя зрительный файл лежит в репозитории. s1 s4 s5

Что показывают проверки авторов?

Авторы конверсии сообщают точность 0,641 для своего варианта и 0,6265 для официальной равномерной 4-битной версии Liquid AI в наборе Typed Decisions. В их описании это 400 тестовых случаев и 2 000 отдельных решений: в каждом случае задавались сразу пять вопросов; тест был текстовым и проводился на Apple M3 Max. В опубликованном файле результатов для новой версии указана та же точность 0,641. Это замер автора, а не независимое испытание Modelium; разница в одном тесте не обещает улучшения на ваших письмах или на другом Mac. s1 s6

Кому это полезно и что проверить?

Пакет имеет смысл прежде всего тем, кто уже строит локальную систему сортировки заявок и умеет подключать MLX-модели к своему приложению. Простой учебный пример задачи: текст «С меня дважды списали оплату» и вопрос «отправить ли в отдел платежей?». Результат нужно проверять по метке нужного отдела и вероятности, затем вручную просматривать ошибочные и неоднозначные обращения: ни одна оценка тестового набора не заменяет проверку на ваших данных. Команда загрузки и формат запроса приведены у автора модели; это инструкция по документации, а не воспроизведённый запуск редакции. s1

Файлы весов распространяются по LFM Open License v1.0, а не по свободной Apache/MIT-лицензии: коммерческое использование ограничено порогом годовой выручки 10 млн долларов для юридического лица. Лицензия пакета mlx-optiq указана как MIT, но она не меняет условия весов и кода, вложенного в модельный репозиторий. При коммерческом внедрении прочитайте полный текст лицензии и оцените применимость к своей организации. s2 s7 s8

Если вам нужно понять, чем d1 отличается от обычного чат-бота и какие конверсии уже доступны, начните с предыдущего разбора d1-2B на Mac. Нынешняя публикация описывает новый сторонний пакет, а не исправляет и не заменяет ту статью.

Проверено по документации и файлам 30 октября 2026 года; запуск и качество на пользовательских обращениях редакция не проверяла.