Mellum 2.1 Thinking вышла в MLX 6-bit для Mac: стоит ли переходить?
На странице · 3 разделов
Для Mellum 2.1 Thinking появился отдельный 6-битный пакет для запуска через MLX-LM на Mac с Apple Silicon. Он помогает работать с кодом локально, но это не новая модель JetBrains: сторонний автор сжал её веса. По его замерам, на Mac с 16 ГБ более компактный вариант MXFP4 работает быстрее и меньше нагружает память; 6-bit стоит рассмотреть при большем её запасе.
8 октября JetBrains выпустила Mellum 2.1 Thinking для задач программирования. Теперь доступен и отдельный 6-битный MLX-пакет для Mac с процессорами Apple Silicon: он позволяет держать модель и исходный код локально. Это сторонняя конверсия уже выпущенных весов, а не новая модель или официальный пакет JetBrains. Автор подготовил её 9 октября, а копия в сообществе MLX появилась 11 октября 2026 года. s1 s2 s3
Что нового в этом пакете?
MLX — платформа вычислений для Apple Silicon; модели с её помощью запускают, например, через программу MLX-LM. «6-bit» означает уменьшение точности хранения весов для экономии места; само по себе это не гарантия скорости или качества. В репозитории есть два файла весов, индекс и данные о преобразовании исходной ревизии JetBrains. По данным автора, суммарный размер весов — 9,87 ГБ на диске; это не требование к оперативной памяти. На странице пакета указана Apache 2.0, сохранены LICENSE и NOTICE; лицензия программы MLX-LM рассматривается отдельно. s1 s4 s5
Имеет ли смысл ставить 6-bit на Mac с 16 ГБ?
Скорее нет, если цель — просто попробовать модель на домашнем Mac. Автор сравнил пакеты на MacBook Pro с M4 и 16 ГБ общей памяти: при обработке 16 тысяч токенов (небольших фрагментов текста) 6-bit выдавал 42,8 токена в секунду против 57,4 у стороннего MXFP4; максимум памяти, занятый MLX, составил 10,51 против 7,19 ГБ. При замере 6-bit использование swap (области диска, куда система временно переносит данные из памяти) выросло с 1,62 до 4,10 ГБ. Это замеры автора в конкретных условиях, не минимальные требования и не тест Modelium. Сам автор рекомендует MXFP4 для большинства Mac, а 6-bit — для машин с 24 ГБ памяти или больше, если важна близость к исходной версии. s3 s6
На 164 задачах HumanEval+ (наборе заданий по написанию кода) автор получил 146 верных решений для 6-bit, 144 для MXFP4 и 153 для исходной модели без такого сжатия. Разница между двумя сжатыми вариантами, по авторскому парному анализу, статистически неубедительна. Эти задачи выполнялись на RTX 5090, а не на Mac; качество исправлений в вашем проекте из результата не следует. Встроенный validation.json проверяет структуру файлов и шаблон диалога, но прямо говорит, что сам по себе не подтверждает запуск модели. Отдельные авторские замеры и сценарии запуска опубликованы в исследовательском репозитории. s3 s4 s6
Что делать сейчас?
Если вы только выбираете Mellum для локальной работы с кодом, начните с нашей новости об исходной модели и официальных GGUF-файлах — там показан более простой путь через Ollama. Новый MLX-пакет предназначен тем, кто уже запускает модели через Python на Mac. На странице конверсии есть пример с mlx-lm; он сверен по документации автора, но редакция не выполняла запуск. Для важного проекта любую предложенную моделью правку сначала просмотрите и проверьте тестами. s1 s3
Источники
- JetBrains: Mellum2.1-12B-A2.5B-Thinking, закреплённая карточка. Получено 11.10.2026.
- Hugging Face API: дата создания пакета mlx-community. Получено 11.10.2026.
- Imad: исследование Mellum 2.1 на Apple Silicon, commit 5ef1fd9. Получено 11.10.2026.
- MLX 6-bit: зафиксированные conversion.json и validation.json. Получено 11.10.2026.
- MLX 6-bit: условия Apache 2.0 и NOTICE. Получено 11.10.2026.
- Imad: условия и ограничения измерений Mellum MLX. Получено 11.10.2026.