# Mellum 2.1 Thinking вышла в MLX 6-bit для Mac: стоит ли переходить?

Источник: https://modelium.tech/zhurnal/mellum-2-1-thinking-mlx-6bit-mac/

Для Mellum 2.1 Thinking появился отдельный 6-битный пакет для запуска через MLX-LM на Mac с Apple Silicon. Он помогает работать с кодом локально, но это не новая модель JetBrains: сторонний автор сжал её веса. По его замерам, на Mac с 16 ГБ более компактный вариант MXFP4 работает быстрее и меньше нагружает память; 6-bit стоит рассмотреть при большем её запасе.

8 октября JetBrains выпустила Mellum 2.1 Thinking для задач программирования. Теперь доступен и отдельный **6-битный MLX-пакет** для Mac с процессорами Apple Silicon: он позволяет держать модель и исходный код локально. Это сторонняя конверсия уже выпущенных весов, а не новая модель или официальный пакет JetBrains. Автор подготовил её 9 октября, а копия в сообществе MLX появилась 11 октября 2026 года. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Что нового в этом пакете?

MLX — платформа вычислений для Apple Silicon; модели с её помощью запускают, например, через программу MLX-LM. «6-bit» означает уменьшение точности хранения весов для экономии места; само по себе это не гарантия скорости или качества. В репозитории есть два файла весов, индекс и данные о преобразовании исходной ревизии JetBrains. По данным автора, суммарный размер весов — 9,87 ГБ **на диске**; это не требование к оперативной памяти. На странице пакета указана Apache 2.0, сохранены LICENSE и NOTICE; лицензия программы MLX-LM рассматривается отдельно. [s1](#src-s1) [s4](#src-s4) [s5](#src-s5)

## Имеет ли смысл ставить 6-bit на Mac с 16 ГБ?

Скорее нет, если цель — просто попробовать модель на домашнем Mac. Автор сравнил пакеты на MacBook Pro с M4 и 16 ГБ общей памяти: при обработке 16 тысяч токенов (небольших фрагментов текста) 6-bit выдавал 42,8 токена в секунду против 57,4 у стороннего MXFP4; максимум памяти, занятый MLX, составил 10,51 против 7,19 ГБ. При замере 6-bit использование swap (области диска, куда система временно переносит данные из памяти) выросло с 1,62 до 4,10 ГБ. Это **замеры автора в конкретных условиях**, не минимальные требования и не тест Modelium. Сам автор рекомендует MXFP4 для большинства Mac, а 6-bit — для машин с 24 ГБ памяти или больше, если важна близость к исходной версии. [s3](#src-s3) [s6](#src-s6)

На 164 задачах HumanEval+ (наборе заданий по написанию кода) автор получил 146 верных решений для 6-bit, 144 для MXFP4 и 153 для исходной модели без такого сжатия. Разница между двумя сжатыми вариантами, по авторскому парному анализу, статистически неубедительна. Эти задачи выполнялись **на RTX 5090**, а не на Mac; качество исправлений в вашем проекте из результата не следует. Встроенный `validation.json` проверяет структуру файлов и шаблон диалога, но прямо говорит, что сам по себе **не подтверждает запуск модели**. Отдельные авторские замеры и сценарии запуска опубликованы в исследовательском репозитории. [s3](#src-s3) [s4](#src-s4) [s6](#src-s6)

## Что делать сейчас?

Если вы только выбираете Mellum для локальной работы с кодом, начните с [нашей новости об исходной модели и официальных GGUF-файлах](/zhurnal/mellum-2-1-thinking-official-gguf-local-coding/) — там показан более простой путь через Ollama. Новый MLX-пакет предназначен тем, кто уже запускает модели через Python на Mac. На странице конверсии есть пример с `mlx-lm`; он сверен по документации автора, но редакция **не выполняла запуск**. Для важного проекта любую предложенную моделью правку сначала просмотрите и проверьте тестами. [s1](#src-s1) [s3](#src-s3)

## Источники

1. [JetBrains: Mellum2.1-12B-A2.5B-Thinking, закреплённая карточка](https://huggingface.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking/tree/92ddae9fc7665e9f801d141d2e5a6b2caf2460c4) — получено 2026-10-11
2. [Hugging Face API: дата создания пакета mlx-community](https://huggingface.co/api/models/mlx-community/Mellum2.1-12B-A2.5B-Thinking-6bit) — получено 2026-10-11
3. [Imad: исследование Mellum 2.1 на Apple Silicon, commit 5ef1fd9](https://github.com/imaddde867/mellum-mlx/tree/5ef1fd9674adf956c97b190a494592abb27652b4) — получено 2026-10-11
4. [MLX 6-bit: зафиксированные conversion.json и validation.json](https://huggingface.co/mlx-community/Mellum2.1-12B-A2.5B-Thinking-6bit/tree/c92bf616fabfc7ede8bca913383e6863a0d1afce) — получено 2026-10-11
5. [MLX 6-bit: условия Apache 2.0 и NOTICE](https://huggingface.co/mlx-community/Mellum2.1-12B-A2.5B-Thinking-6bit/blob/c92bf616fabfc7ede8bca913383e6863a0d1afce/NOTICE) — получено 2026-10-11
6. [Imad: условия и ограничения измерений Mellum MLX](https://github.com/imaddde867/mellum-mlx/blob/5ef1fd9674adf956c97b190a494592abb27652b4/docs/RESULTS.md) — получено 2026-10-11