Перейти к содержанию
modelium.
Начать с задачи
←

MiniCPM-V 4.7 35B-A3B: появились 4-битные веса MLX

13 октября для MiniCPM-V 4.7 35B-A3B появились отдельные 4-битные веса MLX — формат для работы с моделью на компьютерах Mac с Apple Silicon. Это конверсия уже выпущенной модели для вопросов по изображениям, а не новая базовая версия. Автор проверил короткие ответы на RTX/CUDA, но не привёл запуска этого варианта на Mac или минимальных требований к памяти; Modelium модель не запускал.

Проверено 13 октября 2026 года. Если вы хотите задавать локальной модели вопросы о фотографиях на Mac, у MiniCPM-V 4.7 появился ещё один вариант: сообщество MLX выложило 4-битные веса 35B-A3B. Ранее вышедший маленький вариант 1B уже описан отдельно; теперь речь о другой, гораздо более крупной исходной модели. Конверсия появилась 13 октября, а поддержка обеих моделей вошла в код программы MLX-VLM в тот же день. s1 s2

Что стало доступно?

В репозитории mlx-community/MiniCPM-V-4.7-35B-A3B-4bit находятся пять файлов весов, настройки модели и индекс файлов. MLX — инструменты для работы с моделями на Mac с чипами Apple. «4-битная» означает более компактное хранение части чисел модели, но конверсия смешанная: некоторые части оставлены в исходной точности, а маршрутизаторы модели используют 8-битный формат. Пять файлов вместе занимают около 23,5 ГБ на диске. Это не требование к оперативной памяти Mac: подтверждённый минимум для такого запуска автор не указал. s1 s3

Понятная задача для такой модели — показать фотографию предмета и спросить: «Что видно на снимке? Если надпись не читается, не додумывай её». Результат нужно сверить с самим изображением: короткая проверка автора не доказывает точность распознавания мелких надписей или работу на ваших фотографиях. Оригинальная модель предназначена для изображений, нескольких кадров и видео; наличие этих задач у исходной модели не равняется проверке каждого режима данной MLX-сборки. s4 s5

Можно ли уже установить её на Mac?

Карточка конверсии приводит команду для MLX-VLM из ветки main и фотофайла. Поддержку MiniCPM-V 4.7 внесли в код MLX-VLM 13 октября, но последний опубликованный стабильный выпуск v0.7.6 старше этого изменения. Прежде чем загружать большой набор файлов, посмотрите на требования вашей версии программы и карточку весов. Это новость о доступности файлов, не проверенный Modelium домашний рецепт установки. s1 s2 s6

Важная оговорка: в validation.json автор сообщает об успешной загрузке и коротких ответах на текст и фотографию, однако тест записан с устройством cuda на RTX PRO 6000 Blackwell, не с Mac. Это контрольная проверка, а не независимый замер качества, скорости или минимального железа. Нельзя переносить конфигурацию этого теста на Mac и утверждать, что модель запустится на конкретном домашнем компьютере. Сама редакция веса не скачивала и инференс не воспроизводила. s5

Каковы права и следующий шаг?

Карточки конверсии и исходной модели помечают веса Apache-2.0; текущие документы OpenBMB отдельно называют Apache-2.0 для весов и кода MiniCPM-o/V и отмечают добровольную регистрацию. Код MLX-VLM опубликован под MIT. Открытые файлы весов, права на код и подтверждённый запуск на вашем устройстве — разные вопросы. s1 s4 s7 s8

Если выбираете вариант для Mac, начните с карточки именно 35B-A3B-конверсии и проверьте совместимость среды до скачивания. Для сравнения с меньшим вариантом посмотрите нашу статью о 1B MLX-конверсии; исходные возможности семейства описаны в новости OpenBMB.

Источники

  1. MLX Community: MiniCPM-V-4.7-35B-A3B-4bit, закреплённая карточка и файлы — Создан 13.10 09:28 UTC; все пять шардов в HF API и индексе.. Получено 13.10.2026.
  2. MLX-VLM PR #2499: поддержка MiniCPM-V 4.7 — Слит 13.10 в 08:58 UTC, commit e928101a.. Получено 13.10.2026.
  3. Параметры конверсии и размеры пяти файлов. Получено 13.10.2026.
  4. OpenBMB: оригинальная MiniCPM-V 4.7 35B-A3B. Получено 13.10.2026.
  5. MLX Community: авторские контрольные прогоны — Указаны CUDA/RTX, а не Mac; smoke tests, без оценки качества.. Получено 13.10.2026.
  6. MLX-VLM: стабильные релизы GitHub — Последний стабильный релиз на момент проверки v0.7.6 от 5 октября.. Получено 13.10.2026.
  7. OpenBMB: текущие условия для MiniCPM-o/V — Apache-2.0 для весов и кода; регистрация добровольна.. Получено 13.10.2026.
  8. MLX-VLM: лицензия MIT на закреплённом коммите. Получено 13.10.2026.