MiniCPM-V 4.7 REAP-19B для Mac: меньше файлов, потеря на тесте знаний
На странице · 2 разделов
13 октября вышла уменьшенная OptiQ-версия MiniCPM-V 4.7 для Mac с Apple Silicon: языковые веса около 13,5 ГБ вместо 24,4 ГБ, плюс отдельная зрительная часть. Авторские текстовые тесты показывают заметную потерю на вопросах о знаниях. Размер файлов не равен требованию к памяти; Modelium модель не запускал.
13 октября 2026 года появилась отдельная версия MiniCPM-V 4.7 для Mac: автор конверсии удалил половину «экспертов» из языковой части модели. Эксперты — части модели, которые включаются по запросу. В результате файлы языковой части занимают около 13,5 ГБ вместо 24,4 ГБ у исходной OptiQ-конверсии. Для фотографий нужен ещё отдельный файл обработки изображений около 1,1 ГБ; это размеры загрузки, не требования к оперативной памяти. s1 s2
Кому пригодится уменьшенная версия
Если вы рассматриваете распознавание текста на фотографии или вопросы по картинке на компьютере Apple Silicon, теперь есть вариант той же MiniCPM-V 4.7 с меньшим объёмом файлов. Автор показывает короткий пример: модель прочитала надпись «OPTIQ 42» на изображении. Это демонстрация одного примера, а не независимая проверка качества на фотографиях пользователя. s1
Выбор здесь не просто между двумя размерами скачивания. По опубликованным автором оценкам текстовых задач, после удаления экспертов результат MMLU на его выборке упал с 86,2% до 63,8%. MMLU — набор вопросов на знания. Другие авторские оценки меняются по-разному; из этих чисел нельзя сделать вывод, что модель одинаково хорошо читает любые изображения. Редакция Modelium не запускала эти веса и не воспроизводила замеры. s1 s2
Что доступно и как это связано с обычной версией
Репозиторий mlx-community/MiniCPM-V-4.7-35B-A3B-OptiQ-4bit-REAP-19B содержит четыре файла весов языковой модели и отдельный файл зрительной части; все они перечислены в индексе и списке файлов текущей ревизии. Исходная OptiQ-версия содержит пять файлов весов и тот же тип зрительного дополнения. Конфигурация уменьшенной модели задаёт 128 экспертов на слой вместо 256; одновременно работают восемь экспертов, как и прежде. s1 s2
Для запуска автор указывает Mac с процессором Apple Silicon и программу OptiQ версии 0.5.25 или новее. Пакет 0.5.25 опубликован в PyPI 13 октября, а документация OptiQ описывает поддержку этих вариантов. Это не означает, что модель запустится на любом Mac: сопоставимого независимого замера памяти, скорости и качества именно этого варианта у нас нет. Это новость о доступности весов, не проверенный нами домашний рецепт. s1 s3 s4
Карточки исходной MiniCPM-V 4.7 и этой конверсии отмечены Apache-2.0; исходный репозиторий кода также содержит Apache-2.0 LICENSE. Открытые веса и лицензия кода — разные вещи, поэтому перед использованием проверьте условия каждого компонента. s1 s5 s6
Следующий шаг: сравните эту уменьшенную версию с обычной MLX-конверсией MiniCPM-V 4.7 по своей задаче; для вопросов на знания опубликованные автором результаты склоняют к более крупному варианту, если он подходит вашему компьютеру. s1 s2
Источники
- mlx-community: MiniCPM-V 4.7 35B OptiQ REAP-19B — pinned model card and weights — README, API siblings, pinned config and weight index; card scores are author claims. Получено 13.10.2026.
- mlx-community: MiniCPM-V 4.7 35B OptiQ — parent card and weights — Pinned parent model, files and author text eval. Получено 13.10.2026.
- mlx-optiq 0.5.25 on PyPI — Package files and upload timestamp; compatible source modules checked in wheel metadata. Получено 13.10.2026.
- OptiQ: MiniCPM-V 4.7 on Apple Silicon — Author-maintained runtime docs; no Modelium inference test. Получено 13.10.2026.
- OpenBMB MiniCPM-V 4.7 35B-A3B pinned model card — Apache-2.0 card; distinguish original weights from derivative. Получено 13.10.2026.
- OpenBMB/MiniCPM-V code LICENSE — Current repository Apache-2.0 file; older 20250527 release reviewed. Получено 13.10.2026.