Перейти к содержанию
modelium.
Начать с задачи
←
Новость

MLX-VLM 0.7.4: DeepSeek V4.1, InternVL 3.5 и исправления для локального Mac

На странице · 4 разделов

Стабильный MLX-VLM 0.7.4 вышел 28 сентября 2026 года: в код добавлены архитектуры DeepSeek V4.1 и InternVL 3.5, поддержка текстовых вариантов Qwen3.5 MoE и LFM2-ColBERT. Исправлены аудиозапросы MiMo-V2.6 в сервере, потоковые tool calls и ряд ошибок обработки изображений. Это обновление движка для Apple Silicon, а не выпуск новых базовых весов; конкретный чекпойнт, его лицензию и достаточность памяти проверяйте отдельно. Поддержку DeepSeek автор PR помечает как WIP без опубликованных бенчмарков.

Что произошло

28 сентября 2026 года разработчики выпустили стабильную версию MLX-VLM 0.7.4; версия 0.7.4 в PyPI загружена в тот же день. Это Python-движок для локального запуска мультимодальных моделей через MLX на Mac, не новая модель или самостоятельный набор весов. s1 s2

В обновлении появились кодовые пути для DeepSeek V4.1 (визуальная и языковая части), InternVL 3.5, текстовых вариантов Qwen3.5 MoE, энкодера LFM2 и многовекторного LFM2-ColBERT. Наличие архитектуры в выпуске не означает, что любой одноимённый чекпойнт уже проверен или работает с одинаковым качеством. Сверяйте формат конкретного репозитория с тем, что поддерживает движок. s1 s3

Практический смысл

  • Если ваш локальный сервер MiMo-V2.6 возвращал HTTP 500 на аудиозапросах из-за MLX-потоков, в релиз вошло исправление оценки аудиотензора в потоке, где он был создан. Автор PR проверил исправление на своей конфигурации M3 Ultra, MLX 0.32.2 и сервере с MiMo-V2.6-Flash-RL; это авторская проверка, не испытание Modelium и не требование к железу. s1 s4
  • В серверных сценариях исправлены обработка потоковых вызовов инструментов, схем с boolean-полями и параметров Qwen3-Coder; ответы в потоке приведены ближе к непотоковому формату. Это повод перепроверить собственный клиент на тестовых вызовах после обновления, а не гарантия совместимости всех схем. s1 s3
  • Для генерации изображений добавлена пакетная обработка num_images у Qwen-Image, FLUX 2 и Ideogram 4; отдельно исправлены порядок чередующихся изображений в промпте и маска аудиокодировщика Gemma 4. s1

Как оценить обновление

Устанавливайте именно релизную версию в отдельное окружение на совместимом Mac: python -m pip install 'mlx-vlm==0.7.4'. PyPI указывает Python 3.10 или новее; для конкретных моделей проверьте их дополнительные зависимости и инструкции. Затем прогоните свой фиксированный набор промптов с прежней и новой версией: особенно аудио MiMo, несколько изображений и потоковые вызовы инструментов. Сохраняйте версии модели, MLX и шаблон запроса для сравнения. Это план проверки, не утверждение о проведённом нами тесте. s2 s5

Для DeepSeek V4.1 особая осторожность: сопровождающий PR прямо пишет WIP, benchmarks forthcoming. Автор указывает на отдельные MLX-веса, но скорость и корректность на вашем устройстве не подтверждены этим релизом. Не превращайте его тестовую конфигурацию или объём файлов в «минимум RAM». Рабочий процесс лучше начинать с поддерживаемого чекпойнта, лицензии и собственного теста, а не с универсальной команды для всей линейки. s6

Лицензия и ограничения

Код MLX-VLM в закреплённом теге распространяется по MIT; лицензия движка не переносится автоматически на веса DeepSeek, InternVL, Qwen или Liquid AI. Проверяйте условия каждого чекпойнта, включая ограничения коммерческого использования, отдельно. Результаты скорости из PR InternVL 3.5 — измерения автора на его M5 с 128 GB, а не независимый бенчмарк и тем более не минимальная конфигурация. s7 s8

Следующий шаг: если у вас уже работает MLX-VLM 0.7.3, обновляйте тестовое окружение до 0.7.4 и сравните собственные реальные аудио-, визуальные и tool-call-сценарии прежде, чем менять production-сервер.

Источники