MLX 0.32.3: ядра gated delta для Metal и исправление сохранения весов
На странице · 3 разделов
Apple выпустила MLX 0.32.3 29 сентября 2026 года. В стабильный релиз вошли Metal-ядра для операции gated delta и исправление ошибки, из-за которой сохранение лениво загруженных массивов поверх исходного файла могло повредить данные. Наличие ядра в MLX само по себе не доказывает ускорение любой модели в mlx-lm: интеграцию и конкретный путь исполнения нужно проверять отдельно.
MLX 0.32.3: что изменилось для локальных моделей
29 сентября 2026 года опубликован стабильный релиз MLX 0.32.3; пакет с этой версией доступен в PyPI. Это обновление библиотеки вычислений, не выпуск новых весов модели. Оно интересно тем, кто запускает или разрабатывает локальный инференс на базе MLX, прежде всего на Apple Silicon. s1 s2
Gated delta: ядро есть, автоматического ускорения не обещают
В состав 0.32.3 вошли Metal-ядра для операции gated delta: последовательный путь, вариант на simdgroup и блочный путь NAX. В релиз включены тесты и микробенчмарк. Автор PR сообщил о собственной проверке на трёх моделях Qwen3.5 и замерах на M1 Max и M5 Max; это измерения автора, а не независимый тест Modelium. В том же PR интеграция в mlx-lm перечислена как дальнейшая работа. В проверенном исходнике mlx-lm операция gated delta реализована собственным Metal-кодом и не вызывает новую mx.fast.gated_delta_update. Поэтому нельзя превращать сам факт появления ядра в обещание ускорения готовой модели после одного pip install. s1 s3 s4
Практический вывод: разработчик собственного MLX-стека может исследовать новый примитив; пользователь mlx-lm должен отдельно проверить версию mlx-lm, поддержку нужной архитектуры, маршрут вызова и скорость на своих запросах. Поддержка модели и права на её веса определяются её собственным репозиторием и лицензией, а не лицензией MLX. s3 s4 s5
Исправление, важное для сохранности файлов
Релиз также включает исправление save и save_safetensors: прежде запись в тот же путь могла обнулить исходный файл до вычисления лениво загруженных массивов. Исправление сначала материализует данные и лишь затем открывает файл для записи. Это практично при переконвертации и сохранении локальных весов, но не заменяет резервную копию и сравнение выходного файла. s1 s6
Есть и другие изменения низкоуровневого ядра, включая корректировки quantized matmul, обработку GGUF-размерностей и потребление памяти для Metal SDPA. Из списка изменений нельзя вывести универсальный прирост скорости или требования к RAM/VRAM для конкретной модели. s1
Как действовать
На поддерживаемой системе с отдельным окружением можно закрепить библиотеку командой python3 -m pip install 'mlx==0.32.3', затем проверить установленную версию через python3 -m pip show mlx. Для рабочего сервиса сперва сверяйте совместимость зависимого приложения и проверяйте результат на собственной модели и входных данных. Исходники MLX распространяются по MIT; это не лицензия весов Qwen или другой модели. s2 s5
Отдельное ограничение: в официальном трекере остаётся открытое сообщение о неудачной сборке gated-delta Metal-ядра из исходников с Xcode 27/macOS 27 SDK. Это сообщение пользователя с указанной конфигурацией, а не доказательство, что готовые wheel-пакеты или другие версии Xcode не работают. s7
Источники
- MLX v0.32.3: release notes. Получено 01.10.2026.
- PyPI: mlx 0.32.3. Получено 01.10.2026.
- MLX pull request 4020: Metal kernels for gated delta. Получено 01.10.2026.
- mlx-lm: реализация gated delta в закреплённой ревизии caed194. Получено 01.10.2026.
- MLX LICENSE на теге v0.32.3. Получено 01.10.2026.
- MLX pull request 4434: fix saving lazily loaded file. Получено 01.10.2026.
- MLX issue 4533: Xcode 27 source build. Получено 01.10.2026.