Occamy-1.0 получила MLX MXFP4: текстовый пакет, проверка Metal ещё впереди

Что выпустили

2 октября 2026 года Accio Lab опубликовала Accio-Lab/occamy-1.0-MLX-mxfp4, закреплённая ревизия 4366fb2d80574254e77b677a80fa92215fb63a85. Это квантизация существующей Occamy-1.0 для MLX/mlx-lm, а не новая версия обученной модели. Исходный чекпойнт основан на Qwen3.6-35B-A3B, авторы описывают его как MoE с 35 млрд параметров всего и примерно 3 млрд активных. В исходном репозитории есть зрительный компонент, в этой MLX-конверсии поддержан только текст. s1 s2 s3

В полном дереве закреплённой ревизии находятся все четыре файла model-00001-of-00004.safetensors — model-00004-of-00004.safetensors, индекс весов ссылается на каждый из четырёх. Общий размер файлов — 18 426 513 876 байт, или 18,43 ГБ в десятичном счёте; это объём пакета на диске, не минимальное требование к RAM/VRAM или unified memory. Конфигурация указывает нативную 4-битную MXFP4-квантизацию с группой 32 и отдельные 8-битные параметры маршрутизатора. На странице исходной модели перечислены и другие MLX-варианты, однако приведённые далее проверки относятся именно к MXFP4. s1 s2 s4

Что проверено, а что нет

Авторы сообщают, что MXFP4-пакет загружается штатным mlx-lm, проходит 8 из 8 собственных коротких сценариев генерации и 2 из 2 проверок /v1/chat/completions. Проверка выполнена на Linux с MLX CUDA 12 и NVIDIA B200, а не на Mac. Это тестовая конфигурация автора, не заявка на минимальное оборудование. Запуск на Apple Silicon/Metal, производительность, длинный контекст, tool calling и обработка изображений для этого экспорта не подтверждены. Мы не скачивали веса и не воспроизводили генерацию. s2 s4

На небольшом авторском сравнении на одной и той же подвыборке WikiText (8192 токена, 16 частей контекста по 512, 4096 оцениваемых токенов) perplexity составила 8,3074 для BF16 и 8,8886 для MXFP4. Меньшее значение лучше; эта пара показывает ухудшение на данном узком тесте, но не является полным бенчмарком и не измеряет скорость. Нельзя переносить её на другие форматы или считать независимой оценкой качества. s2 s4

Практический выбор

Если нужен текстовый API для пилота на поддерживаемой авторами среде MLX, сначала проверьте закреплённую ревизию модели, версии mlx==0.32.2, mlx-lm==0.31.3, transformers==5.8.1 и собственные запросы через локальный сервер. Команды в карточке — рецепт авторов, а не тест Modelium. Для Mac это пока кандидат: перед рабочим использованием дождитесь проверки Metal и самостоятельно замерьте скорость и расход памяти на своей конфигурации. Для зрительных задач этот MLX-пакет не подходит; рассматривайте исходную мультимодальную модель или совместимый GGUF с отдельным проектором, предварительно проверяя поддержку вашей сборки. s2 s3

В репозитории квантизации и исходной модели опубликован текст Apache License 2.0, разрешающий коммерческое использование при соблюдении условий лицензии. Открытый доступ к весам не равен доказанной совместимости с любой платформой; также он не превращает авторские измерения в результаты Modelium. s2 s3