# Clef-Omni на Mac: версии MLX в 4 и 8 бит для локальных решений

Источник: https://modelium.tech/zhurnal/clef-omni-mlx-4bit-8bit-mac-local-decisions/

Для Clef-Omni появились 4- и 8-битные пакеты MLX: модель на Mac оценивает заданные варианты ответа по тексту, фото, аудио и видео. Это не чат-бот. Авторы рекомендуют от 32 ГБ памяти для 4-битной версии; редакция не проверяла запуск на своём компьютере.

Cloudflare выпустила Clef-Omni 9 октября, а сообщество MLX в тот же день подготовило две версии для Mac с чипом Apple: 4-битную и 8-битную. Теперь можно локально разбирать не только текст и изображения, но и аудио или видео со звуком и получать выбор из заранее заданных вариантов. Это **не чат-бот**: свободный ответ текстом модель не пишет. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Что именно делает Clef-Omni?

Представьте, что у вас есть запись обращения клиента. Вместо просьбы «перескажи всё» вы задаёте конкретные вопросы: «В обращении упоминается сбой?», «Кому его передать: поддержке или оплате?». Clef-Omni оценивает предложенные ответы и возвращает вероятности для каждого. Точно так же ей можно передать изображение, аудиозапись или видео; решение остаётся ограниченным вариантами, которые задал человек. Основа модели — Qwen3-Omni-30B-A3B-Instruct, дополненная отдельным блоком для оценки вариантов. [s1](#src-s1) [s4](#src-s4)

«30B-A3B» обозначает модель с несколькими группами внутренних вычислений: на один фрагмент входа задействуется лишь часть параметров. Это не обещание, что ей хватит 3 ГБ памяти. [s2](#src-s2)

## Что теперь доступно на Mac?

Сообщество опубликовало на Hugging Face репозитории `mlx-community/clef-omni-4bit` и `mlx-community/clef-omni-8bit`. MLX — программа и формат вычислений для моделей на Apple Silicon; 4-битная версия уменьшает объём скачиваемых весов по сравнению с 8-битной, но может сильнее менять численные оценки. У обеих версий лежат модельные файлы, отдельный файл блока решений и авторский загрузчик `clef_mlx.py`: индекс весов указывает на четыре шарда в 4-битном пакете и семь в 8-битном; все эти файлы присутствуют в соответствующих репозиториях. [s2](#src-s2) [s3](#src-s3)

Для первого знакомства авторы предлагают 4-битный пакет: примерно 19,8 ГБ для загрузки и Mac с 32 ГБ объединённой памяти. Для 8-битного они указывают около 35 ГБ и Mac с 64 ГБ. **Это требования и замеры авторов конверсии, а не результаты испытания Modelium:** показатели получены на M5 Max со 128 ГБ памяти, медиана трёх прогонов; на другом Mac скорость и запас памяти могут отличаться. Размер файла сам по себе не является расчётом нужной оперативной памяти. [s2](#src-s2) [s3](#src-s3)

## Как понять, подходит ли вам эта новость?

Если у вас совместимый Mac и задача состоит в выборе метки по тексту, фото, записи или ролику, откройте карточку 4-битной версии: авторы показывают там один путь через Python, `mlx-vlm` версии 0.7.6 и входящий в репозиторий загрузчик. В примере с сообщением «заказы не проходят из-за ошибки оплаты» вы можете предложить два отдела — платежи и техническую поддержку — и проверить, как меняются оценки. **Редакция не запускала модель и не подтверждала этот результат на своём компьютере.** Сам автор описывает `clef_mlx.py` как специальный код, который следует просмотреть перед исполнением. [s2](#src-s2) [s5](#src-s5)

Обычное окно чата LM Studio или вызов генерации текста в `mlx-vlm` не используют блок решений и не заменяют этот путь. Для речи в ответ модель тоже не предназначена: соответствующие выходные веса из MLX-пакетов удалены. Не отправляйте конфиденциальные файлы по ссылке на внешний адрес, если нужна строго локальная обработка: вместо URL используйте локальный файл в примере автора. [s2](#src-s2)

## Что остаётся непроверенным?

Авторы сравнили конверсию с исходной реализацией на маленьком наборе из 10 записей и 23 вопросов: ведущий вариант совпал во всех 23 случаях для обоих пакетов, но численные вероятности различались. Это **их ограниченная проверка совпадения**, а не доказательство качества на ваших документах или одинакового поведения на всех задачах. В опубликованных результатах Cloudflare по отдельным тестам Clef-Omni не всегда опережает Clef и Clef-Flash; «лучшей для всего» её называть нельзя. [s1](#src-s1) [s2](#src-s2)

Исходный Clef-Omni и обе конверсии опубликованы авторами с меткой и файлом лицензии Apache-2.0. Это не делает каждую программу для запуска или каждый сопутствующий датасет автоматически свободным от отдельных условий. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

**Следующий шаг:** если нужен именно выбор из вариантов на Mac, изучите [карточку 4-битной версии](https://huggingface.co/mlx-community/clef-omni-4bit) и её раздел Usage; если нужен обычный разговор с моделью, не используйте Clef-Omni как чат-бота. Сравнение со старшими текстово-визуальными моделями семейства — в [материале о Clef на Mac](/zhurnal/clef-27b-mlx-4bit-apple-silicon-decisions/).

Источники и ревизии проверены 10 октября 2026 года. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5)

## Источники

1. [Cloudflare: Clef, faster, cheaper, multimodal](https://blog.cloudflare.com/clef-faster-cheaper-multimodal/) — получено 2026-10-10
2. [mlx-community/clef-omni-4bit, ревизия 040a6e49](https://huggingface.co/mlx-community/clef-omni-4bit/tree/040a6e49d2e5d2f4f3ba68e70a6a0654833e23e1) — получено 2026-10-10
3. [mlx-community/clef-omni-8bit, ревизия f526fb8e](https://huggingface.co/mlx-community/clef-omni-8bit/tree/f526fb8e12e9ac6a120112d250066144b08eef3d) — получено 2026-10-10
4. [Cloudflare/clef-omni, ревизия 0db1cd26](https://huggingface.co/Cloudflare/clef-omni/tree/0db1cd2607d76a7bdb2a382f659e7b313079f84b) — получено 2026-10-10
5. [mlx-vlm 0.7.6: официальный релиз](https://github.com/Blaizzy/mlx-vlm/releases/tag/v0.7.6) — получено 2026-10-10