Clef-Omni на Mac: версии MLX в 4 и 8 бит для локальных решений

Что именно делает Clef-Omni?

Представьте, что у вас есть запись обращения клиента. Вместо просьбы «перескажи всё» вы задаёте конкретные вопросы: «В обращении упоминается сбой?», «Кому его передать: поддержке или оплате?». Clef-Omni оценивает предложенные ответы и возвращает вероятности для каждого. Точно так же ей можно передать изображение, аудиозапись или видео; решение остаётся ограниченным вариантами, которые задал человек. Основа модели — Qwen3-Omni-30B-A3B-Instruct, дополненная отдельным блоком для оценки вариантов. s1 s4

«30B-A3B» обозначает модель с несколькими группами внутренних вычислений: на один фрагмент входа задействуется лишь часть параметров. Это не обещание, что ей хватит 3 ГБ памяти. s2

Что теперь доступно на Mac?

Сообщество опубликовало на Hugging Face репозитории mlx-community/clef-omni-4bit и mlx-community/clef-omni-8bit. MLX — программа и формат вычислений для моделей на Apple Silicon; 4-битная версия уменьшает объём скачиваемых весов по сравнению с 8-битной, но может сильнее менять численные оценки. У обеих версий лежат модельные файлы, отдельный файл блока решений и авторский загрузчик clef_mlx.py: индекс весов указывает на четыре шарда в 4-битном пакете и семь в 8-битном; все эти файлы присутствуют в соответствующих репозиториях. s2 s3

Для первого знакомства авторы предлагают 4-битный пакет: примерно 19,8 ГБ для загрузки и Mac с 32 ГБ объединённой памяти. Для 8-битного они указывают около 35 ГБ и Mac с 64 ГБ. Это требования и замеры авторов конверсии, а не результаты испытания Modelium: показатели получены на M5 Max со 128 ГБ памяти, медиана трёх прогонов; на другом Mac скорость и запас памяти могут отличаться. Размер файла сам по себе не является расчётом нужной оперативной памяти. s2 s3

Как понять, подходит ли вам эта новость?

Если у вас совместимый Mac и задача состоит в выборе метки по тексту, фото, записи или ролику, откройте карточку 4-битной версии: авторы показывают там один путь через Python, mlx-vlm версии 0.7.6 и входящий в репозиторий загрузчик. В примере с сообщением «заказы не проходят из-за ошибки оплаты» вы можете предложить два отдела — платежи и техническую поддержку — и проверить, как меняются оценки. Редакция не запускала модель и не подтверждала этот результат на своём компьютере. Сам автор описывает clef_mlx.py как специальный код, который следует просмотреть перед исполнением. s2 s5

Обычное окно чата LM Studio или вызов генерации текста в mlx-vlm не используют блок решений и не заменяют этот путь. Для речи в ответ модель тоже не предназначена: соответствующие выходные веса из MLX-пакетов удалены. Не отправляйте конфиденциальные файлы по ссылке на внешний адрес, если нужна строго локальная обработка: вместо URL используйте локальный файл в примере автора. s2

Что остаётся непроверенным?

Авторы сравнили конверсию с исходной реализацией на маленьком наборе из 10 записей и 23 вопросов: ведущий вариант совпал во всех 23 случаях для обоих пакетов, но численные вероятности различались. Это их ограниченная проверка совпадения, а не доказательство качества на ваших документах или одинакового поведения на всех задачах. В опубликованных результатах Cloudflare по отдельным тестам Clef-Omni не всегда опережает Clef и Clef-Flash; «лучшей для всего» её называть нельзя. s1 s2

Исходный Clef-Omni и обе конверсии опубликованы авторами с меткой и файлом лицензии Apache-2.0. Это не делает каждую программу для запуска или каждый сопутствующий датасет автоматически свободным от отдельных условий. s2 s3 s4

Следующий шаг: если нужен именно выбор из вариантов на Mac, изучите карточку 4-битной версии и её раздел Usage; если нужен обычный разговор с моделью, не используйте Clef-Omni как чат-бота. Сравнение со старшими текстово-визуальными моделями семейства — в материале о Clef на Mac.

Источники и ревизии проверены 10 октября 2026 года. s1 s2 s3 s4 s5