Muse Glimmer 30B получил GGUF для локального запуска

Что именно можно скачать

В закреплённой ревизии ggml-org есть три самостоятельных варианта основного файла: BF16, Q8_0 и Q4_K_M. Последний занимает 19 246 214 464 байта на диске; это не минимальная оперативная или видеопамять для запуска. Отдельно выложены два файла mmproj для обработки изображений и три варианта DFlash — вспомогательной модели, предлагающей следующие фрагменты ответа для ускорения генерации. Для обычного текстового знакомства не нужно скачивать все варианты сразу; для работы с изображениями нужен подходящий дополнительный файл. s1

В карточке ggml-org указан исходный чекпойнт Meta с точной ревизией a4e59da5… и отдельно ревизия вспомогательной модели e8192f3a…. Карточка предлагает llama serve -hf ggml-org/Muse-Glimmer-30B-GGUF, но не уточняет, какой файл и дополнительные компоненты эта короткая команда выберет на конкретной машине. Поэтому не будем выдавать её за проверенный пошаговый рецепт для изображений или ускорения. s1

Зачем это обычному пользователю

Muse Glimmer принимает текст и изображения, а отвечает текстом. Её авторы позиционируют модель для задач помощника: разбирать документ или снимок экрана, планировать несколько действий, работать с инструментами. Наличие GGUF расширяет выбор программ для локального запуска; само по себе оно не означает, что ассистент уже подключён к вашим файлам, браузеру или другим действиям. Первый безопасный сценарий — задать вопрос без доступа к инструментам и сверить ответ с исходными данными. s2 s3

Следующий шаг: откройте карточку пакета ggml-org, выберите один вариант основного файла и проверьте документацию своей версии llama.cpp перед загрузкой больших весов. Поддержка архитектуры Muse Glimmer добавлена в llama.cpp раньше, но этот пакет опубликован только сейчас. Установку, работу с изображениями и производительность Modelium на своём оборудовании не воспроизводил. s1 s3

Что известно о правах и скорости

У исходного чекпойнта Meta и нового пакета указана лицензия Apache 2.0; в исходном репозитории есть также отдельная политика допустимого использования с запрещёнными сценариями. Открытый доступ к весам и лицензия не отменяют эти ограничения. До коммерческого применения изучите оба документа применительно к своей задаче. s1 s2 s4

В карточке Meta приведены авторские замеры модели с собственной 17-ГБ квантизацией и ускоряющей моделью на RTX 5090 и Mac M4/M5 Max. Они относятся к указанным автором настройкам и программам, не являются измерением свежего Q4_K_M GGUF от ggml-org или минимальными требованиями к вашему устройству. Независимой проверки этой конверсии у Modelium нет. s2

Источники проверены 8 октября 2026 года. Исходная модель — ревизия a4e59da52a7bc87ae7251dd5545c0dd437c44b68; конверсия — c286f180ef572621f5395b55da2d3e3d53d5972e. s1 s2