Mitsuba-ComfyUI-27B: тернарная GGUF-модель для промптов и изображений

Кому пригодится

Если в ComfyUI часто приходится вручную составлять промпты с ограничением длины, обязательными и запрещёнными словами или раскадровкой видео по секундам, Mitsuba можно использовать как локального помощника для подготовки текста и разбора референсных изображений. Затем этот текст проверяют и передают в свой генеративный workflow: никакой встроенной генерации картинок в весах Mitsuba нет. Автор сам предупреждает, что модель слаба в программировании и чтении длинных документов. s1 s4

Какие файлы доступны

В закреплённой ревизии лежат полные Mitsuba-ComfyUI-27B-v1.18-PQ2_0.gguf (7 319 078 304 байта), Mitsuba-ComfyUI-27B-v1.18-PTQ1_0.gguf (5 997 626 784 байта) и mmproj-Q8_0.gguf (629 246 976 байт) для зрения. Манифест и LFS-идентификаторы подтверждают наличие файлов; это размеры на диске, не минимальные требования к RAM/VRAM. Хеш mmproj совпадает с файлом в репозитории источника, указанного в авторском NOTICE. s3 s5 s8

Автор рекомендует PQ2_0 для зрительных задач: по его тесту он получил 87,8 балла из 100 за визуальные вопросы против 79,6 у PTQ1_0. Обе кодировки, по словам автора, используют одинаковые тернарные веса, но разные вычислительные ядра. Независимой проверки этих результатов Modelium не проводил. s1 s4

Запуск и проверка результата

Нужна ветка prism форка Prism ML для llama.cpp; публичная ветка существует, но совместимость конкретного окружения здесь не проверялась. Загрузите один из двух файлов модели и отдельный mmproj, затем сверяйте параметры запуска с карточкой и своим GPU/ОС. Для зрительных задач автор использовал llama-server с projector и отключённым offload projector; для его оценки также были заданы контекст 131 072, кэш Q4_0 и отключённое рассуждение. Это конфигурация авторского эксперимента, не минимальное железо и не обещание, что такая длина контекста заработает на любом устройстве. s1 s4 s6

Начните с простой проверки: подайте изображение с несколькими предметами и попросите их перечислить; затем задайте все обязательные условия промпта, проверьте итоговый текст до подачи в ComfyUI. В карточке советуют отключить thinking: при включённом режиме автор наблюдал пустые ответы после рассуждения в 19 из 49 зрительных запросов для PQ2_0. Это результаты автора, не тест редакции. s1

Что говорят тесты — и чего не доказывают

Автор сравнил четыре варианта на одном наборе вопросов: две упаковки Mitsuba, Ternary Bonsai PQ2_0 и исходный Qwen3.8-27B BF16. У Mitsuba PQ2_0 получилось 6 из 10 для промптов, одновременно соблюдающих набор условий, против 3 из 10 у BF16 и 2 из 10 у Bonsai; зато кодирование оценено в 4/100 против 66/100 у BF16. Вопросы целиком не опубликованы, а BF16 в тесте скорости исполнялся с частичным GPU-offload, поэтому эти результаты не являются независимым сравнением скорости или общей способности моделей. Проверяйте соответствие промпта своим требованиям на собственных примерах. s1 s4

Лицензия

Авторский пакет снабжён Apache License 2.0 и NOTICE: исходный Qwen3.8-27B также помечен Apache-2.0, а включённый projector атрибутирован отдельному Apache-2.0-пакету. Это открытые для скачивания веса с явно указанными условиями; наличие открытого кода форка — отдельный вопрос от лицензии самих весов. При распространении производной сохраняйте применимые уведомления об авторстве и лицензии. s1 s5 s7