Unsloth выпустила GGUF-версии Qwen-Image-2.1-Turbo: что выбрать для локальной генерации

Что именно можно скачать?

В закреплённой версии репозитория Unsloth есть 12 файлов GGUF: исходный F16 и варианты с уменьшенной точностью чисел от Q2 до Q8. Например, файл Q4_K_M занимает около 4,20 ГБ, Q8_0 — около 7,64 ГБ. Это объём файла на диске, а не минимальный объём оперативной памяти или видеопамяти. Список файлов и размеры сверены по репозиторию, датировка — по его истории; саму модель Modelium не запускал. s1 s2 s3

Выбирая один GGUF-файл, не забудьте про отдельные текстовый энкодер (он превращает описание в данные для модели) и VAE (он собирает готовое изображение). Карточка Unsloth указывает конкретные файлы этих компонентов и варианты запуска через Unsloth Desktop, ComfyUI с дополнением ComfyUI-GGUF или stable-diffusion.cpp. Но совместимость этих комбинаций на домашнем компьютере мы не проверяли; это новость о доступных файлах, не проверенный редакцией рецепт установки. s1

Как выбрать без обещаний качества?

По сравнению самой Unsloth, при одинаковых запросах, случайных настройках генерации и восьми шагах вариант Q4_K_M получил LPIPS 0,153, а Q8_0 — 0,036 по отношению к исходному bf16-блоку: в этой метрике меньшее значение означает большее сходство изображений. Авторы использовали восемь запросов с двумя начальными настройками каждый и отдельно ещё восемь запросов для проверки вне набора настройки квантизации. Это измерение сходства с исходной моделью, а не оценка того, понравится ли человеку картинка или правильно ли написан текст на ней. Независимых замеров Modelium не проводил. s1

Для простого ориентира: если попросить нарисовать афишу с короткой надписью, сравните читаемость букв и детали сами, а не полагайтесь на число LPIPS. Unsloth рекомендует Q4_K_M как компромисс по своему тесту; Q8_0 ближе к исходному варианту, но требует большего файла. Это рекомендация авторов, не подтверждённые редакцией требования к железу. s1 s2

Что ещё нужно учитывать?

Qwen-Image-2.1-Turbo рассчитана на восемь шагов с определённой последовательностью настроек: оригинальный model_index.json содержит её значения. Просто заменить обычную модель на GGUF-файл без соответствующих компонентов и настроек — не равнозначный путь. Наличие готового файла не обещает, что любая установленная версия графической программы распознает его без дополнения. s1 s4

Исходная модель распространяется по Qwen Research License: разрешены некоммерческие исследования и оценка, коммерческое применение требует отдельной лицензии. Карточка Unsloth ссылается на условия исходной модели; открытая загрузка GGUF не означает свободу коммерческого использования. s1 s5

Следующий шаг: если это первый опыт с Turbo, сначала прочитайте обзор официальной версии, затем проверьте по карточке GGUF Unsloth, поддерживает ли выбранная программа её компоненты и восьмишаговое расписание. Инструкции сверены по документации на 11 октября 2026 года; результат на реальном компьютере редакцией не воспроизведён. s1 s2