# GLM-4.7-Flash в DASH-Q: два 2-битных GGUF для локального запуска

Источник: https://modelium.tech/zhurnal/glm47-flash-dashq-q2-gguf-local/

4 октября 2026 года автор DASH-Q загрузил два сторонних GGUF-пакета GLM-4.7-Flash: IQ2_XXS (11,23 ГБ) и Q2_K_XL (11,49 ГБ). Оба файла доступны в закреплённой ревизии Hugging Face. Карточка приводит авторские результаты perplexity, но не замеры скорости или независимые проверки качества; пример запуска указывает отсутствующий IQ2_M-файл, поэтому имя модели нужно брать из фактического списка файлов.

## Что именно появилось

4 октября 2026 года jkim96 загрузил две **сторонние квантизации существующей** GLM-4.7-Flash: `GLM-4.7-Flash-DASHQ-IQ2_XXS.gguf` (11 230 478 208 байт) и `GLM-4.7-Flash-DASHQ-Q2_K_XL.gguf` (11 494 719 360 байт). Полное дерево закреплённой ревизии `20a92d88e87c965b022ce4ae8d70fed72eec2898` содержит оба файла; история коммитов датирует их загрузку 4 октября. Это не новая базовая модель и не официальный релиз Z.ai. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

Исходная GLM-4.7-Flash — текстовая MoE-модель 30B-A3B. У исходной карточки и производного HF-репозитория указана лицензия MIT, однако в самом репозитории GGUF отдельного файла LICENSE нет; для условий использования следует сверяться с лицензией базовой модели. Исходный код инструмента DASH-Q распространяется отдельно под Apache-2.0: лицензия инструмента не заменяет лицензию весов. [s1](#src-s1) [s4](#src-s4) [s5](#src-s5)

## Как читать сравнение качества

Автор приводит `llama-perplexity` при контексте 2048: WikiText-2 test и C4 validation, 256 фрагментов по 2048 токенов. Меньшее значение perplexity лучше в рамках такой процедуры. Для IQ2_XXS указаны 9,99 на WikiText-2 и 14,43 на C4, для Q2_K_XL — 9,34 и 14,29. По **авторским** данным второй файл показывает несколько меньшую perplexity, хотя оба занимают примерно 11 ГБ на диске. Это не независимое сравнение ответов, русского языка, кодинга или скорости генерации. [s1](#src-s1) [s2](#src-s2)

В той же авторской таблице несоразмерные по размеру квантизации и сторонние рецепты: например, для IQ2_XXS у Unsloth указаны 9,51 на WikiText-2 и 20,37 на C4 при 10,51 ГБ; значение одной колонки не доказывает общее превосходство. Автор не публикует в карточке проверку одинакового окружения, разброс по запускам и end-to-end скорость. Перед заменой уже работающего чекпойнта проверьте свой набор задач. [s1](#src-s1)

## Практический выбор и запуск

Если нужен меньший **файл на диске**, возьмите IQ2_XXS; если ориентир — приведённая автором perplexity, Q2_K_XL выглядит немного предпочтительнее. Дисковый размер не равен необходимому объёму RAM или VRAM: фактическая память зависит от runtime, контекста, KV-кеша и распределения слоёв. Для менее агрессивной квантизации есть официальный пакет GGUF от ggml-org с Q4_K и Q8_0 — сравнение с ним полезнее строить на собственных запросах и конкретном устройстве. [s2](#src-s2) [s6](#src-s6)

В карточке DASH-Q пример `llama-cli` ошибочно называет `GLM-4.7-Flash-DASHQ-IQ2_M.gguf`: **такого файла в закреплённом манифесте нет**. После загрузки одного из реально опубликованных файлов укажите его точный путь, например в `llama-cli -m <путь-к-GLM-4.7-Flash-DASHQ-Q2_K_XL.gguf>`. Это обозначение пути, а не исполненный редакцией тест. Автор пишет, что пакеты используют стандартные типы тензоров llama.cpp, но Modelium не проверял загрузку, скорость или качество на локальном оборудовании. [s1](#src-s1) [s2](#src-s2)

**Вывод:** новая конверсия расширяет выбор компактных текстовых GGUF для GLM-4.7-Flash; её достоинство пока подтверждено лишь наличием файлов и описанными автором тестами perplexity. Начните с точного файла из закреплённой ревизии и сравните ответы на своих задачах с более крупным Q4_K, прежде чем делать вывод о пригодности для рабочего процесса. [s1](#src-s1) [s2](#src-s2) [s6](#src-s6)

## Источники

1. [jkim96: закреплённая карточка GLM-4.7-Flash DASH-Q GGUF](https://huggingface.co/jkim96/GLM-4.7-Flash-DASHQ-Q2-GGUF/blob/20a92d88e87c965b022ce4ae8d70fed72eec2898/README.md) — получено 2026-10-04
2. [Hugging Face: полный закреплённый манифест GLM-4.7-Flash DASH-Q](https://huggingface.co/jkim96/GLM-4.7-Flash-DASHQ-Q2-GGUF/tree/20a92d88e87c965b022ce4ae8d70fed72eec2898) — получено 2026-10-04
3. [Hugging Face: история загрузки GLM-4.7-Flash DASH-Q](https://huggingface.co/jkim96/GLM-4.7-Flash-DASHQ-Q2-GGUF/commits/main) — получено 2026-10-04
4. [Z.ai: исходная карточка GLM-4.7-Flash](https://huggingface.co/zai-org/GLM-4.7-Flash/tree/7dd20894a642a0aa287e9827cb1a1f7f91386b67) — получено 2026-10-04
5. [JaeminK/dashq: код инструмента и лицензия](https://github.com/JaeminK/dashq) — получено 2026-10-04
6. [ggml-org: официальный GGUF-пакет GLM-4.7-Flash](https://huggingface.co/ggml-org/GLM-4.7-Flash-GGUF/tree/7559e96b7e324ab405897dc2b91492b0f376ad4a) — получено 2026-10-04