# MiMo-V2.6: Xiaomi открыла Pro, Flash и 9B Distill, ggml-org выпустила GGUF

Источник: https://modelium.tech/zhurnal/mimo-v2-6-pro-flash-distill-gguf/

21 сентября 2026 года Xiaomi MiMo выложила веса MiMo-V2.6-Pro-RL, Flash-RL и Distill-Qwen-9B. Первые две модели — крупные мультимодальные MoE, а 9B-чекпойнт предназначен для агентных задач. На следующий день ggml-org опубликовала GGUF-конверсию Flash с MXFP4 и Q2_K для llama.cpp. Это разные маршруты локального запуска, но карточки не устанавливают минимальные требования к памяти или качество квантования на ваших задачах.

## Что произошло

21 сентября 2026 года Xiaomi MiMo опубликовала три репозитория с весами: **MiMo-V2.6-Flash-RL**, **MiMo-V2.6-Pro-RL** и **MiMo-V2.6-Distill-Qwen-9B**. По карточкам разработчика, Flash — sparse-MoE с 309 млрд параметров всего и 15 млрд активных, Pro — с 1,02 трлн всего и 42 млрд активных. Обе принимают текст, изображения, видео и аудио; заявленная длина контекста — до миллиона токенов. Публичные репозитории доступны без заявки на доступ. Это описание возможностей, а не обещание запуска на одной видеокарте. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

Distill-Qwen-9B — отдельный SFT-чекпойнт Xiaomi на основе Qwen3.5-9B, дообученный на сгенерированных MiMo данных для программирования и агентных сценариев. Это не уменьшенная квантизация Flash или Pro. В карточке приведены авторские, а не независимо воспроизведённые результаты на SWE Verified, Terminal Bench 2.1 и других тестах; внутренние наборы в таблице отмечены отдельно. [s3](#src-s3)

22 сентября ggml-org выпустила автоматическую GGUF-конверсию Flash-RL. Доступны варианты **MXFP4** и **Q2_K**, файлы MTP для speculative decoding и проектор Q8_0/BF16 для визуального и аудиоввода. GGUF сделала ggml-org, а не Xiaomi; карточка предлагает `llama serve -hf ggml-org/MiMo-V2.6-Flash-RL-GGUF`. [s4](#src-s4) [s5](#src-s5)

## Как выбрать маршрут локального запуска

- **9B для эксперимента с агентом.** Xiaomi приводит команду `sglang serve --model-path XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B --reasoning-parser mimo`. Нужна свежая сборка SGLang с поддержкой Qwen3.5; карточка не указывает минимальную RAM/VRAM и не обещает поддержку этого чекпойнта в Ollama или llama.cpp. [s3](#src-s3)

- **Flash и Pro через серверный стек.** Официальные карточки содержат примеры SGLang и vLLM с `--trust-remote-code`. Для Flash пример vLLM использует tensor parallel 4, для Pro — 8; это конфигурации из документации, а не доказательство минимально необходимого числа GPU. При применении `trust_remote_code` стоит закреплять и проверять исполняемый код исходного репозитория. [s1](#src-s1) [s2](#src-s2)

- **Flash через GGUF.** Конверсия ggml-org даёт путь через llama.cpp и выбор MXFP4/Q2_K; проектор и MTP — отдельные файлы. Суммарный размер двух основных GGUF-шардов составляет около 167,37 GB для MXFP4 и 125,72 GB для Q2_K, без дополнительных файлов. Это объём загрузки на диске, **не** требование к оперативной или видеопамяти. Q2_K оставляет expert down projections в MXFP4; по карточке imatrix-калибровка пока не применялась. [s4](#src-s4) [s5](#src-s5)

Есть и более узкий практический пример: Diffbot опубликовала открытый рецепт для **двух RTX PRO 6000 Blackwell** с vLLM, FP8 KV-cache, W4A8-FP8 MoE и собственными патчами/ядрами; веса Xiaomi в этом репозитории **не** дублируются. Авторы заявляют ускорение decode в 2,1 раза и prefill в 1,6 раза по сравнению со штатным образом на том же оборудовании, в описанной нагрузке примерно с 46 тысячами токенов входа и соотношением prefill:decode 61:1. В репозитории есть скрипты и сырые логи, но это авторские измерения, не тест Modelium и не переносимая гарантия для другой машины или запроса. [s6](#src-s6)

## Лицензия и ограничения

Карточки трёх репозиториев Xiaomi и GGUF-пакета помечены **MIT**; отдельного файла `LICENSE` в закреплённых деревьях Xiaomi при проверке не обнаружено. Исходный Qwen3.5-9B, от которого дообучен Distill, помечен Apache-2.0. Для коммерческого проекта следует сохранить конкретные ревизии и проверить применимые условия каждого компонента, включая исходную модель и сторонний runtime: открытые веса и открытый код не являются одним и тем же. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s7](#src-s7)

Xiaomi публикует собственные сравнительные оценки Pro, Flash и Distill, но Modelium их не воспроизводил. GGUF-карточка показывает маршрут запуска, а не независимую проверку качества MXFP4/Q2_K; для Q2_K особенно важно сравнить ответы на своих задачах. Из размера файлов нельзя вывести минимальную конфигурацию памяти. Если нужна доступная отправная точка, начните с 9B и замерьте память, скорость и качество на собственной нагрузке; для Flash зафиксируйте выбранный GGUF-вариант, дополнительные projector/MTP-файлы и версию llama.cpp. [s1](#src-s1) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5)

## Первоисточники

- [MiMo-V2.6-Flash-RL, Xiaomi](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Flash-RL)

- [MiMo-V2.6-Pro-RL, Xiaomi](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Pro-RL)

- [MiMo-V2.6-Distill-Qwen-9B, Xiaomi](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B)

- [MiMo-V2.6-Flash-RL-GGUF, ggml-org](https://huggingface.co/ggml-org/MiMo-V2.6-Flash-RL-GGUF)

- [Рецепт запуска Diffbot](https://huggingface.co/diffbot/MiMo-V2.6-Flash-RL-FP8KV-W4A8-2x-RTX-PRO-6000)

## Источники

1. [Xiaomi MiMo: карточка MiMo-V2.6-Flash-RL, ревизия 5711b268](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Flash-RL/blob/5711b268169967567844e1e560e8a3966da959b1/README.md) — получено 2026-09-22
2. [Xiaomi MiMo: карточка MiMo-V2.6-Pro-RL, ревизия 73875d00](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Pro-RL/blob/73875d00b30a89ef8cc353a0b60b0e9f9561952d/README.md) — получено 2026-09-22
3. [Xiaomi MiMo: карточка MiMo-V2.6-Distill-Qwen-9B, ревизия 2367e865](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B/blob/2367e865d009c13ac81713a2878291d33ab28177/README.md) — получено 2026-09-22
4. [ggml-org: карточка GGUF-конверсии Flash-RL, ревизия 9bf2e45b](https://huggingface.co/ggml-org/MiMo-V2.6-Flash-RL-GGUF/blob/9bf2e45b30eb518326536a7f9703bc1bc9b49d06/README.md) — получено 2026-09-22
5. [ggml-org: дерево файлов GGUF-конверсии Flash-RL](https://huggingface.co/ggml-org/MiMo-V2.6-Flash-RL-GGUF/tree/9bf2e45b30eb518326536a7f9703bc1bc9b49d06) — получено 2026-09-22
6. [Diffbot: рецепт и условия замеров MiMo-V2.6-Flash-RL на двух RTX PRO 6000](https://huggingface.co/diffbot/MiMo-V2.6-Flash-RL-FP8KV-W4A8-2x-RTX-PRO-6000/blob/0c29889b2bdbe19ea4110871018b7f5dd1657820/README.md) — получено 2026-09-22
7. [Qwen: метаданные исходного чекпойнта Qwen3.5-9B](https://huggingface.co/Qwen/Qwen3.5-9B) — получено 2026-09-22