Перейти к содержанию
modelium.
Начать с задачи
←
Абстрактная композиция: бумажные слои, складки и свет в тёплых коричневых тонах.
Новость

MiMo-V2.6: Xiaomi открыла Pro, Flash и 9B Distill, ggml-org выпустила GGUF

На странице · 4 разделов

21 сентября 2026 года Xiaomi MiMo выложила веса MiMo-V2.6-Pro-RL, Flash-RL и Distill-Qwen-9B. Первые две модели — крупные мультимодальные MoE, а 9B-чекпойнт предназначен для агентных задач. На следующий день ggml-org опубликовала GGUF-конверсию Flash с MXFP4 и Q2_K для llama.cpp. Это разные маршруты локального запуска, но карточки не устанавливают минимальные требования к памяти или качество квантования на ваших задачах.

Что произошло

21 сентября 2026 года Xiaomi MiMo опубликовала три репозитория с весами: MiMo-V2.6-Flash-RL, MiMo-V2.6-Pro-RL и MiMo-V2.6-Distill-Qwen-9B. По карточкам разработчика, Flash — sparse-MoE с 309 млрд параметров всего и 15 млрд активных, Pro — с 1,02 трлн всего и 42 млрд активных. Обе принимают текст, изображения, видео и аудио; заявленная длина контекста — до миллиона токенов. Публичные репозитории доступны без заявки на доступ. Это описание возможностей, а не обещание запуска на одной видеокарте. s1 s2 s3

Distill-Qwen-9B — отдельный SFT-чекпойнт Xiaomi на основе Qwen3.5-9B, дообученный на сгенерированных MiMo данных для программирования и агентных сценариев. Это не уменьшенная квантизация Flash или Pro. В карточке приведены авторские, а не независимо воспроизведённые результаты на SWE Verified, Terminal Bench 2.1 и других тестах; внутренние наборы в таблице отмечены отдельно. s3

22 сентября ggml-org выпустила автоматическую GGUF-конверсию Flash-RL. Доступны варианты MXFP4 и Q2_K, файлы MTP для speculative decoding и проектор Q8_0/BF16 для визуального и аудиоввода. GGUF сделала ggml-org, а не Xiaomi; карточка предлагает llama serve -hf ggml-org/MiMo-V2.6-Flash-RL-GGUF. s4 s5

Как выбрать маршрут локального запуска

  • 9B для эксперимента с агентом. Xiaomi приводит команду sglang serve --model-path XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B --reasoning-parser mimo. Нужна свежая сборка SGLang с поддержкой Qwen3.5; карточка не указывает минимальную RAM/VRAM и не обещает поддержку этого чекпойнта в Ollama или llama.cpp. s3
  • Flash и Pro через серверный стек. Официальные карточки содержат примеры SGLang и vLLM с --trust-remote-code. Для Flash пример vLLM использует tensor parallel 4, для Pro — 8; это конфигурации из документации, а не доказательство минимально необходимого числа GPU. При применении trust_remote_code стоит закреплять и проверять исполняемый код исходного репозитория. s1 s2
  • Flash через GGUF. Конверсия ggml-org даёт путь через llama.cpp и выбор MXFP4/Q2_K; проектор и MTP — отдельные файлы. Суммарный размер двух основных GGUF-шардов составляет около 167,37 GB для MXFP4 и 125,72 GB для Q2_K, без дополнительных файлов. Это объём загрузки на диске, не требование к оперативной или видеопамяти. Q2_K оставляет expert down projections в MXFP4; по карточке imatrix-калибровка пока не применялась. s4 s5

Есть и более узкий практический пример: Diffbot опубликовала открытый рецепт для двух RTX PRO 6000 Blackwell с vLLM, FP8 KV-cache, W4A8-FP8 MoE и собственными патчами/ядрами; веса Xiaomi в этом репозитории не дублируются. Авторы заявляют ускорение decode в 2,1 раза и prefill в 1,6 раза по сравнению со штатным образом на том же оборудовании, в описанной нагрузке примерно с 46 тысячами токенов входа и соотношением prefill:decode 61:1. В репозитории есть скрипты и сырые логи, но это авторские измерения, не тест Modelium и не переносимая гарантия для другой машины или запроса. s6

Лицензия и ограничения

Карточки трёх репозиториев Xiaomi и GGUF-пакета помечены MIT; отдельного файла LICENSE в закреплённых деревьях Xiaomi при проверке не обнаружено. Исходный Qwen3.5-9B, от которого дообучен Distill, помечен Apache-2.0. Для коммерческого проекта следует сохранить конкретные ревизии и проверить применимые условия каждого компонента, включая исходную модель и сторонний runtime: открытые веса и открытый код не являются одним и тем же. s1 s2 s3 s4 s7

Xiaomi публикует собственные сравнительные оценки Pro, Flash и Distill, но Modelium их не воспроизводил. GGUF-карточка показывает маршрут запуска, а не независимую проверку качества MXFP4/Q2_K; для Q2_K особенно важно сравнить ответы на своих задачах. Из размера файлов нельзя вывести минимальную конфигурацию памяти. Если нужна доступная отправная точка, начните с 9B и замерьте память, скорость и качество на собственной нагрузке; для Flash зафиксируйте выбранный GGUF-вариант, дополнительные projector/MTP-файлы и версию llama.cpp. s1 s3 s4 s5

Первоисточники

Источники