NVIDIA Dory 1.0 4B: модель с настраиваемым числом проходов открыла веса
На странице · 3 разделов
NVIDIA выпустила Dory 1.0 4B: у модели можно менять число внутренних проходов, не скачивая другой набор весов. Есть GGUF и другие форматы, но поддержка в обычных выпусках llama.cpp и vLLM на 17 октября ещё не подтверждена: для запуска пока нужны экспериментальные ветки. Заявленный язык модели — английский.
NVIDIA выпустила 16 октября 2026 года модель Dory 1.0 4B. Её особенность: при ответе можно менять число внутренних проходов через одну и ту же часть модели. Это позволяет выбирать между меньшими затратами вычислений на каждое слово и более тщательной обработкой запроса, не загружая другие веса. NVIDIA уже выложила готовый GGUF-файл — формат весов для программ локального запуска, — а также BF16, MXFP8 и NVFP4-варианты. s1 s2
Что это меняет для владельца компьютера?
Если вы хотите экспериментировать с небольшой локальной языковой моделью, у Dory есть необычный переключатель: один, два или четыре прохода через повторно используемый блок. По объяснению NVIDIA, дополнительные проходы тратят больше вычислений на каждое создаваемое слово; это не обещание ускорения ответа или гарантированно лучшего результата на любой задаче. Авторские оценки качества в карточке модели получены в собственной процедуре NVIDIA, не являются тестом Modelium и не подтверждают качество русскоязычных ответов. Карточка указывает английский как поддерживаемый язык. s1
Можно ли запустить Dory в обычной программе?
На момент проверки 17 октября 2026 года — не готовым стабильным способом. Официальная карточка GGUF направляет к отдельной ветке поддержки llama.cpp. Соответствующий запрос на включение кода ещё открыт и не слит в основной проект. Для BF16 и других исходных форматов карточка указывает ветку vLLM; её запрос на включение также остаётся открытым. Поэтому файл весов уже доступен, но обычная установка последних стабильных версий этих программ не равна готовому запуску Dory. Команды из экспериментальных веток здесь намеренно не выдаются за простой домашний рецепт; Modelium модель не запускал. s1 s2 s3 s4
В репозитории NVIDIA лежит один Q5_K_M GGUF-файл; BF16, MXFP8 и NVFP4 опубликованы в отдельных репозиториях. Наличие файлов подтверждается списками в карточках Hugging Face, но размер загрузки не является требованием к оперативной или видеопамяти: проверенного минимума для домашнего компьютера мы не приводим. s1 s2
Какие условия использования и следующий шаг?
Карточки NVIDIA ссылаются на OpenMDW 1.1 для материалов модели и заявляют коммерческое и некоммерческое применение. Текст лицензии требует сохранять её копию и применимые уведомления при распространении; отдельно оговорены условия прекращения прав при некоторых исках и отсутствие ограничений лицензии на результаты работы модели. Это условия весов, а не утверждение, что любая программа запуска или связанный код имеет ту же лицензию. s1 s5
Пока поддержка в штатных выпусках не появилась, большинству читателей ничего устанавливать не нужно. Следующий шаг для желающих следить за практическим запуском — проверить состояние запроса на поддержку Dory в llama.cpp перед скачиванием GGUF, а не ориентироваться только на дату публикации весов. s3
Источники проверены 17 октября 2026 года; ревизия GGUF 0963c800, BF16 b366b87f.
Источники
- NVIDIA: Dory 1.0 4B GGUF, карточка и список файлов, ревизия 0963c800. Получено 17.10.2026.
- NVIDIA: Dory 1.0 4B BF16, карточка и список файлов, ревизия b366b87f. Получено 17.10.2026.
- ggml-org/llama.cpp: открытый запрос поддержки Dory #30306. Получено 17.10.2026.
- vllm-project/vllm: открытый запрос поддержки Dory #60149. Получено 17.10.2026.
- OpenMDW License Agreement, version 1.1. Получено 17.10.2026.