Новость31.10.2026

DeepSeek-V4.1-Flash-1017 NVFP4: версия NVIDIA для Blackwell

На странице · 2 разделов

30 октября NVIDIA выпустила более компактные веса DeepSeek-V4.1-Flash-1017 для Blackwell. Обычный vLLM пока не загружает этот пакет: требуется отдельный патч, испытанный автором на серверных ускорителях. Домашнему пользователю менять уже работающую модель не нужно.

30 октября NVIDIA выложила отдельные веса DeepSeek-V4.1-Flash-1017 в формате NVFP4 — это способ хранить часть чисел модели компактнее. Файлы занимают меньше места, чем исходный пакет, но рассчитаны на Blackwell (новое семейство ускорителей NVIDIA) и пока требуют специальной версии серверной программы для запуска. Для домашнего компьютера это не готовое обновление; если вы уже пользуетесь обычной моделью DeepSeek, менять её сейчас не нужно. Уровень материала — инженерная новость, не инструкция по установке. s1 s2

Что именно появилось

NVIDIA преобразовала исходный DeepSeek-V4.1-Flash-1017, а не обучила новую модель: часть весов переведена в NVFP4, таблицы Engram — в другой компактный формат MXFP4, остальные части сохранили исходную точность. Engram здесь — внутренний блок поиска по данным модели; знать его устройство для чтения новости не требуется. У исходной версии 1017 уже есть отдельная статья на Modelium; новая публикация касается именно варианта NVIDIA. s1 s2

На Hugging Face опубликованы все 48 файлов весов, перечисленных в индексе. Фактические размеры этих файлов в API составляют около 429 ГБ суммарно против примерно 510 ГБ у исходного набора. Однако поле total_size в индексе нового пакета всё ещё показывает около 510 ГБ и расходится с размерами файлов: ориентируйтесь на сами файлы при оценке скачивания. Это объём на диске, не требование к оперативной или видеопамяти. s2 s3

Обе карточки весов и их файлы LICENSE указывают MIT — лицензию, допускающую в том числе коммерческое применение при сохранении уведомления об авторских правах; NVIDIA отдельно подтверждает коммерческое и некоммерческое использование пакета. Код инструмента NVIDIA Model Optimizer опубликован отдельно под Apache 2.0 — права на код не нужно путать с правами на веса. s1 s2 s3 s5

Можно ли запустить в обычном vLLM

Пока не рассчитывайте на стандартную установку. vLLM — серверная программа для выдачи ответов модели; для этого пакета ей необходима поддержка таблиц Engram в MXFP4 из отдельного запроса на изменение кода. На дату проверки, 31 октября, этот запрос открыт и не слит. В карточке NVIDIA описан запуск на изменённой сборке vLLM с четырьмя NVIDIA GB300 (серверными ускорителями); это конфигурация испытания автора, а не объявленный минимум железа. Другая серверная программа, SGLang, для этого пакета не проверена. s1 s4

NVIDIA приводит результаты на шести наборах задач и сравнивает их с исходными весами, но измерения получены на её собственной конфигурации и не воспроизведены Modelium. Если вы отвечаете за такой серверный запуск, следующий практический шаг — проверить статус поддержки Engram в vLLM и совместимость вашей сборки перед загрузкой большого пакета. Для обычного локального знакомства с моделью начните с описания исходной версии DeepSeek-V4.1-Flash-1017, а не с этой квантизации. s1 s4

Источники

NVIDIA — DeepSeek-V4.1-Flash-1017-NVFP4, карточка rev 480550d — Дата, метод конверсии, условия авторских оценок, тестовый стенд и runtime caveat.. Получено 31.10.2026.
NVIDIA — закреплённый набор файлов и индекс весов rev 480550d — HF API ?blobs=true: 48 safetensors суммой 428986460424 байта. Индекс содержит те же 48 имён, но metadata.total_size=510286023000; файл LICENSE: MIT.. Получено 31.10.2026.
DeepSeek — исходная модель Flash-1017 rev 1bae0e1 — HF API ?blobs=true: 48 файлов суммой 510296708312 байт; исходный README и LICENSE MIT.. Получено 31.10.2026.
vLLM — PR #61530 о поддержке MXFP4 Engram — GitHub API: state=open, merged_at=null на момент проверки.. Получено 31.10.2026.
NVIDIA Model Optimizer — код и лицензия — Код под Apache-2.0, права на модельные веса отдельно по HF LICENSE.. Получено 31.10.2026.