Intel выпустила MXFP8-веса Qwen3-235B: что это меняет для локального запуска
На странице · 3 разделов
Intel разместила MXFP8-версию весов Qwen3-235B-A22B-Instruct-2507 с отдельным форматом для памяти контекста FP8. Это возможность для тех, кто развёртывает крупную модель на собственном оборудовании, а не новая базовая модель или готовая установка на домашний ноутбук. Совместимость со стандартной программой запуска редакция не проверяла.
Intel разместила 15 октября 2026 года компактнее представленные веса Qwen3-235B-A22B-Instruct-2507. Это версия существующей модели, а не новая Qwen: часть чисел в модели хранится в формате MXFP8, а данные, которые программа сохраняет при обработке длинного запроса, — в FP8. Для человека, который просто хочет запускать чат-бота на обычном ноутбуке, ничего устанавливать из-за этой новости не требуется. s1 s2
Что изменилось для локального использования
Появился отдельный комплект файлов Intel для тех, кто размещает большую текстовую модель на своём оборудовании. Квантизация — способ хранить часть чисел с меньшей точностью; она может уменьшить объём данных, но сама по себе не обещает ни определённой скорости, ни сохранения качества на ваших задачах. Исходная модель остаётся Qwen3-235B-A22B-Instruct-2507; новая версия Intel указана как её производная. s1 s2
В зафиксированной версии репозитория индекс перечисляет 46 файлов весов, и все 46 присутствуют в полном списке файлов Hugging Face. Конфигурация подтверждает формат mxfp8-quantized и схему FP8 для памяти контекста; некоторые части модели оставлены вне основной квантизации. Это проверка опубликованных файлов и настроек, не воспроизведённый запуск. Размер файлов не равен минимальному объёму оперативной или видеопамяти. s2
Что известно о качестве и правах
Intel приводит сравнение с исходной BF16-версией на HellaSwag, PIQA, MMLU и GSM8K: средние показатели в её таблице — 0,82925 и 0,82885 соответственно. Это результаты автора на указанных заданиях, не независимый тест Modelium и не гарантия одинакового качества на русскоязычных документах. Условия и версии среды на карточке не позволяют нам подтвердить воспроизводимость этих чисел. s1
Карточка Intel помечает производную модель Apache-2.0 и прямо отсылает к лицензии исходной Qwen. Закреплённый файл LICENSE исходной модели действительно содержит Apache License 2.0. Наличие доступных весов не делает любую стороннюю программу запуска автоматически открытой или совместимой. s1 s3
Стоит ли скачивать сейчас
Если вы подбираете инженерную конфигурацию для собственной большой модели, сначала проверьте совместимость именно этой MXFP8-версии с выбранной программой и оборудованием на закреплённой карточке Intel. В карточке есть ссылка на отдельное руководство, но на момент проверки она не открывалась через официальный GitHub API. Мы не проверили запуск на стандартном стабильном vLLM и не предлагаем команду как готовый домашний рецепт. Обычному пользователю лучше не загружать крупный пакет только на основании названия формата или авторских оценок. s1
Источники проверены 15 октября 2026 года; ревизия Intel — c861640c, исходной Qwen — ac9c66cc. s2 s3
Источники
- Intel: карточка Qwen3-235B-A22B-Instruct-2507 MXFP8 FP8KV, ревизия c861640c — Название, происхождение, лицензия в карточке и авторская таблица оценок; ссылка на руководство при проверке недоступна.. Получено 15.10.2026.
- Intel: закреплённая модель, состав весов, индекс и конфигурация — API createdAt и siblings; 46 из 46 шардов сверены отдельно с model.safetensors.index.json, формат — с quantization_config.json той же ревизии.. Получено 15.10.2026.
- Qwen3-235B-A22B-Instruct-2507: LICENSE, ревизия ac9c66cc — Условия Apache-2.0 для исходной модели.. Получено 15.10.2026.