# onw 2.1.0: новые NF4-модели Granite для Intel NPU

Источник: https://modelium.tech/zhurnal/onw-2-1-nf4-granite-intel-npu/

18 октября 2026 года автор onw выпустил версию 2.1.0 и три новых пакета моделей для нейропроцессоров Intel. Владельцы ПК с Lunar Lake и более новых чипов могут загрузить Granite 4.2 в новом формате NF4 через окно программы. Для более ранних Intel NPU эти пакеты не подходят; измерения скорости пока принадлежат автору, а не Modelium.

onw 2.1.0: новые NF4-модели Granite для Intel NPU

Если у вас ПК с нейропроцессором Intel — отдельным блоком чипа для задач ИИ, — появилась ещё одна возможность вести локальный чат, не отправляя текст в облачный сервис. 18 октября 2026 года автор программы onw выпустил версию 2.1.0 и три новых пакета весов: Granite 4.2 3B, Granite 4.2 8B и llm-jp-4.1-8B-thinking. Веса — скачиваемые файлы модели; NF4 — способ упаковать их для поддерживаемого нейропроцессора. Это новые варианты существующих моделей, а не новые базовые модели. [s1](#src-s1)

**Главное ограничение:** NF4-пакеты рассчитаны на Intel NPU начиная с Lunar Lake (Core Ultra Series 2 / NPU 4000). На Meteor Lake и Arrow Lake с NPU 3720 автор советует обычные варианты INT4. Наличие файла весов не означает, что он заработает на любом компьютере. [s1](#src-s1) [s2](#src-s2)

## Что меняется для владельца подходящего ПК?

В окне onw 2.1.0 на поддерживаемом компьютере можно открыть вкладку Models, выбрать Granite 4.2 3B (NF4) и нажать Download. Затем на вкладке Server нажать Load и открыть чат из меню программы. Интернет нужен для первой загрузки программы и весов; после загрузки onw выполняет вычисления модели на Intel NPU локально. Эти действия сверены по документации автора, но редакция Modelium не запускала модель на таком ПК. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

Для ориентира: можно спросить в локальном чате «Назови три вопроса, которые стоит задать перед покупкой подержанного велосипеда». Ответ должен содержать вопросы по состоянию, обслуживанию и документам; это пример для самостоятельной проверки, а не результат нашего прогона.

## Что известно о скорости и качестве?

Автор сравнил новый пакет Granite 4.2 3B с прежним INT4 на Panther Lake Core Ultra X7 358H с NPU 5010 и 64 ГБ памяти, используя onw 2.1.0 по настройкам по умолчанию. По его измерениям, генерация выросла примерно с 12,2–12,8 до 14,2–14,4 токена в секунду; обработка запроса примерно на 900 токенов — с 174 до 235 токенов в секунду. Токен — небольшой фрагмент текста, поэтому эти цифры не гарантируют скорость на вашем ПК. На Lunar Lake этот новый пакет автор пока не измерил. [s2](#src-s2)

В отдельном авторском сравнении с исходной моделью на 512 заданных токенах NF4-пакет чаще совпадал с первым выбором исходной модели, чем INT4: 82,6% против 81,4%. Это не тест полезности ответов на реальных вопросах. Файлы NF4-пакета для 3B автор оценивает в 2,6 ГБ при скачивании; **это не требование к оперативной памяти**. Измеренные около 5,1 ГБ относятся к процессу на конкретном Panther Lake, а не к минимальной конфигурации. [s2](#src-s2)

## Кому обновляться, а кому подождать?

Если у вас совместимый Intel NPU и уже установлен onw, новый пакет можно выбрать для эксперимента с локальным чатом. На старом NPU останьтесь на обычном INT4. Для всех остальных компьютеров этот выпуск не повод покупать новое железо: универсального ускорения, независимых тестов и проверенного нами домашнего запуска пока нет. Экспериментальный режим объединённых графов в onw 2.1.0 по умолчанию выключен; автор предупреждает о большем дисковом кэше, поэтому включать его ради первого знакомства не требуется. [s1](#src-s1) [s2](#src-s2)

Код onw и этот производный пакет весов помечены Apache 2.0; исходная IBM Granite 4.2 3B также помечена Apache 2.0. Это три отдельно проверенных указания на права, а не утверждение, что все модели в каталоге onw распространяются одинаково. [s5](#src-s5) [s6](#src-s6) [s7](#src-s7)

**Следующий шаг:** если у вас подходящий ПК, сначала проверьте поколение NPU, затем откройте официальную карточку пакета Granite 4.2 3B NF4 и инструкцию onw. Предыдущий материал Modelium о [onw 0.11 и Intel NPU](/zhurnal/onw-0-11-gpt-oss-20b-intel-npu-int4-int8/) объясняет назначение этой программы, но не заменяет документацию для версии 2.1.0. [s2](#src-s2) [s3](#src-s3)

Источники проверены 19 октября 2026 года; код onw закреплён ревизией 60559a3, пакет Granite NF4 — 7e111ab. [s1](#src-s1) [s2](#src-s2)

## Источники

1. [onw changelog v2.1.0](https://huggingface.co/ryugyosoft/onw/blob/60559a35917a618a5a6858f722c5de78c1fe6df0/CHANGELOG_en.md) — получено 2026-10-19
2. [Granite 4.2 3B NF4 for onw — model card](https://huggingface.co/ryugyosoft/granite-4.2-3b-nf4-onw/blob/7e111abfc66ac8db7dcb86e0e4f6783ce6d06416/README_en.md) — получено 2026-10-19
3. [onw README: установка и требования](https://huggingface.co/ryugyosoft/onw/blob/60559a35917a618a5a6858f722c5de78c1fe6df0/README_en.md) — получено 2026-10-19
4. [onw user guide: окно и чат](https://huggingface.co/ryugyosoft/onw/blob/60559a35917a618a5a6858f722c5de78c1fe6df0/MANUAL_en.md) — получено 2026-10-19
5. [onw code LICENSE](https://huggingface.co/ryugyosoft/onw/blob/60559a35917a618a5a6858f722c5de78c1fe6df0/LICENSE) — получено 2026-10-19
6. [Granite 4.2 3B NF4 weights LICENSE](https://huggingface.co/ryugyosoft/granite-4.2-3b-nf4-onw/blob/7e111abfc66ac8db7dcb86e0e4f6783ce6d06416/LICENSE) — получено 2026-10-19
7. [IBM Granite 4.2 3B original model card](https://huggingface.co/ibm-granite/granite-4.2-3b/blob/e459acceac81e5fe67c07d9cfc72329a332e7eb1/README.md) — получено 2026-10-19