onw 2.1.0: новые NF4-модели Granite для Intel NPU
На странице · 3 разделов
18 октября 2026 года автор onw выпустил версию 2.1.0 и три новых пакета моделей для нейропроцессоров Intel. Владельцы ПК с Lunar Lake и более новых чипов могут загрузить Granite 4.2 в новом формате NF4 через окно программы. Для более ранних Intel NPU эти пакеты не подходят; измерения скорости пока принадлежат автору, а не Modelium.
onw 2.1.0: новые NF4-модели Granite для Intel NPU
Если у вас ПК с нейропроцессором Intel — отдельным блоком чипа для задач ИИ, — появилась ещё одна возможность вести локальный чат, не отправляя текст в облачный сервис. 18 октября 2026 года автор программы onw выпустил версию 2.1.0 и три новых пакета весов: Granite 4.2 3B, Granite 4.2 8B и llm-jp-4.1-8B-thinking. Веса — скачиваемые файлы модели; NF4 — способ упаковать их для поддерживаемого нейропроцессора. Это новые варианты существующих моделей, а не новые базовые модели. s1
Главное ограничение: NF4-пакеты рассчитаны на Intel NPU начиная с Lunar Lake (Core Ultra Series 2 / NPU 4000). На Meteor Lake и Arrow Lake с NPU 3720 автор советует обычные варианты INT4. Наличие файла весов не означает, что он заработает на любом компьютере. s1 s2
Что меняется для владельца подходящего ПК?
В окне onw 2.1.0 на поддерживаемом компьютере можно открыть вкладку Models, выбрать Granite 4.2 3B (NF4) и нажать Download. Затем на вкладке Server нажать Load и открыть чат из меню программы. Интернет нужен для первой загрузки программы и весов; после загрузки onw выполняет вычисления модели на Intel NPU локально. Эти действия сверены по документации автора, но редакция Modelium не запускала модель на таком ПК. s2 s3 s4
Для ориентира: можно спросить в локальном чате «Назови три вопроса, которые стоит задать перед покупкой подержанного велосипеда». Ответ должен содержать вопросы по состоянию, обслуживанию и документам; это пример для самостоятельной проверки, а не результат нашего прогона.
Что известно о скорости и качестве?
Автор сравнил новый пакет Granite 4.2 3B с прежним INT4 на Panther Lake Core Ultra X7 358H с NPU 5010 и 64 ГБ памяти, используя onw 2.1.0 по настройкам по умолчанию. По его измерениям, генерация выросла примерно с 12,2–12,8 до 14,2–14,4 токена в секунду; обработка запроса примерно на 900 токенов — с 174 до 235 токенов в секунду. Токен — небольшой фрагмент текста, поэтому эти цифры не гарантируют скорость на вашем ПК. На Lunar Lake этот новый пакет автор пока не измерил. s2
В отдельном авторском сравнении с исходной моделью на 512 заданных токенах NF4-пакет чаще совпадал с первым выбором исходной модели, чем INT4: 82,6% против 81,4%. Это не тест полезности ответов на реальных вопросах. Файлы NF4-пакета для 3B автор оценивает в 2,6 ГБ при скачивании; это не требование к оперативной памяти. Измеренные около 5,1 ГБ относятся к процессу на конкретном Panther Lake, а не к минимальной конфигурации. s2
Кому обновляться, а кому подождать?
Если у вас совместимый Intel NPU и уже установлен onw, новый пакет можно выбрать для эксперимента с локальным чатом. На старом NPU останьтесь на обычном INT4. Для всех остальных компьютеров этот выпуск не повод покупать новое железо: универсального ускорения, независимых тестов и проверенного нами домашнего запуска пока нет. Экспериментальный режим объединённых графов в onw 2.1.0 по умолчанию выключен; автор предупреждает о большем дисковом кэше, поэтому включать его ради первого знакомства не требуется. s1 s2
Код onw и этот производный пакет весов помечены Apache 2.0; исходная IBM Granite 4.2 3B также помечена Apache 2.0. Это три отдельно проверенных указания на права, а не утверждение, что все модели в каталоге onw распространяются одинаково. s5 s6 s7
Следующий шаг: если у вас подходящий ПК, сначала проверьте поколение NPU, затем откройте официальную карточку пакета Granite 4.2 3B NF4 и инструкцию onw. Предыдущий материал Modelium о onw 0.11 и Intel NPU объясняет назначение этой программы, но не заменяет документацию для версии 2.1.0. s2 s3
Источники проверены 19 октября 2026 года; код onw закреплён ревизией 60559a3, пакет Granite NF4 — 7e111ab. s1 s2
Источники
- onw changelog v2.1.0 — Релиз 18.10 JST, три NF4-пакета, совместимость и авторские замеры.. Получено 19.10.2026.
- Granite 4.2 3B NF4 for onw — model card — Совместимость, интерфейс, условия авторских сравнений и размер загрузки.. Получено 19.10.2026.
- onw README: установка и требования. Получено 19.10.2026.
- onw user guide: окно и чат. Получено 19.10.2026.
- onw code LICENSE. Получено 19.10.2026.
- Granite 4.2 3B NF4 weights LICENSE. Получено 19.10.2026.
- IBM Granite 4.2 3B original model card. Получено 19.10.2026.