# llama.cpp b11374: OpenVINO 2026.4.1 и MoE на Intel — что изменилось

Источник: https://modelium.tech/zhurnal/llama-cpp-b11374-openvino-moe-intel/

В предварительной сборке llama.cpp b11374 от 3 октября обновлён OpenVINO-бэкенд до 2026.4.1: добавлены оптимизации MoE для Intel GPU, исправления выбора устройства и ошибок обработки графа. Это не стабильный релиз и не универсальное ускорение. При выборе GPU и модели нужно сверять таблицу проверенных конфигураций и ограничения бэкенда; авторские числа для Gemma 4 нельзя переносить на другое оборудование.

llama.cpp b11374: что меняется для Intel GPU и OpenVINO

3 октября 2026 года команда llama.cpp выпустила **предварительную** сборку b11374. В неё вошёл объединённый в основную ветку PR #29852: обновление OpenVINO-бэкенда до версии 2026.4.1, оптимизации для MoE-моделей Gemma и Qwen, новые операции и исправления выбора устройств. Это изменение runtime, **не выпуск новых весов** и не новая стабильная версия llama.cpp. Последующие ежедневные сборки также содержат эти изменения; прежде чем использовать конкретный тег, проверьте его статус. [s1](#src-s1) [s2](#src-s2)

## Для кого это полезно

OpenVINO-бэкенд исполняет GGUF через Intel CPU, GPU или NPU, но поддержка моделей, операций и устройств неодинакова. Обновление прежде всего интересно тем, кто уже тестирует локальный GGUF на Intel GPU и столкнулся с медленной обработкой промпта у MoE, неправильным выбором устройства или ошибками отдельных графов. Таблица проекта подтверждает набор протестированных моделей на Intel Core Ultra 5 238V, Ubuntu 24.04 и Q4_K_M; это **конфигурация проверки, не минимальные требования**. Для Qwen3.5 на GPU в таблице по-прежнему отмечены проблемы точности в stateful-режиме, а Gemma 4 E4B на GPU отмечена как неработающая. [s3](#src-s3)

## Что именно исправлено

- На GPU добавлена оптимизация экспертов MoE, включая случай объединённых gate/up-весов в Gemma 4. Исправлены ошибки выбора платформы OpenCL, отображения устройств и обработки части графов со stateful-исполнением. [s1](#src-s1) [s2](#src-s2)

- Для выбора целевого OpenVINO-устройства используется переменная `GGML_OPENVINO_DEVICE`: `CPU`, `GPU`, `NPU`, а при нескольких GPU — `GPU.0` или `GPU.1`. Команда `llama-cli --list-devices` показывает допустимые значения. Отсутствующее устройство теперь приводит к ошибке со списком доступных, а не к незаметному переходу на CPU. Это **не** то же самое, что флаг `-dev`. [s3](#src-s3)

- В документации есть отдельный путь сборки с `-DGGML_OPENVINO=ON` и подключением OpenVINO Runtime; не следует ожидать, что обычная сборка автоматически переключится на новый бэкенд. Начинайте с официального руководства, проверяйте установленный драйвер и выбранное устройство, затем сверяйте собственные ответы и скорость на вашей модели. [s3](#src-s3)

## Почему не стоит переносить бенчмарк на свой компьютер

Автор PR приводит для **Gemma 4 26B-A4B** на **Intel Arc B390** с `GGML_OPENVINO_REQUANT_KQUANT=q4_asym64_all` сравнение `llama-bench -p 512 -n 128 -r 2` против отключённого слияния MoE: обработка промпта 66,16 → 1608,73 токена/с, генерация 25,94 → 26,46 токена/с. Это **замеры разработчиков**, не тест Modelium; ускорение относится к конкретной модели, режиму и оборудованию, а не к каждому Intel GPU. Автор прямо пишет, что эффект отсутствует без этого параметра повторной квантизации, на CPU и у моделей с раздельными gate/up-весами. Параметр меняет представление весов и требует отдельной проверки качества на вашей задаче. [s1](#src-s1)

Stateful-режим экспериментальный, ограничен одним слотом на CPU/GPU и не применяется на NPU. В том же авторском сравнении включение stateful для Gemma 4 поднимает скорость генерации до 29,91 токена/с, но лишает её указанного ускорения обработки промпта: 66,18 токена/с вместо 1608,73. Более того, разработчики описывают вырождение ответов Gemma 4 26B-A4B в некоторых собственных OpenVINO-пробах; это не основание объявлять модель полностью проверенной по качеству. [s1](#src-s1) [s3](#src-s3)

## Практическое решение

Если важна воспроизводимость в продакшене, не обновляйтесь только ради крупного числа в бенчмарке: b11374 отмечена на GitHub как prerelease, а текущая стабильная ветка выпускается отдельно. Если экспериментируете на Intel, начните с официальной матрицы моделей и ограничения «text-only» для этого бэкенда, сверяйте выбранное устройство через список, сравните качество и отдельно измерьте prefill и генерацию на своей нагрузке. OpenVINO-документация прямо предупреждает, что проверка точности, покрытие операций и поддержка мультимодальности ещё в работе. Исходный код llama.cpp распространяется под MIT; лицензия **конкретных GGUF-весов** проверяется отдельно. [s1](#src-s1) [s3](#src-s3) [s4](#src-s4)

## Источники

1. [ggml-org/llama.cpp: b11374 release](https://github.com/ggml-org/llama.cpp/releases/tag/b11374) — получено 2026-10-03
2. [ggml-org/llama.cpp PR #29852](https://github.com/ggml-org/llama.cpp/pull/29852) — получено 2026-10-03
3. [llama.cpp OpenVINO backend guide, pinned at b11374](https://github.com/ggml-org/llama.cpp/blob/b92761a515ea31e852e7fbc1fad5f874b46f3718/docs/backend/OPENVINO.md) — получено 2026-10-03
4. [llama.cpp MIT LICENSE, pinned at b11374](https://github.com/ggml-org/llama.cpp/blob/b92761a515ea31e852e7fbc1fad5f874b46f3718/LICENSE) — получено 2026-10-03