llama.cpp b11559: Gemma 4 перестала переходить на CPU в OpenCL
На странице · 3 разделов
В предварительной сборке llama.cpp b11559 исправили обработку Gemma 4 через OpenCL: по данным разработчиков, при включённом ускорении внимания модель в проверенном сценарии больше не переключается на процессор. Для gpt-oss 20B авторы также показали ускорение генерации. Это не стабильный релиз и не гарантия такого же результата на вашем устройстве.
Если вы запускаете Gemma 4 на устройстве с графическим ускорителем через OpenCL, новая сборка llama.cpp может устранить досадный переход части вычислений на обычный процессор. Это изменение появилось 11 октября 2026 года в предварительной, а не стабильной сборке b11559. Ничего срочно переустанавливать не требуется: имеет смысл следить за стабильным выпуском или проверять новую сборку только если вы уже умеете откатывать обновление. s1 s2
Что изменилось
OpenCL — способ задействовать графический ускоритель (GPU) для вычислений модели; документация llama.cpp в первую очередь описывает этот путь для графики Qualcomm Adreno на Android и Windows 11 Arm64. Авторы исправили ситуацию, когда Gemma 4 при включённом ускоренном механизме внимания (Flash Attention) в определённой конфигурации переходила на CPU. Изменение также касается генерации ответов моделью gpt-oss 20B. Оно относится к коду программы, а не к выпуску новых весов моделей. s2 s3
Что показали авторские проверки
В описании изменения разработчики сравнили прежний код и новый на gpt-oss 20B в формате MXFP4: 16,59 и 29,01 токена в секунду при их настройках OpenCL и задании генерации 256 токенов с контекстом 16 384. Для Gemma 4 E4B Q4_0 прежний вариант в их сценарии переключался на CPU, а новый дал 20,58 токена в секунду. Это замеры авторов PR, а не независимый тест Modelium; оборудование в таблице не указано, поэтому переносить цифры на ваш телефон или ноутбук нельзя. s2
Что делать пользователю
Если модель уже работает и скорость устраивает, можно ничего не менять. Если вы используете OpenCL и сталкивались именно с переходом Gemma 4 на CPU, проверьте после появления совместимой сборки, задействован ли GPU, и сравните скорость на одном и том же запросе до и после обновления. Документация перечисляет проверенные сочетания ОС и Adreno, но это не список минимальных требований для каждой модели; память и совместимость конкретной машины следует проверять отдельно. Готовый домашний рецепт здесь не приводим: сборка предварительная, а редакция не запускала её на устройстве. s1 s3
Код llama.cpp опубликован под MIT License; права на веса Gemma 4 и gpt-oss определяются отдельно их собственными условиями. Следующий шаг — посмотреть релиз и дождаться стабильной версии, если вам не нужно срочно исследовать OpenCL. s1 s4
Источники
- llama.cpp b11559: предварительный релиз — GitHub API published_at 2026-10-11T19:14:38Z, prerelease=true, tag commit f2cc7282ce0042641df55e0e563b75e824e2b647.. Получено 11.10.2026.
- ggml-org/llama.cpp PR #30266: OpenCL Flash Attention для Gemma 4 и gpt-oss — Слит 2026-10-11T18:49:26Z; таблица авторских замеров, аппаратная конфигурация не указана.. Получено 11.10.2026.
- Документация OpenCL backend в llama.cpp b11559 — Поддерживаемые ОС/GPU — в документации, не минимальное железо для Gemma 4 или gpt-oss.. Получено 11.10.2026.
- MIT License llama.cpp в b11559 — Лицензия кода runtime, не лицензия весов моделей.. Получено 11.10.2026.