# llama.cpp b11475 исправляет неверные вероятности Clef на Mac

Источник: https://modelium.tech/zhurnal/llama-cpp-b11475-metal-clef-wrong-probabilities-fix/

В предварительной сборке llama.cpp b11475 исправлена ошибка вычисления на графическом движке Apple Metal: локальная Clef могла неверно оценивать вероятность выбора категории. Исправление относится к программе запуска, а не к новым весам модели. Если вы используете Clef GGUF через Metal, обновите сам llama.cpp и перепроверьте свои контрольные примеры; другие приложения не обновятся автоматически.

## Что изменилось 7 октября

Представьте локальную модель, которая сортирует обращения по темам: «оплата» или «техническая проблема». На некоторых запросах Clef, запущенная через **Metal** — графический движок Apple на Mac, — могла неверно оценивать, насколько подходит каждый вариант. Команда llama.cpp исправила причину в предварительной сборке **b11475** от 7 октября 2026 года. Это исправление программы для локального запуска моделей, а не выпуск новых весов Clef. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

Проблему обнаружили при использовании Clef в формате **GGUF** (файл модели для локального запуска), в том числе варианта **Q8_0** (один из способов уменьшить файл модели). Изначально её подозревали в сжатии весов, но автор исправления сравнил тот же файл на центральном процессоре и Metal и отнёс расхождение к вычислительному коду Metal. Это не значит, что каждая GGUF-модель или каждый Mac давали неверный результат. [s2](#src-s2) [s3](#src-s3)

## Кому стоит обратить внимание

Если вы используете **llama.cpp с Metal и Clef** для выбора из нескольких ответов, проверьте свою версию движка. После перехода на b11475 повторите один и тот же понятный контрольный вопрос на той же модели и сравните выбор и его вероятность с прежним результатом; для диагностики опытный пользователь может сравнить с запуском на CPU. Например, для текста «Париж — столица Франции» правильный вариант среди «Франция», «Япония», «Бразилия» известен заранее. Не переносите точные числа из чужого теста на свою систему. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

**Важно:** b11475 — предварительная, а не стабильная номерная версия. В официальном релизе есть архив для macOS на Apple Silicon. Если Clef запускается внутри другого приложения, наличие исправления в исходном llama.cpp само по себе не доказывает, что приложение уже включает этот код: проверьте его собственную версию. Полную установку и реальный прогон модели Modelium не выполнял; это инструкция по чтению проверенных первоисточников, а не отчёт о нашем тесте. [s1](#src-s1) [s2](#src-s2)

## Что именно сломалось и что проверили авторы

В одном участке кода Metal программа складывала два промежуточных результата и могла взять не тот из них. Это искажало оценку выбора; патч меняет выбор операнда и добавляет тест на такую комбинацию. По данным автора PR #30100, на конкретном примере с Cloudflare_clef-flash-Q8_0, M1 Max и вариантом «оплата» Metal до исправления давал вероятность 0,284, а CPU и Metal после исправления — 0,977. Эти цифры относятся **только к указанному тесту автора**, не являются измерением Modelium и не гарантируют качество модели на других задачах. [s2](#src-s2) [s4](#src-s4)

Автор исходного сообщения наблюдал ошибку на Mac Studio с M5 Max в более старой сборке b11429. Это конфигурация его проверки, **не минимальное требование** для Clef. Не следует по ней выбирать объём памяти; в этой новости такой минимум не установлен. [s3](#src-s3)

Код llama.cpp распространяется по MIT, а карточка конкретного пакета ggml-org/Clef-GGUF указывает Apache-2.0. Это лицензии отдельных компонентов; они не означают, что любые другие веса или приложения доступны на тех же условиях. В репозитории Clef-GGUF видны файлы Q8_0 и BF16, но новые веса для исправления скачивать не требуется. [s5](#src-s5) [s6](#src-s6)

**Следующий шаг:** если вы только изучаете локальный выбор категорий, прочитайте [материал о Clef GGUF и llama.cpp](/zhurnal/clef-flash-gguf-llama-cpp-systemone-text-only/); если уже используете её на Mac, сначала проверьте, какая версия движка встроена в ваш способ запуска. [s1](#src-s1) [s6](#src-s6)

## Источники

1. [ggml-org/llama.cpp — предварительная сборка b11475](https://github.com/ggml-org/llama.cpp/releases/tag/b11475) — получено 2026-10-07
2. [ggml-org/llama.cpp — PR #30100, Metal fusion correction](https://github.com/ggml-org/llama.cpp/pull/30100) — получено 2026-10-07
3. [ggml-org/llama.cpp — issue #30064, Clef Q8_0 on Metal](https://github.com/ggml-org/llama.cpp/issues/30064) — получено 2026-10-07
4. [ggml-org/llama.cpp — итоговый commit #30100](https://github.com/ggml-org/llama.cpp/commit/7e8324f5feba1d8be3f966e1791e84107e40cdd7) — получено 2026-10-07
5. [ggml-org/llama.cpp — MIT LICENSE at b11475](https://github.com/ggml-org/llama.cpp/blob/b11475/LICENSE) — получено 2026-10-07
6. [ggml-org/Clef-GGUF — закреплённый HF репозиторий](https://huggingface.co/ggml-org/Clef-GGUF/tree/63840a1a68cb7084c88610cffc328509356b04cb) — получено 2026-10-07