# Scion 35B-A3B: тернарные эксперты и коррекции в одном GGUF

Источник: https://modelium.tech/zhurnal/scion-35b-a3b-ternary-gguf-llama-fork/

27 сентября 2026 года появился Scion 35B-A3B — производная квантизация Qwen3.8-35B-A3B-Distill с тернарными MoE-экспертами и встроенными обученными коррекциями. Один GGUF-файл доступен для скачивания, но обычный llama.cpp его не загружает: нужен отдельный форк с PQ2_0 и поддержкой встроенного адаптера. Apache-2.0 указан для весов; результаты сравнения качества опубликованы самим автором, а не проверены Modelium.

Scion 35B-A3B: тернарные эксперты и коррекции в одном GGUF

27 сентября 2026 года в Hugging Face появился Scion-35B-A3B — **не новая базовая модель**, а самостоятельная низкобитная производная `empero-ai/Qwen3.8-35B-A3B-Distill`. История репозитория показывает загрузку основного файла в тот же день; последующие коммиты до 28 сентября меняли прежде всего карточку. На закреплённой ревизии есть один GGUF-файл `Scion-35B-A3B-PQ2_0-corr.gguf` размером 11 336 908 288 байт, плюс описание, NOTICE, LICENSE и контрольная сумма. Наличие файла проверено по API Hugging Face, а не по одному экрану пагинированного дерева. Размер **не означает** минимальные требования к RAM или VRAM: память для запуска зависит также от контекста, backend и промежуточных буферов. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Что в файле и почему нужен специальный runtime

Автор оставил веса MoE-экспертов в тернарном контейнере `PQ2_0`, остальные части — в других форматах, и встроил обученные коррекции непосредственно в GGUF. Поэтому отдельный LoRA-файл при загрузке, согласно документации автора, не нужен. Это не тот же формат, что стандартная маркировка `Q2_0` в интерфейсе Hugging Face: карточка предупреждает о разных типах контейнера. **Обычный upstream llama.cpp для этого файла не подходит.** У автора есть публичный форк `sky-is-green/prism-ml-llama.cpp` с веткой `moe-corr-runtime`; она же указана как default branch, а в репозитории доступен скрипт `verify-container-support.sh`, проверяющий поддержку контейнера перед сборкой. Наличие исходников и скрипта проверено; сама редакция не собирала форк и не запускала модель. [s1](#src-s1) [s4](#src-s4)

Практический путь для опытного пользователя: взять именно этот форк и сверить ревизию `ede4d160574fec102378e9f2e1cbdb07c875ba64`, выполнить его локальную проверку поддержки контейнера, затем собрать под свою платформу и отдельно загрузить GGUF из закреплённой ревизии HF. Карточка описывает сборки CPU и ROCm; CUDA автор считает возможной, но прямо помечает непроверенной. Не подменяйте ветку сборкой из стандартного llama.cpp и не считайте опубликованную автором конфигурацию испытания минимальным аппаратным требованием. Перед использованием в рабочем процессе проверьте фактическую загрузку, ответы и требуемую память на своём компьютере. [s1](#src-s1) [s4](#src-s4)

## Качество: что именно измерил автор

В таблице автора Scion показывает perplexity 8,3539 на WikiText-2 при контексте 512 и 580 фрагментах, тогда как BF16-референс — 7,1595, а сравниваемый IQ2_M — 8,4133. На двух отдельных выборках по 400 заданий указаны HellaSwag 79,00% и Winogrande 76,25%; при таком размере выборки доли процента не стоит выдавать за устойчивое превосходство. По KL-дивергенции относительно распределения BF16 картина хуже: 0,2694 для Scion против 0,0314 у Q4_K_M. Это разные критерии — результат на отдельных задачах не отменяет различия полных распределений токенов. Автор описывает измерения на H100 SXM для референсов и на RX 7900 XT для Scion с перекрёстной проверкой одного сравнения. Все цифры — **авторские**, независимой репликации Modelium нет. [s1](#src-s1) [s5](#src-s5)

## Права и выбор

В репозитории Scion есть текст Apache License 2.0 и NOTICE с указанием происхождения от модели empero-ai и исходной Qwen3.6-35B-A3B; карточки обоих базовых репозиториев также указывают Apache-2.0. Это означает опубликованные условия для использования весов, в том числе коммерческого при соблюдении лицензии и уведомлений, **но не** означает, что каждый компонент runtime имеет ту же лицензию: для форка указана MIT. Перед внедрением проверьте требования всех включённых компонентов. Открытые веса и открытый код форка — разные артефакты. [s6](#src-s6) [s7](#src-s7) [s8](#src-s8) [s4](#src-s4)

Выбирать Scion разумно, если важны единый сравнительно небольшой файл и эксперименты с тернарными экспертами, а допустима сборка специализированного форка. Если критичны штатная совместимость llama.cpp, проверенная CUDA-сборка или точное сохранение распределения BF16, сначала сравните обычные GGUF-квантизации той же базы и проведите собственные тесты на своих запросах. Не переносите выводы из авторских 400-заданных выборок на свой production-набор без валидации. [s1](#src-s1) [s5](#src-s5)

## Источники

1. [Scion-35B-A3B: закреплённая карточка модели](https://huggingface.co/SkyIsNotGreen/Scion-35B-A3B/blob/c89b94e74599e6b158e744d388991fb8c618b6b3/README.md) — получено 2026-09-28
2. [Scion: дерево весов и размер GGUF в HF API](https://huggingface.co/api/models/SkyIsNotGreen/Scion-35B-A3B/tree/c89b94e74599e6b158e744d388991fb8c618b6b3?recursive=true&expand=true) — получено 2026-09-28
3. [Scion: история коммитов модели](https://huggingface.co/api/models/SkyIsNotGreen/Scion-35B-A3B/commits/main?limit=20) — получено 2026-09-28
4. [Scion: форк llama.cpp с поддержкой PQ2_0 и встроенных коррекций](https://github.com/sky-is-green/prism-ml-llama.cpp/tree/ede4d160574fec102378e9f2e1cbdb07c875ba64) — получено 2026-09-28
5. [Авторская таблица и методика сравнения Scion 35B](https://github.com/sky-is-green/scion/blob/eeffc54e60dfe5d5396ae52d6a3e9e4e5dfaae83/docs/QUANT-RETENTION-35B.md) — получено 2026-09-28
6. [Scion: текст Apache-2.0 и уведомления о сторонних компонентах](https://huggingface.co/SkyIsNotGreen/Scion-35B-A3B/blob/c89b94e74599e6b158e744d388991fb8c618b6b3/NOTICE) — получено 2026-09-28
7. [empero-ai/Qwen3.8-35B-A3B-Distill: карточка и лицензия](https://huggingface.co/empero-ai/Qwen3.8-35B-A3B-Distill/blob/bcc2dbe2f21b213625df2dc1a5a690212373af07/README.md) — получено 2026-09-28
8. [Qwen/Qwen3.6-35B-A3B: модель и лицензия](https://huggingface.co/api/models/Qwen/Qwen3.6-35B-A3B) — получено 2026-09-28