# Decision 2.0: три ONNX-пакета Kai, Eos и Sol для локальных решений

Источник: https://modelium.tech/zhurnal/decision-2-0-kai-eos-sol-onnx-local-inference/

3 октября 2026 года в onnx-community появились ONNX-конверсии Decision-2.0-Kai-0.6B, Eos-0.8B и Sol-2B. Веса доступны для локального ONNX Runtime; карточки заявляют WebGPU, но текущий публичный open-jev ещё не поддерживает семейство Decision 2.0. Это не готовая инструкция для браузерного запуска.

Decision 2.0: три ONNX-пакета для локальных решений

3 октября 2026 года в `onnx-community` появились отдельные конверсии Decision-2.0-Kai-0.6B, Eos-0.8B и Sol-2B. Исходные модели семейства выпущены раньше; новость — именно в новых ONNX-артефактах, а не в дебюте базовых весов. Это модели для выбора из заданных вариантов, бинарного ответа и оценки по шкале: они возвращают вероятности вариантов, а не генерируют произвольный текст. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

## Что загружено

- **Kai-0.6B:** граф `model_quantized.onnx` и внешний `model_quantized.onnx_data` (610 348 032 байта); карточка называет вариант `q8`: блочная 8-битная квантизация матричных умножений с 4-битными embeddings и fp32-активациями. [s1](#src-s1) [s7](#src-s7)

- **Eos-0.8B:** пары ONNX-графа и данных для `q8` (696 563 712 байт внешних данных) и `q4f16` (439 990 272 байта). В карточке указаны fp16-активации. [s2](#src-s2) [s8](#src-s8)

- **Sol-2B:** `q8` (1 805 142 016 байт внешних данных) и `q4f16` (1 097 316 352 байта). Манифест HF также содержит токенизатор и скрипты конверсии. Указанные объёмы — размеры файлов, **не** минимальные требования к оперативной памяти или VRAM. [s3](#src-s3) [s9](#src-s9)

Все три исходных репозитория имеют метку Apache-2.0; у проверенного исходника Sol есть отдельный файл LICENSE. ONNX-карточки также помечены Apache-2.0, но в деревьях конверсий отдельного LICENSE нет. Открытые веса и указанная лицензия сами по себе не доказывают, что конкретный браузерный клиент уже умеет их запускать. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5) [s7](#src-s7) [s8](#src-s8) [s9](#src-s9)

## Практический смысл и важное ограничение

ONNX-графы позволяют интегратору вынести фиксированный выбор действия или маршрута обращения в локальный инференс без текстовой генерации. Но для корректного результата недостаточно загрузить граф: нужно собрать входные сегменты и позиции `answer_pos`/`option_pos` в точности по формату модели, а для Kai при оценке шкалы прибавить `score_bias` из конфигурации. В репозиториях лежат скрипты конверсии и эталонные случаи; готовый универсальный рецепт здесь не обещаем. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

Карточки конверсий пишут о запуске в браузере на WebGPU через `open-jev` и приводят псевдонимы `decision2-kai-0.6b`, `decision2-eos-0.8b`, `decision2-sol-2b`. Однако на момент проверки в публичном `main` этого клиента таблица `MODELS` содержит лишь `open-jev`, `kev-0.6b` и `kev-4b`, а `detectFamily` распознаёт только разделы `open_jev` и `kev`. В загруженном ONNX `config.json` Sol используется раздел `decision2`. Поэтому **не считайте браузерный путь через текущий публичный open-jev подтверждённым**: соответствующая поддержка ещё должна появиться и пройти проверку. Прямую интеграцию с ONNX Runtime также требуется собрать и проверить на своей задаче. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s6](#src-s6) [s10](#src-s10)

## Что показали авторы конверсии

В карточках приведено сравнение с исходным Python-runtime на **11 вопросах из 6 состояний**: у `q8` Kai, Eos и Sol не изменился лучший вариант на этой малой выборке, а на отдельной выборке из **30 вопросов** у Kai изменились 2, у Eos — 0, у Sol — 1. Для `q4f16` Sol на первой выборке изменился 1 ответ из 11. Это проверки, опубликованные авторами конверсии, не независимый тест Modelium и не гарантия качества на пользовательских данных. Отдельная таблица браузерной оценки в карточках относится к другому набору из 400 состояний × 5 вопросов; смешивать эти знаменатели нельзя. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

**Следующий шаг:** если нужен локальный прототип уже сейчас, начните с исходного Python-репозитория Decision 2.0 и его формата вопросов; ONNX-пакеты рассматривайте как артефакты для самостоятельной интеграции. Для браузерного продукта сначала дождитесь публичной поддержки `decision2` в клиенте и сравните варианты на собственных фиксированных примерах. [s4](#src-s4) [s6](#src-s6)

## Источники

1. [onnx-community: Decision-2.0-Kai-0.6B-ONNX, карточка](https://huggingface.co/onnx-community/Decision-2.0-Kai-0.6B-ONNX) — получено 2026-10-03
2. [onnx-community: Decision-2.0-Eos-0.8B-ONNX, карточка](https://huggingface.co/onnx-community/Decision-2.0-Eos-0.8B-ONNX) — получено 2026-10-03
3. [onnx-community: Decision-2.0-Sol-2B-ONNX, карточка](https://huggingface.co/onnx-community/Decision-2.0-Sol-2B-ONNX) — получено 2026-10-03
4. [vllm-sr: Decision-2.0-Sol-2B, исходная карточка](https://huggingface.co/vllm-sr/Decision-2.0-Sol-2B) — получено 2026-10-03
5. [vllm-sr: исходная лицензия Sol](https://huggingface.co/vllm-sr/Decision-2.0-Sol-2B/blob/main/LICENSE) — получено 2026-10-03
6. [open-jev: таблица моделей и распознавание семейств](https://github.com/nico-martin/open-jev/blob/52667199e8a55553e1865a41f43fcb7d4dd92779/src/models.ts) — получено 2026-10-03
7. [HF API: файлы Kai ONNX](https://huggingface.co/api/models/onnx-community/Decision-2.0-Kai-0.6B-ONNX/tree/main?recursive=true&expand=true) — получено 2026-10-03
8. [HF API: файлы Eos ONNX](https://huggingface.co/api/models/onnx-community/Decision-2.0-Eos-0.8B-ONNX/tree/main?recursive=true&expand=true) — получено 2026-10-03
9. [HF API: файлы Sol ONNX](https://huggingface.co/api/models/onnx-community/Decision-2.0-Sol-2B-ONNX/tree/main?recursive=true&expand=true) — получено 2026-10-03
10. [Sol ONNX: конфигурация decision2](https://huggingface.co/onnx-community/Decision-2.0-Sol-2B-ONNX/blob/main/config.json) — получено 2026-10-03