Перейти к содержанию
modelium.
Начать с задачи
←
Новость

Decision 2.0: три ONNX-пакета Kai, Eos и Sol для локальных решений

На странице · 3 разделов

3 октября 2026 года в onnx-community появились ONNX-конверсии Decision-2.0-Kai-0.6B, Eos-0.8B и Sol-2B. Веса доступны для локального ONNX Runtime; карточки заявляют WebGPU, но текущий публичный open-jev ещё не поддерживает семейство Decision 2.0. Это не готовая инструкция для браузерного запуска.

Decision 2.0: три ONNX-пакета для локальных решений

3 октября 2026 года в onnx-community появились отдельные конверсии Decision-2.0-Kai-0.6B, Eos-0.8B и Sol-2B. Исходные модели семейства выпущены раньше; новость — именно в новых ONNX-артефактах, а не в дебюте базовых весов. Это модели для выбора из заданных вариантов, бинарного ответа и оценки по шкале: они возвращают вероятности вариантов, а не генерируют произвольный текст. s1 s2 s3 s4

Что загружено

  • Kai-0.6B: граф model_quantized.onnx и внешний model_quantized.onnx_data (610 348 032 байта); карточка называет вариант q8: блочная 8-битная квантизация матричных умножений с 4-битными embeddings и fp32-активациями. s1 s7
  • Eos-0.8B: пары ONNX-графа и данных для q8 (696 563 712 байт внешних данных) и q4f16 (439 990 272 байта). В карточке указаны fp16-активации. s2 s8
  • Sol-2B: q8 (1 805 142 016 байт внешних данных) и q4f16 (1 097 316 352 байта). Манифест HF также содержит токенизатор и скрипты конверсии. Указанные объёмы — размеры файлов, не минимальные требования к оперативной памяти или VRAM. s3 s9

Все три исходных репозитория имеют метку Apache-2.0; у проверенного исходника Sol есть отдельный файл LICENSE. ONNX-карточки также помечены Apache-2.0, но в деревьях конверсий отдельного LICENSE нет. Открытые веса и указанная лицензия сами по себе не доказывают, что конкретный браузерный клиент уже умеет их запускать. s1 s2 s3 s4 s5 s7 s8 s9

Практический смысл и важное ограничение

ONNX-графы позволяют интегратору вынести фиксированный выбор действия или маршрута обращения в локальный инференс без текстовой генерации. Но для корректного результата недостаточно загрузить граф: нужно собрать входные сегменты и позиции answer_pos/option_pos в точности по формату модели, а для Kai при оценке шкалы прибавить score_bias из конфигурации. В репозиториях лежат скрипты конверсии и эталонные случаи; готовый универсальный рецепт здесь не обещаем. s1 s2 s3

Карточки конверсий пишут о запуске в браузере на WebGPU через open-jev и приводят псевдонимы decision2-kai-0.6b, decision2-eos-0.8b, decision2-sol-2b. Однако на момент проверки в публичном main этого клиента таблица MODELS содержит лишь open-jev, kev-0.6b и kev-4b, а detectFamily распознаёт только разделы open_jev и kev. В загруженном ONNX config.json Sol используется раздел decision2. Поэтому не считайте браузерный путь через текущий публичный open-jev подтверждённым: соответствующая поддержка ещё должна появиться и пройти проверку. Прямую интеграцию с ONNX Runtime также требуется собрать и проверить на своей задаче. s1 s2 s3 s6 s10

Что показали авторы конверсии

В карточках приведено сравнение с исходным Python-runtime на 11 вопросах из 6 состояний: у q8 Kai, Eos и Sol не изменился лучший вариант на этой малой выборке, а на отдельной выборке из 30 вопросов у Kai изменились 2, у Eos — 0, у Sol — 1. Для q4f16 Sol на первой выборке изменился 1 ответ из 11. Это проверки, опубликованные авторами конверсии, не независимый тест Modelium и не гарантия качества на пользовательских данных. Отдельная таблица браузерной оценки в карточках относится к другому набору из 400 состояний × 5 вопросов; смешивать эти знаменатели нельзя. s1 s2 s3

Следующий шаг: если нужен локальный прототип уже сейчас, начните с исходного Python-репозитория Decision 2.0 и его формата вопросов; ONNX-пакеты рассматривайте как артефакты для самостоятельной интеграции. Для браузерного продукта сначала дождитесь публичной поддержки decision2 в клиенте и сравните варианты на собственных фиксированных примерах. s4 s6

Источники