# Startlux-Decision: пять открытых весов для локальных решений с вероятностями

Источник: https://modelium.tech/zhurnal/startlux-decision-08b-27b-local-typed-decisions/

StartLux Labs выложила пять моделей Startlux-Decision — от 0.8B до 27B — с весами, индексами Safetensors и собственным сервером для API /v1/systemone. Они отвечают на типизированные вопросы выбором, вероятностью или оценкой вместо обычного текста. Веса доступны по CC BY-NC 4.0 только для некоммерческого использования; код инференса заявлен как Apache 2.0. Авторские результаты и задержки на H200 редакция не воспроизводила.

Startlux-Decision: пять моделей для локальных типизированных решений

StartLux Labs разместила пять чекпойнтов Startlux-Decision: 0.8B, 2B, 4B, 9B и 27B. Репозитории созданы 29 сентября 2026 года, а проверенные редакцией текущие ревизии загружены 30 сентября. Для каждого размера опубликованы модельные Safetensors, индекс весов, конфигурация, токенизатор и пакет `startlux_decision` с HTTP-сервером. Это **открытые веса с ограничением на коммерческое использование**, а не разрешение применять модель в коммерческом продукте. [s1](#src-s1) [s2](#src-s2)

## Зачем это нужно

Вместо свободного ответа модель получает состояние и один или несколько вопросов. Тип `choice` выбирает вариант и возвращает вероятности по вариантам, `noul` оценивает вероятность условия, `score` выдаёт оценку по упорядоченным критериям. Прикладной сценарий — сортировка обращений или маршрутизация задач с локальным HTTP API. Вероятности нельзя автоматически трактовать как проверенно откалиброванные: независимую оценку качества и запуск на своём оборудовании Modelium не проводил. [s1](#src-s1)

## Что проверено в файлах

В закреплённых ревизиях индексы Safetensors указывают на присутствующие в манифестах файлы: по одному шарду для 0.8B и 2B, два для 4B, четыре для 9B и одиннадцать для 27B. В комплекте 2B лежат `decision_config.json`, `requirements.txt`, код клиента и сервера. Проверка наличия файлов и индексов не равна загрузке всех весов, проверке генерации или подтверждению результатов автора. Размер файлов **не является минимальным требованием к RAM/VRAM**. [s2](#src-s2) [s3](#src-s3)

## Как попробовать 2B

Автор рекомендует скачать весь репозиторий, установить зависимости, проверить быстрые CUDA-ядра и запустить сервер только на локальном интерфейсе. Понадобится среда, совместимая с зависимостями из закреплённого `requirements.txt`; авторские замеры ниже сделаны на H200, но это не заявленный минимум для запуска. Редакция команды не выполняла. [s1](#src-s1) [s3](#src-s3)

hf download startlux-models/Startlux-Decision-2B --revision b0ad7ce54fd2acac05c3f68d14d19a057faab6fe --local-dir Startlux-Decision-2Bcd Startlux-Decision-2Bpip install -r requirements.txtpython -m startlux_decision.check .python -m startlux_decision.server --model . --port 8090

После запуска пробный запрос из карточки можно упростить до одного вопроса. Сервер по умолчанию слушает `127.0.0.1`; не открывайте порт в сеть без отдельной защиты. [s1](#src-s1) [s3](#src-s3)

curl http://localhost:8090/v1/systemone -H 'Content-Type: application/json' -d '{"state":{"ticket":"I was charged twice for an order"},"questions":{"team":{"type":"choice","instructions":"Which team should handle this ticket?","criteria":{"billing":"Payments and refunds","technical":"App errors"}}}}'

Если проверка ядер сообщает `NOT active`, авторский сервер на CUDA по умолчанию откажется стартовать, чтобы не скрыть медленный fallback; установка пакетов может потребовать отдельной настройки CUDA-сборки. Не переносите авторские показатели H200 на другую видеокарту или CPU. [s1](#src-s1) [s3](#src-s3)

## Оценки автора и права

В карточке 2B автор сообщает 196 правильных ответов из 231 публичного задания JevBench, 44.19 по Decision Index 0.2.1 и задержку 15.5 мс для запроса с тремя вопросами на одном H200 в bf16. Карточка отдельно различает эти наборы оценок и условия измерения задержки; это **заявления автора**, а не независимые тесты Modelium. Для выбора между размерами сравнивайте качество на собственных данных и совместимость runtime, а не только цифры таблицы. [s1](#src-s1)

Веса — CC BY-NC 4.0: некоммерческое использование с указанием авторства; коммерческое требует отдельного разрешения. `NOTICE` относит инференс-код в `startlux_decision/` к Apache 2.0 и отдельно сохраняет уведомление об исходной модели Alibaba. Наличие открытого кода сервера **не снимает ограничение на веса**. Начните с 0.8B или 2B для оценки рабочего сценария, но до пилота в продукте согласуйте права на использование весов. [s4](#src-s4) [s5](#src-s5)

## Источники

1. [StartLux Labs — Startlux-Decision-2B: карточка, задачи, запуск и методика авторских оценок](https://huggingface.co/startlux-models/Startlux-Decision-2B/blob/b0ad7ce54fd2acac05c3f68d14d19a057faab6fe/README.md) — получено 2026-09-30
2. [Hugging Face — API моделей Startlux-Decision-0.8B и 27B, закреплённые манифесты](https://huggingface.co/api/models/startlux-models/Startlux-Decision-27B/revision/dc0dc95ddf28d09220cd7578ac53e207801f3ddf) — получено 2026-09-30
3. [StartLux Labs — код локального инференса и зависимости 2B](https://huggingface.co/startlux-models/Startlux-Decision-2B/tree/b0ad7ce54fd2acac05c3f68d14d19a057faab6fe/startlux_decision) — получено 2026-09-30
4. [StartLux Labs — LICENSE, CC BY-NC 4.0](https://huggingface.co/startlux-models/Startlux-Decision-2B/blob/b0ad7ce54fd2acac05c3f68d14d19a057faab6fe/LICENSE) — получено 2026-09-30
5. [StartLux Labs — NOTICE о правах на веса, код и исходные файлы](https://huggingface.co/startlux-models/Startlux-Decision-2B/blob/b0ad7ce54fd2acac05c3f68d14d19a057faab6fe/NOTICE) — получено 2026-09-30