Startlux-Decision: пять открытых весов для локальных решений с вероятностями
На странице · 4 разделов
StartLux Labs выложила пять моделей Startlux-Decision — от 0.8B до 27B — с весами, индексами Safetensors и собственным сервером для API /v1/systemone. Они отвечают на типизированные вопросы выбором, вероятностью или оценкой вместо обычного текста. Веса доступны по CC BY-NC 4.0 только для некоммерческого использования; код инференса заявлен как Apache 2.0. Авторские результаты и задержки на H200 редакция не воспроизводила.
Startlux-Decision: пять моделей для локальных типизированных решений
StartLux Labs разместила пять чекпойнтов Startlux-Decision: 0.8B, 2B, 4B, 9B и 27B. Репозитории созданы 29 сентября 2026 года, а проверенные редакцией текущие ревизии загружены 30 сентября. Для каждого размера опубликованы модельные Safetensors, индекс весов, конфигурация, токенизатор и пакет startlux_decision с HTTP-сервером. Это открытые веса с ограничением на коммерческое использование, а не разрешение применять модель в коммерческом продукте. s1 s2
Зачем это нужно
Вместо свободного ответа модель получает состояние и один или несколько вопросов. Тип choice выбирает вариант и возвращает вероятности по вариантам, noul оценивает вероятность условия, score выдаёт оценку по упорядоченным критериям. Прикладной сценарий — сортировка обращений или маршрутизация задач с локальным HTTP API. Вероятности нельзя автоматически трактовать как проверенно откалиброванные: независимую оценку качества и запуск на своём оборудовании Modelium не проводил. s1
Что проверено в файлах
В закреплённых ревизиях индексы Safetensors указывают на присутствующие в манифестах файлы: по одному шарду для 0.8B и 2B, два для 4B, четыре для 9B и одиннадцать для 27B. В комплекте 2B лежат decision_config.json, requirements.txt, код клиента и сервера. Проверка наличия файлов и индексов не равна загрузке всех весов, проверке генерации или подтверждению результатов автора. Размер файлов не является минимальным требованием к RAM/VRAM. s2 s3
Как попробовать 2B
Автор рекомендует скачать весь репозиторий, установить зависимости, проверить быстрые CUDA-ядра и запустить сервер только на локальном интерфейсе. Понадобится среда, совместимая с зависимостями из закреплённого requirements.txt; авторские замеры ниже сделаны на H200, но это не заявленный минимум для запуска. Редакция команды не выполняла. s1 s3
hf download startlux-models/Startlux-Decision-2B --revision b0ad7ce54fd2acac05c3f68d14d19a057faab6fe --local-dir Startlux-Decision-2B
cd Startlux-Decision-2B
pip install -r requirements.txt
python -m startlux_decision.check .
python -m startlux_decision.server --model . --port 8090
После запуска пробный запрос из карточки можно упростить до одного вопроса. Сервер по умолчанию слушает 127.0.0.1; не открывайте порт в сеть без отдельной защиты. s1 s3
curl http://localhost:8090/v1/systemone -H 'Content-Type: application/json' -d '{"state":{"ticket":"I was charged twice for an order"},"questions":{"team":{"type":"choice","instructions":"Which team should handle this ticket?","criteria":{"billing":"Payments and refunds","technical":"App errors"}}}}'
Если проверка ядер сообщает NOT active, авторский сервер на CUDA по умолчанию откажется стартовать, чтобы не скрыть медленный fallback; установка пакетов может потребовать отдельной настройки CUDA-сборки. Не переносите авторские показатели H200 на другую видеокарту или CPU. s1 s3
Оценки автора и права
В карточке 2B автор сообщает 196 правильных ответов из 231 публичного задания JevBench, 44.19 по Decision Index 0.2.1 и задержку 15.5 мс для запроса с тремя вопросами на одном H200 в bf16. Карточка отдельно различает эти наборы оценок и условия измерения задержки; это заявления автора, а не независимые тесты Modelium. Для выбора между размерами сравнивайте качество на собственных данных и совместимость runtime, а не только цифры таблицы. s1
Веса — CC BY-NC 4.0: некоммерческое использование с указанием авторства; коммерческое требует отдельного разрешения. NOTICE относит инференс-код в startlux_decision/ к Apache 2.0 и отдельно сохраняет уведомление об исходной модели Alibaba. Наличие открытого кода сервера не снимает ограничение на веса. Начните с 0.8B или 2B для оценки рабочего сценария, но до пилота в продукте согласуйте права на использование весов. s4 s5
Источники
- StartLux Labs — Startlux-Decision-2B: карточка, задачи, запуск и методика авторских оценок. Получено 30.09.2026.
- Hugging Face — API моделей Startlux-Decision-0.8B и 27B, закреплённые манифесты — Проверены API и индекс весов всех пяти размеров; точные ревизии и снимки сохранены в evidence.. Получено 30.09.2026.
- StartLux Labs — код локального инференса и зависимости 2B. Получено 30.09.2026.
- StartLux Labs — LICENSE, CC BY-NC 4.0. Получено 30.09.2026.
- StartLux Labs — NOTICE о правах на веса, код и исходные файлы. Получено 30.09.2026.