Ollama 0.35.0 preview: локальный API /v1/systemone для моделей решений

Что меняется для локального сценария

Если нужно присвоить входящему запросу категорию, выбрать маршрут обработки или оценить критерий, приложение может отправить state с исходным контекстом и объект questions с правилами решения. Тип choice выбирает метку и показывает распределение вероятностей по предложенным вариантам; noul оценивает истинность условия; score даёт оценку по упорядоченным критериям. Пример ответа в релизе — демонстрация разработчиков, не результат теста Modelium. s1

Серверный обработчик в коде тега v0.35.0 требует локальную модель и отклоняет облачный источник. Он также проверяет GGUF и совместимую конфигурацию семейства Qwen3.5 для этого режима; обычная чат-модель или произвольный GGUF не становятся decision model просто от обращения к новому URL. Код содержит ограничения размера тела запроса (64 KiB) и проверяет поддержку scoring у исполнителя. s2

Как проверить на своём стенде

Возьмите именно prerelease v0.35.0 со страницы официального релиза под свою платформу: обычная команда установки последней стабильной версии не доказывает наличие этого API. После установки загрузите модель командой из релизного примера: ollama pull nimble. Затем можно отправить запрос на локальный сервер: s1

curl http://localhost:11434/v1/systemone \
-H 'Content-Type: application/json' \
-d '{
"model": "nimble",
"state": "Входящие заявки: оплата прошла, но чек не появился",
"questions": {
"category": {
"type": "choice",
"instructions": "Выбери категорию заявки",
"criteria": {
"billing": "Оплата и чеки",
"bug": "Ошибка приложения",
"account": "Доступ к аккаунту"
}
}
}
}'

Это адаптация схемы запроса из официального релиза, не проверенный Modelium вывод. Проверяйте собственные ответы на размеченных примерах, отдельно оценивайте ошибки и порог для передачи неоднозначных случаев человеку. Вероятность в ответе рассчитывается из логитов кандидатов; она не означает доказанную калибровку или гарантированную точность на ваших данных. s1 s3

Лицензии, ограничения и выбор следующего шага

Код самой Ollama в теге v0.35.0 опубликован под MIT. Это не лицензия всех запускаемых весов: карточка Bespoke Nimble 9B указывает Apache 2.0 для своего артефакта; страница Tev1 говорит об MIT-лицензии скриптов и сборщиков датасета, а не даёт оснований приписать её весам Tev1. Перед коммерческим применением сверяйте условия конкретной модели и её происхождение. s4 s5 s6

Официальный релиз помечен как prerelease, и Modelium не запускал эти бинарники или модели. Для production сначала воспроизведите запрос на закреплённой версии Ollama и подходящих весах, измерьте качество на своём наборе заявок и проверьте сценарий отката. Если нужен уже описанный весовой пакет и его ограничения, см. материал о Bespoke Nimble 9B v2; новая интеграция Ollama — отдельное событие, а не новый релиз базовой модели. s1 s5