# llama.cpp добавил /v1/systemone: пять decision-моделей в основной ветке

Источник: https://modelium.tech/zhurnal/llama-cpp-systemone-five-decision-models-merged/

2 октября 2026 года PR #29818 с локальным API /v1/systemone вошёл в основную ветку llama.cpp. Он добавляет обработку типизированных вопросов для Laya, Julia-1, lev, OpenJev и Kev; ggml-org опубликовала GGUF-веса всех пяти. Это пока код из master после коммита a4cb4c61, а не функция последнего стабильного релиза v0.5.0: для проверки нужен сервер, собранный из новой ветки. OpenJev имеет некоммерческую лицензию CC BY-NC 4.0; остальные четыре репозитория обозначены Apache-2.0.

## Что произошло

2 октября 2026 года в основную ветку llama.cpp вошёл PR #29818: сервер получил POST `/v1/systemone` для моделей, которые отвечают на типизированные вопросы о состоянии, а не пишут свободный текст. Коммит с изменением — `a4cb4c61fd9d9c2066c7c1747821d3d65b8943bd`. Поддержка охватывает Laya, Julia-1, lev, OpenJev (в том числе изображения при наличии проектора) и Kev. В PR добавлены конвертеры, обработка decision-выхода и серверные тесты; автор PR приводит сравнение вероятностей с эталонными реализациями для одного набора вопросов. Это **авторская проверка PR**, не независимый тест Modelium и не доказательство точности на ваших данных. [s1](#src-s1)

`ggml-org` также разместила GGUF-репозитории для всех пяти моделей: Laya (BF16, Q8_0), Julia-1 (BF16, Q8_0), lev (BF16, Q4_K_M, Q8_0), Kev-4B (BF16, Q4_K_M, Q8_0), OpenJev (BF16, Q4_K_M, Q8_0, а также два файла mmproj). Наличие файлов проверено по полным спискам `siblings` в API модели; это не означает, что мы скачали веса или воспроизвели запуск. [s3](#src-s3)[s4](#src-s4)[s5](#src-s5)[s6](#src-s6)[s7](#src-s7)

## Когда это пригодится

Локальный сервер может направлять обращения в команду, оценивать срочность или отвечать на бинарный вопрос, возвращая структуру и вероятности вместо генерации произвольного текста. Документация описывает `state` как строку, объект либо массив, а `questions` — как словарь вопросов типов `choice`, `score` и `noul`. Ответ `choice` содержит выбранный вариант и вероятности, `score` — ожидаемый уровень и распределение, `noul` — вероятность ответа «да». Вероятности не гарантированно откалиброваны для вашего потока данных: проверяйте пороги на собственном размеченном наборе перед автоматическим решением. Стриминг не поддерживается. [s2](#src-s2)

Практический путь для пилота: собрать `llama-server` из исходников не раньше зафиксированного merge-коммита `a4cb4c61`, загрузить, например, `ggml-org/Laya-GGUF` согласно инструкции PR (`llama-server -hf ggml-org/Laya-GGUF`), затем отправить POST на `http://127.0.0.1:8080/v1/systemone` со своим `state` и `questions`. Для `choice` задайте `type`, `instructions` и `criteria` с вариантами; для `noul` достаточно `type` и `instructions`. Формат полного примера приведён в закреплённой серверной документации. Это путь из документации разработчиков, **не проверенный запуск Modelium**. Изображения допустимы только у совместимой модели с загруженным `--mmproj`, а не у любого из пяти GGUF. [s1](#src-s1)[s2](#src-s2)

## Ограничения версии и права

Важно не подменять исходную ветку стабильным бинарником: последний стабильный релиз на момент проверки — **v0.5.0 от 23 сентября**, он предшествует PR; опубликованные до merge ежедневные сборки тоже не являются подтверждением этой функции. Дождитесь следующей сборки с коммитом или соберите исходники; сначала сверяйте commit/tag своего сервера. [s1](#src-s1)[s8](#src-s8)

Лицензия самого llama.cpp — MIT. Метаданные четырёх GGUF-репозиториев (Laya, Julia-1, lev, Kev-4B) указывают Apache-2.0, но OpenJev-GGUF — **CC BY-NC 4.0**, что не даёт общего разрешения на коммерческое использование. Лицензия кода, открытая публикация весов и право применить конкретную модель в продукте — разные вопросы. При выборе веса сверяйте также права и условия исходного чекпойнта. [s3](#src-s3)[s4](#src-s4)[s5](#src-s5)[s6](#src-s6)[s7](#src-s7)[s9](#src-s9)

Новость именно о включении пяти decision-моделей в основной llama.cpp, а не о новом семействе базовых моделей или стабильном релизе. Для сравнения: ранее опубликованная возможность `/v1/systemone` в **Ollama 0.35.0 preview** относится к другому runtime и остаётся предварительной. Здесь не делаем выводов об ускорении, точности либо минимальном объёме RAM/VRAM без отдельного воспроизводимого измерения. [s1](#src-s1)[s2](#src-s2)

## Источники

1. [llama.cpp PR #29818: merged 2026-10-02, commit a4cb4c61](https://api.github.com/repos/ggml-org/llama.cpp/pulls/29818) — получено 2026-10-02
2. [llama.cpp server README at merge commit: /v1/systemone](https://github.com/ggml-org/llama.cpp/blob/a4cb4c61fd9d9c2066c7c1747821d3d65b8943bd/tools/server/README.md) — получено 2026-10-02
3. [ggml-org/Laya-GGUF model API](https://huggingface.co/api/models/ggml-org/Laya-GGUF) — получено 2026-10-02
4. [ggml-org/Julia-1-GGUF model API](https://huggingface.co/api/models/ggml-org/Julia-1-GGUF) — получено 2026-10-02
5. [ggml-org/lev-GGUF model API](https://huggingface.co/api/models/ggml-org/lev-GGUF) — получено 2026-10-02
6. [ggml-org/Kev-4B-GGUF model API](https://huggingface.co/api/models/ggml-org/Kev-4B-GGUF) — получено 2026-10-02
7. [ggml-org/OpenJev-GGUF model API](https://huggingface.co/api/models/ggml-org/OpenJev-GGUF) — получено 2026-10-02
8. [llama.cpp latest stable release v0.5.0](https://api.github.com/repos/ggml-org/llama.cpp/releases/latest) — получено 2026-10-02
9. [llama.cpp MIT LICENSE at merge commit](https://github.com/ggml-org/llama.cpp/blob/a4cb4c61fd9d9c2066c7c1747821d3d65b8943bd/LICENSE) — получено 2026-10-02