Limite 1B Violetto: математическая модель с открытыми весами и запуском через vLLM

Что выпустили

Violetto — не дообучение известной базовой модели, а собственная архитектура Paradigma, обученная с нуля менее чем на 300 млрд отобранных токенов, а затем прошедшая SFT- и RL-этапы. По данным Safetensors в репозитории хранится около 1,035 млрд параметров в BF16. Веса и tokenizer доступны без gating. s1 s2

Модель узко специализирована: она рассчитана прежде всего на одиночные математические задачи. Авторы намеренно оставили слабую общую instruction-настройку. Карточка предупреждает, что Violetto может потерять исходный контекст и переосмыслить нематематический запрос как математический. Шаблон чата принимает только текст, запрещает tools и function calls и использует фиксированный системный промпт для пошагового решения. s1

Как запустить локально

Официальный путь работает через отдельный плагин для vLLM 0.26.0. Разработчики зафиксировали Python 3.12, PyTorch 2.11.0 с CUDA 13.0 и Transformers 5.6.2. Поддерживаемая конфигурация — Linux x86-64, NVIDIA GPU и совместимый с CUDA 13 драйвер. Отдельно устанавливать CUDA Toolkit для предложенного окружения не требуется: uv использует CUDA-сборку PyTorch из lock-файла. s3 s4

git clone https://github.com/paradigma-inc/limite-violetto.git
cd limite-violetto
git checkout cd68d27f100ebb7c84f05603d5af0e8f934b28b5
uv sync --locked
VLLM_PLUGINS=limite uv run --locked vllm serve paradigma-inc/limite-1b-violetto

При первом запуске vLLM скачает checkpoint с Hugging Face. В текущей реализации tensor parallel и pipeline parallel должны оставаться равными 1. Плагин регистрирует собственные LimiteConfig и LimiteForCausalLM; это внешний модуль для vLLM, а не встроенная поддержка архитектуры в стандартном Transformers. s3

Рекомендуемые авторами параметры генерации — temperature=0.6 и top_p=0.95. Они записаны в generation_config.json, но клиент может переопределить их своими параметрами запроса. s1 s3

Что с Transformers, Ollama и GGUF

Прямую загрузку Violetto через Hugging Face Transformers разработчики пока только обещают. Официальных GGUF-квантов, рецепта для llama.cpp или модели для Ollama в проверенных источниках нет. Поэтому на момент выпуска воспроизводимый локальный путь фактически привязан к указанному стеку vLLM и NVIDIA/CUDA. s1 s3

Это ограничивает переносимость, но снижает неопределённость установки: версии runtime зафиксированы, плагин опубликован отдельно, а его entry point явно зарегистрирован как limite_vllm.register:register. s4

Производительность: только результаты авторов

Paradigma заявляет для Violetto 94,01% на AIME 2026, 83,62% на HMMT February 2026, 50,80% на APEX Shortlist и 74,25% на BeyondAIME. Эти цифры опубликованы самой командой и не являются независимыми тестами Modelium. Авторы также предупреждают, что часть результатов других моделей взята из их карточек или MathArena, а протоколы оценки могут различаться. s1 s3 s5

Сравнивать модель только по итоговой таблице рискованно: полный технический отчёт и исчерпывающие evaluation-конфигурации пока не опубликованы, происхождение обучающей смеси описано лишь в общих чертах. Практический вывод уже сейчас более узкий: появился компактный специализированный checkpoint с официальным локальным сервером, но не универсальный ассистент и не доказанная замена более крупным математическим моделям.

Лицензия и практические ограничения

Веса и код vLLM-плагина выпущены под Apache-2.0. Лицензия допускает коммерческое использование, модификацию и распространение при соблюдении её условий, включая сохранение лицензии и уведомлений; права на товарные знаки отдельно не предоставляются. s1 s6

Перед внедрением важно учитывать:

• официально документирован только стек NVIDIA/CUDA 13 на Linux x86-64;
• разработчик не указывает минимальный объём VRAM или RAM;
• CPU, Apple Silicon и другие GPU-бэкенды не описаны;
• tensor parallel и pipeline parallel сейчас ограничены значением 1;
• модель текстовая, не поддерживает инструменты и рассчитана на один математический запрос;
• заявленные benchmark-результаты пока не воспроизведены независимо.

Для локальных экспериментов Violetto интересна сочетанием небольшого по меркам современных LLM checkpoint, открытой коммерчески применимой лицензии и официального vLLM-плагина. Для production её стоит оценивать на собственных задачах и собственном оборудовании, не выводя требования к памяти из размера файла весов.