Lumma-Fev-0.1B: локальные решения по тексту вместо генерации ответа

Lumma-Fev-0.1B: локальные решения по тексту вместо генерации ответа

25 сентября 2026 года FrontiersMind загрузила веса Lumma-Fev-0.1B и исходники модели на Hugging Face. В тот же день в PyPI появился пакет lumma-fev версии 0.1.1. Модель не пишет свободный ответ: она получает текст или JSON-состояние и набор типизированных вопросов, затем выдаёт варианты и вероятности. Это инструмент для маршрутизации обращений, разметки и других задач с заранее определёнными решениями, а не универсальный чат-бот. s1 s3 s6

Что именно вышло

В репозитории лежат model.safetensors, токенизатор, конфигурация и Python-код модели. Метаданные весов показывают 154 102 848 параметров: основная часть в BF16, небольшая головка в FP32. В качестве исходной модели указана собственная Nandi-Mini-150M; её закреплённая ревизия и Apache 2.0 проверяются отдельно. Код, веса Lumma-Fev и пакет PyPI помечены Apache 2.0; лицензия допускает коммерческое использование при соблюдении её условий и сохранении обязательных уведомлений. Это не означает, что любой производный продукт автоматически свободен от других обязательств. s1 s2 s3 s4

Поддерживаются три формата вопроса: noul — вероятность ответа «да»; choice — выбор из именованных вариантов; score — оценка по упорядоченной шкале. Один запрос может содержать несколько вопросов к одному состоянию. В отличие от генерации текста, приложение получает структурированный результат, но вероятность сама по себе не гарантирует правильности или калибровки на вашем потоке данных. s1 s5

Как попробовать локально

Разработчик предлагает Python 3.10+ и пакет lumma-fev. После установки pip install lumma-fev можно вызвать lumma_fev.load("FrontiersMind/lumma-fev-0.1b", revision="2ba4653cadd473918e95d8e943690c14120769b8") и метод decide() с состоянием и вопросами. Для приложения с HTTP-интерфейсом дополнительная установка pip install 'lumma-fev[serve]' предоставляет lumma-fev-serve и маршрут POST /v1/systemone. Документация автора заявляет совместимость этого маршрута с клиентами TypeSafe; Modelium интеграцию не испытывал. s1 s3

Например, в обращении «I was charged twice» можно запросить noul для признака оплаты, choice для выбора команды и score для срочности. Эти варианты нужно определить заранее в собственной схеме. Пакет работает через Transformers/PyTorch; готового GGUF или команды Ollama в опубликованном репозитории нет. Пример прямой загрузки через Transformers требует trust_remote_code=True: прежде чем выполнять чужой Python-код в рабочем окружении, проверьте его и закрепите ревизию. s1 s3 s5

Где границы применимости

Карточка указывает английский язык; другие языки не измерены. Состояние длиннее 1 408 токенов обрезается, а обучение проводилось на состояниях длиной до 384 токенов: качество на более длинных входах авторы не измеряли. Перед автоматическими действиями на основе ответов нужна собственная проверка точности и калибровки на ваших размеченных данных. Публичная карточка этого релиза не приводит сравнительного бенчмарка с независимыми моделями; оценок скорости и требований к RAM/VRAM мы не утверждаем. s1

Практический вывод: для закрытого контура обработки англоязычных обращений Lumma-Fev даёт открытые веса и готовый локальный API с типизированным ответом. Начните с пробного набора реальных обращений и порогов уверенности; для русского языка, произвольных ответов и критичных решений без проверки эта модель пока не обоснованный выбор. s1 s3