Перейти к содержанию
modelium.
Начать с задачи
←
Новость

Bobcat 1.2: локальная модель для выбора из заданных ответов

На странице · 3 разделов

9 октября появились веса Bobcat 1.2 — модели, которая выбирает один из предложенных вариантов и оценивает каждый из них, а не пишет свободный текст. Она пригодится разработчикам, которые сортируют обращения или проверяют документы локально. Это серверный инструмент, а не готовая программа для домашнего ПК; редакция его не запускала.

9 октября 2026 года авторы разместили веса Bobcat 1.2. Если у вас есть поток сообщений и нужно разложить их по собственным категориям — например, «счёт», «возврат» или «другое», — модель оценивает только предложенные варианты. Она не сочиняет ответ произвольным текстом. Это может быть полезно при локальной обработке внутренних документов, но само решение всё равно нужно проверять: корректная форма ответа не гарантирует верный выбор. s1

Что именно вышло

Основной пакет — модель на базе Gemma 4 31B-it с весами в формате BF16: это способ хранения чисел модели, а не показатель необходимой памяти компьютера. Два файла весов перечислены в индексном файле и действительно присутствуют в репозитории. Код программы, которая принимает вопросы и собирает структурированный ответ, открыт отдельно. В карточке авторы описывают также выбор между вариантами, ответ «да/нет» и оценку по шкале. Это новая версия Bobcat, а не обновление обычного чат-бота. s1s2s5

Лицензия опубликованных весов — Apache-2.0; базовая Gemma 4 31B-it на указанной авторами ревизии также помечена Apache-2.0. Лицензии данных, использованных при обучении, описаны отдельно. Доступные для скачивания веса, открытый код программы и право использовать результат в коммерческом продукте следует проверять как разные вопросы; лицензионные условия и требования об атрибуции остаются в силе. s1s3s4

Кому это пригодится и что потребуется

Понятный сценарий — заранее определить категории служебного обращения и проверить, насколько уверенно модель распределяет сообщения между ними. Для этого разработчик должен подготовить входные данные, запустить серверную программу и сверить ответы с размеченными примерами своей задачи. Карточка описывает запуск с vLLM 0.30.0 — программой для обслуживания модели на видеокарте — и приводит авторские испытания на серверных GPU. Это не инструкция для домашнего компьютера: подтверждённый минимальный объём оперативной или видеопамяти авторы не установили. Modelium не воспроизводил запуск и не проверял ответы на русском языке. s1s5

Следующий шаг для инженера — изучить закреплённую карточку модели и исходный код, а затем провести небольшой тест на собственных данных, прежде чем подключать систему к рабочему процессу. Если нужен простой помощник, который свободно пишет ответы в чате, эта модель не решает такую задачу: она выбирает из вариантов, заданных приложением. s1s5

Насколько надёжны авторские цифры

Авторы сообщают средний результат 94,75% по четырём задачам в своей финальной оценке на 1609 решениях. Отдельное число 90,88% означает совпадение с эталонными ответами на 329 вопросах из другого набора; смешивать эти оценки нельзя. В сравнении с Bobcat 1.1 разница по первой оценке составляет лишь 0,20 процентного пункта, а опубликованный авторами интервал неопределённости включает как ухудшение, так и улучшение. Независимого замера редакция не проводила. s1s2

Важная оговорка самих авторов: заранее заданный порог 91,5% на наборе из 329 вопросов модель не прошла. После измерения критерий изменили, и новый порог она прошла. Это причина не принимать слово «улучшение» без проверки на вашей задаче. Кроме того, модель может ошибаться, если неверный ответ подсказывают внутри проверяемого документа. s1s2

Проверено по закреплённой ревизии HF f790a62f869048ea1c76fd6a30af849a158b9da2 и исходникам 9 октября 2026 года; реального запуска Modelium не выполнял. s1s2s5

Источники