Перейти к содержанию
modelium.
Начать с задачи
←
Новость

GEV-26B-Decide: локальные решения с выборочным рассуждением на Gemma 4

На странице · 2 разделов

AutoTrust опубликовала 2 октября 2026 года GEV-26B-Decide — открытые веса модели для выбора из вариантов по тексту и изображению. Когда уверенность первого ответа низка, отдельный режим включает рассуждение той же Gemma 4; это увеличивает задержку. Для запуска автор требует сборку vLLM с поддержкой Gemma 4 и собственный патч LoRA, а не обычную команду vllm serve.

GEV-26B-Decide: когда локальной модели стоит «подумать» перед выбором

Коротко. AutoTrust разместила репозиторий GEV-26B-Decide 2 октября 2026 года и 3 октября дополнила карточку демонстрациями управления браузером и роботизированной рукой. Это не новая базовая Gemma: автор прямо говорит, что веса ранее публиковались как JEV-Gemma4-26B-A4B; новое здесь — оформленный пакет принятия решений, серверный режим адаптивного рассуждения и отчёты. Закреплённая ревизия 7c89590 содержит два шарда базовых весов, индекс, LoRA-адаптеры, отдельную голову решений и код сервера. s1 s2 s3

Что получает разработчик

Модель на базе google/gemma-4-26B-A4B-it принимает текст и изображения, возвращая распределение вероятностей для ответов «да/нет», оценки 0–5 или выбора из 2–256 вариантов. В режиме System 1 решение считывается за один проход. Опциональный `thinking: "auto" сначала получает этот ответ; если максимальная вероятность ниже порога 0,8, та же базовая модель рассуждает в режиме System 2, а сервер усредняет исходное распределение с результатом рассуждения. По умолчанию в серверном примере мышление выключено. Это полезно для классификации и маршрутизации, когда быстрый ответ обычно достаточен, но логические задачи требуют дополнительной проверки. s1 s4

В авторском отчёте Decision Index 0.2.1 смешаны два разных режима: все десять задач Knowledge & Reasoning прогнаны с адаптивным мышлением, остальные четыре области взяты из прежнего полного прохода System 1. Итог 62,48 — авторская оценка по собственному прогону, не результат независимого теста Modelium и не официальный результат доски. Машинный отчёт показывает 33 864 заменённых ответа при расчёте индекса; для самой группы Knowledge & Reasoning автор сообщает 33 856 запросов. Эти числа имеют разные знаменатели и не являются ошибкой в подсчёте одного теста. По авторским данным GPQA Diamond меняется с 42,9% на 78,6%, но ChessBench остаётся около 23,6%, а HLE при 17,8% лишь примерно достигает случайного уровня. s1 s5

Цена рассуждения. Автор оценивает медиану задержки на одном свободном B200 примерно в 13,4 секунды по десяти задачам Knowledge & Reasoning без speculative decoding и 7,7 секунды с ним; это расчёт по измеренным токенам и предположенной скорости, а не замер на пользовательском железе. Не переносите цифры 45 мс для System 1 или 60–85 мс для визуальных шагов на другую видеокарту. Демонстрации браузера и MuJoCo относятся к авторскому стенду, а не к гарантированной точности в рабочих интерфейсах. s1 s6

Можно ли запустить локально

Да, файлы доступны без ограничения доступа в HF; индекс закреплённой ревизии указывает на оба опубликованных шарда. Но штатный vLLM сам по себе не подтверждён как совместимый путь: авторский serve.sh требует сборку с Gemma 4 и патч vllm-gemma4-lm-head-lora.patch для LoRA на lm_head, а также запускает собственный serve_decide.py с маршрутом /v1/decide. В карточке сказано, что этот набор испытывали на development-сборке vLLM сентября 2026 года, без точного воспроизводимого тега сборки. Поэтому здесь нет обещания запуска одной готовой командой; сначала закрепите совместимый vLLM, примените патч и проверьте вывод вероятностей на собственном наборе примеров. Авторский сервер и индекс весов доступны для аудита. s1 s3 s4

Метаданные репозитория и исходной Gemma указывают Apache-2.0; ссылка на условия Gemma ведёт к тексту Apache License 2.0. При этом отдельного файла LICENSE в дереве GEV нет: перед коммерческой интеграцией проверьте условия, происхождение данных, необходимые уведомления и права на собственные входные изображения. Открытые веса не означают проверенную безопасность браузерной автоматизации. Наилучший первый пилот — офлайн-классификация с метками и измерением задержки/калибровки на собственных данных; для управления браузером оставьте подтверждение действия пользователем. s1 s3 s7

Источники