# GEV-26B-Decide: локальные решения с выборочным рассуждением на Gemma 4

Источник: https://modelium.tech/zhurnal/gev-26b-adaptive-thinking-local-decision/

AutoTrust опубликовала 2 октября 2026 года GEV-26B-Decide — открытые веса модели для выбора из вариантов по тексту и изображению. Когда уверенность первого ответа низка, отдельный режим включает рассуждение той же Gemma 4; это увеличивает задержку. Для запуска автор требует сборку vLLM с поддержкой Gemma 4 и собственный патч LoRA, а не обычную команду vllm serve.

GEV-26B-Decide: когда локальной модели стоит «подумать» перед выбором

**Коротко.** AutoTrust разместила репозиторий GEV-26B-Decide 2 октября 2026 года и 3 октября дополнила карточку демонстрациями управления браузером и роботизированной рукой. Это не новая базовая Gemma: автор прямо говорит, что веса ранее публиковались как JEV-Gemma4-26B-A4B; новое здесь — оформленный пакет принятия решений, серверный режим адаптивного рассуждения и отчёты. Закреплённая ревизия `7c89590` содержит два шарда базовых весов, индекс, LoRA-адаптеры, отдельную голову решений и код сервера. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Что получает разработчик

Модель на базе `google/gemma-4-26B-A4B-it` принимает текст и изображения, возвращая распределение вероятностей для ответов «да/нет», оценки 0–5 или выбора из 2–256 вариантов. В режиме System 1 решение считывается за один проход. Опциональный `thinking: "auto" сначала получает этот ответ; если максимальная вероятность ниже порога 0,8, та же базовая модель рассуждает в режиме System 2, а сервер усредняет исходное распределение с результатом рассуждения. По умолчанию в серверном примере мышление выключено. Это полезно для классификации и маршрутизации, когда быстрый ответ обычно достаточен, но логические задачи требуют дополнительной проверки. [s1](#src-s1) [s4](#src-s4)

В авторском отчёте Decision Index 0.2.1 смешаны два разных режима: все десять задач Knowledge & Reasoning прогнаны с адаптивным мышлением, остальные четыре области взяты из прежнего полного прохода System 1. Итог 62,48 — **авторская оценка по собственному прогону**, не результат независимого теста Modelium и не официальный результат доски. Машинный отчёт показывает 33 864 заменённых ответа при расчёте индекса; для самой группы Knowledge & Reasoning автор сообщает 33 856 запросов. Эти числа имеют разные знаменатели и не являются ошибкой в подсчёте одного теста. По авторским данным GPQA Diamond меняется с 42,9% на 78,6%, но ChessBench остаётся около 23,6%, а HLE при 17,8% лишь примерно достигает случайного уровня. [s1](#src-s1) [s5](#src-s5)

**Цена рассуждения.** Автор оценивает медиану задержки на одном свободном B200 примерно в 13,4 секунды по десяти задачам Knowledge & Reasoning без speculative decoding и 7,7 секунды с ним; это расчёт по измеренным токенам и предположенной скорости, а не замер на пользовательском железе. Не переносите цифры 45 мс для System 1 или 60–85 мс для визуальных шагов на другую видеокарту. Демонстрации браузера и MuJoCo относятся к авторскому стенду, а не к гарантированной точности в рабочих интерфейсах. [s1](#src-s1) [s6](#src-s6)

## Можно ли запустить локально

Да, файлы доступны без ограничения доступа в HF; индекс закреплённой ревизии указывает на оба опубликованных шарда. Но штатный vLLM сам по себе **не подтверждён** как совместимый путь: авторский `serve.sh` требует сборку с Gemma 4 и патч `vllm-gemma4-lm-head-lora.patch` для LoRA на `lm_head`, а также запускает собственный `serve_decide.py` с маршрутом `/v1/decide`. В карточке сказано, что этот набор испытывали на development-сборке vLLM сентября 2026 года, без точного воспроизводимого тега сборки. Поэтому здесь нет обещания запуска одной готовой командой; сначала закрепите совместимый vLLM, примените патч и проверьте вывод вероятностей на собственном наборе примеров. Авторский сервер и индекс весов доступны для аудита. [s1](#src-s1) [s3](#src-s3) [s4](#src-s4)

Метаданные репозитория и исходной Gemma указывают Apache-2.0; ссылка на условия Gemma ведёт к тексту Apache License 2.0. При этом отдельного файла LICENSE в дереве GEV нет: перед коммерческой интеграцией проверьте условия, происхождение данных, необходимые уведомления и права на собственные входные изображения. Открытые веса не означают проверенную безопасность браузерной автоматизации. Наилучший первый пилот — офлайн-классификация с метками и измерением задержки/калибровки на собственных данных; для управления браузером оставьте подтверждение действия пользователем. [s1](#src-s1) [s3](#src-s3) [s7](#src-s7)

## Источники

1. [AutoTrust: карточка GEV-26B-Decide, ревизия 7c89590](https://huggingface.co/autotrust/GEV-26B-Decide/blob/7c89590ead085bf77630b4bf68264ea30b6ddc78/README.md) — получено 2026-10-05
2. [Hugging Face API: история коммитов GEV-26B-Decide](https://huggingface.co/api/models/autotrust/GEV-26B-Decide/commits/main) — получено 2026-10-05
3. [GEV-26B-Decide: закреплённый индекс весов и артефакты](https://huggingface.co/autotrust/GEV-26B-Decide/blob/7c89590ead085bf77630b4bf68264ea30b6ddc78/model.safetensors.index.json) — получено 2026-10-05
4. [GEV-26B-Decide: авторский серверный скрипт](https://huggingface.co/autotrust/GEV-26B-Decide/blob/7c89590ead085bf77630b4bf68264ea30b6ddc78/serve.sh) — получено 2026-10-05
5. [GEV-26B-Decide: машинный отчёт Decision Index](https://huggingface.co/autotrust/GEV-26B-Decide/blob/7c89590ead085bf77630b4bf68264ea30b6ddc78/reports/decision_index_adaptive.json) — получено 2026-10-05
6. [GEV-26B-Decide: условия оценки задержки](https://huggingface.co/autotrust/GEV-26B-Decide/blob/7c89590ead085bf77630b4bf68264ea30b6ddc78/reports/adaptive_latency_summary.json) — получено 2026-10-05
7. [Google Gemma: Apache License 2.0](https://ai.google.dev/gemma/apache_2) — получено 2026-10-05