# Intern-Decision: три открытые мультимодальные модели для локального выбора действий

Источник: https://modelium.tech/zhurnal/intern-decision-08b-2b-4b-local-multimodal-choices/

InternLM 26 сентября 2026 года выложила три чекпойнта Intern-Decision — 0.8B, 2B и 4B — с открытыми весами и лицензией Apache-2.0. Они оценивают варианты ответа по тексту и изображениям за один проход, не генерируя свободный текст. Для запуска авторы дают локальный Python/Hugging Face runtime; результаты тестов опубликованы самими авторами и не проверялись Modelium.

Intern-Decision: локальный выбор действий по тексту и изображениям

26 сентября 2026 года InternLM загрузила в Hugging Face три чекпойнта Intern-Decision: **0.8B, 2B и 4B**. История 4B-репозитория показывает начальный коммит в 05:36 UTC и загрузку файлов в 07:57 UTC; API двух младших моделей также датирует создание 26 сентября. Это отдельные веса, а не обновление описания старой модели: в каждом репозитории присутствуют Safetensors-шарды языковой части, vision-энкодер, проектор, конфигурация и код инференса. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

## Что модель делает и зачем запускать её локально

Intern-Decision построена на Qwen3.5 и решает ограниченную задачу: получает состояние, набор именованных вопросов и, при необходимости, изображения; выдаёт для каждого вопроса распределение вероятностей по разрешённым вариантам. Поддерживаются выбор (`choice`), шкала (`score`) и «да/нет» (`noul`). В отличие от обычного чат-режима, модель **не генерирует объяснение свободным текстом**: она оценивает logits вариантов в одном forward pass, затем калибрует вероятности. Практический пример — локально направить обращение в нужную команду, оценить срочность и решить, нужен ли возврат, одним запросом без отправки текста и изображений в облачный API. Это не проверка качества конкретного бизнес-процесса и не гарантия корректных решений. [s1](#src-s1) [s5](#src-s5)

Опубликованы три размера с общим форматом запроса. Для 4B в карточке указаны до 16 вопросов на запрос, максимум 62 варианта на вопрос, не более восьми изображений и отказ при превышении 8192 входных токенов вместо молчаливой обрезки. Все веса доступны без gating; модельные LICENSE и сохранённая лицензия базовой Qwen3.5-4B — **Apache-2.0**. Это разрешительная лицензия, включая коммерческое использование при соблюдении её условий и сохранении уведомлений; наличие весов не означает, что опубликованы обучающие данные и весь эксперимент по подбору калибровки. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s6](#src-s6) [s7](#src-s7)

## Как запустить

Авторский путь для 4B: Python 3.12+ в совместимом окружении PyTorch/CUDA, скачать **весь** каталог чекпойнта, установить зависимости из его `requirements.txt` и импортировать `DecisionEngine` из вложенного `inference.py`. Нужны не только шарды языковой части, но и процессор, токенизатор, шаблон чата и модуль inference. Пример вызова после загрузки репозитория:

from inference import DecisionEngineengine = DecisionEngine(device="cuda")result = engine.predict({    "state": "Клиенту дважды списали оплату, он просит вернуть лишнюю сумму.",    "questions": {        "team": {            "type": "choice",            "instructions": "Куда направить обращение?",            "criteria": {"billing": "Оплата и возвраты", "delivery": "Доставка"},        },        "refund_requested": {"type": "noul", "instructions": "Клиент просит возврат?"},    },})print(result["answers"])

Это адаптация документированного авторского примера, **не результат запуска Modelium**. Выбирайте `Intern-Decision-0.8B` или `-2B` по своей задаче, но не переносите калибровочную температуру 4B на другой чекпойнт. Карточка указывает, что текущий штатный модуль поддерживает только HF backend; в общем GitHub-репозитории также есть отдельный XTuner-путь с другими закреплёнными зависимостями. Стандартный `generate()` здесь не эквивалентен показанному API оценки вариантов. Минимум RAM/VRAM авторы не подтверждают: опубликованные размеры файлов и их тестовая RTX 4090 — не требования к оборудованию. [s1](#src-s1) [s5](#src-s5) [s8](#src-s8)

## Что известно о качестве

По **авторской** таблице 4B набирает 90,02% как невзвешенное среднее семи наборов задач против 88,74% для включённой авторами версии Jev; 0.8B и 2B показывают 79,38% и 84,68%. Это сравнение на выбранном авторами протоколе, а не независимый рейтинг: наборы отличаются объёмом и тематикой, публичная часть Jevbench — диагностический набор, а данные подбора калибровки не опубликованы. Авторы приложили записи семи тестовых наборов, код подсчёта и хэши весов, но не исторические ответы внешних baseline-моделей; нельзя воспроизвести всю сравнительную таблицу только из этого репозитория. [s1](#src-s1) [s5](#src-s5) [s9](#src-s9)

Отдельный авторский замер 4B — средние **44,16 мс на запрос** на одной RTX 4090 с BF16, SDPA и штатным HF runtime для короткого входа в 289 токенов с тремя полями. Это не оценка скорости на длинных документах или иных GPU. Авторы предупреждают: таблицы точности оценены через XTuner, а HF- и XTuner-бэкенды могут давать численно разные вероятности. Малый 96-кейсный пилот калибровки также не заменяет независимые испытания на вашей предметной области. [s1](#src-s1) [s5](#src-s5) [s9](#src-s9)

**Вывод:** семейство полезно там, где нужен локальный скоринг фиксированных действий с вероятностями и, при необходимости, изображениями. Перед продакшеном стоит отдельно проверить свои варианты ответа, калибровку, ошибки и задержку на собственном оборудовании; Modelium не запускал и не бенчмаркил эти модели. [s1](#src-s1) [s5](#src-s5)

## Источники

1. [Intern-Decision-4B — карточка модели на закреплённой ревизии](https://huggingface.co/internlm/Intern-Decision-4B/blob/0e5e6aa7d6d750e2b1504ba11a8136cb58aeb3cd/README.md) — получено 2026-09-26
2. [Intern-Decision-4B — история коммитов](https://huggingface.co/api/models/internlm/Intern-Decision-4B/commits/main?limit=10) — получено 2026-09-26
3. [Intern-Decision-4B — файлы на закреплённой ревизии](https://huggingface.co/api/models/internlm/Intern-Decision-4B/tree/0e5e6aa7d6d750e2b1504ba11a8136cb58aeb3cd?expand=true) — получено 2026-09-26
4. [Intern-Decision-0.8B и 2B — сведения Hugging Face API](https://huggingface.co/api/models/internlm/Intern-Decision-2B) — получено 2026-09-26
5. [InternLM/Intern-Decision — официальный код и описание](https://github.com/InternLM/Intern-Decision/tree/2f815802058b2464144218859ea9221c1bc0d2a8) — получено 2026-09-26
6. [Intern-Decision-4B — текст Apache License 2.0](https://huggingface.co/internlm/Intern-Decision-4B/blob/0e5e6aa7d6d750e2b1504ba11a8136cb58aeb3cd/LICENSE) — получено 2026-09-26
7. [Qwen3.5-4B — лицензия базовых весов](https://huggingface.co/Qwen/Qwen3.5-4B/blob/main/LICENSE) — получено 2026-09-26
8. [Intern-Decision — зависимости HF-инференса](https://github.com/InternLM/Intern-Decision/blob/2f815802058b2464144218859ea9221c1bc0d2a8/requirements-inference.txt) — получено 2026-09-26
9. [Intern-Decision — методика воспроизведения оценок](https://github.com/InternLM/Intern-Decision/blob/2f815802058b2464144218859ea9221c1bc0d2a8/docs/EVALUATION.md) — получено 2026-09-26
