# H2O-Lightning-4B: локальный выбор по документам и изображениям

Источник: https://modelium.tech/zhurnal/h2o-lightning-4b-local-decision-model-hybrid/

H2O-Lightning-4B помогает выбрать один из заранее заданных вариантов по тексту или изображению — например, определить приоритет заявки по правилам. 8 октября авторы добавили адаптер: одна программа может обслуживать эти решения и обычные текстовые ответы базовой Qwen3.5-4B. Это не домашняя инструкция для слабого компьютера: авторы показывают запуск на GPU, а минимальные требования не установлены.

Если вам нужно разобрать заявки по собственным правилам, H2O-Lightning-4B предлагает не свободный разговор, а выбор из заданных ответов. Например, заявка «оплата недоступна для всех» и правило «полная остановка оплаты — высокий приоритет» могут стать вопросом с вариантами «высокий», «средний», «низкий». Модель возвращает выбор и вероятности вариантов; человек всё равно проверяет важные решения. [s1](#src-s1)

## Что изменилось 8 октября

В репозитории H2O.ai 8 октября 2026 года появился отдельный *адаптер* — небольшой набор весов, меняющий поведение базовой модели Qwen3.5-4B. По инструкции авторов, в одной локальной программе vLLM теперь можно держать базовую модель для обычных текстовых ответов и её адаптер для выбора по правилам. Сам H2O-Lightning-4B был доступен раньше: репозиторий создан 2 октября, а 4 октября отмечена версия v1.2.1. Поэтому речь не о выпуске новой базовой модели 8 октября. [s1](#src-s1)[s2](#src-s2)

## Что доступно для локального запуска

Авторы предоставили полный файл модели, отдельный файл адаптера, конфигурацию и программу-прослойку, которая принимает вопрос и возвращает варианты с вероятностями. Поддерживаются вопросы по тексту и изображениям — например, скану чека или снимку экрана. Это не обычный чат: модель выбирает из списка, не пишет развёрнутое объяснение решения. Для гибридного режима авторы описывают vLLM 0.30.0 и базовую Qwen3.5-4B; инструкция сверена с карточкой, но Modelium не запускал модель. [s1](#src-s1)[s2](#src-s2)[s3](#src-s3)

В репозитории указан Apache-2.0 и лежит текст этой лицензии; базовая Qwen3.5-4B также помечена Apache-2.0. Вес модели занимает около 9,1 ГБ на диске, адаптер — около 520 МБ. **Это размеры скачиваемых файлов, не минимум оперативной или видеопамяти.** Авторы измеряли результаты на профессиональных видеокартах, но домашний минимум и скорость на вашем компьютере не подтвердили. [s1](#src-s1)[s2](#src-s2)[s3](#src-s3)

## Как понять, подходит ли модель

Сценарий — повторяющееся решение по вашим правилам: назначить приоритет обращению, проверить утверждение или оценить запись по заданной шкале. В учебном примере можно дать короткое описание сбоя и три уровня приоритета, а затем сравнить выбранный уровень **и вероятности** с написанным вами правилом. Если правило неоднозначно или ошибка дорого стоит, решение проверяет человек. Это пример задачи, а не результат теста Modelium. [s1](#src-s1)

Авторы сообщают 205 верных ответов из 231 на публичном текстовом наборе JevBench. Их отдельное число 72,5 в составной таблице относится к **версии v1.1**, а не к новому адаптеру: переносить его на нынешний гибридный режим нельзя. Восемь верных ответов на опубликованных примерах с изображениями тоже не означают оценку на полном ImageJevBench. Независимой проверки этих результатов у редакции нет. [s1](#src-s1)

Карточка предупреждает: модель оценивали главным образом на английском; лучше всего она работает с небольшим числом вариантов, а видео не принимает. Если вам нужен русский текст с пояснением причин или домашний запуск без настройки GPU, не считайте эту публикацию готовым рецептом. Следующий шаг для подготовленного читателя — открыть закреплённую карточку, изучить условия запуска vLLM и сначала проверить на собственных размеченных примерах. [s1](#src-s1)

## Источники

1. [H2O.ai: H2O-Lightning-4B — карточка и инструкции, ревизия 672dc01e](https://huggingface.co/h2oai/h2o-lightning-4b/tree/672dc01ed37a516357cd3c7da777c96699d3f16c) — получено 2026-10-09
2. [Hugging Face: история коммитов H2O-Lightning-4B](https://huggingface.co/api/models/h2oai/h2o-lightning-4b/commits/main?limit=30) — получено 2026-10-09
3. [Qwen: официальная карточка Qwen3.5-4B](https://huggingface.co/Qwen/Qwen3.5-4B) — получено 2026-10-09