Перейти к содержанию
modelium.
Начать с задачи
←

Nemotron 3.5 Rerank 8B: поиск по тексту и изображениям

NVIDIA обозначила 20 октября 2026 года датой выпуска Nemotron 3.5 Rerank 8B: модель переупорядочивает найденные документы по соответствию вопросу, учитывая текст и изображения. Веса доступны, но это инженерный инструмент для Linux и NVIDIA GPU, а не готовая домашняя программа.

NVIDIA Nemotron 3.5 Rerank 8B: сортировка локальных документов и изображений

Коротко. Если поиск по своим файлам выдал несколько похожих документов, новая модель NVIDIA помогает расставить их по вероятной полезности для вопроса. Она оценивает текст и изображения страниц, но не отвечает на вопрос сама. Это вариант для разработчика локального поиска на Linux с NVIDIA GPU, а не готовое приложение для домашнего компьютера. s1

Что произошло 20 октября

В карточке NVIDIA датой выпуска Nemotron-3.5-Rerank-8B-BF16 указано 20 октября 2026 года. Репозиторий появился раньше, 15 октября; эта дата загрузки не равна дате релиза. На момент проверки 20 октября доступен полный BF16-чекпойнт: четыре файла весов и индекс, перечисляющий все четыре. Код модели, шаблон входа и примеры использования также находятся в официальном репозитории. s1 s2

Реранкер — это второй этап поиска. Сначала другая система находит возможные документы, а эта модель сравнивает каждый из них с вопросом и выдаёт оценку соответствия. Например, среди найденных инструкций, где перемешаны текст и скриншоты, выше может оказаться страница с нужной схемой. Оценка не доказывает, что ответ верен: итоговый фрагмент нужно прочитать и сверить. s1

Что меняется для локального поиска

По описанию NVIDIA, модель принимает текстовый вопрос и документ в виде текста, изображения страницы или их сочетания; на выходе получается число, по которому можно отсортировать кандидатов. Русский язык есть в заявленном наборе языков оценки для текста и изображений. Это сведения автора, а не самостоятельный тест Modelium на русских документах. s1

Карточка даёт варианты для Transformers, Sentence Transformers и vLLM. В примерах Transformers используется версия 5.20.0, а для vLLM — 0.32.0 с отдельным окружением и Transformers 5.19.0: смешивать эти наборы зависимостей без проверки не следует. Для изображений автор рекомендует серверный /classify, предупреждая, что /score и /rerank могут неправильно обработать места для изображений. Это инженерный сценарий, а не инструкция «установить в два клика»; Modelium модель не запускал. s1 s3

Права и ограничения

Веса и сопровождающий код в этом репозитории предоставлены на условиях OpenMDW 1.1, а исходная Ministral 3 8B указана как Apache 2.0. NVIDIA прямо допускает коммерческое и некоммерческое использование, но при распространении материалов требует сохранить текст соглашения и применимые уведомления; нужно читать полные условия, в том числе положение о прекращении прав при определённых судебных исках. Открытый доступ к весам сам по себе не означает, что любой другой код вокруг них имеет ту же лицензию. s1 s4 s5

Автор приводит в карточке конфигурации NVIDIA A100, H100 и GB200, однако это не опубликованный минимум памяти для личного компьютера. Размер файлов весов также не является требованием к RAM или видеопамяти. Численных результатов сравнения качества с другими моделями в прочитанной карточке нет; обещать выигрыш в точности для ваших PDF или русских сканов нельзя. s1

Следующий шаг: если собираете поиск с повторной сортировкой текстовых фрагментов, сравните назначение с Qwen3 Reranker. Для изображений берите официальную карточку и сначала проверяйте ранжирование на собственном наборе документов. s1

Источники

  • s1 NVIDIA, карточка Nemotron-3.5-Rerank-8B-BF16, ревизия 39aa01525864f736e63f1d5742fc4cf59e754abd, получена 20.10.2026.
  • s2 Hugging Face API NVIDIA: перечень файлов и история коммитов, получены 20.10.2026.
  • s3 vLLM, официальный релиз 0.32.0 от 18.10.2026, получен 20.10.2026.
  • s4 NVIDIA, файл LICENSE этой модели, та же ревизия, получен 20.10.2026.
  • s5 NVIDIA, файл NOTICE и Hugging Face API базовой Ministral, получены 20.10.2026.

Источники

  1. NVIDIA Nemotron-3.5-Rerank-8B-BF16 model card, revision 39aa01525864f736e63f1d5742fc4cf59e754abd. Получено 20.10.2026.
  2. Hugging Face model API and commits, NVIDIA Nemotron 3.5 Rerank 8B — Pinned repository 39aa015; four sharded weight files in index; initial commit 2026-10-15.. Получено 20.10.2026.
  3. vLLM 0.32.0 GitHub release. Получено 20.10.2026.
  4. NVIDIA OpenMDW-1.1 model LICENSE, pinned revision. Получено 20.10.2026.
  5. NVIDIA NOTICE, pinned revision, and base model license metadata — Mistral base model HF API reports Apache-2.0.. Получено 20.10.2026.