vLLM-Omni 0.32.0: новые сценарии с изображениями и речью

Что стало доступно в версии 0.32.0?

По заметкам разработчиков, vLLM-Omni теперь поддерживает Qwen-Image-2.1 и 2.1-Turbo для генерации изображений, YuE2-3B для музыки и другие модели изображений и звука. Это поддержка со стороны программы: наличие и условия использования весов каждой модели следует проверять в её собственном репозитории. Релиз сам по себе не делает эти модели бесплатными или разрешёнными для коммерции. s1

Для голосовых приложений разработчики добавили определение пауз и окончания реплики на сервере (VAD) и расширили обслуживание диалога, где человек и модель могут передавать звук в обе стороны. Отдельно появился необязательный режим распределения работы между несколькими машинами через Ray. Последний вариант адресован командам с собственной инфраструктурой, а не установке на домашний ноутбук. Это заявленные возможности релиза; качество диалога и задержку Modelium не измерял. s1

Подходит ли обновление для моего компьютера?

Уровень: инженерный. Документация указывает Linux и Python 3.12 для быстрого старта; карточка пакета допускает Python от 3.11 до версии ниже 3.14. В заметках релиза требуется соответствующая версия основного vLLM 0.32.0. Пакет vllm-omni 0.32.0 и файлы релиза действительно опубликованы, но инструкция быстрого старта в закреплённом коде всё ещё говорит, что wheel ещё не вышел: этот абзац документации устарел по сравнению с PyPI и списком файлов релиза. Поэтому здесь нет команды установки, которую можно без проверки скопировать как гарантированный рецепт. s1 s2 s3

Ни размер загрузки, ни оборудование, на котором авторы проверяли отдельные модели, не устанавливают минимальный объём памяти для всех сценариев. Для домашнего текстового чата этот многокомпонентный стек избыточен. Если ваша задача — собственный сервис изображений или речи на Linux, сначала выберите конкретную модель, проверьте её лицензию и требования, затем сверьте совместимость с vLLM-Omni 0.32.0 и vLLM 0.32.0. s1 s3

Что проверить перед обновлением?

1. Убедитесь, что вам нужна именно vLLM-Omni, а не базовый vLLM: предыдущая публикация посвящена другому пакету. s1
2. Сверьте версии обоих пакетов и конкретную модель в документации. Следование этому совету не означает, что Modelium проверил запуск на вашем железе. s1 s3
3. Проверьте собственную интеграцию: релиз принимает только стандартные имена типов результата (text, image, audio, latent, token_ids); прежние сокращения и неверные значения отклоняются. Это важно при обновлении уже работающего приложения. s1

Права: исходный код vLLM-Omni в закреплённом релизе и пакет на PyPI помечены Apache-2.0. Это условия программы, не лицензия весов Qwen-Image, YuE2 или других моделей. Независимые испытания производительности и качества Modelium не проводил. s2 s4

Следующий шаг: если уже используете этот стек, прочитайте официальные заметки vLLM-Omni 0.32.0 и проверьте совместимость своей модели до обновления. s1