vLLM 0.32.0: новые модели и изменения перед обновлением

vLLM 0.32.0: новые модели и изменения перед обновлением

Если вы запускаете модели на собственном компьютере или сервере через vLLM, версия 0.32.0 от 18 октября 2026 года добавляет поддержку новых моделей и меняет поведение некоторых настроек. Это не новая модель с весами: vLLM — программа, которая обслуживает запросы к уже выбранной модели. Для обычного домашнего чата обновляться немедленно не требуется; материал прежде всего для тех, кто уже пользуется этим инженерным инструментом. s1

Доступность на 18 октября, около 07:28 UTC: исходники версии опубликованы под релизным тегом, но PyPI ещё показывает 0.31.0 как последнюю доступную версию; отдельная страница пакета 0.32.0 возвращала 404, а прикреплённых файлов в GitHub-релизе на момент проверки не было. В заметках релиза пакеты перечислены, но это пока не подтверждает их загрузку. Не считайте обычную команду обновления способом получить именно 0.32.0, пока не увидите эту версию в реестре пакетов. s1 s2

Что меняется для локального запуска?

По списку изменений разработчиков, vLLM добавил поддержку MiniCPM-V 4.7 для работы с изображениями, EmbeddingGemma 2 для поиска похожего содержимого в разных типах данных и Nemotron 3.5 ASR для превращения речи в текст. Это поддержка в движке: веса скачиваются и лицензируются отдельно, а совместимость конкретной конфигурации и результат на вашем оборудовании здесь не проверялись. s1 s3

Появился и адрес /v1/systemone для приложений, которым нужно получить структурированный выбор или оценку, а не свободный текст. Это интерфейс для разработчиков, не дополнительная кнопка в домашнем чате. В релизе также перечислены исправления безопасности. Modelium их не воспроизводил и не замерял скорость работы моделей. s1 s4

Что проверить перед обновлением?

Python 3.10 больше не поддерживается: нужен Python не ниже 3.11. Изменились настройки CORS — правил, разрешающих веб-странице обращаться к серверу vLLM из браузера. Теперь произвольные адреса сайтов не допускаются по умолчанию; если у вас есть собственный браузерный интерфейс, проверьте разрешённые адреса до переключения. Также изменена трактовка max_tokens: это верхняя граница ответа, а не заранее зарезервированное место в контексте. s1 s5

Один следующий шаг: проверьте появление версии 0.32.0 в PyPI, затем прочитайте раздел Breaking Changes & Deprecations официальных заметок и сопоставьте его со своей конфигурацией. Пока пакета нет, оставайтесь на рабочей версии; источник v0.31.0 разобран в связанном материале. Это новостной разбор по документации, а не отчёт о запуске или домашняя инструкция. s1 s2