Granite Switch 4.1: IBM объединила чат, выбор ответа и речь в двух моделях

Что можно скачать сейчас?

IBM разместила два набора весов: granite-switch-4.1-8b и granite-switch-4.1-30b. Индексы весов и списки файлов на Hugging Face содержат соответственно все четыре и все тринадцать заявленных частей. Это наличие файлов, а не доказательство, что любая домашняя видеокарта их запустит. s2 s3 s4 s5

Внутри каждого набора — базовая языковая модель Granite 4.1, два встроенных адаптера и отдельный компонент для превращения английской речи в текст. Адаптер — небольшая добавка к модели для отдельной задачи: decision оценивает варианты ответа, guardian-core помогает выявлять определённые риски в тексте. Например, систему поддержки можно попросить выбрать между категориями «проблема с оплатой» и «вход в аккаунт», а затем дать оператору текстовое объяснение. Численные оценки адаптера не стоит принимать за гарантированно верное решение. s1 s2

Что это меняет для локального ИИ?

По замыслу IBM, один размещённый у себя сервис может переключаться между беседой, оценкой вариантов и речевым вводом, не поднимая отдельный речевой сервер. Это удобно разработчику внутреннего помощника, но не означает, что редакция проверила скорость, качество или работу на вашем компьютере. В опубликованных карточках названы Transformers и vLLM; точные версии зависимостей указаны там же. Это инженерный путь настройки сервера, не пошаговый домашний рецепт. s1 s2 s6

Для первого шага откройте карточку версии 8B и проверьте, подходят ли вам состав модели и требования её программы запуска. Не скачивайте 30B только по числу параметров: опубликованный размер файлов и тестовая машина не задают минимальную оперативную или видеопамять. Документированного домашнего минимума для этой сборки мы не нашли. s2 s3

Какие ограничения важны?

Распознавание речи описано авторами как англоязычное: промежуточный текст может быть без заглавных букв и знаков препинания. Речевой компонент и чат не обучались как единая модель, поэтому ошибка распознавания может поменять дальнейший ответ. Не переносите этот сценарий на русскую речь без собственной проверки. guardian-core не заменяет проверку безопасности приложения и не включает все специализированные адаптеры библиотеки IBM. s2 s6

Обе карточки помечают веса Apache-2.0, а текущий репозиторий программы содержит отдельную лицензию Apache-2.0; это разные объекты лицензирования. Инструкции карточки ограничивают совместимый vLLM версиями до 0.28, поэтому нельзя считать обычное обновление до более нового vLLM подтверждённым способом запуска этой сборки. Мы не загружали веса и не воспроизводили пример. s2 s3 s7

Если вам нужен более простой локальный способ работы с моделями для выбора вариантов, посмотрите новость о командном запуске decision-моделей в Ollama; это другое семейство моделей, не инструкция для Granite Switch 4.1. s8