# LocalAI 4.11.0: failover локальных моделей, аудиосцены и API решений

Источник: https://modelium.tech/zhurnal/localai-4-11-0-failover-audio-decisions/

2 октября 2026 года вышел стабильный LocalAI 4.11.0. Цепочки failover переключают заранее настроенные локальные или удалённые модели до начала ответа; после первого токена текущий запрос уже не переигрывается. Релиз также добавляет анализ аудиосцен и API структурированных решений. Для галерейных decision-моделей авторы отдельно рекомендуют master-сборку и alpha-бэкенд vllm-cpp; MIT-лицензия LocalAI не определяет условия загружаемых весов.

LocalAI 4.11.0: цепочки резервирования локальных моделей, анализ аудио и структурированные решения

**2 октября 2026 года** вышел стабильный LocalAI 4.11.0. Это выпуск сервера инференса, а не новой базовой модели: он объединяет локальные и удалённые модели в цепочки переключения, добавляет сценарии анализа аудио и отдельный интерфейс для моделей, возвращающих структурированные решения. Релиз содержит бинарные сборки для Linux и macOS. Доступность конкретных функций зависит от установленного бэкенда и модели. [s1](#src-s1)

## Один публичный alias, несколько целей

В конфигурации модели можно указать упорядоченный список `failover.targets` — например, уже настроенную локальную модель первой и другую локальную либо удалённую резервной. Клиент обращается к имени цепочки; заголовок `X-LocalAI-Served-Model` показывает фактически обслужившую запрос цель. Статус и переходы видны через `GET /api/failover` и панель **Operate → Runtime → Failover**. Это полезно для собственного API, если один из бэкендов временно недоступен, а повторный запрос можно безопасно выполнить на запасной модели. [s1](#src-s1) [s2](#src-s2)

**Граница гарантий:** LocalAI повторяет запрос на следующей цели лишь до начала выдачи ответа. Если поток уже отдал первый байт/токен, текущий запрос завершится ошибкой, а запасная цель будет использоваться для следующего запроса. Ошибки валидации клиента и слишком длинный промпт не становятся основанием для автоматического переключения. Цепочка требует минимум двух заранее настроенных моделей и не допускает вложения цепочек; `warm: true` имеет смысл для локальной цели, но не прогревает удалённую. При включении облачной резервной цели данные запроса могут покинуть локальную машину — для строго автономного контура выбирайте только локальные цели и проверяйте их лицензии. [s2](#src-s2)

Практический первый шаг без выдуманного имени модели: обновить LocalAI до 4.11.0, установить и проверить два подходящих модельных бэкенда, затем в редакторе моделей выбрать шаблон **Failover Chain**, добавить цели в нужном порядке и проверить переключение на тестовом запросе и статус `/api/failover`. Modelium не запускал собственный тест такого переключения. [s1](#src-s1) [s2](#src-s2)

## Что изменилось для аудио

`parakeet-cpp` теперь может объединять распознавание речи, разделение говорящих и определение звуковых событий. `POST /v1/audio/diarization` отдаёт интервалы и сведения о говорящих; параметр `include_text=true` добавляет текст при подходящей конфигурации. В Studio пользователь может прослушать отрезок и явно сохранить имя голоса для дальнейшего сопоставления. Это не готовая проверка личности: голосовые профили относятся к биометрическим данным, а внутренний реестр профилей сейчас живёт только в процессе — после перезапуска имена исчезают и не синхронизируются между отдельными фронтендами. Для постоянного архива встреч это существенное ограничение. [s1](#src-s1) [s3](#src-s3)

## Решения и доверенные галереи

Модели, обозначенные `known_usecases: [decisions]`, получили отдельный `POST /v1/systemone` для вопросов типа choice, score и level. Прикладная польза — маршрутизация обращений или классификация без извлечения категории из свободного ответа чат-модели. Но официальный материал по моделям прямо рекомендует **текущую master-сборку и alpha-бэкенд vllm-cpp** для перечисленных галерейных вариантов. Поэтому нельзя обещать, что всякая модель из каталога заработает только после установки стабильного бинарника 4.11.0. Числа score не следует принимать за калиброванные вероятности, а важные решения стоит проверять человеком. [s1](#src-s1) [s4](#src-s4)

Подписанные OCI-галереи дают ещё один практический механизм: теги разрешаются в дайджест, подпись проверяется по нему, а кэш связывается с политикой проверки. Это относится к доставке конфигураций галереи, **не** делает автоматически открытыми или разрешёнными к коммерческому использованию любые скачанные из неё веса. Исходный код LocalAI в теге v4.11.0 распространяется под MIT; условия моделей, датасетов и отдельных бэкендов проверяются отдельно. Авторских сравнений скорости для этого выпуска мы не воспроизводили. [s1](#src-s1) [s5](#src-s5)

## Источники

1. [LocalAI: стабильный релиз v4.11.0](https://github.com/mudler/LocalAI/releases/tag/v4.11.0) — получено 2026-10-03
2. [LocalAI v4.11.0: Model Failover](https://github.com/mudler/LocalAI/blob/v4.11.0/docs/content/features/model-failover.md) — получено 2026-10-03
3. [LocalAI v4.11.0: Audio Diarization](https://github.com/mudler/LocalAI/blob/v4.11.0/docs/content/features/audio-diarization.md) — получено 2026-10-03
4. [LocalAI: Run decision models (2 October 2026)](https://github.com/mudler/LocalAI/blob/v4.11.0/website/content/blog/decision-models.md) — получено 2026-10-03
5. [LocalAI v4.11.0: MIT license](https://github.com/mudler/LocalAI/blob/v4.11.0/LICENSE) — получено 2026-10-03