# llama.cpp b11946: разговор и расшифровка речи с LFM3 через локальный сервер

Источник: https://modelium.tech/zhurnal/llama-cpp-b11946-lfm3-live-audio/

28 октября предварительная сборка llama.cpp b11946 добавила в локальный сервер передачу звука по мере записи и голосовые ответы для LFM3 Audio и Omni. Это шаг от отдельных аудиофайлов к разговору с моделью на собственном компьютере. Сборка помечена как предварительная, а для подключения нужен клиент WebSocket; редакция не проводила собственный запуск.

llama.cpp b11946: разговор и расшифровка речи с LFM3 через локальный сервер

Если вы хотите говорить с моделью на своём компьютере, а не каждый раз сохранять отдельную запись и ждать ответа, появилась важная предпосылка. **28 октября 2026 года** разработчики llama.cpp выпустили предварительную сборку b11946 с потоковым вводом и выводом звука для LFM3 Audio и Omni. Это новость о возможности программы, а не обещание готовой кнопки «поговорить»: для работы с сервером ещё нужен совместимый клиент. Проверено по коду и первоисточникам 28 октября; Modelium модель не запускал. [s1](#src-s1) [s2](#src-s2)

## Что именно изменилось

В сервере llama.cpp расширен адрес `/v1/realtime`: через WebSocket — постоянное соединение клиента с локальным сервером — можно передавать звук по частям, получать речь и текст ответа, а также расшифровывать поступающую запись. Авторы изменения называют две совместимые модели: **LiquidAI/LFM3-Audio-2B-GGUF** для задач со звуком и **LiquidAI/LFM3-Omni-2B-GGUF** для сочетания разных типов данных. В репозитории есть пример клиента `examples/realtime_client.py`, но это пример для тех, кто умеет запускать локальный сервер и Python, а не графическое приложение для начинающего. [s1](#src-s1) [s2](#src-s2) [s4](#src-s4) [s5](#src-s5)

Например, при английской диктовке ожидаемый результат — текст произнесённой фразы; при голосовом вопросе — ответ звуком, а в соответствующем режиме ещё и текстом. Это сценарии из описания авторов, **не воспроизведённые Modelium**. Автор PR сообщает о проверке соответствия эталонной реализации и пробном запуске вариантов F32, Q8_0 и Q4_0 на Mac и CUDA; независимого замера задержки или качества здесь нет. Не следует обещать мгновенную реакцию, точную расшифровку любой речи или работу на любом ноутбуке. [s2](#src-s2)

## Что реально доступно, а что ещё нет

PR с поддержкой самих LFM3 Audio и Omni в llama.cpp (#31257) был слит **27 октября**, а PR с разговором и расшифровкой (#31269) — **28 октября**. Сборка b11946 содержит второе изменение и имеет метку `prerelease`: стабильным выпуском её называть нельзя. Официальные репозитории Liquid AI содержат основные GGUF-файлы и отдельные файлы-проекторы для аудио/изображений. Размеры файлов не говорят, сколько оперативной или видеопамяти понадобится вашему компьютеру. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5)

В закреплённых карточках GGUF на момент проверки ещё остались старые предупреждения, будто PR #31257 не слит и `/v1/realtime` только ожидается. История GitHub и выпуск b11946 показывают более новое состояние; предупреждения карточек нельзя копировать как текущий статус поддержки. При этом выпуск кода **не равен** проверенному Modelium домашнему рецепту: соединение с сервером, доступ к микрофону и поведение конкретной машины редакция не проверяла. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5)

## Если вы хотите попробовать

Для новичка пока разумнее дождаться проверенной инструкции с интерфейсом и наблюдаемым результатом. Для разработчика отправная точка — официальная сборка b11946 и пример `examples/realtime_client.py` из той же версии; сначала проверьте поддержку своей ОС, наличие основного файла и проектора, затем на коротком **несекретном** английском аудиофрагменте сравните полученный текст со сказанным. Синтаксис примера и полный запуск редакция не испытывала, поэтому мы не даём команду, обещающую готовый результат. [s1](#src-s1) [s2](#src-s2) [s4](#src-s4) [s5](#src-s5)

Исходный код llama.cpp в этой сборке опубликован под MIT. Веса Liquid AI распространяются отдельно по **LFM Open License v1.0**: коммерческое использование ограничено условием о годовой выручке организации менее 10 млн долларов; соблюдение других условий лицензии тоже необходимо. MIT-лицензия программы не делает лицензии весов автоматически свободной для любого бизнеса. [s6](#src-s6) [s7](#src-s7)

Для контекста: [предыдущий материал о появлении GGUF-весов LFM3 Audio и Omni](/zhurnal/lfm3-audio-omni-gguf-llama-cpp-pending/) описывал состояние на 27 октября, когда потоковый режим ещё не вышел. Текущий статус поддержки и предварительной сборки приведён здесь.

**Следующий шаг:** если вам нужен именно голосовой диалог, следите за стабильным выпуском llama.cpp или проверенной инструкцией для конкретного устройства; не принимайте предварительный пакет и авторский тест за гарантию результата.

## Источники

1. [ggml-org/llama.cpp: предварительная сборка b11946](https://github.com/ggml-org/llama.cpp/releases/tag/b11946) — получено 2026-10-28
2. [ggml-org/llama.cpp: PR #31269 о разговоре и расшифровке](https://github.com/ggml-org/llama.cpp/pull/31269) — получено 2026-10-28
3. [ggml-org/llama.cpp: PR #31257 о поддержке LFM3 Audio/Omni](https://github.com/ggml-org/llama.cpp/pull/31257) — получено 2026-10-28
4. [Liquid AI: LFM3-Audio-2B-GGUF, ревизия fcfae902](https://huggingface.co/LiquidAI/LFM3-Audio-2B-GGUF/tree/fcfae9027c00a6f3f872c48a841cfeb77e2b5a1c) — получено 2026-10-28
5. [Liquid AI: LFM3-Omni-2B-GGUF, ревизия 5bcc26f7](https://huggingface.co/LiquidAI/LFM3-Omni-2B-GGUF/tree/5bcc26f7968f71d26e066027a70978529dbb605d) — получено 2026-10-28
6. [LFM Open License v1.0 в официальном репозитории Audio](https://huggingface.co/LiquidAI/LFM3-Audio-2B-GGUF/raw/fcfae9027c00a6f3f872c48a841cfeb77e2b5a1c/LICENSE) — получено 2026-10-28
7. [MIT LICENSE кода llama.cpp в сборке b11946](https://github.com/ggml-org/llama.cpp/blob/b11946/LICENSE) — получено 2026-10-28