llama.cpp добавила /tts: локальная озвучка текста через сервер
На странице · 2 разделов
В исходный код llama.cpp 20 октября добавили запрос /tts для создания речи на своём компьютере; 21 октября он вошёл в предварительную сборку b11781. Сервер возвращает звуковой файл вместо текста, но это пока не отдельный стабильный выпуск и не кнопка озвучки для новичка. Редакция не запускала модель.
Если вам нужно превратить текст в речь без отправки его в облачный сервис, в llama.cpp появился ещё один способ сделать это на своём компьютере. 20 октября 2026 года разработчики включили в сервер программы новый запрос /tts, а 21 октября выпустили предварительную сборку b11781 с этим изменением. Это новость прежде всего для тех, кто уже подключает локальные модели к своим приложениям: простой кнопки «озвучить» для обычного читателя она не добавляет. s1 s2
Что изменилось для локальной озвучки
Раньше озвучка в llama.cpp была показана отдельной утилитой llama-tts. Теперь запущенный llama-server может принять текст через /tts и вернуть звуковой файл WAV. Например, программа отправляет фразу «Hello, this is a test.» и получает аудиоданные, которые можно сохранить как файл; это пример формата запроса из документации, а не запись, созданная редакцией. Для работы нужен совместимый голосовой пакет модели: новый адрес сервера сам по себе не превращает обычную текстовую модель в синтезатор речи. s3 s4
Документация предусматривает образец голоса файлом и выдачу звука по частям, не дожидаясь окончания всей фразы. Это полезно разработчику местного голосового помощника; прямой ответ сервера — звук, а не JSON с текстом. У потокового WAV есть нестандартный заголовок с неизвестной заранее длиной: если программа-получатель строго проверяет формат, такой поток может потребовать дополнительной обработки. s3
Можно ли пользоваться уже сейчас
Код доступен в b11781 и следующих предварительных сборках, но сам релиз b11781 помечен разработчиками как prerelease. Пример совместимых весов есть в руководстве llama-tts: GGUF-пакет Qwen3-TTS-12Hz-1.7B-Base. GGUF здесь означает формат файлов модели для llama.cpp. В репозитории конверсии видны файлы модели и дополнительного звукового компонента, а у исходной модели Qwen в карточке указана Apache-2.0. Однако у самой GGUF-конверсии нет отдельной лицензионной метки в API; права на код программы и условия применения конкретных весов следует проверять отдельно, прежде чем использовать их в продукте. s2 s4 s5 s6 s7
Ограничение на сегодня: в обсуждении изменения один из тестировщиков сообщил, что одинаковое значение seed у повторных серверных запросов не дало одинаковый звук, хотя документация обещает воспроизводимость при фиксированном значении. Это сообщение участника проекта, а не независимый тест Modelium; поэтому не стоит строить сценарий, которому требуется побайтово одинаковая запись при каждом запросе. Системные требования для вашего компьютера и качество русской речи этой интеграцией не подтверждены. s3 s8
Если вам нужна просто озвучка, а не серверная интеграция, пока не требуется менять установленную программу ради этой предварительной функции. Для разработчика следующий шаг — посмотреть закреплённую документацию /tts и проверить предварительную сборку с конкретной голосовой моделью на собственных примерах; редакция такой запуск не выполняла. s2 s3
Источники и дата проверки
Проверено 21 октября 2026 года по слитому PR, предварительному релизу b11781, закреплённой документации и карточкам весов. Слова участников обсуждения обозначены как сообщения тестировщиков, а не как наши измерения. s1 s2 s3 s8
Источники
- llama.cpp PR #26603: серверный /tts — Merged 20.10.2026 23:19:42 UTC, SHA 5c0b49a; добавление эндпойнта.. Получено 21.10.2026.
- llama.cpp: предварительная сборка b11781 — Published 21.10.2026 04:36 UTC; prerelease=true; tag указывает на merge SHA.. Получено 21.10.2026.
- llama-server: документация /tts в b11781 — Формат входа, WAV/PCM, streaming, speaker_ref; указание на нестандартный streaming WAV.. Получено 21.10.2026.
- llama-tts: примеры моделей в b11781 — Пример GGUF Qwen3-TTS и необходимость совместимой голосовой модели.. Получено 21.10.2026.
- llama.cpp: лицензия кода MIT в b11781 — Лицензия программы, отдельно от лицензии весов.. Получено 21.10.2026.
- ggml-org: Qwen3-TTS GGUF, закреплённая ревизия — Веса и mmproj доступны; HF model API не содержит cardData/license.. Получено 21.10.2026.
- Qwen: исходная Qwen3-TTS, закреплённая карточка — У исходной модели HF metadata license: apache-2.0; не переносить автоматически на GGUF-конверсию.. Получено 21.10.2026.
- llama.cpp PR #26603: комментарии тестировщиков — Комментарий 20.10 сообщает о невоспроизводимости последовательных запросов с одинаковым seed; это свидетельство участника, не тест редакции.. Получено 21.10.2026.