# speech.cpp 0.6.0: локальное распознавание японской речи с Parakeet GGUF

Источник: https://modelium.tech/zhurnal/speech-cpp-0-6-0-japanese-parakeet-asr-local/

5 октября вышел speech.cpp 0.6.0 с распознаванием речи через CLI, C API, worker и HTTP. Для него доступна отдельная F16-конверсия японской Parakeet TDT-CTC 0.6B в GGUF. Работает с 16-кГц WAV; этот GGUF несовместим с llama.cpp, Ollama и LM Studio. Код распространяется по MIT, исходные и конвертированные веса — по CC BY 4.0 с требованием атрибуции.

## Что произошло

5 октября 2026 года разработчик выпустил стабильный **speech.cpp v0.6.0**. Проект на C++/ggml, прежде применявшийся в том числе для локального синтеза речи, получил путь для распознавания: `speech-asr`, вызов через C API, worker и HTTP-эндпоинт `POST /v1/audio/transcriptions`. Релиз прикладывает готовые инструменты для macOS arm64 с Metal, Windows x64 с Vulkan, Linux x64 с Vulkan и отдельно Linux x64 для CPU. У Linux-бинарников есть дополнительные требования к glibc и инструкциям CPU в документации проекта — совместимость своего компьютера следует проверить до установки. [s1](#src-s1) [s2](#src-s2)

Отдельно в этот день опубликован **неофициальный конвертированный чекпойнт** японской модели NVIDIA `parakeet-tdt_ctc-0.6b-ja`: файл `parakeet-tdt_ctc-0.6b-ja-f16.gguf`. Карточка конверсии указывает speech.cpp **v0.6.0 или новее**. Это GGUF с особой схемой speech.cpp, а не универсальная модель для llama.cpp, Ollama или LM Studio. Исходный `.nemo`-чекпойнт NVIDIA существовал раньше; новость — совместимый локальный путь, а не выпуск новой базовой модели. [s3](#src-s3) [s4](#src-s4)

## Кому это полезно

Если нужно распознавать японские реплики без отправки записи в облачный сервис, теперь можно выбрать подходящий архив speech.cpp v0.6.0 и один F16-файл весов. `speech-asr` принимает WAV 16 кГц и выводит строку текста; сервер предоставляет совместимый по форме запрос транскрипции. Для файла с другой частотой сначала требуется конвертация: автоматического ресемплинга нет. Карточка модели рекомендует подавать отдельные реплики, а не предполагать без проверки качество на длинной встрече. [s2](#src-s2) [s3](#src-s3)

Порядок пробного запуска: скачайте платформенный архив *tools* из релиза v0.6.0, затем файл `parakeet-tdt_ctc-0.6b-ja-f16.gguf` из закреплённой ревизии HF. Подготовьте 16-кГц WAV и вызовите `speech-asr parakeet-tdt_ctc-0.6b-ja-f16.gguf utterance.wav`. Для HTTP используйте `speech-server` с тем же файлом весов и проверьте задокументированные ограничения формата загрузки. Мы не запускали этот стек и не подтверждаем работу на произвольном оборудовании. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Что изменилось относительно предыдущего формата

В v0.6.0 декодирование Parakeet использует TDT-путь, который разработчик соотносит с режимом NeMo по умолчанию. Ранее сконвертированные для speech.cpp 0.5.0 GGUF с CTC-головой не подходят: новый runtime их отклоняет. Не смешивайте старый GGUF и новую версию исполняемого файла; нужен файл из указанного репозитория конверсии. [s5](#src-s5) [s3](#src-s3)

Автор конверсии сравнил результат с NeMo 3.0.0 лишь на трёх японских фразах FLEURS и указал время обработки на Apple M5/Metal и RTX 2080/Vulkan. Это **авторская ограниченная проверка**, не независимая оценка Modelium и не замер производительности на вашем компьютере. Показатели CER в карточке NVIDIA относятся к исходному чекпойнту и отдельным датасетам; переносить их на эту GGUF-конверсию без полного теста нельзя. Размер файла не является минимальным требованием к RAM или VRAM. [s3](#src-s3) [s4](#src-s4)

## Права и ограничение версии

Код speech.cpp — MIT; веса оригинальной Parakeet и её конверсия помечены **CC BY 4.0**. Это разные объекты и условия: при распространении весов или производных работ сохраняйте атрибуцию NVIDIA и условия лицензии. Метка «доступные веса» сама по себе не означает, что все компоненты стека имеют одну лицензию. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

Не путайте эту модель с появившимся позже другим японским GGUF `reazonspeech-nemo-v2`: его карточка требует speech.cpp **v0.7.0 или новее**, тогда как подтверждённый на момент проверки стабильный релиз — v0.6.0. Команду запуска нового ReazonSpeech-файла с v0.6.0 давать нельзя. [s6](#src-s6) [s1](#src-s1)

## Источники

1. [speech.cpp v0.6.0 — официальный GitHub release, 5 октября 2026](https://github.com/nyosegawa/speech.cpp/releases/tag/v0.6.0) — получено 2026-10-05
2. [speech.cpp README и MIT LICENSE в теге v0.6.0](https://github.com/nyosegawa/speech.cpp/tree/v0.6.0) — получено 2026-10-05
3. [Parakeet TDT-CTC 0.6B Japanese — конверсия GGUF, ревизия e4134255](https://huggingface.co/sakasegawa/parakeet-tdt_ctc-0.6b-ja-GGUF/tree/e4134255116fc979fad13e01c1fd7adb303a06c5) — получено 2026-10-05
4. [NVIDIA Parakeet TDT-CTC 0.6B Japanese — исходная модель, ревизия 44edb27e](https://huggingface.co/nvidia/parakeet-tdt_ctc-0.6b-ja/tree/44edb27eea9317daf89333e75eb830db4b1cc298) — получено 2026-10-05
5. [speech.cpp PR #29: TDT decoder и несовместимость GGUF 0.5.0](https://github.com/nyosegawa/speech.cpp/pull/29) — получено 2026-10-05
6. [ReazonSpeech NeMo v2 GGUF: требование speech.cpp v0.7.0](https://huggingface.co/sakasegawa/reazonspeech-nemo-v2-GGUF/tree/4d1e8cd72ea26f9860e7b62af5b2bd11ec52ac67) — получено 2026-10-05