speech.cpp 0.6.0: локальное распознавание японской речи с Parakeet GGUF

Что произошло

5 октября 2026 года разработчик выпустил стабильный speech.cpp v0.6.0. Проект на C++/ggml, прежде применявшийся в том числе для локального синтеза речи, получил путь для распознавания: speech-asr, вызов через C API, worker и HTTP-эндпоинт POST /v1/audio/transcriptions. Релиз прикладывает готовые инструменты для macOS arm64 с Metal, Windows x64 с Vulkan, Linux x64 с Vulkan и отдельно Linux x64 для CPU. У Linux-бинарников есть дополнительные требования к glibc и инструкциям CPU в документации проекта — совместимость своего компьютера следует проверить до установки. s1 s2

Отдельно в этот день опубликован неофициальный конвертированный чекпойнт японской модели NVIDIA parakeet-tdt_ctc-0.6b-ja: файл parakeet-tdt_ctc-0.6b-ja-f16.gguf. Карточка конверсии указывает speech.cpp v0.6.0 или новее. Это GGUF с особой схемой speech.cpp, а не универсальная модель для llama.cpp, Ollama или LM Studio. Исходный .nemo-чекпойнт NVIDIA существовал раньше; новость — совместимый локальный путь, а не выпуск новой базовой модели. s3 s4

Кому это полезно

Если нужно распознавать японские реплики без отправки записи в облачный сервис, теперь можно выбрать подходящий архив speech.cpp v0.6.0 и один F16-файл весов. speech-asr принимает WAV 16 кГц и выводит строку текста; сервер предоставляет совместимый по форме запрос транскрипции. Для файла с другой частотой сначала требуется конвертация: автоматического ресемплинга нет. Карточка модели рекомендует подавать отдельные реплики, а не предполагать без проверки качество на длинной встрече. s2 s3

Порядок пробного запуска: скачайте платформенный архив tools из релиза v0.6.0, затем файл parakeet-tdt_ctc-0.6b-ja-f16.gguf из закреплённой ревизии HF. Подготовьте 16-кГц WAV и вызовите speech-asr parakeet-tdt_ctc-0.6b-ja-f16.gguf utterance.wav. Для HTTP используйте speech-server с тем же файлом весов и проверьте задокументированные ограничения формата загрузки. Мы не запускали этот стек и не подтверждаем работу на произвольном оборудовании. s1 s2 s3

Что изменилось относительно предыдущего формата

В v0.6.0 декодирование Parakeet использует TDT-путь, который разработчик соотносит с режимом NeMo по умолчанию. Ранее сконвертированные для speech.cpp 0.5.0 GGUF с CTC-головой не подходят: новый runtime их отклоняет. Не смешивайте старый GGUF и новую версию исполняемого файла; нужен файл из указанного репозитория конверсии. s5 s3

Автор конверсии сравнил результат с NeMo 3.0.0 лишь на трёх японских фразах FLEURS и указал время обработки на Apple M5/Metal и RTX 2080/Vulkan. Это авторская ограниченная проверка, не независимая оценка Modelium и не замер производительности на вашем компьютере. Показатели CER в карточке NVIDIA относятся к исходному чекпойнту и отдельным датасетам; переносить их на эту GGUF-конверсию без полного теста нельзя. Размер файла не является минимальным требованием к RAM или VRAM. s3 s4

Права и ограничение версии

Код speech.cpp — MIT; веса оригинальной Parakeet и её конверсия помечены CC BY 4.0. Это разные объекты и условия: при распространении весов или производных работ сохраняйте атрибуцию NVIDIA и условия лицензии. Метка «доступные веса» сама по себе не означает, что все компоненты стека имеют одну лицензию. s2 s3 s4

Не путайте эту модель с появившимся позже другим японским GGUF reazonspeech-nemo-v2: его карточка требует speech.cpp v0.7.0 или новее, тогда как подтверждённый на момент проверки стабильный релиз — v0.6.0. Команду запуска нового ReazonSpeech-файла с v0.6.0 давать нельзя. s6 s1