mlx-audio 0.5.8: исправлены потоковый Voxtral и загрузка MOSS на Mac

Что меняется при распознавании

До исправления потоковый Voxtral мог выдавать разную транскрипцию одного и того же звука при разном размере пакетов клиента. Разработчики объясняют это изменяющимся разбиением mel-кадров, численной погрешностью и последующим расхождением авторегрессионного декодирования. Изменение буферизует вход до нативных групп по восемь кадров; для владельца локального ASR-сервиса это означает более предсказуемый результат при изменении нарезки потока, но не доказательство одинаковой транскрипции на всех устройствах и файлах. s3

Неквантованный MLX-чекпойнт MOSS-Transcribe-Diarize прежде мог падать ещё до генерации: загрузчик повторно переставлял оси уже конвертированных свёрточных весов Whisper, ориентируясь на отсутствие scales. Теперь он проверяет форму трёхмерного тензора, прежде чем делать транспонирование. Это исправление касается именно неквантованных конвертированных весов; оно не утверждает, что любая исходная PyTorch-модель MOSS запускается без конвертации. s4

Для Qwen3-распознавания автор PR заменил квадратичный поиск в восстановлении временных меток на алгоритм с двоичным поиском; цель — снизить нагрузку CPU на длинных транскриптах при сохранении порядка выбора меток. Это описание реализации и ожидание автора, а не замер ускорения Modelium на пользовательском аудио. s5

Синтез речи и ограничения

В Voxtral TTS исправлен начальный кадр: после заполнения промпта генератор больше не делает лишний шаг с токеном [AUDIO], а декодирует первый кадр из состояния [BEGIN_AUDIO]. По небольшому A/B автора PR на M4 Max и четырёх наборах фраз с восемью прогонами на ячейку, распознавание начала улучшилось в трёх наборах и стало чуть хуже в одном. Это авторская проверка через Apple SpeechTranscriber, не гарантия отсутствия ошибок на других голосах и языках. s6

В Breeze TTS 2 исправлено неявное повышение bf16-эмбеддингов промпта до float32. Автор изменения сообщает о росте скорости на своём чекпойнте и конфигурации; точный эффект зависит от модели и устройства. Не переносите его результат на все TTS-модели. s7

Что делать пользователю

Если локальный проект уже использует mlx-audio, сначала зафиксируйте текущую версию и модели, затем в отдельном окружении обновите пакет командой python -m pip install --upgrade 'mlx-audio==0.5.8'. Проверьте на своих аудиофайлах три сценария: одинаковый звук с разными границами пакетов Voxtral, загрузку нужного неквантованного MLX-чекпойнта MOSS и начало коротких фраз Voxtral TTS. Сравнивайте транскрипты и задержку на одной и той же машине. Эта команда следует из опубликованной версии PyPI; Modelium не запускал пакет, модели или бенчмарки. s1 s2

Код движка помечен MIT и допускает использование согласно условиям этой лицензии. Права на конкретные аудиовеса, датасеты и голоса проверяйте отдельно в карточке каждого чекпойнта: лицензия mlx-audio не распространяется автоматически на веса. Разработчик указывает Python 3.10+ и зависимость от MLX в пакете, но это не спецификация минимальной оперативной памяти. s8 s9