Перейти к содержанию
modelium.
Начать с задачи
←
Новость

Rapid-MLX 0.15.2: локальный сервер на Mac проще подключить и диагностировать

На странице · 2 разделов

Rapid-MLX 0.15.2 — стабильный релиз локального MLX-сервера для Apple Silicon от 25 сентября 2026 года. Если стандартный порт 8000 занят, команда без явного --port ищет свободный порт в диапазоне 8000–8009. Релиз также уточняет причины ошибок загрузки модели, сохраняет локальные данные о аварийном завершении и помогает установить недостающие необязательные компоненты. Это обновление среды запуска, а не выпуск новых весов.

Rapid-MLX 0.15.2: запуск локального сервера на Mac

25 сентября 2026 года вышел стабильный Rapid-MLX 0.15.2; версия также доступна в PyPI. Это обновление программы для локального обслуживания моделей на Apple Silicon, а не новая модель и не новые веса. Код проекта опубликован под Apache-2.0; условия использования загружаемых моделей нужно проверять отдельно. s1 s2 s3

Что изменилось

  • Порт без ручного подбора. Если не указывать --port, rapid-mlx serve ищет первый свободный порт в диапазоне 8000–8009 и сообщает выбранный адрес. Если порт задан явно, автоматической замены нет. Это полезно, когда на Mac уже работает другой локальный сервер. Для некоторых специализированных режимов унаследованный TCP-дескриптор по-прежнему не поддерживается; их поведение описано в PR. s1 s4
  • Подсказка о зависимостях. Для отсутствующих дополнительных компонентов видео, изображения, аудио или компьютерного зрения CLI показывает конкретный extra и может предложить установку; флаг --yes предназначен для запуска без интерактивного подтверждения. Это не означает автоматической установки всех зависимостей каждому пользователю. s1 s5
  • Диагностика запуска. Ошибки конфигурации, токенизатора, несовместимых весов и квантования разделены по категориям. Фатальные Python-traceback записываются в локальные файлы с ротацией; после прерванного запуска программа может указать на предыдущий сбой. Разработчики утверждают, что содержимое crash-файлов остаётся на Mac, а не отправляется как телеметрия. s1 s6

Как обновиться

По инструкции авторов: pip install -U rapid-mlx==0.15.2 либо brew upgrade rapid-mlx при установке через Homebrew. После обновления запустите rapid-mlx serve и используйте адрес, который выведет программа: не предполагайте, что он обязательно остался на порту 8000. Перед обслуживанием конкретной модели отдельно проверьте совместимость её формата, архитектуры и лицензии с вашим сценарием. s1

У релиза есть и новые пути для отдельных моделей, включая GLM-5.3 Flash, Laya и экспериментальный CLM System One. Это заявления авторов о поддержке; Modelium не выполнял самостоятельных тестов производительности или совместимости. s1

Источники