gmlx 0.4.17: локальные модели на Mac лучше работают с агентами и длинным контекстом

Что меняется при работе с агентами

• DeepSeek Harness: gmlx launch dsh подключает установленный DeepSeek Harness версии 0.1.7 или новее к локальному серверу; профиль можно выбрать через --dsh-profile. Команда сама не устанавливает внешний клиент: при отсутствии бинарника документация обещает подсказку по установке. s1 s3
• Лимит ответа: /v1/chat/completions теперь учитывает max_completion_tokens, переданный OpenAI-совместимым клиентом. В этой версии параметр имеет приоритет перед max_tokens и значением профиля. До исправления клиент мог получать ответ с неожиданным ограничением. s1
• Переполнение контекста: установленный max_kv_size ограничивает бюджет запроса и отображаемый context_length в /v1/models. Запрос, который не помещается, должен получить HTTP 400 с сообщением, начинающимся на prompt is too long; раньше потоковый /v1/messages в таком случае мог возвращать HTTP 500, провоцируя повторные попытки Claude Code. Корректная ошибка даёт агентскому клиенту возможность сократить историю вместо повторения невыполнимого запроса. Это описанное автором исправление, а не результат независимого тестирования Modelium. s1
• Шаблоны и thinking: при загрузке сервер предупреждает, если шаблон чата теряет текст составного сообщения (автор приводит некоторые дообученные Qwen3.5 как пример). Также исправлена обработка переключателя clear_thinking для совместимых клиентов. Предупреждение не означает автоматического исправления неподходящего шаблона: проверьте настройки модели и ответы на тестовые запросы. s1

Как обновиться

На поддерживаемом Mac можно установить пакет через uv tool install "gmlx[all]==0.4.17" или обновить уже установленный инструмент согласно способу первоначальной установки. Для macOS 26.2 и новее документация предлагает brew install asher/gmlx/gmlx; Homebrew-формула включает дополнительные зависимости и ffmpeg. Внешний агент и его бинарник устанавливаются отдельно. Для подключения DeepSeek Harness сначала подготовьте доступный локальный сервер и модель, затем запустите gmlx launch dsh --model <имя-модели>. Уточните идентификатор модели в своей конфигурации или /v1/models; документация требует явно указать модель для клиента dsh. s1 s3 s4

Если используете локальную донастройку GGUF, предыдущая стабильная 0.4.16 добавила команду gmlx distill: большой GGUF выступает учителем, а для меньшего GGUF обучается LoRA-адаптер. Это не нововведение версии 0.4.17. Официальный пример сообщает 0,882 доли верных ответов на отложенных вопросах после второго раунда на конкретной задаче; это авторская оценка для пары 27B/9B и её нельзя переносить на другие документы и модели. Учитель и студент обрабатываются последовательно, а не загружаются одновременно. s5 s6

Лицензия и границы выводов

Большая часть gmlx распространяется не по MIT и не как безусловно свободное ПО, а по Business Source License 1.1 с Additional Use Grant: разрешена внутренняя производственная и профессиональная работа, включая оплачиваемую, но есть ограничения на продажу и включение в коммерческий продукт/сервис, а также на размещение для третьих лиц как hosted-сервис. Отдельные файлы с соответствующим заголовком имеют MIT-исключение. Лицензии загружаемых GGUF-весов независимы от лицензии движка. Приведённые в документации примеры расхода памяти и скорости — результаты автора в конкретной конфигурации, не минимальные требования к Mac; собственных испытаний Modelium не проводил. s7 s6