LM Studio CLI lms: модель и локальный API из терминала

Чем lms отличается от llmster и оконного интерфейса?

Обычное настольное LM Studio позволяет выбирать модель через графический интерфейс; lms — его CLI, установленный вместе с приложением. Разработчик требует хотя бы раз открыть LM Studio перед использованием lms. Для сервера без графической сессии у LM Studio есть отдельный daemon llmster; инструкция его развёртывания и автозапуска — в другом гайде. Здесь рассматриваем терминал на компьютере с обычным установленным LM Studio, а не systemd, сервер в облаке или LM Studio Bionic. s1

Задача — не просто увидеть версию CLI, а получить тестовый ответ от конкретного локального файла через HTTP. Цепочка: подходящая задача и файл модели → ресурсы вашего компьютера → lms и runtime → сервер на localhost → ответ и контроль того, какая модель отвечала. Список моделей на диске, список в памяти и список, видимый серверу, отвечают на разные вопросы. s3 s4 s5 s7

Как проверить, что lms доступен в терминале?

Установите обычный LM Studio по общей инструкции, откройте его хотя бы раз, затем в новой терминальной сессии выполните lms --help. Документация сообщает, что отдельная установка lms после установки приложения не нужна. Если оболочка пишет «command not found», сначала убедитесь, что запущено установленное приложение и используется тот же пользователь; затем перезапустите терминал и сверьте путь запуска CLI с вашей ОС и установленной версией. Не копируйте системный PATH или бинарник из чужой инструкции без проверки своего расположения: универсальный путь для всех ОС здесь не подтверждён. s1

lms --help доказывает лишь доступность команды. Он не доказывает, что модель скачана, помещается в память или что HTTP-сервер запущен. Для компьютера без GUI переходите к llmster, не выдавая его за обязательный шаг установки desktop CLI. s1

Как выбрать файл и не спутать скачивание с загрузкой?

Команда lms ls --llm показывает уже скачанные языковые модели; lms ls --json позволяет сохранить машинно-читаемый список. Выберите конкретный model_key из своего вывода, а не название семейства из статьи. LM Studio хранит скачанные через CLI модели в своём каталоге моделей; численный размер файла в списке относится к диску, не к минимуму RAM или VRAM. Проверьте назначение и лицензию модели в карточке выбранного репозитория до работы с реальными данными. s2 s4

Если подходящего файла нет, lms get --gguf откроет интерактивный выбор GGUF, а lms get --mlx — MLX. Команда lms get ищет и скачивает выбранный файл: предварительно проверьте место на диске и сетевые правила; интерактивные рекомендации поставщика не равны рекомендации Modelium. Не скачивайте случайную большую модель ради проверки CLI. Если файл уже есть, пропустите этот этап и не загружайте его повторно. s2 s4

Перед загрузкой выполните lms load --estimate-only <model_key>, заменив уголковые скобки реальным ключом из lms ls. Оценщик учитывает заданный контекст, распределение на GPU, Flash Attention и наличие vision-компонента; его вывод — прогноз программы, а не замер Modelium или гарантированный минимум памяти. Если оценка не подходит устройству, выберите другой файл, контекст или параметр offload и повторите оценку, вместо того чтобы угадывать по размеру GGUF. s3

Как загрузить модель под стабильным именем?

После выбора файла выполните lms load <model_key> --identifier modelium-test. Документация также допускает --context-length, --gpu и --ttl; для первого теста не меняйте всё одновременно, чтобы причина возможной ошибки была видна. --identifier задаёт имя для API; modelium-test здесь учебное локальное имя, не имя скачиваемого репозитория. Отключите параллельные тесты других моделей до получения первого ответа. s3

Выполните lms ps: команда перечисляет модели, загруженные в память, и их идентификаторы. В отличие от неё, lms ls перечисляет скачанные файлы на диске. Зафиксируйте фактическое имя, файл и при необходимости JSON-вывод lms ps --json, но не публикуйте журналы с пользовательскими запросами. Если загрузка не прошла, не переходите к API: проверьте текст ошибки, совместимость runtime и оценку ресурсов на той же конфигурации. s3 s4 s5

Как поднять API только для своей машины и проверить ответ?

Запустите lms server start --bind 127.0.0.1 --port 1234, затем lms server status. В документации localhost — привязка по умолчанию; явный адрес здесь делает границу теста понятной. Не заменяйте его на 0.0.0.0: это раскрывает сервис за пределы локального компьютера, а --cors дополнительно меняет доступ браузерных приложений. Удалённое подключение, токены и межсетевой экран требуют отдельной проверки, описанной в гайде по аутентификации. s6

Выполните curl -fsS http://127.0.0.1:1234/v1/models на том же компьютере. Проверьте JSON и фактический идентификатор модели. Важно: при включённой Just-In-Time (JIT) загрузке маршрут может показывать все скачанные модели, а не только текущие модели в памяти; одного успешного GET /v1/models недостаточно. Для проверки именно предварительной загрузки сравните вывод с lms ps. s5 s7

Затем отправьте запрос: curl -fsS http://127.0.0.1:1234/v1/chat/completions -H 'Content-Type: application/json' -d '{"model":"modelium-test","messages":[{"role":"user","content":"Ответь одним словом: готово"}],"stream":false}'. Подставьте фактический идентификатор из lms ps, если он отличается. Проверьте не только HTTP-статус, но и поле ответа, отсутствие ошибки и соответствие ожидаемому контрольному тексту; сама модель может сформулировать ответ иначе. Этим проверяется маршрут на вашем компьютере, а не качество модели или соответствие требованиям закрытого контура. s3 s5 s8

Как устранить ошибки и завершить тест без лишних процессов?

• lms не найден: проверьте первый запуск приложения, пользователя и новую оболочку; не утверждайте, что сервер виноват, пока сама команда не доступна. s1
• Список lms ls пуст: файл ещё не скачан в каталог LM Studio; проверьте результат lms get, формат и свободное место. s2 s4
• lms ls содержит файл, но lms ps пуст: модель ещё не загружена или загрузка завершилась ошибкой; повторите --estimate-only, посмотрите вывод lms load и точный ключ. s3 s4 s5
• API возвращает список, а ответ не получается: проверьте JIT, lms ps, имя в поле model, lms server status и собственный адрес/порт. Видимость файла через /v1/models сама по себе не гарантирует рабочую генерацию. s5 s6 s7 s8
• Отказ в доступе или соединении: проверьте адрес и настройки аутентификации вашей установки; не открывайте сервер в общую сеть ради устранения локальной ошибки. s6

После контрольного запроса остановите HTTP-сервер командой lms server stop, если он больше не нужен, и выгрузите выбранную модель командой lms unload <model_key>; перед выгрузкой сверяйте ключ в lms ps. Это действия на вашем компьютере, не результат собственного запуска Modelium. s1 s3 s5

Следующий шаг: откройте проверку доступа к API, прежде чем подключать к LM Studio другие устройства. Сохраните у себя версию приложения, выбранный файл, lms ps и ответ контрольного запроса; токены и пользовательские данные не помещайте в публичный журнал. s5 s6