Как автоматически выгрузить модель LM Studio после простоя

Что нужно подготовить?

Нужны настольный LM Studio на Windows, уже открытый хотя бы раз, и его команда lms: откройте PowerShell и выполните lms --help. Если справка не появилась, сначала установите и один раз откройте LM Studio; отдельная установка lms по документации не нужна. Пример файла модели — qwen2.5-1.5b-instruct-q4_k_m.gguf из репозитория автора Qwen/Qwen2.5-1.5B-Instruct-GGUF. Если файл не скачан, найдите этот репозиторий во вкладке Discover, выберите именно указанный вариант и дождитесь загрузки. Карточка автора указывает для весов лицензию Apache-2.0; это не утверждение о лицензии самого приложения LM Studio. s4 s6 s7

Для Windows x64 нужен процессор с AVX2; LM Studio рекомендует 16 ГБ обычной памяти и 4 ГБ видеопамяти для работы с языковыми моделями в целом. Это не минимум данного файла: в изученных источниках точный минимум RAM, VRAM и свободного места для этой конфигурации не указан. Заранее проверьте свободное место и не оценивайте нужную память только по размеру скачивания. Поиск и загрузка файла/движка требуют сети; работа с подготовленной локальной моделью может проходить без интернета. s5 s6 s8

Как поставить автоматическую выгрузку?

1. В PowerShell выполните lms ls и найдите скачанную Qwen-модель. Скопируйте точный ключ модели из собственного списка: имя файла из карточки и ключ в вашей установке не обязаны совпадать. lms ls показывает файлы на диске, а не память. s4 s6
2. Выполните lms ps. Если выбранная модель уже загружена, сначала закончите текущую работу с ней и выгрузите её через lms unload <model_key>, заменив угловые скобки вашим ключом. Не используйте --all: он затронет и другие открытые модели. Если модели в lms ps нет, выгружать ничего не нужно. s1 s2
3. Загрузите именно этот ключ командой lms load <model_key> --ttl 300. Число 300 — секунды, то есть пять минут без запросов к модели, а не пять минут с момента запуска. Не вставляйте <model_key> буквально. Запустите lms ps ещё раз: выбранная модель должна появиться в списке загруженных. Если возникла ошибка памяти или совместимости, не начинайте отсчёт: проверьте модель и системные требования в гайде первого запуска. s1 s2 s3
4. Пока модель загружена, по желанию задайте короткий вопрос в LM Studio: «Перефразируй: пришлите план к четвергу». Не полагайтесь на точную формулировку ответа, проверьте, что день недели не изменился. Это учебный ввод редакции, не выдуманный вывод модели. Затем не обращайтесь к этой модели более пяти минут и снова выполните lms ps: её ключ должен исчезнуть из списка. Каждый запрос сбрасывает таймер ожидания. s1 s2 s3

Что делать, если модель не исчезла?

Сравнивайте lms ps именно с ключом загруженной модели, а не с lms ls: после выгрузки файл остаётся на диске. Если пауза была короче пяти минут или к модели обращается другой клиент, дождитесь полного интервала без работы. Если модель была загружена кнопкой в чате или через API, не считайте, что CLI-флаг задним числом изменил эту загрузку: выгрузите её после сохранения работы и повторите опыт через lms load. Команда lms unload <model_key> позволяет завершить тест вручную. s1 s2 s3 s4

Если хотите разобраться глубже: JIT и Auto-Evict

У моделей, загружаемых по запросу через программный интерфейс (API), по документации есть собственный режим JIT — «загрузка при первом обращении» — и таймер простоя, по умолчанию 60 минут. Auto-Evict выгружает предыдущие JIT-модели при переключении на следующую, но не действует на вручную загруженную через lms load модель. Для первой проверки эти настройки и API-сервер не нужны: достаточно --ttl и списка lms ps. s3

Следующий шаг: полный гайд по командам lms объясняет загрузку, локальный сервер и проверку первого ответа. Таймер выгрузки не измеряет объём освобождённой RAM/VRAM и не удаляет скачанный файл. s1 s2