Как сравнить два ответа локальной модели в LM Studio

Что подготовить для сравнения?

Нужен компьютер с Windows x64 и процессором с AVX2 — поддержкой набора команд, которую требует LM Studio на этой архитектуре. Разработчик рекомендует 16 ГБ оперативной памяти и видеокарту с 4 ГБ собственной памяти для работы с моделями. Это не измеренный минимум для выбранной Qwen и не требование запустить две модели одновременно: здесь используется одна модель и две истории переписки. Минимальная RAM/VRAM и нужное свободное место для вашего случая неизвестны; размер файла весов сам по себе их не определяет. s3

Установите обычный LM Studio с официального сайта. Во вкладке Discover найдите авторский репозиторий Qwen/Qwen2.5-1.5B-Instruct-GGUF и файл qwen2.5-1.5b-instruct-q4_k_m.gguf, затем скачайте его и откройте модель во вкладке Chat. Сверьте автора Qwen и имя файла; если поиск не выдаёт именно его в вашей версии приложения, не выбирайте произвольную сборку как эквивалент. GGUF — формат файла модели, Q4_K_M — вариант сжатия. В авторском репозитории указана Apache License 2.0; условия иных пересборок проверяйте отдельно. s2 s5 s6 s7

Для установки, поиска и загрузки модели нужен интернет. После загрузки разработчик описывает локальный чат без обязательного подключения; встроенная проверка обновлений и отдельные внешние инструменты могут обращаться к сети. Если конфиденциальность существенна, проверяйте сетевой контур отдельно, а не делайте вывод по слову «локально». s4

Как получить два ответа на одинаковое исходное задание?

1. В Chat выберите загруженную Qwen и создайте новый чат кнопкой «+». Убедитесь, что модель выбрана и отвечает: одно открытое окно ещё не доказывает запуск. s2 s6
2. Отправьте короткое вымышленное задание: «Пригласи соседей на обмен книгами 14 ноября в 18:00. Вход бесплатный, но нужна регистрация до 12 ноября. Напиши черновик сообщения». Сохраните этот исходный текст как контроль: модель может изменить дату или пропустить условие.
3. Откройте меню «•••» этого чата → Duplicate. Вторая беседа должна повторить исходную историю. Если в беседе были файлы, по справке они тоже копируются — поэтому учебный путь использует только вымышленный текст. Дайте вкладкам разные названия, если интерфейс вашей версии позволяет. s1
4. Перетащите вкладку копии к одной из половин окна либо нажмите значок Split View справа вверху чата. На экране должны быть две соседние беседы. Если видите одну, проверьте, что открыли обе вкладки, и повторите разделение. s1
5. В левой беседе напишите: «Перепиши предыдущее приглашение коротко и нейтрально; сохрани дату, время, бесплатный вход и срок регистрации». В правой: «Перепиши то же приглашение тепло и дружелюбно; сохрани те же условия». Отправьте запросы по очереди. Не ожидайте конкретного текста ответа — редакция его не генерировала.

Как выбрать вариант и исправить ошибку?

Прочитайте оба ответа рядом и сравните с исходным заданием, а не только друг с другом: в каждом должны остаться 14 ноября, 18:00, бесплатный вход и регистрация до 12 ноября. Выберите формулировку, которую легче понять получателю, и перед отправкой проверьте её вручную. Два похожих ответа не подтверждают истинность придуманных моделью сведений.

Если второй чат не содержит начального задания, возможно, создан новый пустой чат вместо копии: вернитесь к исходному и используйте именно Duplicate. Если модель не отвечает или не хватает памяти, проверьте загруженный файл и рекомендации по настройке в общем гайде LM Studio; не запускайте вторую тяжёлую модель только ради соседних вкладок. Закрыть одну половину можно кнопкой «x» в её верхнем правом углу. s1 s2

Граница метода: копия чата не является резервной копией приложения, а Split View не измеряет качество, скорость или экономию памяти. Это способ удобно сравнить два текста с общим исходным контекстом; никакой результат Qwen на Windows редакция не воспроизводила. После выбора сохраните один разговор в Markdown и проверьте полученный файл. s1