Как проверить шаблон чата модели в LM Studio

Что проверить до ручной правки?

1. На компьютере с Windows x64 нужен процессор с AVX2; разработчик рекомендует 16 ГБ оперативной памяти и 4 ГБ отдельной видеопамяти для языковых моделей. Это не минимальные требования конкретного Qwen2.5-7B и не доказательство совместимости вашего компьютера. Если LM Studio или подходящей модели ещё нет, начните с инструкции по установке. Поиск и скачивание модели требуют сети; уже скачанная модель, по заявлению разработчика, может работать локально без неё. s5 s6
2. В My Models проверьте автора, точное имя файла и версию. Для учебного разбора ниже взят Qwen2.5-7B-Instruct-Q4_K_M.gguf из lmstudio-community/Qwen2.5-7B-Instruct-GGUF на ревизии a8bb3906b78b3009770d7ae7d116be2ea892802d. Файл существует в закреплённом списке; редакция прочитала его метаданные, но не скачала веса целиком. Не считайте похожий файл или другую ревизию автоматически тем же самым шаблоном. s3
3. Откройте чат с уже загруженной моделью и отправьте безличный пример: «Ответь одним словом: сколько дней в неделе?» Ожидаемый ориентир — понятный ответ про семь дней; если вместо этого видны служебные маркеры ролей или диалог обрывается, сохраните точное имя файла и повторите на новом учебном чате. Это пример для вашей проверки, не результат теста редакции; даже странный ответ не доказывает причину. s1

Где посмотреть шаблон и как отличить ошибку?

По документации откройте My Models → шестерёнка рядом с нужной моделью, чтобы увидеть её параметры по умолчанию. Если поле не видно в чате, в боковой панели Advanced Configuration нажмите правой кнопкой и выберите Always Show Prompt Template; расширенные функции включаются в Settings → Developer. В документации доступны Jinja Template (полный шаблон) и Manual (префиксы и суффиксы ролей). Отсутствие поля в обычном режиме User само по себе не означает, что у файла нет шаблона. s1 s2

В нашем конкретном GGUF-файле обнаружен ключ tokenizer.chat_template с маркерами <|im_start|> и <|im_end|>; авторский tokenizer_config.json описывает шаблон Qwen с дополнительной логикой для инструментов. Сравните точный файл/ревизию с его метаданными и проверьте, не задано ли для модели ручное переопределение. Не копируйте только два маркера в Manual: это не весь шаблон. Наличие ключа в файле ещё не доказывает, что ваша установленная версия LM Studio корректно применила его. s3 s4 s1

Только если причина ошибки неясна: можно увидеть сам текст, который программа передала модели. Это инженерный шаг: в терминале на своём компьютере запустите lms log stream --source model --filter input, затем задайте в LM Studio безличный тестовый вопрос. По документации команда показывает уже оформленный ввод модели. Не записывайте и не присылайте такие логи с личными переписками: в них может быть сам текст запроса. Этот шаг не нужен для первого обычного чата. s7

Когда исправлять и как проверить результат?

Меняйте шаблон только если подтвердили отсутствие метаданных, их ошибку или явное несовпадение формата именно этого файла с авторским шаблоном. Сохраните прежнее значение и точное имя файла. Затем для того же файла возьмите полный шаблон из его закреплённых метаданных или авторской конфигурации, а не Jinja-код другой модели; используйте поле Jinja Template, если файл содержит Jinja. Документация разрешает переопределение, но конкретные кнопки сохранения и отката в вашей сборке редакция не проверяла. Если нет доказанного несовпадения, ничего не правьте. s1 s3 s4

Повторите тот же безличный вопрос в новом чате и сравните формат ввода, если включали лог. Убедитесь, что ответ не содержит служебной разметки и смысл соответствует вопросу. Если стало хуже — верните сохранённое прежнее значение и проверьте версию модели, а не перебирайте случайные шаблоны. Проблема может быть в выбранной модели или иных настройках; удачный учебный ответ не доказывает качество на ваших задачах. Для первого запуска вернитесь к гайду LM Studio, а системный промпт-пресет используйте для повторения инструкции, не для исправления формата ролей. s1