Как задать вопрос по своему PDF локально в LM Studio

Что понадобится на домашнем компьютере?

Нужен Windows-компьютер x64 с процессором, поддерживающим AVX2, приложение LM Studio и свой PDF с выделяемым текстом. Разработчики LM Studio рекомендуют не менее 16 ГБ оперативной памяти и видеокарту с 4 ГБ выделенной памяти; это рекомендации для приложения, не доказанный минимум для выбранного GGUF. Если характеристики ПК неизвестны или запуск не удаётся, не обещайте себе гарантированной работы. s3

Выберите конкретный вариант Qwen3-4B-Instruct-2507-Q4_K_M.gguf из lmstudio-community/Qwen3-4B-Instruct-2507-GGUF. Это сжатая версия текстовой модели Qwen3-4B-Instruct-2507, подготовленная сторонним автором. Сам файл весов занимает около 2,5 ГБ по списку файлов репозитория; нужно ещё место под программу и её файлы, а размер загрузки не равен необходимой RAM/VRAM. Оригинальная модель отмечена авторами как Apache-2.0; карточка сборки отдельно указывает на стороннюю квантизацию, поэтому перед иным использованием проверьте условия исходного репозитория и выбранной сборки. s5 s6 s7

Для установки программы и поиска/загрузки модели и движка запуска потребуется интернет. После того как всё необходимое уже загружено, авторы LM Studio описывают сам чат с документом как локальную операцию без обязательного подключения: PDF, обработка текста и модель остаются в приложении. Здесь нет внешнего OCR, облачного поиска или стороннего инструмента; если вы вручную подключали плагины, сетевой сервер или удалённую модель, отдельно проверьте весь путь данных. s4

Как открыть PDF и спросить о нём?

1. Если LM Studio ещё нет, установите его для Windows по базовому гайду. Откройте Discover и вставьте в поиск lmstudio-community/Qwen3-4B-Instruct-2507-GGUF. В списке выберите файл Q4_K_M, дождитесь конца загрузки. Именно репозиторий и вариант важны: похожее название другой модели не доказывает совпадения. s2 s5
2. Откройте обычный Chat, создайте новый разговор и загрузите скачанную модель. Добавьте свой небольшой PDF в сообщение перетаскиванием файла в чат. Вы должны увидеть вложение рядом с полем ввода, прежде чем отправлять вопрос. LM Studio допускает PDF, DOCX и TXT; здесь используйте только PDF. s1 s2
3. Для учебной проверки возьмите PDF, в котором вы сами видите строку вроде «Встреча состоится 17 ноября в 18:00». Спросите: По прикреплённому PDF найди дату и время встречи. Если этого нет в тексте, так и скажи. Не добавляй сведений от себя. Ответ должен содержать дату и время только если они действительно есть в вашем файле. Откройте страницу PDF и сравните слова, дату и время самостоятельно. Это учебный пример запроса, не результат реально запущенной редакцией модели. s1

Почему ответ может быть неполным?

Короткий документ, который помещается в рабочую память модели (контекст), LM Studio передаёт ей целиком. Для длинного PDF приложение использует поиск подходящих фрагментов (RAG) и отдаёт модели найденные отрывки; поиск иногда пропускает нужное. Тогда уточните вопрос словами из самого PDF, повторите запрос и обязательно откройте оригинал. Если страницы PDF — картинки, а текст нельзя выделить мышью, эта инструкция для такого файла не подтверждена: авторская документация не обещает распознавание текста на изображении (OCR). Сначала проверьте, что нужную строку можно выделить в вашем файле. s1

Если модель не загружается, сначала сравните характеристики ПК с рекомендациями приложения, проверьте выбранный вариант и свободное место; не вычисляйте RAM по размеру GGUF. Если вложение не появилось, проверьте расширение .pdf и перетащите файл в окно чата заново. Не загружайте конфиденциальный файл, пока не убедились, что используете локальную модель и не подключили сторонние инструменты или удалённые сервисы. s1 s3 s4

Следующий шаг: узнать, почему поиск по длинному документу может промахнуться — это поможет сформулировать вопрос точнее и проверить ответ. s1