# Flash Attention в LM Studio: включить для модели и проверить

Источник: https://modelium.tech/zhurnal/lm-studio-flash-attention/

Flash Attention — параметр обработки внимания модели, который можно выбрать перед загрузкой в LM Studio. У модели, работающей через движок на базе llama.cpp, фактическую конфигурацию можно посмотреть в локальном API. Сам переключатель и ответ в чате не доказывают, что модель стала быстрее; редакция не проводила такого замера.

Если у вас уже есть локальная модель в LM Studio, можно попробовать **Flash Attention** — способ организовать вычисление внимания модели к ранее прочитанному тексту. Это настройка загрузки, а не гарантия ускорения: её действие зависит от движка и модели. Ниже — как включить её для одного запуска и отличить выбранный переключатель от значения у действительно загруженной модели. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

**Проверено по источникам 29 октября 2026 года.** На странице Windows-загрузки LM Studio показывалась версия **0.4.26**. Modelium сверил документацию и наличие файла в каталоге автора, но **не запускал** LM Studio на Windows, не вызывал его локальный API и не измерял скорость. Следуйте шагам на своей установленной версии; если нужного параметра нет, не предполагайте, что он автоматически включён. [s1](#src-s1) [s9](#src-s9)

## Что нужно до переключения?

Нужен LM Studio на Windows и уже скачанный совместимый файл модели. Для конкретного примера используем **Qwen3-4B-Q4_K_M.gguf** из репозитория `Qwen/Qwen3-4B-GGUF`: его наличие подтверждено на закреплённой ревизии автора. GGUF — формат файла весов модели, а Q4_K_M — обозначение варианта сжатия. Это **пример**, не обещание, что именно этот файл доступен в каждом текущем каталоге приложения. Если модели ещё нет, начните с [базового гайда LM Studio](/zhurnal/lm-studio/). [s7](#src-s7) [s8](#src-s8)

Для Windows x64 LM Studio требует процессор с AVX2 — поддержкой определённого набора команд. Разработчик **рекомендует**, но не объявляет минимумом для этой Qwen, 16 ГБ оперативной и 4 ГБ выделенной видеопамяти. Не выводите требования к RAM или VRAM из размера файла GGUF. [s6](#src-s6)

## Как выбрать настройку для одной загрузки?

- В **Chat** откройте выбор уже скачанной Qwen и параметры **перед загрузкой**. Запишите исходное значение **Flash Attention**, затем включите переключатель. В инструкции разработчика параметры загрузки можно изменить разово или сохранить для конкретной модели через **My Models → шестерёнка**; пока не сохраняйте новый default. [s1](#src-s1) [s7](#src-s7)

- Загрузите **тот же файл** и дождитесь поля ввода чата. Если появляется ошибка памяти или загрузки, верните исходное значение и повторите с прежними остальными параметрами. Не считайте ошибку доказательством отсутствия поддержки Flash Attention: причину нужно разбирать отдельно. [s1](#src-s1) [s7](#src-s7)

- Для маленькой проверки напишите: «Ответь одним предложением: где хранится моя книга, если я положил её на полку?» Сверьте ответ с условием: речь должна идти о полке. **Это пример ввода, а не якобы полученный редакцией ответ модели.** Работающий чат доказывает загрузку, но не ускорение. [s7](#src-s7)

## Как увидеть значение у загруженного экземпляра?

Если вам нужен именно контроль параметра, а не только ответ чата, перейдите в **Developer** и включите **Start server**, оставив сервер доступным только на **localhost** (на своём компьютере). При отключённом требовании API-токена откройте *на этом же компьютере* адрес `http://localhost:1234/api/v1/models` (если порт сервера изменён, подставьте его фактическое локальное значение). Найдите **точный файл Qwen**, затем `loaded_instances` (запущенные экземпляры), `config` (их настройки) и `flash_attention: true`. Этот путь описан для API v1 LM Studio 0.4.0+; число `1234` соответствует адресу из документации. [s2](#src-s2) [s4](#src-s4) [s5](#src-s5)

Если `loaded_instances` пуст, вы смотрите установленную, но не загруженную модель. Если поля `flash_attention` нет, **не считайте это ни **`**true**`**, ни **`**false**`: в схеме оно необязательное и отсутствует у embedding-моделей (моделей для превращения текста в числовые векторы). Документация отдельно ограничивает действие этого параметра **движком на базе llama.cpp**; для другого движка не обещаем ту же проверку. Если сервер требует токен, не выключайте защиту ради этой статьи и не вставляйте секрет в URL: используйте доверенный клиент с разрешённым токеном по официальной инструкции или ограничьтесь проверкой загрузки в Chat. [s2](#src-s2) [s3](#src-s3) [s5](#src-s5)

Значение `true` в конфигурации показывает **применённую настройку**, а не выигрыш скорости или качество ответа. Для сравнения измеряйте на своём компьютере одинаковый запрос при одинаковой модели, длине контекста и остальных параметрах до и после переключения; Modelium этого эксперимента не проводил. Если параметр пригодился, [сохраните его для этой модели по умолчанию](/zhurnal/lm-studio-nastroyki-modeli-po-umolchaniyu/), не меняя настройки других моделей. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Источники

1. [LM Studio — Per-model Defaults](https://lmstudio.ai/docs/app/advanced/per-model) — получено 2026-10-29
2. [LM Studio — List your models (REST API v1)](https://lmstudio.ai/docs/developer/rest/list) — получено 2026-10-29
3. [LM Studio — Load a model (REST API v1)](https://lmstudio.ai/docs/developer/rest/load) — получено 2026-10-29
4. [LM Studio — Local LLM API Server](https://lmstudio.ai/docs/developer/core/server) — получено 2026-10-29
5. [LM Studio — API Authentication](https://lmstudio.ai/docs/developer/core/authentication) — получено 2026-10-29
6. [LM Studio — System Requirements](https://lmstudio.ai/docs/app/system-requirements) — получено 2026-10-29
7. [LM Studio — Get started](https://lmstudio.ai/docs/app/basics) — получено 2026-10-29
8. [Qwen/Qwen3-4B-GGUF — закреплённая ревизия модели](https://huggingface.co/api/models/Qwen/Qwen3-4B-GGUF/revision/bc640142c66e1fdd12af0bd68f40445458f3869b) — получено 2026-10-29
9. [LM Studio — Windows download](https://lmstudio.ai/download?os=windows) — получено 2026-10-29