Llama for Windows 0.12.0: поиск GGUF-моделей прямо в приложении

Что изменилось при выборе модели

Раньше список приложения предлагал прежде всего рекомендованные модели. Теперь в нём можно ввести название или адрес репозитория на Hugging Face — площадке, где авторы размещают модели, — увидеть подсказки и скачать выбранный GGUF-вариант с индикатором прогресса. GGUF — формат файла модели для программы llama.cpp, на которой построен локальный запуск. Для закрытого репозитория может понадобиться ваш токен Hugging Face; для открытых моделей он необязателен. Возможность скачать файл не гарантирует, что любой найденный GGUF запустится на вашем компьютере или что его лицензия разрешает вашу задачу. s1 s2

После загрузки Llama управляет локальным процессом llama.cpp и открывает чат с выбранной моделью. По описанию проекта, запросы к уже загруженной модели обрабатываются на вашем компьютере; поиск моделей, их скачивание и проверка новых версий используют сеть. Для самой работы потребуется достаточно памяти и места для конкретной модели: универсального минимума для любого GGUF релиз не устанавливает. s2

Как попробовать на Windows 11

1. Откройте официальный релиз v0.12.0 и скачайте файл LlamaApp-v0.12.0.msixbundle. Он включает пакеты для x64 и ARM64. Дважды нажмите на загруженный файл и подтвердите установку Windows. Затем найдите значок Llama в области уведомлений. s1 s2
2. Откройте список моделей и введите имя подходящей модели. Выберите вариант GGUF, проверьте условия использования модели и начните загрузку. В интерфейсе должны появиться ход загрузки или понятная причина отказа — например, нехватка свободного места. При первом запуске программа может предложить скачать движок llama.cpp. s1 s2
3. Загрузите модель и откройте её локальный чат. Учебный запрос: «Перефразируй для ребёнка: солнечный свет нагревает землю, а она нагревает воздух». Сверьте, что ответ передаёт именно эту мысль и не добавляет выдуманных фактов. Это пример проверки, не результат нашего теста. s2

Если установка не проходит, сверьте Windows 11 и архитектуру компьютера с указанными в релизе пакетами. Если поиск или загрузка не работают, сначала проверьте соединение, свободное место и доступ к выбранному репозиторию; токен Hugging Face нужен только там, где этого требует доступ. Не вставляйте токен в чужие сайты. s1 s2

Что ещё важно в обновлении

В настройках теперь можно выбрать адрес, на котором отвечает локальный сервер, и ограничить число одновременно загруженных моделей. По описанию авторов, при открытии доступа за пределами собственного компьютера приложение включает ключ для обращений к серверу и запрашивает подтверждение, а токен Hugging Face хранит в зашифрованном виде. Оставьте исходный адрес localhost, если доступ другим устройствам вам не нужен: он рассчитан на работу только на этом компьютере. Эти изменения мы проверили по релизу, а не независимым испытанием безопасности. s1

Авторы также исправили ранее неработавшую проверку еженедельных обновлений llama.cpp. Но автоматическая установка таких обновлений пока пропускается до закрепления контрольного хеша установочного скрипта — обещать полностью автоматическое обновление нельзя. Код самого приложения опубликован под MIT; условия использования загружаемой модели определяются отдельно её владельцем. s1 s3

Следующий шаг: скачайте установочный пакет с официальной страницы релиза и попробуйте короткий запрос с моделью, чья совместимость и лицензия вам подходят. Если у вас уже есть GGUF-файл для другой программы, см. как импортировать GGUF в LM Studio: это отдельное приложение, не часть Llama for Windows.

Источники изучены 14 октября 2026 года; для кода и README использован тег v0.12.0. s1 s2 s3