YandexGPT 5 Lite 8B: открытые веса, лицензия и локальный запуск

Какие именно веса доступны локально?

Яндекс опубликовал Instruct checkpoint с заявленными 8B параметров, языковыми метками ru и en, а также отдельный официальный репозиторий GGUF. Исходные веса доступны в официальном репозитории, но возможность скачать файл не отменяет условий лицензии. Не смешивайте instruct, pretrain и облачный API в одном сравнении. s1 s2 s4 s5 s6

Конфигурация исходного checkpoint указывает max_position_embeddings: 32768, что согласуется с описанием 32k в карточке; это свойство артефакта, а не обещание, что ваш runtime, память и качество позволят использовать весь контекст. В индексе перечислены четыре safetensors-шарда с total_size: 16073105408 байт. В другом официальном репозитории находится файл YandexGPT-5-Lite-8B-instruct-Q4_K_M.gguf, API сообщает размер файла 4920741184 байт. Ни одно из этих чисел не является минимальным требованием к RAM/VRAM: к весам добавляются KV-кеш и расходы runtime, а CPU/GPU-размещение зависит от конкретной системы. s1 s3 s4 s5 s6

Подходит ли модель для русских задач?

Карточка указывает русский и английский языки и публикует сравнения с другими моделями. Утверждение о превосходстве в отдельных тестах — оценка автора; в тексте карточки MMLU обозначен как 5-shot, остальные показанные тесты — 0-shot. Это не независимый замер Modelium и не прогноз качества на ваших договорах, реквизитах или переписке. Для выбора составьте набор обезличенных русских запросов с ожидаемым ответом, проверьте факты и отказы и сравните с другим кандидатом на одинаковых входных данных. s1

Что требует лицензия для компании?

Текст Яндекса именует соглашение YandexGPT-5-Lite-8B, а метаданные карточки отмечают license: other, не Apache-2.0 и не MIT. Соглашение предусматривает исследовательские, некоммерческие и коммерческие способы использования на его условиях. При достижении 10 млн выходных токенов в месяц в коммерческом использовании оно требует обратиться к Яндексу в течение 30 календарных дней после соответствующего месяца для согласования дальнейшего использования; если не обратиться или не договориться, оно описывает прекращение лицензии. Там же установлены ограничения на содержание, условия распространения и уведомление об авторстве. Это изложение текста, а не юридическое заключение: перед корпоративным пилотом сверяйте полный документ и свои права. s1 s2

Как получить проверяемый первый результат?

1. Выберите конкретный артефакт: исходные safetensors для Transformers/vLLM по карточке автора или официальный GGUF Q4_K_M для Ollama/llama.cpp. Карточка GGUF прямо предупреждает, что интерактивный режим предназначен скорее для знакомства: нестандартный шаблон диалога может давать результат, отличный от генерации по фиксированному диалогу. s1 s5
2. Для простого знакомства с GGUF установите Ollama по гайду. Документация Hugging Face показывает синтаксис ollama run hf.co/{owner}/{repo}:{quant}. Подставьте официальный адрес: ollama run hf.co/yandex/YandexGPT-5-Lite-8B-instruct-GGUF:Q4_K_M. Это команда по документации, не свидетельство нашего запуска; она не закрепляет HF commit автоматически, поэтому сохраните проверенную ревизию отдельно и не называйте полученный по сети файл побайтово идентичным нашему снимку без сверки. s5 s6 s7
3. Дайте короткий обезличенный русский запрос с заранее известным ответом; запишите точный тег, окружение и наблюдаемый текст, сравните с эталоном и проверьте модель в памяти через ollama ps либо документированный GET /api/ps. Если ответ не получен, сначала диагностируйте совместимость формата, шаблона и доступную память; не заявляйте о качестве без результата. s5 s8

Если нужен сервер и контроль шаблона, карточка Яндекса также приводит путь через llama-server, но пример автора с -c 32768 не гарантирует такую длину на вашем железе. Разберите llama.cpp и начните с короткого теста, увеличивая контекст только после проверки. Основной следующий шаг: гайд Ollama и один воспроизводимый запрос с сохранённым результатом. s3 s5