Llama 3 и 4: какую модель выбрать для локального запуска

Что именно сравнивается: Llama 3 или Llama 4?

Llama 3.1 8B Instruct — текстовая модель Meta для диалога: её карточка указывает 8B параметров и контекст 128k для семейства. В той же линейке есть 70B и 405B; размер варианта нужно указывать явно. Контекст в карточке — свойство модели, но не гарантия, что выбранный runtime выделил столько же памяти и принимает такой ввод без дополнительных ограничений. s1

Llama 4 Scout 17B-16E Instruct принимает текст и изображение и возвращает текст/код; карточка Meta указывает MoE-архитектуру с 17B активных и 109B общих параметров. Llama 4 Maverick 17B-128E Instruct — другой checkpoint, также мультимодальный, с 17B активных и 400B общих параметров. Число активных экспертов нельзя подставлять вместо суммарного объёма весов: для размещения, KV-кеша и исполнения потребуется измерить реальную конфигурацию. s3 s5

Meta заявляет верхнюю длину контекста 10M для Scout и 1M для Maverick. Это карточные пределы, а не обещание, что такой запрос уместится на вашем компьютере, сохранит качество или будет воспроизводим в каждом runtime. Сначала проверяйте короткий ввод и фактическое размещение, затем увеличивайте длину ступенчато. s3 s5

Какая модель подходит под вашу задачу?

Для первого текстового запуска выберите Llama 3.1 8B Instruct: у Ollama есть именованный тег llama3.1:8b, позволяющий отделить его от 70b и 405b. Проверьте ответ на одном обезличенном коротком задании. Тег каталога Ollama не является доказательством побайтовой идентичности с закреплённой ревизией официальных весов на Hugging Face; для отчёта запишите идентификатор именно загруженного артефакта. s1 s6

Если задаче необходим вход в виде изображения, смотрите Scout: у Meta это text+image checkpoint, а каталог Ollama показывает вариант llama4:16x17b и именованный llama4:scout. Поддержку изображений в вашей версии клиента и runtime проверяйте отдельно, не выводите её из одного имени семейства. Для Maverick каталог предлагает llama4:128x17b / llama4:maverick, но существенно больший полный checkpoint означает иной инфраструктурный выбор; без замера конкретной конфигурации не обещайте запуск на обычном ноутбуке. s3 s5 s7

Для русского делового текста эти карточки не дают готового ответа о качестве. Официальный список поддерживаемых языков Llama 3.1 содержит восемь языков и не включает русский, у Llama 4 перечислены двенадцать, тоже без русского. Meta допускает дообучение для других языков на установленных условиях, но это не замер точности ваших документов и не основание назвать русский официально поддерживаемым. Для русской задачи подготовьте обезличенные примеры и сравните ошибки со специально проверяемыми альтернативами. s1 s3

Какие ограничения у весов и лицензий?

Официальные репозитории этих трёх instruct checkpoint помечены gated/manual: текст карточки может быть публичным, но доступ к файлам весов предполагает принятие условий Meta и решение о доступе. Наличие Ollama-тега — другой путь получения конкретного артефакта; право на использование и ограничения лицензии от этого не исчезают. Проверяйте происхождение, версию и применимость условий до корпоративного пилота. s1 s3 s5 s6 s7

Llama 3.1 и Llama 4 имеют разные соглашения Community License, а не универсальную лицензию MIT или Apache. Оба текста описывают ограниченные права использования и отдельные обязательства при распространении материалов/продукта, включая копию соглашения и «Built with Llama». В обоих есть специальная оговорка о продуктах с более чем 700 млн активных пользователей за предшествующий месяц на дату релиза соответствующей версии, а также требования соблюдать applicable laws и Acceptable Use Policy. Это пересказ условий, не юридическое разрешение конкретному российскому юридическому лицу; для бизнеса проверьте полный текст соглашения, санкционные/торговые ограничения и собственный случай с юристом. s2 s4

Файловый размер в каталоге или общие параметры не равны минимальным RAM/VRAM: память зависит от точного формата/кванта, KV-кеша, реального контекста, параллелизма и runtime. Сравнивайте вариант на своём устройстве, а не делайте вывод по числу 17B active. Материал о видеокартах описывает проверку размещения. s1 s3 s5

Как получить проверяемый локальный результат?

1. Запишите тип входа: только текст или изображение+текст; сформулируйте ожидаемый ответ и критерии ошибок на безопасных, обезличенных данных.
2. Сопоставьте конкретную модель, источник весов, соглашение и железо. Для стартового текста выберите тег llama3.1:8b из каталога Ollama, а не неявный latest; на странице Ollama есть путь установки и запуска. Команда из каталога — ollama run llama3.1:8b, не отчёт о нашем прогоне. s6
3. После загрузки проверьте фактический ответ на своём тестовом запросе и список моделей в памяти через ollama ps или документированный GET /api/ps; зафиксируйте модель, размер контекста, квантование, аппаратное размещение и расход памяти. Если модель не запустилась или выгрузилась, это отдельный наблюдаемый результат, не доказательство плохого качества модели. s8
4. Для задачи с изображением отдельно оцените Scout и совместимость выбранного runtime; не переносите текстовый сценарий Llama 3.1 на Llama 4 без проверки режима изображений и требований к памяти. При недостатке ресурсов начните с текста или подходящего меньшего кандидата вместо заявлений о результате непроведённого теста. s3 s7

Основной следующий шаг: открыть гайд Ollama, запустить именованный текстовый тег llama3.1:8b на разрешённых данных и сохранить точный артефакт, окружение и наблюдаемый результат. Для поиска по документам или русского OCR выбор модели — лишь один шаг: отдельно проверяйте извлечение, цитаты и ограничения доступа.