Jais 3 в GGUF: локальная модель для арабского и английского

Что именно можно скачать

У каждой из двух версий в официальном репозитории IFM есть вариант BF16 (без дополнительного сжатия до 4–8 бит) и несколько уменьшенных по точности GGUF-файлов, включая Q4_K_M, Q5_K_M и Q8_0. Эти обозначения описывают способ хранения модели, а не гарантированное качество ответа. GGUF — формат для программ локального запуска, таких как llama.cpp; он не означает, что модель уже установлена на вашем компьютере. Исходные репозитории содержат веса в другом формате, Safetensors: один файл у 0.9B и два у 3.7B, оба набора сверены с опубликованными списками файлов. s1 s2 s3 s4

Основной сценарий Jais 3 — вопросы и работа с текстом на арабском и английском: например, попросить объяснить абзац на арабском простыми словами. Для русского языка авторы прямо не обещают надёжной работы; проверяйте результат с носителем языка или по исходному документу, особенно там, где цена ошибки высока. Указанные авторами оценки в карточках — их собственные результаты, а не измерения Modelium; независимого сравнения GGUF-вариантов здесь нет. s1 s2

Что изменилось для локального запуска

Карточки GGUF указывают на llama.cpp и предупреждают, что для архитектуры K2 Horizon нужен свежий выпуск программы. Поддержку этой архитектуры добавили в основной код llama.cpp 6 октября; стабильная версия v0.7.0 опубликована 15 октября. Это подтверждает наличие поддержки в коде, но не заменяет проверку конкретной модели на вашем устройстве. Для начала выберите один официальный GGUF-файл из репозитория IFM, затем ознакомьтесь с новостью о llama.cpp v0.7.0. Домашнюю пошаговую инструкцию мы не обещаем: полный запуск Jais 3 редакцией не воспроизводился, а минимальные RAM и видеопамять здесь не подтверждены. Размер скачиваемого файла не равен требованию к памяти. s3 s4 s5 s6

Какие ограничения нужно учесть

На 16 октября в метаданных исходных моделей и GGUF-пакетов указано Apache-2.0, однако отдельных файлов LICENSE в проверенных четырёх репозиториях нет. Поэтому не стоит выводить из одной метки полный набор прав на встроенный Python-код и сторонние компоненты; условия конкретного коммерческого применения нужно проверить отдельно. Доступные веса, исходный код и разрешение на использование — не одно и то же. Мы не измеряли скорость, качество или потребление памяти на домашнем компьютере. s1 s2 s3 s4

Проверено по карточкам и составу файлов репозиториев на 16 октября 2026 года: оригинальные Jais-3-0.9B и Jais-3-3.7B, их официальные GGUF-пакеты и история поддержки K2 Horizon в llama.cpp. Следующий шаг — открыть официальный GGUF-репозиторий подходящей версии и проверить, соответствует ли его назначение вашей задаче. s1 s2 s3 s4 s5 s6