# GigaChat: какие модели открыты и что запускать локально

Источник: https://modelium.tech/zhurnal/gigachat-otkrytye-modeli/

У GigaChat есть не только облачный API: разработчики выложили отдельные веса, в том числе компактную GigaChat 3.1 Lightning и крупные GigaChat 3.5 Ultra/Reasoning. Для первого локального знакомства разумнее начать с конкретного GGUF-варианта 3.1, но его размер файла не равен необходимой RAM/VRAM; поддержку версии llama.cpp и условия лицензии нужно проверить отдельно. Доступная через API модель не тождественна опубликованному checkpoint только из-за сходного имени.

**Проверено 1 октября 2026 года.** Речь о конкретных репозиториях `ai-sage`, а не обо всех облачных GigaChat. Веса Modelium не запускал; версии репозиториев закреплены в источниках. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s5](#src-s5) [s6](#src-s6)

## Какие GigaChat можно скачать, а какие доступны только через сервис?

Название GigaChat объединяет разные продукты. Документация Сбера описывает `GigaChat-3-Ultra` как API-модель; по этому названию нельзя сделать вывод, что открытый checkpoint имеет те же веса, лицензию и возможности. Отдельно команда опубликовала веса GigaChat 3 и карточки `ai-sage` на Hugging Face. Для локального запуска выбирайте **точный репозиторий и ревизию**, а не только имя сервиса. [s1](#src-s1) [s3](#src-s3) [s7](#src-s7)

- **Ранее выпущенная GigaChat-20B-A3B-instruct-v1.5**: её карточка указывает BF16, INT8, GGUF и пометку MIT. Это не GigaChat 3.1. Примеры кода в карточке используют идентификатор без `-v1.5`, поэтому перед копированием любого примера проверяйте, к какому checkpoint он обращается. [s2](#src-s2)

- **GigaChat 3.1 Lightning**: карточка конкретного `ai-sage/GigaChat3.1-10B-A1.8B-GGUF` называет 10 млрд параметров всего и 1,8 млрд активных за шаг MoE. В дереве закреплённой ревизии присутствуют `bf16.gguf`, `q4_K_M.gguf`, `q6_K.gguf`, `q8_0.gguf`. Пометка `license: mit` относится к этой карточке весов, не автоматически к облачному API. [s3](#src-s3) [s4](#src-s4)

- **GigaChat 3.5 Ultra и 3.5 Reasoning** — два разных репозитория GGUF для моделей с 432 млрд параметров всего и 28 млрд активных; Reasoning имеет отдельный режим рассуждения. Это не компактная альтернатива 3.1 для первой пробы и не доказательство, что обычный домашний ПК справится с ними: проверяйте полный состав файлов, формат и поддержку runtime. [s5](#src-s5) [s6](#src-s6)

В старшем исходном репозитории GigaChat 3 перечислены Lightning и Ultra **Preview**. Он фиксирует свой этап выпуска, но не представляет собой полный каталог более поздних 3.1/3.5. Нельзя объявлять эти поздние версии отсутствующими по старому списку. [s7](#src-s7)

## Что выбрать под свою задачу и железо?

Если нужен первый локальный тест русскоязычного ассистента, начните с **3.1 Lightning GGUF Q4_K_M** и короткого обезличенного диалога: репозиторий помечает `ru`/`en` и публикует этот файл. Для контента компании сначала определите, какие входные данные разрешено передавать модели, затем сравните результат с ожидаемым ответом на своей выборке. Заявления автора о качестве на тестах и скорости при H100 не являются независимым измерением Modelium и не предсказывают качество на ваших документах. [s3](#src-s3) [s4](#src-s4)

Файл `GigaChat3.1-10B-A1.8B-q4_K_M.gguf` в указанной ревизии занимает **6 474 702 976 байт**. Это размер одного файла весов, **не минимум RAM/VRAM**: при запуске добавятся KV-кеш, буферы и расходы runtime; размещение CPU/GPU зависит от параметров и оборудования. **1,8 млрд активных** у MoE — не размер всех хранимых весов; прежде чем подбирать железо, оцените его по [практическому разбору памяти](/zhurnal/videokarta-dlya-llm/) и данным собственного запуска. Для 3.5 Ultra и Reasoning нужен отдельный расчёт по всем файлам выбранного кванта и инфраструктуре, а не экстраполяция по активным параметрам. [s3](#src-s3) [s4](#src-s4) [s5](#src-s5) [s6](#src-s6)

## Что разрешает лицензия?

Карточки перечисленных 20B v1.5, 3.1 GGUF и 3.5 GGUF помечены **MIT**. README проекта GigaChat 3 отдельно говорит о коммерческом использовании опубликованных там Lightning и Ultra Preview; текст MIT требует сохранять уведомления о правах и сам текст лицензии при распространении. Это **не юридическое заключение**, не обещание, что все сторонние GGUF-перепаковки имеют те же условия, и не перенос MIT на API Сбера: для проекта проверяйте условия конкретных весов, зависимостей и способа применения. [s2](#src-s2) [s3](#src-s3) [s5](#src-s5) [s6](#src-s6) [s7](#src-s7) [s8](#src-s8)

## Как дойти до проверяемого локального ответа?

- Выберите **именно** `ai-sage/GigaChat3.1-10B-A1.8B-GGUF` и квантизацию `q4_K_M` из закреплённой ревизии. Не подменяйте его старым 3.0 Lightning или удалённым `GigaChat-3-Ultra`; сохраните точную ревизию при скачивании. [s1](#src-s1) [s3](#src-s3) [s4](#src-s4)

- Откройте [гайд llama.cpp](/zhurnal/llama-cpp/). Авторская карточка 3.1 для своего примера указывает `llama.cpp` не ниже build **8495**, `cmake` не ниже 3.28.3 и запуск `llama-server` с выбранным локальным GGUF. Эти значения — **требования авторского примера**, а не универсальный аппаратный минимум; нынешнюю совместимость конкретной сборки проверяйте по её документации и запуску. В опубликованном shell-примере автора комментарий после обратного слеша переноса строки небезопасен для буквального копирования, поэтому здесь не выдаётся непроверенная полная команда за рабочую. [s3](#src-s3)

- После запуска локально отправьте короткий обезличенный тестовый запрос на `localhost:8080/v1/chat/completions`, как показывает карточка. Проверьте, что пришёл текст от выбранного локального сервера, сохраните тег/ревизию, параметры запуска, аппаратную конфигурацию и ожидаемый ответ; один правдоподобный текст не доказывает ни качество, ни отсутствие облачного маршрута. При несовместимости проверьте поддержку формата GGUF и выбранный файл до настройки длинного контекста. Modelium этого запуска не проводил. [s3](#src-s3) [s4](#src-s4)

Для сравнения по русской задаче откройте [маршрут выбора кандидатов](/zhurnal/lokalnye-llm-dlya-russkogo-yazyka/); для оценки доступной памяти — [гайд по железу](/zhurnal/videokarta-dlya-llm/). **Основной следующий шаг:** [гайд llama.cpp](/zhurnal/llama-cpp/) и собственный короткий тест 3.1 GGUF на разрешённых данных. [s3](#src-s3) [s4](#src-s4)

## Источники

1. [Сбер — описание API-модели GigaChat-3-Ultra](https://developers.sber.ru/docs/ru/gigachat/models/gigachat-3-ultra) — получено 2026-10-01
2. [ai-sage — GigaChat-20B-A3B-instruct-v1.5, карточка](https://huggingface.co/ai-sage/GigaChat-20B-A3B-instruct-v1.5/blob/8a6075316cd6d41269f7892caf046f7d5aa274a4/README.md) — получено 2026-10-01
3. [ai-sage — GigaChat 3.1 Lightning GGUF, карточка](https://huggingface.co/ai-sage/GigaChat3.1-10B-A1.8B-GGUF/blob/97045b260251cfa86f5ad25638fa2dd074153446/README.md) — получено 2026-10-01
4. [Hugging Face — дерево файлов 3.1 GGUF на закреплённой ревизии](https://huggingface.co/api/models/ai-sage/GigaChat3.1-10B-A1.8B-GGUF/tree/97045b260251cfa86f5ad25638fa2dd074153446?recursive=true&expand=true) — получено 2026-10-01
5. [ai-sage — GigaChat 3.5 Ultra GGUF, карточка](https://huggingface.co/ai-sage/GigaChat3.5-432B-A28B-GGUF/blob/4ab92df4a2aa095099cd01dd1a65263f67f08729/README.md) — получено 2026-10-01
6. [ai-sage — GigaChat 3.5 Reasoning GGUF, карточка](https://huggingface.co/ai-sage/GigaChat3.5-432B-A28B-Reasoning-GGUF/blob/9f9e4f3e995054b50fcd8dc4e3f080e93ccc2a55/README.md) — получено 2026-10-01
7. [Salute Developers — GigaChat 3, список опубликованных весов](https://github.com/salute-developers/gigachat3/blob/3455df8ec28d70a35d92536b53bb29f11cda680d/README.md) — получено 2026-10-01
8. [Salute Developers — текст лицензии MIT для GigaChat 3](https://github.com/salute-developers/gigachat3/blob/3455df8ec28d70a35d92536b53bb29f11cda680d/LICENSE) — получено 2026-10-01