# llama.cpp b11156 добавил Ling-3.0-flash-VL: локальные изображения и видео

Источник: https://modelium.tech/zhurnal/llama-cpp-b11156-ling-3-flash-vl-image-video/

24 сентября 2026 года в llama.cpp вошла поддержка Ling-3.0-flash-VL: конвертер и мультимодальный движок теперь распознают зрительный модуль этой модели. Автор PR проверил конвертацию исходных весов в BF16 GGUF и запросы с изображением и видео в llama-server. Это предварительная ежедневная сборка b11156, не новый выпуск весов и не гарантия работы всех квантов на любом устройстве.

24 сентября 2026 года в основную ветку **llama.cpp** вошла поддержка **Ling-3.0-flash-VL** от inclusionAI. Изменение присутствует в ежедневной сборке **b11156**, помеченной как *prerelease*. Это не новая версия самой модели: её оригинальные веса были загружены в Hugging Face ещё 4 сентября, а недавняя ревизия репозитория добавила PDF с техническим описанием. Новость здесь — возможность конвертировать и обслуживать её зрительный компонент в upstream llama.cpp, не ограничиваясь прежними специализированными стеками SGLang и форком vLLM. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Что именно изменилось

Смерженный PR #29151 встроил Ling-3.0-flash-VL в архитектуру BailingMoeV3, добавил обработку зрительной башни, projector и позиционного кодирования изображений/видео в мультимодальный код llama.cpp. Автор PR сообщает, что конвертировал полный оригинальный чекпойнт в **BF16 GGUF** (248,9 ГБ файлов, отдельно мультимодальный projector), прошёл тест архитектуры и получил ответы на запросы с изображением и видео через `llama-server`. Это результаты автора изменения, а **не тесты Modelium** и не независимое подтверждение качества или скорости. [s2](#src-s2) [s4](#src-s4)

У исходной Ling-3.0-flash-VL, по карточке создателя, 124 млрд параметров всего и около 5,5 млрд активируемых на токен, поддерживаются изображения и видео. Активные параметры не равны общему объёму весов, а 248,9 ГБ — размер полученного автором BF16 GGUF, **не минимальное требование к RAM/VRAM**. Размер контекста до 256K — заявленная характеристика модели; не следует автоматически переносить её на непроверенную конфигурацию llama.cpp. [s3](#src-s3) [s4](#src-s4)

## Как подойти к локальному запуску

- Возьмите исходные Safetensors и процессор из закреплённой ревизии `inclusionAI/Ling-3.0-flash-VL`. В репозитории есть 64 части `model-*.safetensors` и индекс; карточка модели помечена **MIT**, доступ к весам открыт без gating. Не путайте лицензию модели с MIT-лицензией кода llama.cpp. [s3](#src-s3) [s5](#src-s5)

- Для самостоятельной конвертации используйте инструменты из исходного кода llama.cpp, содержащего PR #29151, и подготовьте **два** артефакта: основной GGUF и отдельный мультимодальный projector. Одного текстового GGUF недостаточно, чтобы обрабатывать изображения. Если берёте готовую конверсию сообщества, отдельно проверьте её ревизию, полноту шардов и совместимость с b11156: авторский PR проверял именно собственную BF16-конверсию, а не все сторонние кванты. [s2](#src-s2) [s4](#src-s4)

- Запускайте `llama-server` из b11156 или более позднего исходного кода с основной моделью и projector, следуя мультимодальной документации llama.cpp. Начните с одного изображения и короткого видео и проверьте результат на своей конфигурации до рабочего внедрения. Не принимайте список бинарных сборок как доказательство, что каждая аппаратная платформа протестирована с этой крупной моделью. [s1](#src-s1) [s2](#src-s2)

Если нужен более документированный путь для оригинальных весов без самостоятельной GGUF-конвертации, карточка inclusionAI отдельно приводит команды SGLang и форка vLLM. Приведённая там многопроцессорная GPU-конфигурация — **проверенный автором рецепт для конкретного режима**, а не универсальный минимум для GGUF или llama.cpp. [s3](#src-s3)

## Статус и ограничения

На 24 сентября b11156 — ежедневная предварительная сборка, а не следующий стабильный релиз llama.cpp после 0.5.0. В PR есть успешная авторская функциональная проверка image/video, но нет независимого набора тестов производительности и качества на разных квантованиях. Карточка модели указывает MIT; лицензию конкретной сторонней конверсии и применимость этого обозначения к зависимым компонентам следует проверять отдельно. Для продакшена целесообразно фиксировать ревизии модели и движка, проверять выводы на собственных данных и дождаться стабильного выпуска, если prerelease недопустим. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s5](#src-s5)

## Источники

1. [ggml-org/llama.cpp prerelease b11156](https://github.com/ggml-org/llama.cpp/releases/tag/b11156) — получено 2026-09-24
2. [ggml-org/llama.cpp PR #29151: Ling 3.0 VL support](https://github.com/ggml-org/llama.cpp/pull/29151) — получено 2026-09-24
3. [inclusionAI/Ling-3.0-flash-VL official model card](https://huggingface.co/inclusionAI/Ling-3.0-flash-VL/tree/7c9d73c208f05a8c75af50e8edda25df2efee9b3) — получено 2026-09-24
4. [PR #29151 description and modified files](https://github.com/ggml-org/llama.cpp/pull/29151/files) — получено 2026-09-24
5. [llama.cpp MIT LICENSE at merged commit](https://github.com/ggml-org/llama.cpp/blob/f830688e91214cccfa25ed0a2b9a708ee5a855c3/LICENSE) — получено 2026-09-24