# Bonsai 2: что дают новые локальные модели 2B, 4B и 9B

Источник: https://modelium.tech/zhurnal/bonsai-2-2b-4b-9b-local-models/

15 октября Prism ML представила три уменьшенные модели Bonsai 2: 2B, 4B и 9B. Они доступны для локального запуска в форматах GGUF и MLX и могут работать с текстом и изображениями. Начать проще с 2B, но размер файла не говорит, сколько памяти понадобится вашему компьютеру.

Prism ML 15 октября 2026 года дополнила семейство Bonsai 2 тремя моделями — 2B, 4B и 9B. Если прежняя 27B казалась слишком крупной для первого знакомства с локальным ИИ, теперь можно выбрать меньший вариант. Авторы предлагают их для ответов на вопросы, работы с изображениями и вызова инструментов; насколько хорошо они справятся с вашей задачей, нужно проверить на своих данных. [s1](#src-s1)

## Что именно стало доступно?

Bonsai 2 основана на Qwen3.5. Числа 2B, 4B и 9B обозначают приблизительный масштаб модели, а не объём памяти компьютера. «Тернарные» веса означают, что часть чисел внутри модели сведена к трём значениям: −1, 0 и +1. Так файлы можно сделать компактнее, но это не гарантия прежнего качества каждого ответа. [s1](#src-s1) [s8](#src-s8)

Для каждой из трёх моделей Prism ML выложила файлы **GGUF** (формат для программ на основе llama.cpp) и **MLX** (формат для Mac с чипом Apple). Например, файл GGUF PQ2_0 с текстовой частью занимает, по карточкам авторов, около 0,52 ГБ у 2B, 1,15 ГБ у 4B и 2,42 ГБ у 9B. Для анализа фото требуется отдельный файл со зрительной частью, а у MLX-файла она уже входит в комплект. Это размеры загрузки, **не минимальные требования к оперативной или видеопамяти**. Память зависит также от длины диалога и режима запуска. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5)

## Что это меняет для обычного пользователя?

Появился выбор между более лёгким первым опытом с 2B и более крупными 4B/9B без перехода к 27B. Можно, например, дать модели собственную фотографию предмета и попросить описать её; затем сверить описание с изображением. Важные детали и текст на снимке проверяйте сами: авторские сравнения показывают разную потерю качества на разных заданиях, а Modelium эти модели не запускал и не замерял. [s8](#src-s8)

## С чего начать на Mac?

Один подтверждённый документацией путь для **Mac с Apple Silicon** — официальный Bonsai Demo. В его папке документация предлагает выполнить `BONSAI_MODEL=2B ./setup.sh`, а после установки — `BONSAI_MODEL=2B ./scripts/run_mlx.sh -p 'Назови три идеи для домашнего растения' -n 1024`. Первый шаг готовит окружение и скачивает необходимые файлы через интернет; второй должен вывести ответ модели в терминале. Если хотите проверить работу с фото, отдельный пример с изображением есть в карточке MLX 2B. Это **инструкция по первоисточнику, не воспроизведённый редакцией запуск**. Пакет mlx-vlm версии 0.7.8 содержит поддержку архитектуры модели; подменять его обычным mlx-lm из установленного окружения не следует. [s5](#src-s5) [s6](#src-s6) [s7](#src-s7)

Если у вас Windows или Linux, у авторов есть GGUF и сборка llama.cpp, но эта заметка не является готовым пошаговым рецептом для этих систем. Особенно важно не путать упаковки: PQ2_0 и PTQ1_0 требуют форк Prism ML; для обычной актуальной версии llama.cpp авторы указывают Q2_0. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

## Какие ограничения и права?

Карточки этих весов и их файлы LICENSE указывают Apache 2.0; исходные модели Qwen3.5 также имеют Apache 2.0. Код демонстрационного проекта распространяется отдельно под Apache 2.0. Это открытые веса и конкретные условия использования, а не обещание бесплатной работы любого внешнего сервиса. При повторном распространении проверяйте уведомления NOTICE и лицензии используемых компонентов. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5) [s9](#src-s9)

Прежде чем переносить домашний эксперимент на важные документы или автоматические действия, проверьте типичные собственные запросы и ответы. Если интересна более крупная версия, сравните с [Bonsai 2 27B](/zhurnal/bonsai-2-27b-ternary-gguf-mlx-local/).

## Источники

1. [Prism ML: анонс Bonsai 2 2B, 4B и 9B](https://prismml.com/news/prismml-expands-bonsai-2-family-with-2b-4b-and-9b-models-for-on-device-ai) — получено 2026-10-16
2. [Prism ML: Bonsai 2 2B GGUF, закреплённая карточка и лицензия](https://huggingface.co/prism-ml/Ternary-Bonsai-2-2B-gguf/tree/683f7be2629342a50987627b40881e54761a2430) — получено 2026-10-16
3. [Prism ML: Bonsai 2 4B GGUF, закреплённая карточка и лицензия](https://huggingface.co/prism-ml/Ternary-Bonsai-2-4B-gguf/tree/8d6557168168f91ea6697a4a49ed2ef622b53adb) — получено 2026-10-16
4. [Prism ML: Bonsai 2 9B GGUF, закреплённая карточка и лицензия](https://huggingface.co/prism-ml/Ternary-Bonsai-2-9B-gguf/tree/5b2abb02362efbed46bbe204014b02837778b2c2) — получено 2026-10-16
5. [Prism ML: Bonsai 2 2B MLX, карточка и лицензия](https://huggingface.co/prism-ml/Ternary-Bonsai-2-2B-mlx-2bit/tree/1c6cbae21f8c38830ce337972b46fdae7b18eaaa) — получено 2026-10-16
6. [Prism ML: официальный демонстрационный проект и инструкция для малых моделей](https://github.com/PrismML-Eng/Bonsai-demo/blob/db871ea96bffff5ce5609873c412b75d7cd5ba3c/SMALL-MODELS.md) — получено 2026-10-16
7. [mlx-vlm v0.7.8: код поддержки prism_hadamard_qwen35](https://github.com/Blaizzy/mlx-vlm/tree/v0.7.8/mlx_vlm/models/prism_hadamard_qwen35) — получено 2026-10-16
8. [Prism ML: результаты и ограничения нового семейства](https://prismml.com/news/bonsai-2-family) — получено 2026-10-16
9. [Prism ML: лицензия исходного кода Bonsai Demo на релизном коммите](https://github.com/PrismML-Eng/Bonsai-demo/blob/db871ea96bffff5ce5609873c412b75d7cd5ba3c/LICENSE) — получено 2026-10-16