# Mizan 4B: модель для разбора персидских обращений локально

Источник: https://modelium.tech/zhurnal/mizan-4b-persian-local-decisions/

11 октября опубликованы Mizan 4B и два GGUF-варианта для локального разбора персидских сообщений: модель выбирает ответ из заданных вариантов, а не ведёт чат. Результаты на персидских задачах приводит автор; запуск нового GGUF редакция не проверяла.

Если вы разбираете сообщения клиентов на персидском языке, появилась модель, которая помогает назначить отдел или отметить срочность без отправки текста в облачный сервис. 11 октября 2026 года автор Mizan 4B открыл исходные веса и два файла для локального запуска. Это **модель для выбора ответа из заданных вариантов**, а не собеседник, пишущий свободный текст. [s1](#src-s1)[s2](#src-s2)[s3](#src-s3)

## Что умеет Mizan 4B

Вы передаёте текст обращения и вопрос с возможными ответами — например «кому передать жалобу: оплате, доставке или технической поддержке?». Модель возвращает выбранный вариант и оценку уверенности. Автор ориентирует её на персидские сообщения в поддержке, отзывах и модерации; в карточке также указан английский язык. Это может помочь сортировать очередь обращений на собственном компьютере, но решение о возврате денег или блокировке человека нельзя автоматически принимать по одной оценке модели. [s1](#src-s1)

У Mizan есть полный вариант на Hugging Face и отдельный репозиторий с файлами **GGUF** — форматом весов для программ локального запуска. В закреплённом снимке полного варианта доступны два файла весов и отдельный файл обученной «головы» для выбора ответа; в GGUF-репозитории — варианты Q4_K_M и Q8_0. Первый занимает около 2,7 ГБ на диске. Это **размер скачиваемого файла, а не необходимый объём оперативной или видеопамяти**: подтверждённый минимум для домашнего компьютера автор не приводит. Отдельный файл для изображений не нужен для заявленной здесь работы с текстом. [s2](#src-s2)[s3](#src-s3)[s4](#src-s4)

## Как оценивать обещанное качество

Автор сообщает о сравнении на 3000 размеченных персидских примерах из семи задач: средняя точность полной Mizan 4B — 78,7%, а Q4-варианта — 78,3%. Это **авторские результаты**, не замеры Modelium и не гарантия для ваших обращений. Сам автор предупреждает, что тренировочные персидские данные создавались синтетически, а перед автоматизацией стоит оценить модель на 200–300 собственных размеченных примерах. Изображения и свободное написание ответа не являются основным проверенным применением модели. [s1](#src-s1)[s3](#src-s3)

## Что делать, если хотите попробовать локально

Начните с [карточки Mizan 4B GGUF](https://huggingface.co/xmanii/Mizan-4B-GGUF): там автор описывает загрузку файла и запуск через llama.cpp. Эта программа запускает модели на своём компьютере; её стабильный выпуск 0.6.0 уже включает интерфейс `/v1/systemone` для вопросов с готовыми вариантами ответа. Однако именно этот новый GGUF и заявленную автором минимальную версию программы редакция **не запускала**. Инструкция на карточке предполагает работу с терминалом и запросами к локальному серверу — это технический путь, не готовая домашняя установка в один клик. Сначала проверьте пробный пример на несекретном сообщении, а затем правильность выбранного отдела вручную; для использования в работе нужны собственные проверочные данные. [s3](#src-s3)[s5](#src-s5)

Код и веса базового репозитория помечены Apache-2.0, а у производного GGUF в карточке стоит та же метка; в основном репозитории лежит текст лицензии. Перед коммерческим внедрением проверьте условия применимых компонентов и собственные требования к данным. Для задач на русском языке авторские персидские результаты не являются подтверждением качества: эта новость не рекомендует Mizan как русскоязычный классификатор. [s1](#src-s1)[s2](#src-s2)[s3](#src-s3)

О том, что представляет собой сам интерфейс ответов с вариантами, читайте в [разборе llama.cpp 0.6.0](/zhurnal/llama-cpp-0-6-0-systemone-batch-ext-local-models/). Другой недавний пример модели для локального выбора ответа — [Clef Omni на Mac](/zhurnal/clef-omni-mlx-4bit-8bit-mac-local-decisions/); это не результаты сравнительного теста с Mizan.

## Источники

1. [Mizan 4B — карточка базовой модели, ревизия bf8becc1](https://huggingface.co/xmanii/Mizan-4B/blob/bf8becc1073b5e03445e0a9fe766489af3a2a15b/README.md) — получено 2026-10-11
2. [Hugging Face API — базовый Mizan 4B и pinned files](https://huggingface.co/api/models/xmanii/Mizan-4B/tree/bf8becc1073b5e03445e0a9fe766489af3a2a15b?recursive=true&limit=100) — получено 2026-10-11
3. [Mizan 4B GGUF — карточка, ревизия 9b72c89b](https://huggingface.co/xmanii/Mizan-4B-GGUF/blob/9b72c89bcce395a0baf48d3b47760835ab67acf7/README.md) — получено 2026-10-11
4. [Hugging Face API — GGUF-файлы закреплённой ревизии](https://huggingface.co/api/models/xmanii/Mizan-4B-GGUF/tree/9b72c89bcce395a0baf48d3b47760835ab67acf7?recursive=true&limit=100) — получено 2026-10-11
5. [llama.cpp v0.6.0 — официальный стабильный релиз](https://github.com/ggml-org/llama.cpp/releases/tag/v0.6.0) — получено 2026-10-11