Mizan v2 4B: персидская модель теперь отвечает на вопросы по изображениям

Что изменилось по сравнению с Mizan 4B?

Mizan — модель для принятия ограниченных решений: пользователь перечисляет возможные ответы, а модель оценивает их вероятности. Вторая версия добавляет анализ изображений к тексту. Авторы показывают вопросы о человеке или транспорте в кадре, количестве людей, сумме и строках чека, состоянии товара. Язык проекта прежде всего персидский; качество на русских вопросах не подтверждено. s1

Для локального запуска выложены исходные веса model.safetensors и отдельный файл обученной головы принятия решений. В другом официальном репозитории есть два GGUF-варианта — формат файлов для программ на базе llama.cpp: Q4_K_M (около 2,7 ГБ) и Q8_0 (около 4,5 ГБ). Для вопросов по изображениям потребуется отдельный модуль обработки картинки mmproj (около 0,37 ГБ); для вопросов только по тексту автор указывает запуск без него. Это размеры файлов, а не минимальные требования к оперативной памяти или видеокарте. s2 s3

В базовом репозитории находится текст Apache-2.0; карточка GGUF тоже отмечена Apache-2.0 и ссылается на базовые веса, но отдельного файла лицензии в её дереве нет. Открытые веса и возможность скачать их не означают, что модель уже проверена в вашей задаче. s2 s3 s4

Что проверить перед использованием?

Автор предлагает llama.cpp версии b11443 или новее и интерфейс /v1/systemone для вопросов с несколькими вариантами. Пример простого запроса: «Есть ли человек в кадре?» с ответами «да» и «нет». Ожидаемый формат — вероятности вариантов, не описание всей фотографии. Версия b11443 опубликована, но совместимый запуск именно этих весов на вашем компьютере мы не проверяли; не считайте это готовой пошаговой домашней инструкцией. s1 s2 s6

Не используйте модель для автоматического отказа человеку или идентификации людей по камере. Авторы отдельно предупреждают, что обучающие изображения стилизованы под камеры наблюдения, но не являются настоящей записью CCTV; для поиска местоположения дефекта результат пока ненадёжен. В GGUF-карточке точность вопроса «человек в красной зоне?» указана как 70% всего на 12 изображениях. Это авторская оценка небольшой выборки, а не обещание качества на ваших кадрах. s1 s2

Осторожно с общими цифрами качества: основная карточка приводит 82,8% на 3000 персидских текстовых записях, а поставляемый result.json — 93,48% на 1687 записях. Без объяснения состава наборов их нельзя считать одним и тем же тестом или прямым улучшением. Так же нельзя напрямую сравнивать оценки полной модели и GGUF на разных изображениях. s1 s2 s5

Следующий шаг: если у вас текстовые персидские обращения, сначала изучите предыдущую Mizan 4B, чтобы понять формат решений; если важны изображения, проверяйте v2 на собственных обезличенных примерах с ручной сверкой ответа. s1