LightOnOCR-3 4B получила 4-битную MLX-версию для Mac

Что изменилось для владельца Mac

Если у вас есть снимок страницы или чека, новую версию LightOnOCR-3 4B можно использовать для получения текста на Mac с Apple Silicon без отправки изображения в облачный сервис при самом распознавании. 9 октября независимый автор AnandSingh выложил 4-битную конверсию для MLX — системы запуска моделей на чипах Apple. Это не обновление исходной модели LightOn и не официальное приложение: модель нужно установить и запускать из терминала через программу mlx-vlm. Перед работой веса и компоненты надо скачать через интернет. s1 s2 s3

Что именно можно получить

Исходная LightOnOCR-3 4B принимает изображение страницы и по пустому текстовому запросу возвращает её содержимое в Markdown — тексте с простой разметкой заголовков и списков. Второй режим, с запросом grounding, добавляет к блокам подписи и координаты на странице. Оба режима описаны разработчиками исходной модели и повторены в карточке конверсии; качество именно 4-битной версии на ваших документах отдельно не подтверждено. PDF-файл в описанном автором примере сначала превращают в изображение страницы: не стоит ожидать, что модель сама откроет многостраничный PDF. s1 s2

Проверка на маленьком примере проста: сфотографируйте чек без личных данных, на котором видны две позиции и итог, затем сравните полученный текст со снимком. Суммы, похожие буквы и пропущенные строки обязательно сверяйте глазами: красивый ответ не доказывает точное распознавание. Это пример редакции для проверки, а не результат нашего запуска модели.

Насколько готов вариант к локальному запуску

В закреплённой версии репозитория лежит один файл весов model.safetensors, конфигурация, обработчик изображения и индекс, указывающий на этот же файл. Файл весов доступен для скачивания и занимает около 3,03 ГБ на диске. Это не заявка на минимальную оперативную память Mac. Карточка автора предлагает mlx-vlm версии не ниже 0.6.5; стабильный выпуск 0.7.6 содержит реализацию семейства Qwen3.5, указанного в конфигурации модели, и команду для передачи изображения. Совместимость мы сверили по документации и коду, но не запускали модель на Mac и не подтверждаем результат именно этой сборки собственным тестом. s1 s3 s4

Автор описывает работу с отдельным файлом изображения и двумя допустимыми запросами: пустой строкой для обычного текста или grounding для структуры страницы. Его карточка — следующий шаг для владельца Mac, которому нужен путь с установкой через терминал; если нужен готовый интерфейс для новичка, эта конверсия пока не является таким решением. Не путайте её с другой появившейся конверсией 4-bit от BaranH: та карточка показывает текстовый пример hello через mlx-lm, а не подтверждённый путь распознавания изображения. s1 s5

Лицензия и ограничения

Исходная модель и репозиторий конверсии помечены Apache-2.0; программа mlx-vlm распространяется под MIT. Это разные компоненты с собственными условиями, а не обещание редакции о пригодности для любого юридического сценария. Результаты авторских замеров конверсии на одном Mac нельзя считать минимальными требованиями или независимым тестом точности. На важных документах проверяйте текст по исходному изображению; версия рассчитана на Apple Silicon и терминал, а не на Windows. s1 s2 s6

Для понимания задач и различий трёх исходных размеров семейства откройте обзор LightOnOCR-3. Если работаете на Mac и готовы к установке, начните с закреплённой карточки этой MLX-конверсии, а не с непроверенной команды из чужого пересказа. s1