Docling Heron в GGUF: локальная разметка документов через LM-Kit.NET

Для чего это нужно

Heron — детектор структуры страницы на основе RT-DETRv2. Он возвращает границы и уверенность для 17 типов областей: заголовка, текста, таблицы, изображения, формулы, списка, сноски, элементов формы и других. Такой этап полезен перед OCR, извлечением полей или индексированием локального архива PDF: приложение сначала понимает, где на странице находятся нужные блоки. Исходная модель Docling уже доступна в Safetensors и запускается через Transformers; новость касается именно альтернативного пакета для .NET. s1 s2

В репозитории конверсии лежит docling-layout-heron.gguf: по манифесту Hugging Face это файл 168 456 096 байт с SHA-256 4c3ba02bb6697e91e738202c7f040c7535b51829ac93a261062c6618e3fd7ba8. Карточка указывает F32, вход 640 × 640 RGB и 42,1 млн параметров. Это размер артефакта на диске, не минимальное требование к RAM или VRAM. В таблице карточки файл назван docling-layout-heron-F32.gguf, но фактическое имя в дереве репозитория — без -F32; при ручной загрузке ориентируйтесь на дерево. s1 s3

Как использовать и что проверить

Автор предлагает загрузку из .NET следующим образом:

using LMKit.Model;

LM layoutModel = LM.LoadFromModelID("docling-layout-heron");
// layoutModel.HasLayoutDetection == true

По описанию LM-Kit, GGUF использует архитектуру lmkit-layout-rtdetr в graph runner LM-Kit.NET и может выполняться на CPU или GPU. Обычный llama.cpp этот файл не обслуживает: расширение GGUF само по себе не означает совместимость с LLM-рантаймами. Пример и поддержка движка приведены разработчиком конверсии; Modelium не запускал модель и не проверял скорость, точность или доступность указанного идентификатора во всех версиях SDK. Если .NET-стек не нужен, исходная карточка Docling содержит пример запуска в Python через Transformers. s1 s2

Лицензия и ограничения

И исходная, и производная карточки обозначают веса как Apache-2.0; отдельного файла LICENSE в просмотренных деревьях этих двух репозиториев нет. Права на веса и правила использования проприетарного ПО — разные вопросы: опубликованный релиз LM-Kit One ссылается на собственное пользовательское соглашение LM-Kit. Для коммерческого внедрения отдельно проверьте условия используемого SDK/продукта и атрибуцию Docling. s1 s2 s4

Независимых измерений точности, сравнений с исходным Safetensors и бенчмарков CPU/GPU для новой конверсии в карточке нет. Поэтому пока разумно рассматривать её как вариант интеграции детектора разметки в локальное .NET-приложение, а не как доказанное улучшение качества или производительности. s1