Pocket Embed 22M: компактный поиск по английским текстам

Что изменилось и кому это полезно

Pocket Embed 22M оставляет исходную англоязычную MiniLM-модель и добавляет небольшую обученную ступень: вместо 384 чисел на фразу она выдаёт 128. Если хранить числа в формате float32, отдельный вектор занимает 512 вместо 1536 байт. Это втрое меньше места для самих векторов, но индекс содержит и другие данные; загрузка модели и объём памяти компьютера от этого автоматически втрое не сокращаются. В закреплённом репозитории есть основной файл весов и отдельный файл этой ступени, а в конфигурации указано преобразование 384 → 128. s1s2

Задача модели — поиск по коротким английским фрагментам, например поиск заметки о ремонте велосипеда по вопросу «Where can I fix my bicycle?». Это не чат-модель и не готовое приложение для поиска по всем файлам на компьютере. Русский язык авторы не оценивали; для русскоязычной библиотеки выбирать этот вариант без собственной проверки не стоит. s1

Что известно о качестве

По данным авторов, в двух контрольных англоязычных наборах ArguAna и SciDocs средняя оценка поиска сохранила 95,9% уровня исходных 384-мерных векторов. Это не универсальная точность: речь о nDCG@10 — оценке порядка первых десяти найденных результатов на этих наборах. В ArguAna показатель составил 0,4932 против 0,5041 у исходной модели, в SciDocs — 0,1979 против 0,2164. Другие два набора в отчёте — диагностические, их нельзя представлять как ещё два независимых контрольных теста. s1s3

Авторы также сравнили новую модель с простым обрезанием исходных векторов до 128 чисел. На SciDocs интервал неопределённости выигрыша включает ноль, так что уверенного преимущества именно там не показано. CPU-замер автора — 24,4 фрагмента в секунду против 25,0 у исходной модели на небольшом тесте; заявления об ускорении обработки нет. Редакция Modelium модель не запускала и замеры не воспроизводила. s1s3s4

Как попробовать и когда не стоит переходить

Уровень: требуется Python. Один путь описан прямо в карточке Pocket Mind: установить указанные там версии sentence-transformers и transformers, затем запустить приведённый автором пример на CPU с двумя короткими английскими фразами и вопросом про велосипед. В примере нужно проверить, что возвращаются два вектора по 128 чисел и что выбранная заметка действительно отвечает на вопрос. Для установки и первой загрузки модели понадобится интернет; этот пример редакцией не воспроизводился, минимальная оперативная память в источнике не указана. s1

Если у вас уже есть индекс из исходной MiniLM, новые векторы с ним несовместимы: всю коллекцию придётся пересчитать. Длинные документы нужно заранее делить на фрагменты; предел примера автора — 256 частей слова на вход. Для русского языка, длинных файлов или критичных решений сначала проверьте результаты на своих данных, а не полагайтесь на цифры чужого теста. s1

В репозитории указаны разные условия для разных частей: исходные веса MiniLM — Apache-2.0, новая обученная ступень — CC BY-SA 4.0, исследовательский код авторы обозначили Apache-2.0. Это не один пакет целиком под Apache-2.0; условия атрибуции и распространения адаптаций следует читать отдельно. s1s5s6

Следующий шаг: откройте карточку Pocket Embed 22M, если нужны компактные векторы для английского поиска. Для других задач сравните модели эмбеддингов для русского текста и основы локального Qdrant. Дата сверки источников: 11 октября 2026 года; ревизия модели c30e744250ec85ab2fa90594fafb13d0e04c0390. s1s2