Vela 1.0 Embedding получила LiteRT-пакеты для локального поиска
На странице · 3 разделов
18 октября автор конверсии выложил LiteRT-версии Vela 1.0 Embedding для обработки текста на устройстве. Модель превращает фразу в числовой вектор для поиска похожего по смыслу текста; она не пишет ответы как чат-бот. Файлы доступны, но это компоненты для разработчика приложения, а не готовая программа для домашнего поиска по документам.
18 октября 2026 года сторонний автор загрузил LiteRT-версии Vela 1.0 Embedding — файлы для среды запуска моделей на устройстве, которые разработчик может встроить в приложение для поиска похожих по смыслу фраз на телефоне или компьютере. Эмбеддинг здесь означает числовое представление текста: если две фразы близки по смыслу, приложение сравнивает их представления. Эта модель не генерирует ответ и не превращает телефон в готового чат-бота. s1 s2 s3
Что появилось и кому это полезно?
В закреплённом репозитории есть четыре файла .tflite для запуска через центральный процессор с окнами на 64, 128, 256 и 512 токенов, а также варианты для графического процессора и мобильного ускорителя, отдельная таблица токенов и пакет .litertlm. Токен — небольшой фрагмент текста; число 512 здесь ограничивает длину одной обрабатываемой фразы в этой конверсии, не объём ваших документов целиком. Разработчику это даёт заготовку для локального сравнения коротких фрагментов, например поиска похожего названия заметки. Исходная модель уже существовала; нового обучения Vela этим выпуском не объявлено. s1 s2 s3
Для обычного пользователя действие сейчас простое: ничего устанавливать только ради этой новости не нужно. Чтобы искать по собственной библиотеке заметок, потребуется приложение, которое разбивает документы на фрагменты, получает векторы и показывает найденное; сам набор весов такого интерфейса не содержит. Если нужен практический старт с моделями эмбеддингов для русского текста, откройте связанный материал о выборе модели: русское качество именно этой конверсии автор не измерил в приведённых проверках. s1 s2 s4
Что известно о скорости и качестве?
Автор описал сравнение с исходной Vela на Mac M4 Max, Galaxy S26 и Pixel 8a и привёл условия замера: один текст за вызов, 20 измерений после пяти прогревов. Для короткого окна 64 токена заявлены 6,8 мс на мобильном ускорителе Galaxy S26 и 19,8 мс на его центральном процессоре с четырьмя потоками. Это авторские результаты для указанного железа, а не скорость на любом телефоне и не проверка Modelium. В той же записи сказано, что вычисления на графическом процессоре с пониженной точностью местами не проходят собственный порог сходства автора; вариант с более высокой точностью для этих тестов прошёл. s1 s5
Какие ограничения перед внедрением?
Исходная карточка перечисляет английский, арабский, испанский, японский и китайский языки. Русский язык в этом подтверждённом списке отсутствует, поэтому качество поиска по русским заметкам нужно измерить отдельно, а не переносить результаты англоязычных примеров. Карточки исходной модели и конверсии помечены Apache-2.0; отдельного файла LICENSE в их закреплённых деревьях нет. Лицензия кода конвертера тоже Apache-2.0, но это отдельный компонент. До включения в коммерческое приложение проверьте применимые условия каждого используемого файла. Требование к оперативной или видеопамяти автор не установил как универсальный минимум; размер загрузки таким минимумом не является. s1 s2 s3 s6
Статус проверки: источники и комплект файлов сверены 18 октября 2026 года, модель Modelium не запускал. Для разработчика следующий шаг — документация автора по воспроизведению конверсии и проверке на собственных текстах; для читателя, которому нужен русский поиск, — материал о выборе модели эмбеддингов ниже. s1 s4 s5
Источники
- LiteRT-конверсия Vela 1.0: карточка на закреплённой ревизии — Описание пакетов, ограничений, тестового железа, FP16/FP32 и собственных замеров автора.. Получено 18.10.2026.
- LiteRT-конверсия: HF API, файлы и дата создания — Ревизия f92189a9; репозиторий создан 18.10 02:39 UTC; siblings 14 файлов, отдельного LICENSE нет.. Получено 18.10.2026.
- Vela 1.0 Encoder Embedding: карточка исходной модели — Исходная модель для смыслового сопоставления, поддерживаемые в карточке языки, метка Apache-2.0.. Получено 18.10.2026.
- Modelium: модели эмбеддингов для русского поиска — Существующий проверенный маршрут для читателя с русскоязычными документами.. Получено 18.10.2026.
- Автор конверсии: протокол воспроизведения и условия сравнения — Авторские условия тестов, версии библиотек, платформа и исключения FP16; независимого запуска Modelium нет.. Получено 18.10.2026.
- Автор конверсии: лицензия кода — Apache-2.0 лицензия кода конвертера; отдельна от карточек весов.. Получено 18.10.2026.