Hy-Memory 30B A3B: Tencent выпустила GGUF для локальной памяти ИИ

Что появилось

В официальном репозитории лежат три законченных файла весов: Q4_K_M (18,24 ГБ), Q6_K (24,71 ГБ) и Q8_0 (31,99 ГБ). GGUF — формат файлов, который понимает программа для локального запуска llama.cpp; варианты с разной степенью сжатия позволяют выбрать между размером загрузки и результатом на конкретной проверке автора. Это размеры файлов, а не требования к оперативной памяти или видеокарте. Репозиторий создан 19 октября, а инструкцию автор уточнил в тот же день. s1 s2

Пример задачи: после разговора о переезде и предпочтительном способе связи сохранить короткую заметку «Пользователь переехал в Сиэтл в марте 2025 года; предпочитает электронную почту». Модель предлагает содержание такой заметки, но долговременное хранение и последующий поиск выполняет отдельная система памяти, например Hy Memory или Mem0. Это не готовый домашний установщик: инструкция Tencent рассчитана на пользователя, умеющего поднимать llama.cpp-сервер и связывать его с приложением. s1

Что проверили авторы — и чего это не доказывает

Tencent сообщает, что все три файла прошли проверку целостности и генерацию в официальном llama.cpp на указанном в карточке коммите. В сравнении на 262 вопросах из части набора LoCoMo вариант Q6_K получил 154 правильных ответа, Q8_0 — 151, Q4_K_M — 148. Это авторское сравнение на одной выборке, а не независимый тест Modelium или обещание такого же качества на ваших беседах. s1

Важно: даже если модель записи заметок работает на своём компьютере, авторская оценка не была полностью локальной. В её составе перечислены отдельная модель представления текста для поиска и внешний сервис для ответа и выставления оценки; без замены этих компонентов нельзя считать весь путь офлайн. Цифры выше относятся к GGUF-сравнению на 262 вопросах, их нельзя смешивать с другой таблицей по нескольким системам памяти в карточке. s1

Права и ограничения

Официальный файл LICENSE прямо распространяет Apache-2.0 на опубликованные Tencent параметры и веса GGUF; исходные веса и код SDK также сопровождаются отдельными условиями Apache-2.0. Это не означает, что любая сторонняя программа для памяти или сервис, использованный в оценке, имеет те же права. s3 s4 s5

Проверка документации, не запуск модели. В карточке исходной модели и поставляемом config.json расходятся числа слоёв и экспертов. Поэтому мы не приводим архитектурные параметры и не выдаём команду из карточки за воспроизведённый нами рецепт. Для самостоятельного технического исследования начните с закреплённой карточки GGUF и сверяйте модель с собственным приложением. Если нужен контекст о программе для памяти, смотрите разбор Hy Memory 2.0.1. s1 s6 s7

Источники проверены 20 октября 2026 года; материалы и лицензии закреплены ревизиями. Modelium не запускал модель и не воспроизводил измерения Tencent.