Перейти к содержанию
modelium.
Начать с задачи
←
Новость

Liquid AI выпустила LFM2.5-24B-A2B для локальных ИИ-агентов

На странице · 3 разделов

13 октября Liquid AI представила LFM2.5-24B-A2B — модель, которая может обрабатывать запросы и выбирать действия для локального ИИ-помощника. Доступны исходные веса, GGUF для llama.cpp и версия MLX для Mac. Это не обещание работы на любом ноутбуке: требования к памяти зависят от выбранного файла и условий запуска, а коммерческое использование ограничено лицензией.

Liquid AI 13 октября 2026 года объявила о выпуске LFM2.5-24B-A2B. Её можно использовать как основу помощника, который не только отвечает текстом, но и выбирает инструменты для выполнения задачи на собственном компьютере. Компания выложила веса — файлы модели — и несколько форматов для локального запуска. Для начала ничего менять в уже работающем помощнике не нужно: это новая возможность выбора, а не обязательное обновление. s1

Что можно скачать сейчас?

Основная модель LFM2.5-24B-A2B содержит 24 млрд параметров, но при обработке одного фрагмента текста задействует примерно 2,45 млрд. Это архитектура с выбором части модели для каждого шага, а не обещание, что ей потребуется память только под 2,45 млрд параметров. В карточке указан контекст до 131 072 токенов; реальная длина, скорость и качество зависят от программы запуска и компьютера. Десять файлов весов присутствуют в закреплённой ревизии вместе с индексом. s2

Для программы llama.cpp авторы отдельно опубликовали GGUF — формат файла для локального запуска. В репозитории есть, в частности, Q4_K_M, Q5_K_M, Q6_K и Q8_0; это разные варианты уменьшения точности хранения весов. Специальный QAD-Q4_0 авторы называют версией, дополнительно обученной после сжатия, но сравнительное качество на ваших задачах здесь не проверялось. На Mac с процессором Apple доступна отдельная 4-битная версия MLX: её карточка требует mlx-lm 0.32.0 или новее и предупреждает, что более ранние версии неверно распределяют обработку между частями модели. Выпуск 0.32.0 есть в PyPI; редакция не запускала модель на Mac. s3 s4 s5

Для какой задачи это имеет смысл?

Например, локальному помощнику можно поручить составить список дел по вашим заметкам и предложить действие в календаре. Модель формирует текст и может предложить вызов инструмента; доступ к файлам и календарю задаёт отдельная программа-помощник, а выполнение действия следует подтверждать человеком. Сам факт загрузки весов не превращает компьютер в автономного агента и не доказывает, что вся цепочка работает без сети. s2

Насколько она быстрая и каковы ограничения?

По измерениям самой Liquid AI, на Apple M5 Max получено 184 токена ответа в секунду. Это результат на конкретном оборудовании, а не минимальные требования или ожидаемая скорость на любом Mac. Для серверного сравнения авторы использовали одну NVIDIA B300, SGLang 0.5.22, BF16, запросы по 1024 входных токена и до 256 выходных при поддерживаемой конкурентной нагрузке. Их оценки выполнения задач также не были независимо воспроизведены Modelium. s1

Веса доступны для скачивания, но открытые веса не означают неограниченное коммерческое использование. LFM Open License v1.0 ставит порог годовой выручки юридического лица в 10 млн долларов: коммерческое использование организацией, достигшей порога, этой лицензией не разрешено. Это уточнение важнее общей фразы в анонсе о свободном развёртывании. Права на код программ запуска рассматриваются отдельно. s6 s1

Если хочется оценить вариант для своего компьютера, начните с официального набора GGUF: выберите файл и проверьте лицензию, совместимость и доступную память до загрузки. Размер GGUF-файла сам по себе не определяет минимальную оперативную или видеопамять. Сравните ответы на своих задачах и не доверяйте инструментальные действия без проверки. Инструкция здесь сверена с документацией, но полноценный запуск редакцией не выполнялся. s3 s6

Источники