LFM2.5-24B-A2B-DSpark: помощник для ускорения локальной модели
На странице · 3 разделов
Liquid AI выложила вспомогательную модель DSpark для LFM2.5-24B-A2B вместе с вариантом GGUF для llama.cpp. Она предлагает продолжение текста, которое основная модель проверяет; отдельно чат-ботом не работает. Авторские замеры на серверной NVIDIA B300 не доказывают ускорение домашнего компьютера или GGUF.
Если вы запускаете LFM2.5-24B-A2B на своём компьютере и ждёте ответа, появился дополнительный вариант для ускорения вывода текста: LFM2.5-24B-A2B-DSpark. Liquid AI опубликовала веса вспомогательной модели — файлы с результатом её обучения — в формате Safetensors и файл GGUF для программы запуска моделей llama.cpp. В доступной истории обоих репозиториев есть полный снимок от 21 октября 2026 года; сами репозитории созданы раньше, поэтому эта дата не доказывает первый день загрузки весов. s1 s2 s3 s9
Что меняется для локального запуска
DSpark — не отдельный собеседник. Это драфтер: он быстро предлагает следующие части ответа, а основная LFM2.5-24B-A2B проверяет их перед выдачей текста. Представьте черновик фразы, который редактор сверяет, прежде чем показать читателю. Для GGUF нужны два разных файла: основная модель из официального GGUF-репозитория и её DSpark-драфтер; один файл драфтера не заменит чат-модель. Формат GGUF рассчитан на работу с llama.cpp, но сам по себе файл не гарантирует ускорения на конкретном ПК. s2 s4
Если вы пока выбираете основную модель, начните с разбора LFM2.5-24B-A2B, а не с установки дополнения. Ранее мы описывали DSpark для другой модели Liquid AI: новый пакет относится именно к 24B-A2B, а не к тому варианту.
Что показывают замеры автора
Liquid AI сообщает среднее ускорение пропускной способности вывода в 2,38 раза при одном одновременном запросе и 1,71 раза при 256 запросах. Это арифметическое среднее по восьми наборам задач, а не обещание, что один ваш ответ появится быстрее ровно во столько раз. Для каждого измеряемого сегмента компания использовала одну NVIDIA B300, основную модель в FP8 (формате хранения чисел), программу для запуска SGLang, нулевую температуру — настройку, убирающую случайность выбора слов, — и собственный протокол; авторы оценивали скорость, не качество ответов. Эти цифры не относятся к GGUF в llama.cpp: там результат зависит от выбранного варианта основной модели, оборудования и задачи. Modelium не запускал пару и не воспроизводил замеры. s1 s5 s2
Права и ограничения
Оба драфтера и основная модель распространяются по LFM Open License v1.0, не по MIT или Apache 2.0. По тексту лицензии коммерческое использование без отдельного соглашения разрешено только при годовой выручке юридического лица ниже 10 млн долларов США; при достижении порога оно не лицензируется этим соглашением. Условия кода llama.cpp отдельно от прав на веса. Минимальная оперативная и видеопамять для вашей пары моделей здесь не подтверждены: размер скачиваемого файла драфтера не равен требованиям к памяти. s6 s7 s8
Практический следующий шаг для владельца LFM2.5-24B-A2B — сравнивать работу основной модели с драфтером и без него на своих запросах, пользуясь документацией автора. Это новость о доступных весах и условиях авторского теста, а не проверенная редакцией инструкция для домашнего компьютера. s1 s2
Источники
- Liquid AI: LFM2.5-24B-A2B-DSpark, модельная карточка и протокол — Назначение драфтера, условия авторских замеров, указатель на protocol.json.. Получено 21.10.2026.
- Liquid AI: LFM2.5-24B-A2B-DSpark-GGUF, карточка — Файл GGUF, необходимость пары с основной моделью, отсутствие GGUF-замеров.. Получено 21.10.2026.
- История коммитов официального Safetensors-драфтера — Super-squash 21 октября; createdAt репозитория по HF API — 19 октября.. Получено 21.10.2026.
- Liquid AI: основной чекпойнт LFM2.5-24B-A2B-GGUF — Официальный репозиторий целевой модели; индекс и наличие файлов проверены по HF API.. Получено 21.10.2026.
- Liquid AI: протокол измерения DSpark на B300 — FP8-цель, SGLang, B300, восемь наборов, ограничение performance-only.. Получено 21.10.2026.
- LFM Open License v1.0, лицензия драфтера — Порог коммерческого использования в разделе 5; права на веса не тождественны правам на код.. Получено 21.10.2026.
- LFM Open License v1.0, лицензия основной модели — Сверено с лицензией Safetensors и GGUF-драфтера; условия совпадают.. Получено 21.10.2026.
- llama.cpp LICENSE — Лицензия программного кода отдельно от лицензии модели.. Получено 21.10.2026.
- История коммитов официального GGUF-драфтера — Super-squash 21 октября; репозиторий создан 20 октября, дата первой загрузки весов не определена.. Получено 21.10.2026.