Tencent DSpine: открыты веса для ускорения Qwen3-8B
На странице · 3 разделов
Tencent опубликовала код DSpine и веса вспомогательной модели для Qwen3-8B. Она предлагает черновые фрагменты ответа, которые основная модель проверяет перед выдачей: это способ ускорять локальную генерацию без замены самой Qwen3-8B. Сейчас решение рассчитано на инженеров с CUDA и SGLang, а не на установку в домашнем приложении.
Tencent 16 октября 2026 года выложила веса DSpine для Qwen3-8B и код подключения к SGLang — программе для запуска модели на своём оборудовании. Это не новый чат-бот: вспомогательная модель заранее предлагает продолжение ответа, а основная Qwen3-8B проверяет предложенные токены (части текста). Обычному пользователю ничего переустанавливать не нужно: интеграция пока ориентирована на техническую настройку сервера с видеокартой NVIDIA. s1 s2
Что именно появилось?
Опубликован отдельный чекпойнт tencent/Qwen3-8B-DSpine-b16: репозиторий содержит model.safetensors, конфигурацию и файл лицензии. Код Tencent поставляется как плагин SGLang, закрепляет зависимость sglang==0.5.20 и содержит тесты. В README авторы показывают связку с исходной Qwen3-8B; вариант для Qwen3.8-27B пока лишь в планах. Это локальный сценарий для тех, кто уже разворачивает модель через SGLang, а не готовая кнопка ускорения в Ollama или LM Studio. s1 s2 s3
Что это меняет для скорости?
Метод называется спекулятивной генерацией: небольшая модель набрасывает несколько следующих частей ответа, а основная принимает только подходящие. Авторы сообщают среднюю длину принятого черновика 7,83 при температуре 0 и 6,98 при температуре 1 по семи наборам задач для своего Qwen3-8B. Они сравнивали несколько методов после переобучения на общем наборе Open-PerfectBlend. Это авторская метрика принятия черновика, а не измеренное Modelium ускорение ответа на вашем компьютере: скорость, расход памяти и качество в домашней конфигурации из этой таблицы не следуют. s1 s2
Кому стоит пробовать?
Только тем, кто уже умеет обслуживать CUDA-среду и SGLang. Инструкция авторов предполагает Python 3.10+, CUDA и серверный запуск Qwen3-8B вместе с DSpine; точного минимального объёма RAM/VRAM в источнике нет. Размер файла весов не равен требованию к памяти. Мы сверили документацию и наличие артефактов, но не запускали модель и не воспроизводили авторские замеры. Для обычного локального чата это пока не домашний рецепт. s1 s2
Tencent помечает опубликованные код и веса DSpine как Apache-2.0 с оговоркой о сторонних компонентах; базовая Qwen3-8B имеет собственный файл Apache-2.0. Проверяйте условия всех компонентов своего стека отдельно. s3 s4 s5
Следующий шаг: если вы уже используете SGLang, начните с закреплённой инструкции и тестов в репозитории Tencent, затем сравните ответы и скорость на собственных запросах с режимом без DSpine. Не переносите серверную конфигурацию авторов на домашний ПК как минимальные требования. s1
Источники
- Tencent DSpine, README and pyproject, commit 07f326a — Initial commit 16 October 2026; documentation, implementation and pinned SGLang 0.5.20.. Получено 18.10.2026.
- Tencent Qwen3-8B-DSpine-b16 model card and pinned weights — HF API siblings show model.safetensors, config and LICENSE.txt; weight upload 16 October.. Получено 18.10.2026.
- Tencent DSpine license and packaging — Apache-2.0 for Tencent DSpine code and weights, third-party terms separate.. Получено 18.10.2026.
- Pinned Tencent DSpine model LICENSE.txt. Получено 18.10.2026.
- Qwen3-8B base model LICENSE. Получено 18.10.2026.