IQuest-Q1: открытые веса агентной MoE-модели 320B и условия локального запуска

Что именно доступно

В закреплённой ревизии 5c21b0630586ef77d38cff1094b8cf37a417fcd8 API Hugging Face перечисляет все 175 основных файлов model-00001-of-00175.safetensors … model-00175-of-00175.safetensors. Индекс сопоставляет 1148 тензоров этим 175 файлам; отдельно лежат mtp/config.json и mtp/model.safetensors для предсказания следующих токенов. Метаданные индекса указывают 640 637 231 104 байта тензоров основной модели. Это размер данных модели, не проверенное требование к RAM или VRAM: реальная конфигурация зависит от размещения весов, KV-кэша, длины запроса, параллелизма и реализации. Квантизованный официальный вариант этим выпуском не подтверждён. s2

Архитектура в поставленном config.json обозначена iquest_q1 / IQuestQ1ForCausalLM, с 88 слоями и контекстом 524 288 токенов. Поэтому нельзя предполагать, что произвольная прежняя сборка локального runtime загрузит чекпойнт по аналогии с обычным Qwen или DeepSeek. s2

Как оценивать запуск

Авторы дают конфигурации SGLang и собственного IQuestLab/vllm-iquest-q1 для сервера с OpenAI-совместимым API. Их примеры используют tp-size 8 либо --tensor-parallel-size 8, CUDA 13.0 и особые парсеры iquest_q1 для reasoning/tool calls. Это пример многопроцессорного развёртывания авторов, а не установленный минимум аппаратуры и не команда, проверенная Modelium. Поддержка модели и MTP была влита в основную ветку SGLang 29 сентября; для vLLM авторы указывают собственный форк. Перед пилотом зафиксируйте версию runtime или образ, проверьте распознавание архитектуры и парсера, затем отдельно тестируйте вызов инструментов и длинный контекст на своей инфраструктуре. Не устанавливайте на основании карточки, что обычный стабильный пакет vLLM уже содержит эту реализацию. s1 s4

Если задача — локальный кодовый агент, полезная последовательность проверки такова: сначала сверить полный immutable-чекпойнт и лицензию, выбрать совместимый runtime из официальной документации, запустить пробные кодовые задачи с реальным исполнением инструментов и отдельно измерить задержку и потребление памяти на своей конфигурации. Одна удачная реплика в чате не подтверждает качество работы агента; для интеграции с Claude Code или Codex, помимо сервера модели, нужен совместимый шлюз протокола инструментов. s1

Лицензия и качество

В репозитории лежит Modified MIT License, а не стандартная MIT или Apache-2.0 для этих весов. Она позволяет использование, изменения, распространение и коммерческие продукты при сохранении уведомления об авторском праве и текста лицензии. Дополнительное условие: если модель или производные используются в коммерческом продукте либо сервисе, интерфейс должен заметно показывать «IQuest-Q1». Команде с продуктовым UI стоит согласовать выполнение этого пункта до внедрения. Доступные веса не означают отсутствие лицензионных условий и не доказывают открытость всего обучающего набора или полного кода обучения. s5

Сравнения и настройки оценивания в карточке — заявления авторов, не измерения Modelium. Авторы смешивают публично сообщённые баллы других моделей с собственными прогонами там, где публичного результата нет; для агентных задач используются разные harness, включая mini-SWE-agent и Claude Code, а временные лимиты CyberGym и Terminal-Bench различаются. На реальных CLI-задачах сами авторы предупреждают о пропущенных ограничениях и незавершённых итеративных исправлениях. Сравнивайте модель на собственной задаче, фиксируя одинаковые условия запуска, вместо переноса рекламной диаграммы в обещание результата. s1

Вывод: это значимый выпуск полных весов для самостоятельного развёртывания агентной модели, но стартовая конфигурация автора ориентирована на крупный многопроцессорный сервер. Для обычного локального компьютера нет проверенной в этом выпуске инструкции или подтверждённой конфигурации памяти; коммерческая интеграция требует выполнить особое условие лицензии. s1 s2 s5