KoboldCpp 1.123: Qwen Image 2.1 и подтверждение действий агента

Что стало доступно для изображений?

Разработчики добавили поддержку Qwen Image 2.1 и предложили готовый файл настроек .kcppt. Такой файл подставляет ссылки на несколько необходимых компонентов: модель изображения, языковую модель, её зрительный компонент и VAE (часть системы, преобразующая данные изображения). Это не один маленький файл, уже вложенный в установщик: компоненты загружаются отдельно. Возможность запуска заявлена авторами программы; редакция Modelium не проверяла генерацию или редактирование на реальном компьютере. s1 s3

Если вас интересует только переписка с текстовой моделью, скачивать Qwen Image 2.1 ради обновления не нужно. Для изображений сначала оцените свободное место и требования выбранных компонентов; их размеры нельзя автоматически считать минимальным объёмом оперативной памяти. Готовый шаблон — отправная точка, а не подтверждённый нами рецепт для любого домашнего ПК. s3

Что изменилось в подтверждении действий агента?

Агент — встроенный помощник, который может обращаться к инструментам, в том числе работать с файлами и запускать команды. В 1.123 режим /confirm on по умолчанию спрашивает разрешение для каждого вызова инструмента. Режим auto, по описанию авторов, автоматически разрешает чтение и запись внутри назначенной рабочей папки, но спрашивает подтверждение для команд оболочки и операций записи за её пределами. Режим off разрешает вызовы без вопросов, поэтому включать его без понимания последствий не стоит. Эти настройки не следует считать гарантией изоляции или безопасности: внимательно смотрите, что агент собирается выполнить. s1

Сеанс агента теперь можно сохранить и восстановить командами /save и /load. Разработчики также добавили настройку максимального числа автоматических шагов и отдельную вкладку Agent в окне запуска. Для новичка разумнее оставить подтверждение включённым, а не стремиться к максимальной автономности. s1

Есть ли другие изменения?

Режим одновременной обработки нескольких запросов (--parallelrequests) получил поддержку стандартных настроек генерации, работы с изображениями и вызовов инструментов. Это прежде всего изменение для тех, кто уже обслуживает несколько запросов; для обычного чата специально включать параллельность не требуется. В релизе также перечислены исправления вызовов инструментов и старых сборок с обработкой изображений. Авторы не приводят здесь сравнения скорости, которое мы могли бы подтвердить собственным запуском. s1

Нужно ли обновляться и откуда скачивать?

Если вам нужен Qwen Image 2.1 или встроенный агент, берите исполняемый файл именно со страницы релиза проекта на GitHub. Авторы отдельно предупреждают, что новый сайт сообщества не является местом скачивания официальных бинарных файлов. Есть сборки для Windows и Linux, а также для Mac с Apple Silicon; пользователь Linux без NVIDIA может выбрать вариант nocuda. После запуска для текстового чата требуется отдельно выбрать файл совместимой модели формата GGUF; изображение потребует дополнительных компонентов из шаблона. Это ориентир по документации, а не выполненная редакцией пошаговая установка. s1 s2 s3

Код KoboldCpp под AGPL-3.0; лицензия кода не определяет права на выбранные веса или готовые изображения. У Qwen Image 2.1 и каждого внешнего компонента проверяйте собственные условия перед коммерческим применением. Доступность весов и разрешение на коммерческое использование — разные вопросы. s4 s3

Следующий шаг: откройте официальный релиз, выберите сборку под свою ОС и сначала определите, нужен ли вам текстовый чат или многокомпонентная генерация изображений. Если вы уже пользуетесь агентом, оставьте режим подтверждения on и посмотрите на конкретное действие перед разрешением. s1