Open WebUI: отдельная локальная модель для фоновых задач

Что подготовить до изменения настройки?

Ollama — программа, которая запускает скачанную модель на вашем компьютере или сервере. В Open WebUI откройте Settings → Admin → Connections: найдите Ollama и убедитесь, что её подключение работает. В разделе управления Ollama (Manage) можно загрузить нужную модель; при выборе отсутствующей модели Open WebUI тоже может предложить загрузку. Для учебного различия возьмите, например, llama3.2:3b для основного чата и qwen3.5:2b для фона: оба тега — точные имена моделей — перечислены в реестре Ollama. Это пример выбора, не гарантия запуска на вашем железе; проверьте, что обе модели реально доступны вашей Ollama и помещаются в память. Не выводите минимум RAM из размера файла модели. s2 s3 s4

В этом сценарии Ollama и Open WebUI должны обращаться друг к другу в вашем локальном контуре. Если основной чат использует облачный провайдер, поле Local Task Model на него не распространяется: Open WebUI выбирает маршрут фонового запроса по типу подключения основного чата, а не по слову «локальная» в названии модели. s1

Как назначить модель для заголовков?

1. Войдите администратором, откройте Settings → Admin → Interface → Tasks. Найдите два разных поля: Local Task Model для чатов с подключением типа Local и External Task Model для остальных. До настройки в обоих стоит Current Model — используется модель текущего чата. s1
2. В Local Task Model выберите уже доступный локальный тег, например qwen3.5:2b, и сохраните настройку. Убедитесь, что в Generation включена Title Generation: если генерация заголовков выключена, тест по заголовку не проверит выбранную фоновую модель. Основной чат оставьте на llama3.2:3b. s1 s3 s4
3. Начните новый чат с основной моделью и отправьте безопасное учебное сообщение: «Запланируй три пункта для списка покупок: хлеб, молоко, яблоки». Ожидаемый видимый результат — в боковой панели появляется заголовок беседы, а в чате приходит обычный ответ. Точное название и текст ответа не предсказываются: модель может сформулировать их по-разному. Видимый заголовок показывает работу функции, но сам по себе не доказывает, какая модель его написала. s1

Как проверить, что запрос не ушёл в облако?

На тестовой установке оставьте только локальное подключение Ollama, заранее загрузите оба тега и после подготовки проверьте новый чат с отключённым внешним интернетом. Для установок с несколькими провайдерами изучите сетевые обращения и запросы к Ollama на своей стороне: сверяйте имя модели именно у запроса на генерацию заголовка. Только так можно отделить фоновый вызов от ответа основной модели. Отсутствие облачного провайдера в списке моделей чата не является доказательством отсутствия других сетевых компонентов; метод проверки контура разобран отдельно. s1 s2

Если заголовок появился, но выбранная для фона модель пропала из Ollama, Open WebUI может переключить эту задачу на основную модель чата. Поэтому один заголовок не доказывает, что его написала именно qwen3.5:2b. Если основной чат подключён как External, проверьте External Task Model и тип подключения вместо повторного изменения Local-поля. s1

Что не меняет Local Task Model?

Отдельная фоновая модель может обслуживать заголовки, теги, подсказки продолжения и другие включённые задачи. Она не заменяет модель, отвечающую в основном чате. Для сжатия длинной переписки в Chat есть собственный Context Compaction Model: настройка Local Task Model его не выбирает. Не включайте сжатие только ради проверки заголовка. s1

Если нужна меньшая задержка, сначала проверьте поведение на своей машине: две одновременно загруженные модели могут потребовать больше ресурсов, чем одна. Для этой комбинации редакция не проводила замеров и не обещает поддержку любой ОС или объёма памяти. После проверки первого заголовка следующий шаг — проверить локальность всей цепочки, особенно если в Open WebUI остаются внешние подключения. s1