Open WebUI: как сжать длинный чат и не потерять важные факты
На странице · 4 разделов
В Open WebUI администратор может включить Context Compaction в Settings → Admin → Interface: старые сообщения заменяются кратким пересказом в запросе к модели, а недавние остаются. Это помогает продолжать длинный чат, но пересказ может упустить важную дату или условие и не гарантирует устранения ошибки переполнения. Перед рабочим применением проверьте настройку на учебной переписке; редакция сверила документацию, но сама запуск не воспроизводила.
Длинная переписка может перестать помещаться в контекстное окно — объём текста, который модель принимает в одном запросе. Если Open WebUI показывает ошибку о слишком длинном запросе, администратор может включить Context Compaction: старые сообщения будут переданы модели не дословно, а в виде короткого пересказа. Важную дату или условие пересказ способен упустить, поэтому решение требует проверки. s1
Инструкция по документации на 12 октября 2026 года. Нужны работающий Open WebUI, доступ администратора и уже подключённая модель; для локального варианта — ваш настроенный Ollama или другой локальный сервер. Конкретная ОС и минимум памяти определяются выбранным стеком; здесь они не измерены. Редакция не запускала сжатие на модели и не утверждает, что тест ниже уже прошёл. s1
Что именно изменится в длинном чате?
Исходная переписка остаётся в интерфейсе, но при следующем обращении к модели ранняя часть истории может быть заменена сохранённым кратким пересказом. Последние сообщения остаются дословными. Это не резервная копия и не защита от ошибок модели. Сжатие по умолчанию выключено; если длинный чат важен, сохраните его отдельно до эксперимента. s1
Как включить сжатие без ложного чувства безопасности?
- Администратору: откройте Settings → Admin → Interface, найдите Context Compaction и включите переключатель. Там же найдите Context Compaction Model, Token Threshold и Retained Messages. После сохранения проверьте, что переключатель включён: без него порог не запустит функцию. s1 s2
- Уточните фактическое окно контекста выбранной модели в вашем сервере запуска и поставьте Token Threshold ниже этого окна с запасом для ответа и дополнительных вложений. Стандартный порог Open WebUI — 80 000 токенов; он не подходит автоматически для короткого окна локальной модели. Токен — часть текста, на которую модель разбивает ввод; показатель интерфейса приблизителен. Не копируйте число из чужой настройки, пока не проверили свой сервер и модель. s1 s2
- Для первого опыта оставьте Retained Messages без изменений: по документации стандартные 40% недавней переписки сохраняются дословно. Выбирайте модель пересказа осознанно и проверяйте запрос к ней на своём сервере, особенно при наличии облачных подключений. Официальные документы этой ревизии противоречат друг другу о том, какая фоновая модель используется при пустом поле: не считайте «Current Model» или пустое значение доказательством локальности. s1 s2 s3
Как проверить результат на безопасном примере?
Создайте отдельный учебный чат. В начале напишите: «В учебном плане встреча назначена на 14 октября; код задачи — ЛИСТ-7. Не меняй эти данные.» Затем ведите достаточно длинную учебную переписку без личных данных, чтобы этот факт оказался среди старых сообщений, а не в последних сохраняемых дословно. После появления уведомления Context compacted спросите: «Какая дата и код задачи были в начале?» Сверьте ответ с исходным сообщением; если дата или код потеряны либо выдуманы, не полагайтесь на сжатие для договорённостей и храните критичные факты отдельно. Видимый верный ответ не доказывает, что сжатие сохранило все факты. s1
Если уведомления нет, один длинный запрос мог вообще не дать подходящего места для разделения истории; пересмотрите порог и реальное окно модели. Если появилось Context compaction failed, не обещайте, что ошибка переполнения исчезнет: по документации система может отправить исходную полную историю. Не включайте сжатие как способ скрыть персональные данные: выбор локального или облачного сервера надо проверить отдельно. s1
Что осталось за пределами инструкции?
Точная маршрутизация пустого Context Compaction Model не установлена: разделы официальной документации расходятся в отношении наследования модели фоновых задач. Этот гайд не обещает отдельную локальную модель пересказа, пока администратор не просмотрел реальные запросы на своей версии. Для объяснения размера окна и выбора безопасного порога откройте материал о контекстном окне; для первоначального подключения — гайд Open WebUI. s1 s2 s3
Источники
- Open WebUI — Context Window / Prompt Too Long — revision 13f78dfd8f4af9f6ba418251083bc0094f9d0d73; Включение, порог, retained messages, серверное сжатие, признаки и ограничения.. Получено 12.10.2026.
- Open WebUI — Environment Configuration — revision 13f78dfd8f4af9f6ba418251083bc0094f9d0d73; ENABLE_CONTEXT_COMPACTION, порог и противоречивая маршрутизация пустого CONTEXT_COMPACTION_MODEL.. Получено 12.10.2026.
- Open WebUI — Task Models — revision 13f78dfd8f4af9f6ba418251083bc0094f9d0d73; Отдельный выбор модели для сжатия и расхождение с env-configuration о значении по умолчанию.. Получено 12.10.2026.