# T-Search: исследование русскоязычного многошагового поиска и локальные GGUF

Источник: https://modelium.tech/zhurnal/t-search-russian-multistep-retrieval-local-gguf/

5 октября вышла работа о T-Search — агентном поисковом ретривере для английского и русского языков. Веса не новые: BF16 доступны с июля, четыре GGUF-квантизации — с конца июля. Модель собирает до десяти подтверждающих фрагментов через отдельный поисковый индекс и официальный harness; сама по себе она не отвечает на вопрос. Авторские результаты Recall@10 проверялись на фиксированных корпусах, а не в произвольном интернете.

5 октября 2026 года авторы опубликовали исследование T-Search — специализированного агентного ретривера для сложных вопросов по корпусу на русском и английском. Это **новая научная публикация, не новый релиз весов**: исходный репозиторий T-Search создан 13 июля, а GGUF-репозиторий — 29 июля. В статье объясняем, что можно поставить локально и какую часть поисковой системы всё равно придётся построить самостоятельно. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Что делает модель

T-Search обучена на базе Qwen3.6-35B-A3B. Получив вопрос, она через предоставленный ей инструмент ищет фрагменты в заданном индексе, сохраняет полезные находки между раундами и возвращает ранжированный список доказательств. Генерацию окончательного ответа нужно поручить отдельному компоненту. Официальный harness реализует три действия — `search_corpus`, `save_and_advance`, `finalize_ranking` — и по умолчанию ограничивает результат десятью фрагментами. Это не универсальный веб-поисковик «из коробки» и не замена собственной базе документов. [s1](#src-s1) [s2](#src-s2) [s4](#src-s4)

Практический сценарий — закрытый или локально индексированный русскоязычный архив, в котором ответ складывается из нескольких документов: подключить существующий BM25 либо векторный поиск, передать его результаты harness и уже затем использовать выбранные фрагменты для ответа с проверкой источников. Сам harness требует ваш поисковый backend: метод `search(query, top_k)` возвращает JSON-список с `docid`, `snippet` и `score`; готового индекса вашего корпуса пакет не предоставляет. [s4](#src-s4)

## Что реально доступно локально

Публичный BF16-чекпойнт содержит 14 пронумерованных шардов Safetensors, индекс весов и отдельный MTP-файл. В официальном GGUF-репозитории есть Q4_K_M, Q5_K_M, Q6_K и Q8_0. Авторы указывают, что MTP встроен в каждый GGUF, и приводят референсный запуск через `llama-server` с шаблоном чата и structured tool calls; для BF16 карточка приводит конфигурацию SGLang. Это варианты для собственной инфраструктуры, а не результаты теста Modelium. Размер GGUF-файла не равен минимальной потребности в RAM или VRAM: контекст, параллелизм, KV-cache и размещение слоёв также влияют на память. [s2](#src-s2) [s3](#src-s3)

Модель, GGUF и код harness помечены Apache-2.0; исходная Qwen3.6-35B-A3B тоже отмечена Apache-2.0. Такая лицензия допускает коммерческое использование при соблюдении её условий, но не означает, что авторы гарантируют безопасность ответов для промышленного применения. Наборы TRuST и SynthComp в работе указаны отдельно как ODC-BY; лицензию конкретного корпуса для своего пилота проверяйте независимо. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3) [s4](#src-s4) [s5](#src-s5)

## Что показывают замеры авторов

В семи англо- и русскоязычных тестах с фиксированными поисковыми индексами авторы сообщают средний **Recall@10 55,96** при одном прогоне T-Search против **41,54** у базовой Qwen3.6-35B-A3B в их harness. Три независимых прогона с объединением ранжирования дают **61,33**, но это другая конфигурация и больший объём вычислений. Русскоязычный TRuST содержит 324 вручную написанных вопроса; это не показатель качества ответа конечному пользователю и не доказательство работы на вашем корпусе. Независимого воспроизведения этих цифр Modelium не проводил. [s1](#src-s1) [s2](#src-s2)

Карточка GGUF отдельно сравнивает *одиночные* прогоны при одном harness и фиксированных индексах: BF16 — **55,96**, Q8_0 — **55,40**, Q4_K_M — **53,61** среднего Recall@10. Не смешивайте эту таблицу с результатом 61,33 для трёх прогонов и не считайте её доказательством скорости или экономии памяти. Это замеры авторов в заявленной конфигурации, а не наша проверка на локальном устройстве. [s3](#src-s3)

## С чего начать проверку

- Выберите официальный BF16-чекпойнт либо один из четырёх GGUF по формату вашего runtime. Закрепите ревизии модели и harness, а для GGUF сопоставьте версию `llama.cpp` с указанным авторами b10068 или новее. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

- Настройте собственный поисковый индекс и адаптер по контракту harness; возвращайте короткие фрагменты с устойчивыми идентификаторами и проверяемыми URL/документами. [s4](#src-s4)

- Запустите ретривер через OpenAI-совместимый *локальный* endpoint и оцените Recall@10 на своих размеченных вопросах, отдельно фиксируя число раундов, поисковый backend и стоимость обработки. Команды из карточки служат исходной конфигурацией автора, а не измеренной рекомендацией Modelium для конкретного железа. [s2](#src-s2) [s3](#src-s3) [s4](#src-s4)

**Вывод:** работа полезна тем, кто строит многошаговый поиск по русскоязычным документам и готов поддерживать индекс и агентный цикл. Для простого поиска по одному фрагменту сначала сравните с обычным BM25 или эмбеддинг-ретривером: специализированная модель и несколько раундов не обязательно оправданы. [s1](#src-s1) [s4](#src-s4)

## Источники

1. [T-Search: An Open Agentic Retriever and Playground for Hard Multi-Step Search, arXiv 2610.06782](https://arxiv.org/html/2610.06782v1) — получено 2026-10-06
2. [t-tech/T-Search: закреплённая карточка и файлы BF16](https://huggingface.co/t-tech/T-Search/tree/bf0b272e0f69921ec39040807336602758448099) — получено 2026-10-06
3. [t-tech/T-Search-GGUF: закреплённая карточка и четыре квантизации](https://huggingface.co/t-tech/T-Search-GGUF/tree/5e5a39987b20533c6bf09ca10d3c0c6e81eae067) — получено 2026-10-06
4. [Официальный t-search-harness, закреплённый README](https://github.com/turbo-llm/t-search-harness/tree/997a0ba1685d24ad840e3e2542b59952ff3fb362) — получено 2026-10-06
5. [Qwen3.6-35B-A3B — карточка исходной модели](https://huggingface.co/Qwen/Qwen3.6-35B-A3B) — получено 2026-10-06