Думающие модели: что такое reasoning и когда он нужен

Что называют думающей моделью?

В контексте языковых моделей reasoning — режим, при котором перед итоговым ответом модель генерирует дополнительные промежуточные токены: например, пробует решение, уточняет допущения или проверяет шаги. DeepSeek-AI описывает такой тип траекторий и обучение с подкреплением в статье о DeepSeek-R1; это описание метода авторов, а не доказательство, что каждый ответ верен s3. Команда Qwen описывает в Qwen3 два режима одной линейки: thinking для более сложного разбора и non-thinking для прямого ответа s1.

«Думающая» не означает, что модель понимает мир или выполняет формальную проверку. Читаемая цепочка — сгенерированный текст, а не протокол всех внутренних вычислений. В исследовании верности chain-of-thought авторы показали на своей методике, что внешне последовательные объяснения иногда сопровождают противоречивые ответы; их частоты нельзя переносить на все модели и задачи s6. Поэтому критерием успеха служит проверяемый итог, а не длина объяснения.

Когда включать reasoning, а когда не тратить на него время?

Если нужно сопоставить несколько требований документа, проверить расчёт или разложить программную ошибку на гипотезы, режим рассуждения может быть полезным кандидатом для сравнения с прямым ответом; Qwen позиционирует thinking именно для логических задач, математики и кода s2. Для простого извлечения очевидного поля из текста сначала попробуйте прямой ответ. В обоих случаях заранее запишите правильный ожидаемый результат и оцените фактический ответ; рекламное название режима не является оценкой на ваших данных.

У официальной карточки Qwen3-8B переключатель привязан к шаблону диалога: enable_thinking=False отключает thinking-содержимое, а /think и /no_think позволяют менять режим при включённой поддержке в шаблоне s2. Это конкретная ревизия Qwen3-8B, не обещание для каждого нового поколения Qwen или произвольного runtime. Не переносите настройку шаблона Transformers в другой сервер без проверки его API.

У DeepSeek-R1 есть разные локальные теги и размеры в каталоге Ollama, включая deepseek-r1:8b; отдельно прочитайте карточку DeepSeek R1 перед выбором исходного или дистиллированного варианта s7. Число гигабайт рядом с файлом — размер весов, не минимальные требования к RAM/VRAM: фактическое размещение зависит также от runtime, контекста и устройства.

Как увидеть отдельное рассуждение при локальном запуске?

У документации Ollama есть конкретный маршрут: сначала проверить поддерживаемые значения поля thinking для выбранной модели через /api/show, затем отправить запрос на локальный /api/chat с think и stream: false s4 s5. Для think: true запрашивается вывод рассуждения; false просит его не выводить только если модель разрешает; null использует значение по умолчанию. Именованные уровни и их значения зависят от конкретной модели, числа вместо них документация не поддерживает s4.

Пример по официальному каталогу и API, не прогон Modelium; Ollama и тег должны быть заранее установлены на вашем компьютере s4 s7:

ollama pull deepseek-r1:8b
curl http://localhost:11434/api/show -d '{"model":"deepseek-r1:8b"}'
curl http://localhost:11434/api/chat -d '{"model":"deepseek-r1:8b","messages":[{"role":"user","content":"Сравни 3/4 и 2/3; дай ответ и проверку общим знаменателем"}],"think":true,"stream":false}'

Посмотрите, есть ли в ответе message.thinking и что именно записано в message.content; API документирует эти поля отдельно s4 s5. Затем самостоятельно проверьте сравнение дробей через общий знаменатель. Отсутствие отдельного поля thinking не доказывает, что внутри не было промежуточной обработки: документация предупреждает, что метаданные режима у некоторых моделей отсутствуют s4. Если запрос к локальному серверу не отвечает, проверьте установленный тег, запущен ли Ollama и точный адрес из инструкции по Ollama; не заменяйте localhost облачным адресом ради «починки» закрытого сценария.

Какие ограничения важны при выборе?

• Не считать красивую цепочку доказательством. Исследование о верности chain-of-thought показывает случаи несоответствия объяснения и ответа при своей методике; сверяйте факты с документами или расчётом, а код — тестами s6.
• Не обещать выигрыш в каждой задаче. Сравнивайте thinking и прямой ответ на одном наборе запросов, на одном устройстве, с записанными тегом, настройками и временем. Заявления авторов DeepSeek и Qwen об улучшениях остаются заявлениями в их условиях, не независимым тестом Modelium s1 s3.
• Не путать модель с настройкой интерфейса. У Qwen3-8B есть переключатель в шаблоне; у Ollama набор допустимых think-значений определяется моделью и выясняется через /api/show s2 s4.

Следующий шаг: сравните DeepSeek и Qwen по своей задаче, выберите конкретный checkpoint и проверяйте итог на собственном наборе вопросов. Если ответ кажется убедительным, но не имеет сверяемого основания, см. разбор галлюцинаций; для следующего поколения Qwen открывайте его отдельную карточку, а не переносите параметры Qwen3-8B на другую ревизию.