vLLM: что отключает журнал запросов и как проверить его границы

Что именно отключает этот флаг?

Пара --enable-log-requests / --no-enable-log-requests управляет подробным журналом vLLM о запросе. Если включить его, на обычном уровне подробности INFO записываются идентификатор и параметры запроса, а на более подробном DEBUG — входной текст и ID токенов (частей текста). По умолчанию значение False; явный --no-enable-log-requests удобен, когда хочется показать требуемую настройку прямо в команде запуска. --enable-log-outputs — отдельная опция для записи ответов модели; ей требуется включённый журнал запросов. s1 s2

Это не переключатель всех журналов компьютера. Отдельный HTTP access log Uvicorn управляется --disable-uvicorn-access-log и по умолчанию не отключён. Прокси, терминал, системный журнал, клиентское приложение и собственные плагины также требуют отдельной проверки. Не вводите секреты в тест: найденная в одном файле учебная метка полезна для диагностики, а её отсутствие не даёт гарантии приватности. s1 s6

Как провести учебную проверку на своём стенде?

Если сервер уже обслуживает рабочие данные, не меняйте его ради эксперимента. Поднимите отдельный тестовый экземпляр на своей Linux-машине: в терминале с vLLM v0.32.0 запустите vllm serve Qwen/Qwen3-0.6B --revision c1899de289a04d12100db370d81485cdf75e47ca --host 127.0.0.1 --port 8000 --no-enable-log-requests 2>&1 | tee ./vllm-requests-test.log. Скачивание весов происходит при подготовке; файл ./vllm-requests-test.log создаётся в текущей папке, поэтому используйте папку с ограниченным доступом. Дождитесь готовности API: ошибка загрузки модели не проверяет работу журнала. Эта карточка модели подтверждает конкретную ревизию, но не обещает достаточную память или скорость на вашем GPU. s1 s3 s4

В другом терминале на той же машине отправьте безобидный запрос: curl --fail-with-body -sS 'http://127.0.0.1:8000/v1/chat/completions' -H 'Content-Type: application/json' -d '{"model":"Qwen/Qwen3-0.6B","messages":[{"role":"user","content":"Ответь одним словом: готово. Учебная метка MODELIUM-TEST-ONLY-1101."}],"max_tokens":32}'. Ожидается JSON с choices; конкретный текст ответа заранее неизвестен. Если запрос не обработан, сначала проверьте запуск сервера и ID модели, а не делайте вывод о журналировании. s4 s5

После запроса прочитайте только учебный файл командой grep -nF 'MODELIUM-TEST-ONLY-1101' ./vllm-requests-test.log. Если совпадение есть, посмотрите источник записи и конфигурацию: клиент, обработчик ошибки и другие компоненты могут писать отдельно от RequestLogger. Если вывода нет (grep завершился с кодом 1), это подтверждает лишь отсутствие именно этой строки в данном файле после одного запроса, не отсутствие всех персональных данных во всех местах. Остановите тестовый сервер и удалите учебный лог только после нужной вам диагностики. s1 s2 s6

Какие ограничения остаются?

Не передавайте настоящий конфиденциальный текст ради проверки. Для приватного контура отдельно проверяйте права на файл логов, HTTP-журнал, прокси, клиентское приложение, сетевой доступ и хранение запросов по своей политике; --no-enable-log-requests не настраивает их за вас. Проверка сетевых обращений локального ИИ — следующий отдельный шаг, а метрики vLLM показывают состояние сервера, но не подменяют аудит данных. Ни одна команда в этом материале редакцией на реальной модели не воспроизведена. s1 s6