ExecuTorch добавил WebGPU: локальные модели смогут работать в браузере

Что именно появилось?

В основную ветку ExecuTorch вошла необязательная сборка для браузера на WebAssembly — формате исполнения программ внутри браузера — вместе с подключением WebGPU. Она выключена по умолчанию. Отдельная правка от 16 октября подготовила обработку длинных входных сообщений в таких моделях. Это изменение исходного кода, а не объявление нового стабильного выпуска программы: последний найденный стабильный релиз — v1.5.1 от 23 сентября. s1 s2 s4

В Hugging Face также лежит собранный браузерный движок: файлы JavaScript и WebAssembly с инструкцией по загрузке модели формата .pte. Выложена и подготовленная версия Qwen3-0.6B с весами и файлами для разбивки текста на части. Это разные компоненты: движок исполняет программу, а веса содержат параметры конкретной модели. Пакет Qwen использует 4-битное сжатие и ограничивает объём текста, доступный за один раз, 8960 токенами (токен — небольшая часть текста), хотя у исходной модели указано 32768; эти пределы нельзя смешивать. s3 s5 s6

Можно ли открыть страницу и пользоваться уже сейчас?

Готовый маршрут для новичка пока не подтверждён. Карточка Qwen обещает отдельную демонстрационную площадку ExecuTorch WebGPU, но описывает её как готовящуюся к запуску. Там же осталась фраза, что движок ещё не опубликован, хотя отдельный репозиторий с ним уже доступен: документация и фактическое состояние загрузок разошлись. Поэтому мы не предлагаем команду установки или адрес как проверенный способ получить первый результат. Это материал о новом механизме для разработчиков, а не домашний рецепт. s3 s5

Предполагаемая бытовая задача — задать небольшой модели вопрос по своему тексту прямо в браузере. Когда появится подтверждённый интерфейс, результат следует сверять с исходным текстом: небольшая модель может ошибаться. Файлы программы и весов нужно сначала скачать; локальное выполнение после загрузки не означает, что сама страница или все её дополнительные функции всегда работают без сети. Modelium не запускал этот пакет на своей видеокарте. s3 s5

Какие ограничения и права важно знать?

Разработчики описывают собственную проверку сборки в Chromium с программным графическим устройством SwiftShader и прямо отмечают, что обычные видеокарты и путь shader-f16 в этой сборке не проверяли. Такой тест не доказывает скорость или совместимость вашего компьютера. Минимальные требования к оперативной и видеопамяти из размера файлов не следуют. s3

Код ExecuTorch и размещённый браузерный движок сопровождаются BSD License, а подготовленные веса Qwen3-0.6B и исходная модель — Apache 2.0. Наличие открытых весов не делает все модели ExecuTorch одинаково лицензированными: перед использованием другой модели нужно читать её отдельные условия. s7 s8 s9

Что делать сейчас: если вы просто хотите пообщаться с моделью дома, не перестраивайте рабочую установку ради этого изменения. За появлением подтверждённого браузерного интерфейса и стабильного релиза стоит следить отдельно; разработчики уже могут изучить опубликованные исходники, сборку и подготовленные файлы, но это инженерный путь. s1 s3 s4