Switchboard 0.7.0: локальный выбор модели для шагов AI-агента

Что теперь можно сделать?

StepRouter получает историю диалога и список доступных инструментов агента. Он сокращает их до короткого описания и предлагает одну из категорий: small, mid или frontier — менее мощную, среднюю или наиболее мощную модель. Разработчик сам назначает конкретные модели этим категориям. Пакет 0.7.0 действительно содержит StepRouter и функцию render_step; прежний блокер ожидаемой версии 0.7.0 снят. Веса маршрутизатора доступны в исходном формате и в GGUF — формате для программ локального запуска вроде Ollama. s1 s2 s3

Важное ограничение локальности: локально может работать только маршрутизатор; типовые назначения трёх категорий в пакете ведут к облачным Claude. Полностью местная обработка требует явно сопоставить все три категории собственным локальным моделям и запускать их отдельно. Установка пакета сама по себе не создаёт домашнего офлайн-агента. По опубликованной документации простой путь для технического пользователя — запустить Ollama, установить пакет switchboard-router версии 0.7.0 и передавать StepRouter сообщения и описание инструментов в формате OpenAI. При первом обращении пакет может загрузить GGUF-модель через интернет. Modelium проверил структуру пакета и документацию, но не запускал модель и не проверял агентную цепочку. s1 s3

Можно ли доверить ему каждый шаг?

Нет. По данным авторов, на их наборе из 2805 тестовых шагов базовый выбор отправлял 13,5% шагов модели слабее нужной; при их пороге осторожности 0,2 — 5,8%. Экономия в этих же авторских условиях составляет соответственно 31,4% и 19,2% относительно постоянного выбора самой дорогой категории. Это не независимый тест на русских задачах и не прогноз вашего счёта: авторы считают условную цену трёх облачных категорий, а не стоимость собственного железа. Ошибка выбора способна испортить действие агента; разработчик должен проверять результат и ставить защитные ограничения. s2

Что с правами и доступом?

Карточка весов помечает модель Apache-2.0 и указывает базовую Qwen2.5-0.5B-Instruct; у базовой модели есть текст Apache License. Пакет 0.7.0 также распространяется с Apache-2.0 LICENSE. При этом в репозитории именно производного чекпойнта отдельного файла LICENSE нет: метка карточки и права на код пакета — разные свидетельства, не единая лицензия на весь будущий агентный стек. Перечень использованных обучающих данных и оговорки автора приведены в карточке. s1 s2 s4

Если вы только знакомитесь с локальным ИИ, начинать с StepRouter не нужно: это компонент для уже существующего агента. Разработчику полезно сначала проверить один собственный рабочий сценарий и убедиться, что все три назначенные модели находятся там, где он ожидает. s1 s2