Ollama 0.40.4: модели решений теперь доступны через ollama run

Что именно появилось в командной строке?

Для подготовленного текстового файла ticket.txt документация Ollama приводит команду ollama run nimble --ask "Is a refund being requested?" < ticket.txt. Она передаёт содержимое файла модели Nimble и просит ответить, есть ли запрос на возврат. После --ask можно перечислить допустимые категории через --choice или упорядоченные уровни через --level; ответ показывает выбранный вариант и оценку вероятности по версии модели. Это не достоверность факта и не повод автоматически принимать финансовое решение без проверки человеком. s2

Сначала нужно установить Ollama и скачать подходящую модель командой ollama pull nimble: загрузка требует интернета, а последующий локальный запрос к уже загруженной модели, по документации Ollama, не требует API-ключа. Пример сверен с документацией тега 0.40.4, но редакция не запускала Nimble на своём компьютере и не измеряла скорость или точность. Если работаете с личными данными, сначала проверьте свой способ установки и обработку данных в используемых компонентах. s2

Что ещё меняется при локальном запуске?

Официальное описание релиза сообщает, что движок MLX — способ запускать модели на компьютерах Apple Silicon — теперь поддерживает модели решений Kev. Также заявлены поддержка через llama-server моделей для смыслового поиска по разным типам данных (мультимодальных) и исправление их загрузки при небольшом контекстном окне. Это возможности программы, а не новые веса Kev или гарантия работы любой модели на любом устройстве. Числового прироста скорости для вашего компьютера в описании релиза нет. s1 s3

Стоит ли обновляться?

Если вы уже пользуетесь Ollama для локальной сортировки текстов и хотите обойтись без собственного API-кода, новый путь через терминал стоит проверить на коротком обезличенном примере. Обычному пользователю, который только беседует с моделью, срочного перехода из-за этой функции не требуется. В релизе также есть изменения команды ollama launch и интеграции с Codex; не путайте их с полностью локальным запросом к скачанной модели. Код самой Ollama в закреплённом теге распространяется по MIT; права на конкретные веса следует проверять отдельно. s1 s3 s4

Следующий шаг: изучите официальный пример --ask и испытайте его на собственном несекретном тексте, сверяя итоговую категорию с исходным сообщением. Не используйте пример процентов в документации как измерение редакции или гарантию качества на ваших данных. s2