Modelium / Журнал
Журнал
Разборы и руководства о моделях. Каждый материал отвечает на одни и те же вопросы — что произошло, кого это касается, что на самом деле подтверждено и меняет ли это выбор. Источники приведены в конце материала.
Как изменить температуру ответа в LM StudioНайдите Temperature в настройках чата LM Studio, задайте учебное значение и проверьте ответ. Покажем, как вернуть прежнее и почему число не гарантирует точность.Читать ONNX Runtime WebGPU Plugin 0.5.0: что меняется для локальных моделейWebGPU Plugin 0.5.0 для ONNX Runtime: новые операции локальных моделей, поддержка AMD и ограничения совместимости. Не готовый чат-бот.Читать Как изменить температуру ответа в одном чате Open WebUIНастройте температуру в Chat Controls одного чата Open WebUI и проверьте учебный ответ. Параметр не гарантирует точность; доступ зависит от прав и модели.Читать Granite Speech 5.0: локальная расшифровка аудио прямо в браузереIBM выпустила Granite Speech 5.0 для браузерного WebGPU: запись и расшифровка на устройстве. Что скачать, какие языки поддерживаются и что пока неизвестно.Читать Clover-35B-A3B-Preview: открыты веса, но запуск пока для разработчиковОткрыты веса Clover-35B-A3B-Preview. Что меняется для локального запуска, почему обычные SGLang и llama.cpp пока не подходят и что значат замеры авторов.Читать Как создать свою модель с инструкцией в Open WebUIСоздайте в Open WebUI отдельную настройку для уже подключённой модели: выберите основу, задайте инструкцию, сохраните и проверьте ответ в чате.Читать LM Studio 0.4.27: поиск движков, Radeon 8065S и настройки Splash на MacВ LM Studio 0.4.27 улучшены обнаружение движков и передача файлов между устройствами; добавлены Radeon 8065S и настройки Splash для Mac. Что это меняет.Читать Bionic 1.1.10: локальное озвучивание теперь на Linux и WindowsВ Bionic 1.1.10 озвучивание ответов на устройстве появилось на Linux и Windows. На Mac обновились движки MLX; что меняется для локальных сеансов.Читать Ollama ps: какие модели сейчас в памяти и где они размещеныКоманда ollama ps показывает загруженные модели и размещение в памяти CPU/GPU. Сравните её с ollama ls и проверьте результат на своей модели без догадок о скорости.Читать Apriel Voice 27B Preview: опубликованы веса голосовой модели ServiceNowServiceNow открыла веса Apriel Voice 27B Preview. Что умеет голосовая модель, как её запускают и почему пока рано считать её домашним помощником.Читать KV-кеш LM Studio: размещение в памяти GPU или RAMЧто меняет Offload KV Cache to GPU Memory в LM Studio, где выбрать параметр для одной загрузки и как сверить его значение. Скорость не гарантируется.Читать Mistral Large 4: открыты веса для локального запускаMistral выпустила веса Large 4 в FP8 и NVFP4. Что доступно для локального запуска, кому нужен сервер и каковы условия лицензии.Читать