Darwin-27B-ZTC: локальная модель оценивает варианты без генерации текста

8 октября в Hugging Face появился Darwin-27B-ZTC. Он нужен не для переписки: получает описание ситуации и варианты действия, затем оценивает вероятность каждого варианта без сочинения текстового ответа. Например, для сообщения «С клиента дважды списали оплату» можно предложить «вернуть повторный платёж», «передать в бухгалтерию» и «закрыть обращение»; на выходе ожидается набор вероятностей, а не письмо клиенту. Это иллюстрация задачи, не результат запуска Modelium. s1 s2

Что нового и кому это пригодится

ZTC означает подход без генерации слов ответа: отдельный блок оценки читает предложенные варианты и возвращает распределение вероятностей. По карточке авторов, модель построена на Darwin-27B-RSI и поддерживает вопросы «да/нет», выбор одного из нескольких вариантов и оценку по заданной шкале. Для команды, которая уже строит локальную обработку обращений, это отдельный способ сортировать случаи. Обычному пользователю, которому нужен чат на домашнем ноутбуке, обновляться из-за этого релиза не нужно. s1 s3

Модель не принимает решение за человека: если критерии или исходные сведения неверны, вероятности тоже могут увести не туда. В чувствительных случаях вроде возврата денег итог проверяет сотрудник.

Что опубликовано сейчас

На закреплённой версии репозитория есть 11 частей основных весов, отдельный файл блока оценки, настройки и файлы для обработки текста. Мы сверили список файлов в API с индексом весов; наличие файлов подтверждено, но скачивание и запуск не воспроизводились. Модель текстовая, открытый пакет помечен Apache-2.0; код autojev, приложенный для вывода, содержит отдельную лицензию MIT. Метка лицензии не равна гарантии пригодности конкретного использования — перед коммерческим внедрением прочитайте тексты условий и проверьте зависимости. s2 s3 s4

В карточке приведён пример Python с torch, transformers, safetensors и pillow, а также GPU под крупные BF16-веса. Это инженерный путь, не готовая кнопка в программе для новичка. Указанные автором около 54 ГБ для весов не следует считать проверенным минимальным объёмом видеопамяти: исполнение требует дополнительной памяти и зависит от окружения. Мы не проверяли совместимость с бытовыми компьютерами и не публикуем эту новость как готовый домашний рецепт. s1 s3

Насколько точны вероятности

Авторы сообщают accuracy 0,743 на тестовом разделе Typed Decisions: 400 ситуаций и 2000 отдельных решений, по пять вопросов на ситуацию; KL 0,204 и Brier 0,097 указаны для тех же решений. Машинно-читаемый файл оценки в репозитории повторяет эти условия и числа. Это авторские результаты, а не независимое измерение Modelium. Они не подтверждают такую же точность для русскоязычных обращений или ваших данных. s1 s5

Следующий шаг: если вы разрабатываете локальную систему выбора, откройте закреплённую карточку модели, проверьте пример входных данных и сначала оцените её на собственных размеченных ситуациях. Если нужен обычный разговорный помощник, эта специализированная модель не подходит. s1