Carbon-X GGUF: модель для анализа ДНК стала доступна в llama.cpp

Что изменилось для локального запуска?

Carbon-X умеет отвечать на вопросы о последовательностях ДНК и писать пояснения по-английски. Для ДНК она использует особый способ разбиения текста на части — токенизатор: он объединяет буквы генетического кода в группы. Старый llama.cpp может открыть GGUF-файл, но неправильно разобрать ДНК. В официальной карточке требуется сборка b11742 или новее; соответствующее изменение вошло в llama.cpp 19 октября. s1 s3

Это важное уточнение: в основной карточке Carbon-X до сих пор написано, что GGUF и llama.cpp не поддерживаются. Специальная карточка GGUF говорит обратное и ссылается на слитое исправление токенизатора и выпуск b11742. Поэтому для решения вопроса о GGUF ориентируйтесь на карточку конкретного пакета и версию программы, а не на старый абзац общей карточки. Редакция не запускала модель и не проверяла работу весов на своём оборудовании. s1 s3 s4

Какие веса опубликованы и кому они подходят?

В официальном репозитории перечислены BF16 и четыре уменьшенные версии — Q8_0, Q6_K, Q5_K_M и Q4_K_M. Авторы рекомендуют Q8_0 и сообщают, что их замеры Q4_K_M оказались ниже на двух задачах. Это результаты авторов, а не независимый тест Modelium: они сравнивали один запуск с вероятностной генерацией на 1000 вариантах ДНК для оценки эффекта изменений и на 600 последовательностях для предсказания следующих букв. Размеры файлов в карточке не являются проверенными минимальными требованиями к оперативной или видеопамяти. s1 s2

Это новость для исследователей, готовых разобраться с моделью и оборудованием, а не обещание установки на обычный домашний ноутбук. Для первого знакомства откройте официальную карточку Carbon-X GGUF и проверьте доступность нужного варианта и совместимой сборки llama.cpp. Мы не публикуем неподтверждённую команду как проверенный редакцией рецепт. s1 s2

Какие ограничения нельзя пропускать?

Разработчики прямо предупреждают: Carbon-X не проходила клиническую валидацию, может ошибаться в координатах и определении функции последовательности. Не используйте её ответ для постановки диагноза или выбора лечения; исследовательские выводы сверяйте другими методами. Генетические данные чувствительны: локальный запуск и отправка их в сторонний сервис — разные режимы обработки. s4

Карточки обеих моделей помечают веса Apache-2.0; отдельного файла LICENSE в их списках файлов нет. Лицензии кода Carbon и исходного Qwen3-14B также обозначены Apache-2.0 в собственных репозиториях. Это раздельные источники прав, а не гарантия пригодности модели для клинического применения. s1 s2 s5 s6

Источники проверены 23 октября 2026 года. Ревизии Carbon-X GGUF cbb978c, Carbon-X 539ad36.