# NovelAI открыла веса Genji V2 6B: японская GPT-J и шесть GGUF-вариантов

Источник: https://modelium.tech/zhurnal/novelai-genji-v2-6b-japanese-open-weights-gguf/

29 сентября 2026 года NovelAI впервые выложила веса своей архивной японской модели Genji V2 6B. На Hugging Face есть полный чекпойнт Safetensors с исправленным токенизатором и шесть GGUF-файлов, включая Q4_K_M. Это открытие старой модели для локальных экспериментов, а не новая модель или доказательство современного качества; GGUF использует нестандартную для GPT-J подмену архитектуры на Phi-2.

## Что произошло

29 сентября 2026 года официальный аккаунт NovelAI создал публичный репозиторий `genji-jp-6b-v2-legacy` на Hugging Face. Компания описывает Genji V2 как свой второй японский fine-tune GPT-J 6B и прямо говорит о сохранении исторической модели: это **новая публикация ранее закрытых весов**, не релиз новой архитектуры или результат свежего обучения. История репозитория показывает загрузку файлов в тот же день. [s1](#src-s1)

Genji V2 отличается от первой Genji заменой части редко используемых токенов японскими. NovelAI отдельно предупреждает, что прежний вариант модифицированного GPT-2-токенизатора мог давать разные результаты в быстрой и медленной реализациях; в опубликованный пакет входят исправленные файлы токенизатора. Для воспроизводимых экспериментов берите токенизатор **из того же репозитория и ревизии**, а не токенизатор исходной GPT-J либо Genji V1. [s1](#src-s1)

## Что доступно локально

Закреплённая ревизия `f18d6a9` содержит конфигурацию `GPTJForCausalLM`, индекс трёх Safetensors-шардов и все три названных в индексе файла. Отдельно выложены шесть GGUF: F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Например, Q4_K_M занимает 3 764 944 480 байт на диске; это **не минимальный объём RAM или VRAM**. Доступность именно этого пакета позволяет сравнить исходный чекпойнт с квантованными вариантами, не конвертируя GPT-J самостоятельно. [s1](#src-s1) [s2](#src-s2)

В карточке стоит метка лицензии `gpl-3.0`, но отдельного файла `LICENSE` в закреплённом дереве нет. Лицензия исходной GPT-J обозначена как Apache 2.0; она не заменяет условия, под которыми NovelAI распространяет свою производную модель. При перераспространении весов и коммерческом использовании сверяйте точный объём прав с правообладателем и применимым текстом GPL-3.0, а не трактуйте одну метку как индивидуальное разрешение на любой сценарий. [s1](#src-s1) [s2](#src-s2) [s3](#src-s3)

## Важное ограничение GGUF

По объяснению NovelAI, штатный `llama.cpp` не реализует архитектуру GPT-J. Для GGUF авторы представили форму GPT-J как Phi-2 и скорректировали необходимые части конверсии. Это **заявление авторов о своём пакете**, а не подтверждение Modelium, что любой из шести файлов запускается в произвольной версии `llama.cpp` или полностью совпадает по выводу с Safetensors. Если нужна точная база сравнения, начните с полной модели и её собственного токенизатора; совместимость GGUF проверяйте на выбранном runtime отдельно. [s1](#src-s1) [s2](#src-s2)

Авторы приводят perplexity на собственном корпусе для повествовательного текста: F16 — 18,1883, Q4_K_M — 18,3051. Состав калибровочного набора, число примеров и независимое воспроизведение в карточке не представлены; эти числа нельзя переносить на японские задачи в целом или считать тестом редакции. [s2](#src-s2)

**Практический выбор:** архивная японская генерация и исследования токенизации — разумный повод изучить релиз; для современной производственной задачи сначала сравните качество на собственном японском наборе и проверьте лицензионные условия. Modelium не загружал веса и не проводил инференс или бенчмарк этого выпуска. [s1](#src-s1) [s2](#src-s2)

## Источники

1. [NovelAI: Genji V2 legacy — карточка, конфигурация, токенизатор и история релиза](https://huggingface.co/NovelAI/genji-jp-6b-v2-legacy/tree/f18d6a9efe343ed7cafe1d2f872cb89de8fbe544) — получено 2026-09-29
2. [NovelAI: пояснение GGUF-пакета и авторская таблица perplexity](https://huggingface.co/NovelAI/genji-jp-6b-v2-legacy/blob/f18d6a9efe343ed7cafe1d2f872cb89de8fbe544/README_GGUF.md) — получено 2026-09-29
3. [EleutherAI: исходная GPT-J 6B](https://huggingface.co/EleutherAI/gpt-j-6b) — получено 2026-09-29