NovelAI открыла веса Genji V2 6B: японская GPT-J и шесть GGUF-вариантов
На странице · 3 разделов
29 сентября 2026 года NovelAI впервые выложила веса своей архивной японской модели Genji V2 6B. На Hugging Face есть полный чекпойнт Safetensors с исправленным токенизатором и шесть GGUF-файлов, включая Q4_K_M. Это открытие старой модели для локальных экспериментов, а не новая модель или доказательство современного качества; GGUF использует нестандартную для GPT-J подмену архитектуры на Phi-2.
Что произошло
29 сентября 2026 года официальный аккаунт NovelAI создал публичный репозиторий genji-jp-6b-v2-legacy на Hugging Face. Компания описывает Genji V2 как свой второй японский fine-tune GPT-J 6B и прямо говорит о сохранении исторической модели: это новая публикация ранее закрытых весов, не релиз новой архитектуры или результат свежего обучения. История репозитория показывает загрузку файлов в тот же день. s1
Genji V2 отличается от первой Genji заменой части редко используемых токенов японскими. NovelAI отдельно предупреждает, что прежний вариант модифицированного GPT-2-токенизатора мог давать разные результаты в быстрой и медленной реализациях; в опубликованный пакет входят исправленные файлы токенизатора. Для воспроизводимых экспериментов берите токенизатор из того же репозитория и ревизии, а не токенизатор исходной GPT-J либо Genji V1. s1
Что доступно локально
Закреплённая ревизия f18d6a9 содержит конфигурацию GPTJForCausalLM, индекс трёх Safetensors-шардов и все три названных в индексе файла. Отдельно выложены шесть GGUF: F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Например, Q4_K_M занимает 3 764 944 480 байт на диске; это не минимальный объём RAM или VRAM. Доступность именно этого пакета позволяет сравнить исходный чекпойнт с квантованными вариантами, не конвертируя GPT-J самостоятельно. s1 s2
В карточке стоит метка лицензии gpl-3.0, но отдельного файла LICENSE в закреплённом дереве нет. Лицензия исходной GPT-J обозначена как Apache 2.0; она не заменяет условия, под которыми NovelAI распространяет свою производную модель. При перераспространении весов и коммерческом использовании сверяйте точный объём прав с правообладателем и применимым текстом GPL-3.0, а не трактуйте одну метку как индивидуальное разрешение на любой сценарий. s1 s2 s3
Важное ограничение GGUF
По объяснению NovelAI, штатный llama.cpp не реализует архитектуру GPT-J. Для GGUF авторы представили форму GPT-J как Phi-2 и скорректировали необходимые части конверсии. Это заявление авторов о своём пакете, а не подтверждение Modelium, что любой из шести файлов запускается в произвольной версии llama.cpp или полностью совпадает по выводу с Safetensors. Если нужна точная база сравнения, начните с полной модели и её собственного токенизатора; совместимость GGUF проверяйте на выбранном runtime отдельно. s1 s2
Авторы приводят perplexity на собственном корпусе для повествовательного текста: F16 — 18,1883, Q4_K_M — 18,3051. Состав калибровочного набора, число примеров и независимое воспроизведение в карточке не представлены; эти числа нельзя переносить на японские задачи в целом или считать тестом редакции. s2
Практический выбор: архивная японская генерация и исследования токенизации — разумный повод изучить релиз; для современной производственной задачи сначала сравните качество на собственном японском наборе и проверьте лицензионные условия. Modelium не загружал веса и не проводил инференс или бенчмарк этого выпуска. s1 s2
Источники
- NovelAI: Genji V2 legacy — карточка, конфигурация, токенизатор и история релиза — Официальный репозиторий создан 29.09.2026 14:41 UTC; все три Safetensors и метка GPL-3.0 проверены в полном дереве/API.. Получено 29.09.2026.
- NovelAI: пояснение GGUF-пакета и авторская таблица perplexity — Файлы F16, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K, Q8_0 подтверждены полным pinned tree; Phi-2 workaround и метрики принадлежат автору.. Получено 29.09.2026.
- EleutherAI: исходная GPT-J 6B — Исходная модель помечена Apache-2.0; лицензию производной Genji V2 необходимо оценивать отдельно.. Получено 29.09.2026.