Gemma 4: размеры, лицензия, память и локальный запуск

  </tr><tr>
    <td>
    <p>E2B</p>
  </td>
<td>
    <p>11,4 ГБ</p>
  </td>
<td>
    <p>5,7 ГБ</p>
  </td>
<td>
    <p>2,9 ГБ</p>
  </td>

  </tr><tr>
    <td>
    <p>E4B</p>
  </td>
<td>
    <p>17,9 ГБ</p>
  </td>
<td>
    <p>8,9 ГБ</p>
  </td>
<td>
    <p>4,5 ГБ</p>
  </td>

  </tr><tr>
    <td>
    <p>12B</p>
  </td>
<td>
    <p>26,7 ГБ</p>
  </td>
<td>
    <p>13,4 ГБ</p>
  </td>
<td>
    <p>6,7 ГБ</p>
  </td>

  </tr><tr>
    <td>
    <p>26B A4B</p>
  </td>
<td>
    <p>57,7 ГБ</p>
  </td>
<td>
    <p>28,8 ГБ</p>
  </td>
<td>
    <p>14,4 ГБ</p>
  </td>

  </tr><tr>
    <td>
    <p>31B</p>
  </td>
<td>
    <p>69,9 ГБ</p>
  </td>
<td>
    <p>34,9 ГБ</p>
  </td>
<td>
    <p>17,5 ГБ</p>
  </td>

  </tr></tbody>
    </table>
  <p>Эти числа полезны как начальная оценка, но не являются гарантированным минимумом RAM или VRAM. Документация предупреждает, что результат зависит от инструмента, окружения, длины контекста, размера входа и batch size <a href="#src-s1" rel="noopener noreferrer">s1</a>.</p><p>Размер файла тоже не равен памяти запуска. Например, реестр Ollama показывает готовые артефакты примерно 7,2 ГБ для <code>gemma4:e2b</code>, 9,6 ГБ для <code>gemma4:e4b</code>, 7,6 ГБ для <code>gemma4:12b</code>, 19 ГБ для <code>gemma4:26b</code> и 20 ГБ для <code>gemma4:31b</code> <a href="#src-s8" rel="noopener noreferrer">s8</a>. Это размеры конкретных сборок Ollama; они не доказывают, что модель заработает ровно с таким количеством RAM или VRAM.</p><p>Для безопасной проверки сначала используйте короткий текстовый запрос и умеренный контекст. Затем отдельно добавляйте изображение, аудио и длинные документы. Если менять всё одновременно, невозможно понять, что вызвало нехватку памяти или падение скорости.</p><h2>Что даёт квантизация и QAT</h2><p>Google выпустил отдельные Gemma 4 checkpoints с quantization-aware training для Q4_0 и мобильного формата и заявляет, что такой подход снижает требования к памяти и уменьшает потерю качества после сжатия <a href="#src-s4" rel="noopener noreferrer">s4</a>. Это заявление разработчика; Modelium не воспроизводил сравнение.</p><p>Рекомендация Modelium: не выбирать квант только по букве <code>Q</code> или размеру файла. Проверяйте конкретный репозиторий, источник конвертации, поддерживаемый runtime и контрольную задачу.</p><p>Для текста сравнивайте точность ответа, соблюдение формата и устойчивость на нескольких примерах. Для изображения или аудио дополнительно проверяйте, что runtime действительно загрузил мультимодальную часть, а не молча перешёл к текстовому режиму.</p><h2>Как запустить Gemma 4 локально</h2><p>Самый прямой путь по сохранённому реестру — Ollama. В нём доступны теги <code>e2b</code>, <code>e4b</code>, <code>12b</code>, <code>26b</code> и <code>31b</code> <a href="#src-s8" rel="noopener noreferrer">s8</a>. Команды ниже составлены из синтаксиса <code>ollama run</code> и имён тегов в реестре; Modelium их не запускал <a href="#src-s8" rel="noopener noreferrer">s8</a>. После установки Ollama начните с малого варианта:</p><p>ollama run gemma4:e2b<br /></p><p>Если E2B запускается с запасом по памяти, но не решает контрольную задачу, следующий тест:</p><p>ollama run gemma4:e4b<br /></p><p>Для 12B используйте явный тег, чтобы обновление <code>latest</code> не изменило выбранный вариант незаметно:</p><p>ollama run gemma4:12b<br /></p><p>После загрузки задайте один короткий запрос и зафиксируйте тег, версию Ollama, операционную систему и фактическую память процесса. Затем повторите тест с изображением, если оно требуется. Для аудио сначала выберите runtime с явно документированной поддержкой аудиовхода: сохранённый реестр Ollama её не подтверждает <a href="#src-s8" rel="noopener noreferrer">s8</a>. Полный порядок установки и проверки локального API описан в связанном гайде Ollama.</p><p>Google перечисляет LM Studio, Transformers, llama.cpp, MLX, SGLang и vLLM как варианты экосистемы и ссылки для начала работы с Gemma 4 12B <a href="#src-s3" rel="noopener noreferrer">s3</a>. Рекомендация Modelium: LM Studio использовать для графического пути, llama.cpp — для ручного контроля GGUF, а серверные инструменты — когда версии библиотек и формат весов фиксируются явно.</p><h2>Как проверить результат, а не только запуск</h2><p>Успешная загрузка модели не доказывает пригодность для задачи. Подготовьте небольшой набор входов, где известен ожидаемый результат:</p><ol><li>короткий текстовый запрос на русском с проверяемыми ограничениями;</li><li>задача на структурированный ответ из трёх–пяти полей;</li><li>одно изображение с крупным читаемым текстом, если нужен vision-сценарий;</li><li>короткий чистый аудиофрагмент, если выбран E2B, E4B или 12B;</li><li>негативный пример, где модель должна признать отсутствие данных.</li></ol><p>Для каждого прогона сохраняйте точный вариант, квант, runtime, длину контекста и параметры генерации. Сравнивайте модели на одинаковых входах. Если больший вариант улучшает один пример, но требует неприемлемо больше памяти или задержки, он не становится автоматически лучшим выбором.</p><h2>Когда Gemma 4 не подходит</h2><p>Не выбирайте Gemma 4 только из-за большого контекста или мультимодальности. Если задача — OCR, embeddings или генерация изображений, сначала сравните Gemma 4 со специализированным стеком для этой задачи.</p><p>Gemma 4 также не снимает требования к проверке лицензии производных сборок. Оригинальные модели заявлены под Apache 2.0 <a href="#src-s1" rel="noopener noreferrer">s1</a> <a href="#src-s2" rel="noopener noreferrer">s2</a>, но сторонний репозиторий может добавлять собственный код, шаблон, конвертацию или компоненты. Перед коммерческим использованием проверяйте конкретный источник и сохраняйте его ревизию.</p><p>Если главная цель — первый локальный чат, начните с E2B или E4B через Ollama. Если нужен аудиовход, проверьте 12B в runtime с явно документированной поддержкой аудио. К 26B и 31B переходите после измерения меньших вариантов на своих данных, а не по месту в таблице производителя.</p>