# Ollama

Источник: https://modelium.tech/zapusk/ollama/

Ollama — открытая программа (лицензия MIT) для запуска языковых моделей на своём компьютере или сервере. Одной командой она скачивает модель и поднимает локальный API на порту 11434. Работает на macOS, Windows, Linux и в Docker, ускоряется на видеокартах NVIDIA, AMD и на Apple Silicon, а без видеокарты считает на процессоре. Общей таблицы «сколько памяти нужно» в её документации нет — ориентиром служит размер файла модели.

> [!note] **Мы это не запускали.** Команды и требования ниже приведены по официальной документации Ollama на 17 сентября 2026 года. Modelium не проверял их на своём оборудовании и не измерял скорость.

## Что это

Сами авторы описывают проект так: «Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models» [1](https://api.github.com/repos/ollama/ollama). По сути Ollama делает три вещи: скачивает готовую модель из своей библиотеки, загружает её в память компьютера и открывает локальный API, к которому подключаются чат, редактор кода или ваша программа.

Код открыт под лицензией MIT [1](https://api.github.com/repos/ollama/ollama). Последний выпуск на дату проверки — v0.34.1, опубликован 14 сентября 2026 года [2](https://api.github.com/repos/ollama/ollama/releases/latest).

## Установка

| Система | Команда или требование |
|---|---|
| macOS и Linux | `curl -fsSL https://ollama.com/install.sh \| sh` [3](https://raw.githubusercontent.com/ollama/ollama/main/README.md) |
| Windows (PowerShell) | `irm https://ollama.com/install.ps1 \| iex` [3](https://raw.githubusercontent.com/ollama/ollama/main/README.md) |
| Docker, только процессор | `docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama` [5](https://raw.githubusercontent.com/ollama/ollama/main/docs/docker.mdx) |
| Docker, видеокарта NVIDIA | `docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama` [5](https://raw.githubusercontent.com/ollama/ollama/main/docs/docker.mdx) |
| Docker, видеокарта AMD | `docker run -d --device /dev/kfd --device /dev/dri -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:rocm` [5](https://raw.githubusercontent.com/ollama/ollama/main/docs/docker.mdx) |

Требования к системе: macOS Sonoma (14) или новее [14](https://raw.githubusercontent.com/ollama/ollama/main/docs/macos.mdx), Windows 10 22H2 или новее [15](https://raw.githubusercontent.com/ollama/ollama/main/docs/windows.mdx). В Docker Desktop на macOS ускорение на видеокарте недоступно — только процессор [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx).

## Поддержка видеокарт

- **NVIDIA** — видеокарты с compute capability 5.0 и выше и драйвером версии 550 и новее. Для карт с compute capability от 5.0 до 6.2 нужен драйвер 570 или новее [4](https://raw.githubusercontent.com/ollama/ollama/main/docs/gpu.mdx).
- **AMD** — нужен драйвер ROCm v7, на Linux и на Windows [4](https://raw.githubusercontent.com/ollama/ollama/main/docs/gpu.mdx).
- **Apple** — ускорение через Metal [4](https://raw.githubusercontent.com/ollama/ollama/main/docs/gpu.mdx).

Если видеопамяти не хватает, Ollama задействует оперативную память, но ответы становятся медленнее — так сказано в быстром старте [13](https://raw.githubusercontent.com/ollama/ollama/main/docs/quickstart.mdx). Как разложилась загруженная модель, показывает команда `ollama ps`: значение `100% CPU` означает, что модель целиком лежит в оперативной памяти [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx).

## Какие модели доступны

Модели берутся из [библиотеки Ollama](https://ollama.com/library). На 17 сентября 2026 года страница библиотеки ссылается на 240 моделей; первыми на ней стоят llama3.1, deepseek-r1, nomic-embed-text, llama3.2, gemma3, qwen2.5, qwen3, mistral, gemma2 и llama3 [16](https://ollama.com/library).

Конкретная сборка выбирается тегом: сначала имя модели, после двоеточия — размер, вариант и квантизация. Примеры со страницы тегов llama3.1: `llama3.1:8b`, `llama3.1:70b`, `llama3.1:8b-instruct-q4_K_M`, `llama3.1:8b-instruct-q5_0` [17](https://ollama.com/library/llama3.1/tags). Чем ниже разрядность квантизации (q2, q3, q4), тем меньше файл и тем меньше памяти нужно — ценой качества ответа.

## Сколько памяти нужно

Общей таблицы «модель такого-то размера требует столько-то памяти» в документации Ollama нет: на дату проверки её нет ни в README, ни в вопросах и ответах, ни в разделе о железе, ни в быстром старте. Опор три.

1. **Пример из быстрого старта.** Для модели `gemma4:e2b` скачивание занимает около 7,2 ГБ, и авторы рекомендуют 8 ГБ свободной видеопамяти или общей памяти на Mac. Там же сказано, что большее окно контекста требует больше памяти [13](https://raw.githubusercontent.com/ollama/ollama/main/docs/quickstart.mdx).
2. **Параллельные запросы.** Потребность в памяти растёт пропорционально произведению `OLLAMA_NUM_PARALLEL` на `OLLAMA_CONTEXT_LENGTH` [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx). По умолчанию это один запрос и окно в 4096 токенов [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx).
3. **Фактическая загрузка.** `ollama ps` показывает размер загруженной модели и долю, попавшую на видеокарту [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx).

Отсюда практическое чтение — наше, не из документации: смотрите на размер файла выбранного тега. Он должен поместиться в видеопамять с запасом на контекст; если не помещается, модель заработает в оперативной памяти, но медленно.

## Основные команды

| Команда | Что делает |
|---|---|
| `ollama run gemma4` | скачивает модель при первом вызове и открывает диалог [7](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx) |
| `ollama pull gemma4` | только скачивает модель [7](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx) |
| `ollama ls` | список скачанных моделей [7](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx) |
| `ollama ps` | модели, загруженные в память сейчас [7](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx) |
| `ollama create -f Modelfile` | собирает свою модель по описанию [7](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx) |
| `ollama serve` | запускает сервер без окна приложения [7](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx) |

В актуальной справке список моделей выводит именно `ollama ls`: формы `ollama list` в ней нет [7](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx).

## API

Сервер слушает адрес `127.0.0.1:11434` [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx). Собственный API находится по адресу `http://localhost:11434/api`, совместимый с OpenAI — по адресу `http://localhost:11434/v1` [8](https://raw.githubusercontent.com/ollama/ollama/main/docs/api/introduction.mdx).

| Адрес | Назначение |
|---|---|
| `POST /api/generate` | продолжение текста [10](https://raw.githubusercontent.com/ollama/ollama/main/docs/api.md) |
| `POST /api/chat` | диалог [10](https://raw.githubusercontent.com/ollama/ollama/main/docs/api.md) |
| `POST /api/embed` | эмбеддинги; прежний `/api/embeddings` помечен как заменённый [10](https://raw.githubusercontent.com/ollama/ollama/main/docs/api.md) |

Совместимость с OpenAI авторы называют частичной: «Ollama supports a subset of the OpenAI API» [9](https://raw.githubusercontent.com/ollama/ollama/main/docs/api/openai-compatibility.mdx). Значит, программу, написанную под OpenAI, можно переключить на локальную модель заменой адреса, но не все возможности API будут доступны.

## Свои модели, GGUF и квантизация

Ollama работает с весами в формате GGUF [10](https://raw.githubusercontent.com/ollama/ollama/main/docs/api.md). Модель можно собрать из другой модели, из каталога safetensors или из файлов GGUF [10](https://raw.githubusercontent.com/ollama/ollama/main/docs/api.md). Описание сборки хранится в файле Modelfile — «the blueprint to create and share customized models using Ollama» [12](https://raw.githubusercontent.com/ollama/ollama/main/docs/modelfile.mdx).

Важная деталь: при импорте GGUF Ollama сама модель не квантует. Квантизацию нужно выполнить заранее сторонним инструментом, например `llama-quantize` из llama.cpp [11](https://raw.githubusercontent.com/ollama/ollama/main/docs/import.mdx).

Отдельно настраивается квантизация кэша контекста — переменная `OLLAMA_KV_CACHE_TYPE`, по умолчанию `f16` [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx). Это другой механизм, не квантизация весов модели.

## Настройки для работы в компании

| Переменная | Что задаёт | По умолчанию |
|---|---|---|
| `OLLAMA_HOST` | адрес и порт сервера [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | `127.0.0.1:11434` |
| `OLLAMA_MODELS` | каталог хранения моделей [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | — |
| `OLLAMA_KEEP_ALIVE` | сколько модель остаётся в памяти после запроса [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | 5 минут |
| `OLLAMA_NUM_PARALLEL` | число параллельных запросов на модель [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | 1 |
| `OLLAMA_MAX_LOADED_MODELS` | сколько моделей загружено одновременно [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | 3 на каждую видеокарту, 3 на процессоре |
| `OLLAMA_MAX_QUEUE` | длина очереди запросов [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | 512 |
| `OLLAMA_CONTEXT_LENGTH` | окно контекста [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | 4096 токенов |
| `OLLAMA_ORIGINS` | сайты, которым разрешён доступ из браузера [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | только `127.0.0.1` и `0.0.0.0` |
| `HTTPS_PROXY` | прокси для скачивания моделей [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) | — |

По умолчанию сервер доступен только с той же машины. Чтобы открыть его в сети, меняют `OLLAMA_HOST` — например, на `0.0.0.0:11434` [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx). Учтите, что локальные запросы ключа не требуют: «Cloud requests need an API key. Local requests do not» [8](https://raw.githubusercontent.com/ollama/ollama/main/docs/api/introduction.mdx). Поэтому открытый в сеть порт доступен всем, кто до него дотянется; сама документация предлагает выставлять сервер через прокси вроде Nginx [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx).

## Данные и работа без интернета

Заявление авторов: «Ollama runs locally. We don't see your prompts or data when you run locally» [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx). Это их слова; независимой проверки мы не проводили.

В Ollama есть и облачные модели. Их можно отключить совсем: переменной `OLLAMA_NO_CLOUD=1` или настройкой `disable_ollama_cloud` в файле `~/.ollama/server.json` [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx). Для контура, где данные не должны уходить наружу, это первая настройка, которую стоит проверить. Интернет после этого нужен только чтобы скачать модель; за прокси помогает `HTTPS_PROXY` [6](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx).

## Чего на этой странице нет

Мы не сравниваем Ollama с другими инструментами и не приводим скорость генерации: собственных замеров у Modelium нет, а чужие зависят от модели, квантизации и железа. Нет здесь и списка «лучших моделей для Ollama» — состав библиотеки меняется, актуальный список есть на её странице.

## Источники

1. [GitHub API — метаданные репозитория ollama/ollama](https://api.github.com/repos/ollama/ollama) — получено 2026-09-17
2. [GitHub API — последний выпуск ollama/ollama](https://api.github.com/repos/ollama/ollama/releases/latest) — получено 2026-09-17
3. [ollama/ollama — README, ветка main](https://raw.githubusercontent.com/ollama/ollama/main/README.md) — получено 2026-09-17
4. [Документация Ollama — поддержка железа (docs/gpu.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/gpu.mdx) — получено 2026-09-17
5. [Документация Ollama — Docker (docs/docker.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/docker.mdx) — получено 2026-09-17
6. [Документация Ollama — вопросы и ответы (docs/faq.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/faq.mdx) — получено 2026-09-17
7. [Документация Ollama — команды (docs/cli.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/cli.mdx) — получено 2026-09-17
8. [Документация Ollama — введение в API (docs/api/introduction.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/api/introduction.mdx) — получено 2026-09-17
9. [Документация Ollama — совместимость с OpenAI (docs/api/openai-compatibility.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/api/openai-compatibility.mdx) — получено 2026-09-17
10. [Документация Ollama — справочник API (docs/api.md)](https://raw.githubusercontent.com/ollama/ollama/main/docs/api.md) — получено 2026-09-17
11. [Документация Ollama — импорт моделей (docs/import.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/import.mdx) — получено 2026-09-17
12. [Документация Ollama — Modelfile (docs/modelfile.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/modelfile.mdx) — получено 2026-09-17
13. [Документация Ollama — быстрый старт (docs/quickstart.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/quickstart.mdx) — получено 2026-09-17
14. [Документация Ollama — macOS (docs/macos.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/macos.mdx) — получено 2026-09-17
15. [Документация Ollama — Windows (docs/windows.mdx)](https://raw.githubusercontent.com/ollama/ollama/main/docs/windows.mdx) — получено 2026-09-17
16. [Библиотека моделей Ollama](https://ollama.com/library) — получено 2026-09-17
17. [Библиотека Ollama — теги модели llama3.1](https://ollama.com/library/llama3.1/tags) — получено 2026-09-17