Ollama на VPS с CPU: какие модели помещаются в 16–64 ГБ RAM

Ollama запускает языковые модели на VPS без GPU, но на процессоре ответы остаются медленными. При 16 ГБ RAM реалистичны небольшие квантованные модели примерно до 8 миллиардов параметров; 32 ГБ открывают модели среднего размера, а 64 ГБ позволяют попробовать очень большие, с терпением. Проверка: установить Ollama, загрузить модель и измерить реально занятую RAM.

• На CPU VPS запускает небольшие квантованные модели, с медленными ответами.
• 16 ГБ хватает примерно на 8 миллиардов параметров; 64 ГБ открывают большие, но медленно.
• Ollama по умолчанию слушает локально: не открывайте его в интернет без защиты.
• Тариф Performance даёт 48 ГБ RAM за 21,99 € на 7 ноября 2026 года.

Установить Ollama

На Debian или Ubuntu Ollama ставится официальным скриптом: curl -fsSL https://ollama.com/install.sh | sh. При желании прочитайте скрипт перед запуском, затем проверьте установку командой ollama --version.

• Сервис по умолчанию слушает 127.0.0.1, порт 11434: из интернета он недоступен.
• Без GPU Ollama использует процессор и RAM VPS.

Выбрать модель по объёму RAM

Квантованная модель в 4 бита занимает примерно половину своего числа миллиардов параметров в гигабайтах, плюс память на контекст и систему. Это ориентиры: точный размер указан на странице модели в библиотеке Ollama.

• 16 ГБ: модели примерно до 8 миллиардов параметров, с запасом для системы.
• 32 ГБ: модели примерно от 14 до 32 миллиардов параметров, медленнее.
• 48–64 ГБ: модели примерно на 70 миллиардов параметров, для задач, где медлительность допустима.

Запустить и измерить

Загрузите модель командой ollama pull с точным именем, например qwen2.5:7b, и запустите её командой ollama run. Во время генерации ollama ps показывает размер модели в памяти, а free -h — оставшуюся RAM.

• Во время измерения остановите другие сервисы, чтобы получить надёжную цифру.
• Если система начинает использовать swap, выберите модель меньше.

Не открывать порт

По умолчанию Ollama доступна только с самого сервера. Если вы задаёте OLLAMA_HOST, чтобы открыть её сети, защитите её: файервол, ограничение доступа или туннель SSH. Открытый в интернет порт 11434 может использовать кто угодно, за ваш счёт в вычислениях и памяти.

• Для личного использования достаточно туннеля SSH: ssh -L 11434:localhost:11434 пользователь@vps.
• Про файервол см. защита VPS Linux.

Почему стоит выбрать ACLClouds для локальной ИИ

Тарифы VPS описаны в vCPU и ГБ RAM — это верный критерий для модели, работающей на процессоре. Тариф Performance даёт 48 ГБ за 21,99 € на 7 ноября 2026 года, тариф Pro — 64 ГБ за 34,99 €.

• Тариф Essentiel, 16 ГБ RAM за 9,99 €, подходит для небольших моделей.
• Виртуализация KVM и серверы во Франции.
• Панель управления доступна на 7 языках.