Ollama sur VPS CPU : quels modèles tiennent en 16 à 64 Go de RAM

Ollama fait tourner des modèles de langage sur un VPS sans GPU, mais sur processeur les réponses restent lentes. Avec 16 Go de RAM, les petits modèles quantifiés jusqu’à environ 8 milliards de paramètres sont réalistes ; 32 Go ouvrent les modèles intermédiaires, et 64 Go permettent d’essayer les très gros, avec de la patience. Le test à faire : installer Ollama, charger un modèle, puis mesurer la RAM réellement occupée.

• Sur CPU, un VPS fait tourner de petits modèles quantifiés, avec des réponses lentes.
• 16 Go suffisent pour environ 8 milliards de paramètres ; 64 Go ouvrent les plus gros, lentement.
• Ollama écoute en local par défaut : ne l’ouvrez pas sur internet sans protection.
• Le plan Performance donne 48 Go de RAM à 21,99 € au 7 novembre 2026.

Installer Ollama

Sur Debian ou Ubuntu, Ollama s’installe avec son script officiel : curl -fsSL https://ollama.com/install.sh | sh. Relisez le script avant de l’exécuter si vous le souhaitez, puis vérifiez l’installation avec ollama --version.

• Le service écoute par défaut sur 127.0.0.1, port 11434 : il n’est pas accessible depuis internet.
• Sans GPU, Ollama utilise le processeur et la mémoire vive du VPS.

Choisir un modèle selon la RAM

Un modèle quantifié en 4 bits occupe à peu près la moitié de son nombre de milliards de paramètres en gigaoctets, plus la mémoire du contexte et du système. Ce sont des ordres de grandeur : la taille exacte est indiquée sur la page du modèle dans la bibliothèque Ollama.

• 16 Go : modèles jusqu’à environ 8 milliards de paramètres, en gardant de la marge pour le système.
• 32 Go : modèles d’environ 14 à 32 milliards de paramètres, plus lents.
• 48 à 64 Go : modèles d’environ 70 milliards de paramètres, réservés aux usages où la lenteur est acceptable.

Lancer et mesurer

Téléchargez un modèle avec ollama pull suivi de son nom exact, par exemple qwen2.5:7b, puis lancez-le avec ollama run. Pendant la génération, ollama ps indique la taille chargée en mémoire et free -h la RAM restante.

• Fermez les autres services pendant la mesure, pour un chiffre fiable.
• Si le système commence à utiliser le swap, choisissez un modèle plus petit.

Ne pas exposer le port

Par défaut, Ollama n’est accessible que depuis le serveur. Si vous définissez OLLAMA_HOST pour l’ouvrir au réseau, protégez-le : pare-feu, accès restreint ou tunnel SSH. Un port 11434 ouvert sur internet peut être utilisé par n’importe qui, à vos frais en calcul et en mémoire.

• Pour un usage personnel, un tunnel SSH suffit : ssh -L 11434:localhost:11434 utilisateur@vps.
• Voir sécuriser un VPS Linux pour le pare-feu.

Pourquoi choisir ACLClouds pour une IA locale

Les plans VPS sont décrits en vCPU et en Go de RAM, c’est le bon critère pour un modèle exécuté sur processeur. Le plan Performance donne 48 Go pour 21,99 € au 7 novembre 2026, et le plan Pro 64 Go pour 34,99 €.

• Le plan Essentiel, 16 Go de RAM à 9,99 €, couvre les petits modèles.
• Virtualisation KVM et serveurs situés en France.
• Panel disponible en 7 langues.