Ollama su un VPS con CPU: quali modelli stanno in 16-64 GB di RAM

Ollama fa girare modelli linguistici su un VPS senza GPU, ma su processore le risposte restano lente. Con 16 GB di RAM sono realistici i piccoli modelli quantizzati fino a circa 8 miliardi di parametri; 32 GB aprono i modelli intermedi e 64 GB permettono di provare quelli molto grandi, con pazienza. La prova: installare Ollama, caricare un modello e misurare la RAM realmente usata.

• Su CPU, un VPS fa girare piccoli modelli quantizzati, con risposte lente.
• 16 GB bastano per circa 8 miliardi di parametri; 64 GB aprono i più grandi, lentamente.
• Ollama ascolta in locale di default: non esponetelo a internet senza protezione.
• Il piano Performance offre 48 GB di RAM a 21,99 € al 7 novembre 2026.

Installare Ollama

Su Debian o Ubuntu, Ollama si installa con lo script ufficiale: curl -fsSL https://ollama.com/install.sh | sh. Se volete, leggete lo script prima di eseguirlo, poi verificate l’installazione con ollama --version.

• Il servizio ascolta di default su 127.0.0.1, porta 11434: non è raggiungibile da internet.
• Senza GPU, Ollama usa il processore e la RAM del VPS.

Scegliere un modello in base alla RAM

Un modello quantizzato a 4 bit occupa circa la metà del suo numero di miliardi di parametri in gigabyte, più la memoria per il contesto e il sistema. Sono ordini di grandezza: la dimensione esatta è indicata nella pagina del modello nella libreria Ollama.

• 16 GB: modelli fino a circa 8 miliardi di parametri, lasciando margine al sistema.
• 32 GB: modelli da circa 14 a 32 miliardi di parametri, più lenti.
• 48-64 GB: modelli da circa 70 miliardi di parametri, per usi in cui la lentezza è accettabile.

Eseguire e misurare

Scaricate un modello con ollama pull seguito dal nome esatto, per esempio qwen2.5:7b, e avviatelo con ollama run. Durante la generazione, ollama ps mostra la dimensione caricata in memoria e free -h la RAM rimasta.

• Fermate gli altri servizi durante la misura, per un valore affidabile.
• Se il sistema inizia a usare lo swap, scegliete un modello più piccolo.

Non esporre la porta

Di default, Ollama è raggiungibile solo dal server. Se impostate OLLAMA_HOST per aprirlo alla rete, proteggetelo: firewall, accesso limitato o tunnel SSH. Una porta 11434 aperta su internet può essere usata da chiunque, a vostre spese in calcolo e memoria.

• Per uso personale basta un tunnel SSH: ssh -L 11434:localhost:11434 utente@vps.
• Per il firewall, vedere proteggere un VPS Linux.

Perché scegliere ACLClouds per l’IA locale

I piani VPS sono descritti in vCPU e GB di RAM, il criterio giusto per un modello eseguito su processore. Il piano Performance offre 48 GB a 21,99 € al 7 novembre 2026, e il piano Pro 64 GB a 34,99 €.

• Il piano Essentiel, 16 GB di RAM a 9,99 €, copre i modelli piccoli.
• Virtualizzazione KVM e server situati in Francia.
• Pannello disponibile in 7 lingue.