Quanti core e quanta memoria per quale lavoro

È la domanda più frequente quando si costruisce una macchina nuova, e non ha una sola risposta giusta, perché la risposta dipende dal tipo di lavoro. I lavori però si dividono in poche famiglie, e ogni famiglia ha il proprio collo di bottiglia.

Perché dare troppo fa danno

Dare a una macchina più core di quanti ne servano non la rende più veloce. Le vCPU in eccesso allungano la coda sul server, e ogni volta che la macchina vuole girare aspetta che più core si liberino insieme. Con la memoria succede lo stesso: la memoria assegnata risulta presa dall’host anche se non viene davvero usata, e resta chiusa alle altre macchine.

Il tipo di lavoro fissa il collo di bottiglia

Un server multimediale vuole potenza di transcodifica più che core; con l’accelerazione hardware due core bastano, senza di essa nessun numero di core basterà. Un database è sensibile alla latenza del disco: un disco veloce e un thread di IO dedicato cambiano più dei core in più. Reverse proxy e piccoli servizi di pannello chiedono quasi nulla e girano per anni con un core e poca memoria. I lavori di IA e di immagine vogliono l’opposto: senza una scheda grafica passata non girano in modo sensato, e la loro fame di memoria è alta.

La regola di partenza

Dare poco, misurare, poi aumentare. Aggiungere un core a una macchina in funzione è in genere facile; toglierne uno significa rimuovere una risorsa diventata abitudine. Per la memoria vale la stessa strada, ed è la risorsa che si esaurisce più in fretta sull’host.

Non decidere senza misurare

Che cosa serva davvero a una macchina emerge dopo qualche giorno di funzionamento. La stima del primo giorno è solo un punto di partenza; la decisione vera nasce da una misura presa sotto carico.