Hoeveel cores en hoeveel geheugen voor welk werk

Dit is de meest gestelde vraag bij het bouwen van een nieuwe machine, en er is geen enkel juist antwoord, want het antwoord hangt af van het soort werk. Toch vallen taken in een paar families uiteen, en elke familie heeft haar eigen knelpunt.

Waarom te veel geven schaadt

Een machine meer cores geven dan zij nodig heeft, maakt haar niet sneller. Extra vCPU verlengt de rij op de server, en telkens als de machine wil draaien wacht zij tot er meer cores tegelijk vrijkomen. Met geheugen gaat het net zo: toegewezen geheugen geldt als van de host genomen, ook als het niet echt wordt gebruikt, en het is gesloten voor de andere machines.

Het soort werk bepaalt het knelpunt

Een mediaserver wil eerder transcodeerkracht dan cores; met hardwareversnelling volstaan twee cores, zonder is geen aantal cores genoeg. Een database is gevoelig voor schijflatentie: een snelle schijf en een eigen IO-thread maken meer verschil dan extra cores. Reverse proxies en kleine paneeldiensten vragen bijna niets en draaien jaren op één core en weinig geheugen. AI- en beeldwerk wil het omgekeerde: zonder doorgegeven grafische kaart draait het sowieso niet zinvol, en de geheugenhonger is groot.

De startregel

Weinig geven, meten, dan verhogen. Een core toevoegen aan een draaiende machine is meestal makkelijk; er een terugnemen betekent een middel weghalen dat gewoonte is geworden. Voor geheugen geldt dezelfde weg, en geheugen raakt op de host het snelst op.

Niet beslissen zonder te meten

Wat een machine echt nodig heeft, blijkt nadat zij een paar dagen heeft gedraaid. De schatting van de eerste dag is slechts een beginpunt; het echte besluit komt uit een meting onder belasting.