Hur många kärnor och hur mycket minne för vilket arbete

Detta är den vanligaste frågan när en ny maskin byggs, och den har inget enda rätt svar, eftersom svaret beror på typen av arbete. Ändå faller uppgifter i några få familjer, och varje familj har sin egen flaskhals.

Varför för mycket skadar

Att ge en maskin fler kärnor än den behöver gör den inte snabbare. Extra vCPU förlänger kön på servern, och varje gång maskinen vill köra väntar den på att fler kärnor frigörs samtidigt. Med minne är det likadant: tilldelat minne räknas som taget från värden även när det inte används på riktigt, och är stängt för de andra maskinerna.

Arbetets typ sätter flaskhalsen

En mediaserver vill ha omkodningskraft snarare än kärnor; med hårdvaruacceleration räcker två kärnor, utan den hjälper inget antal kärnor. En databas är känslig för disklatens: en snabb disk och en egen IO-tråd gör mer skillnad än extra kärnor. Omvända proxyer och små paneltjänster begär nästan ingenting och kör i åratal på en kärna och lite minne. AI- och bildarbete vill tvärtom: utan ett vidarekopplat grafikkort kör de ändå inte meningsfullt, och deras minnesaptit är stor.

Startregeln

Ge lite, mät, höj sedan. Att lägga till en kärna på en maskin i drift är oftast lätt; att ta tillbaka en betyder att ta bort en resurs som blivit vana. För minne gäller samma väg, och minne är den resurs som tar slut snabbast på värden.

Besluta inte utan att mäta

Vad en maskin verkligen behöver visar sig efter några dagars drift. Första dagens gissning är bara en utgångspunkt; det riktiga beslutet kommer från en mätning under last.