Сколько ядер и сколько памяти под какую задачу

Это самый частый вопрос при создании новой машины, и единственно верного ответа у него нет, потому что ответ зависит от рода работы. Тем не менее задачи делятся на несколько семейств, и у каждого семейства своё узкое место.

Почему лишнее вредит

Дать машине больше ядер, чем ей нужно, быстрее её не сделает. Лишние vCPU удлиняют очередь на сервере, и каждый раз, когда машина хочет работать, она ждёт, пока освободится больше ядер сразу. С памятью то же самое: назначенная память считается взятой у хоста, даже если по-настоящему не используется, и для остальных машин она закрыта.

Род работы задаёт узкое место

Медиасерверу нужна не столько ядерность, сколько мощность перекодирования; при аппаратном ускорении хватает двух ядер, без него не поможет никакое их число. База данных чувствительна к задержке диска: быстрый диск и отдельный поток ввода-вывода дают больше, чем лишние ядра. Обратные прокси и небольшие панельные службы просят почти ничего и годами работают на одном ядре и малой памяти. Задачи ИИ и обработки изображений хотят обратного: без проброшенной видеокарты они всё равно не работают осмысленно, а аппетит к памяти у них высокий.

Правило старта

Давать мало, измерять, потом повышать. Добавить ядро работающей машине обычно легко; забрать его назад означает снять ресурс, ставший привычкой. С памятью путь тот же, и именно память заканчивается на хосте быстрее всего.

Не решать без измерения

Что машине нужно на самом деле, выясняется после нескольких дней работы. Оценка первого дня, это лишь точка отсчёта; настоящее решение рождается из измерения под нагрузкой.