Load balancer. Нагрузка делится поровну

Горизонтальное масштабирование (horizontal scaling): load balancer как единый вход в систему, health check и правило N+1.

System Design — Load balancers, caches, queues и регионы: соберите систему, которая выдержит нагрузку