Rate limiter. Защита от перегрузки

Rate limiter перед load balancer: быстрый ответ 429 вместо перегрузки, лимиты на клиента, backpressure и retries без лавины.

System Design — Load balancers, caches, queues и регионы: соберите систему, которая выдержит нагрузку