Каким образом распределять нагрузку между серверами при горизонтальном масштабировании системы?

При горизонтальном масштабировании нагрузку между серверами распределяют с помощью балансировщиков нагрузки (load balancers). Основные подходы:

• Round Robin: запросы равномерно распределяются по серверам по очереди.
• Least Connections: запрос направляется на сервер с наименьшим количеством активных соединений.
• IP Hash: запросы от одного клиента всегда направляются на один и тот же сервер.

Пример настройки простого балансировщика на Nginx:

upstream backend {
    server backend1.example.com;
    server backend2.example.com;
}

server {
    listen 80;

    location / {
        proxy_pass http://backend;
    }
}

Такой подход позволяет равномерно распределять нагрузку и обеспечивать отказоустойчивость системы.