Как реализована балансировка нагрузки в Kubernetes?

Балансировка нагрузки в Kubernetes реализуется на нескольких уровнях:

1. Service (на уровне Kube-proxy):

   • Каждый Pod в Service получает уникальный IP-адрес.
   • Kube-proxy, работающий на каждом узле, следит за изменениями в Service и EndpointSlice.
   • Настраивает правила перенаправления трафика (iptables, ipvs) на кластерный IP-адрес Service.
   • Трафик, поступающий на кластерный IP Service, распределяется между Pod'ами этого Service по выбранному алгоритму (по умолчанию Round Robin).
   • Доступно два режима работы Kube-proxy: iptables (стандартный, основан на Linux netfilter) и ipvs (более производительный для больших кластеров, основан на Virtual Server API).

   apiVersion: v1
   kind: Service
   metadata:
     name: my-service
   spec:
     selector:
       app: my-app # Выбирает Pod'ы с меткой app: my-app
     ports:
       - protocol: TCP
         port: 80 # Порт на Service
         targetPort: 8080 # Порт на Pod'ах
   

2. Ingress (на уровне L7):

   • Работает как единая точка входа для внешней балансировки HTTP/S трафика.
   • Необходим контроллер Ingress (например, Nginx Ingress Controller) для реализации правил.
   • Направляет трафик на конкретный Service внутри кластера на основе пути URL, имени хоста и других правил L7.
   • Позволяет реализовать различные стратегии балансировки, SSL termination, Name-based virtual hosting.

   apiVersion: networking.k8s.io/v1
   kind: Ingress
   metadata:
     name: my-ingress
   spec:
     rules:
     - host: myapp.example.com
       http:
         paths:
         - path: /
           pathType: Prefix
           backend:
             service:
               name: my-service # Направляет трафик на этот Service
               port:
                 number: 80
   

3. LoadBalancer Service (на уровне Cloud Provider):

   • При создании Service с типом LoadBalancer Kubernetes взаимодействует с API облачного провайдера (AWS, GCP, Azure и т.д.).
   • Провайдер создает внешний балансировщик нагрузки, который направляет трафик на узлы кластера.
   • Затем Kube-proxy перенаправляет трафик на Pod'ы внутри кластера.
   • Этот тип Service обеспечивает внешний доступ и балансировку на уровне L4 (TCP/UDP) или L7 (HTTP/S) в зависимости от провайдера.

   apiVersion: v1
   kind: Service
   metadata:
     name: my-external-service
   spec:
     selector:
       app: my-app
     ports:
       - protocol: TCP
         port: 80
         targetPort: 8080
     type: LoadBalancer # Создает внешний балансировщик
   

4. Custom Load Balancers (например, HAProxy, Nginx как Pod):

   • Можно развернуть балансировщик нагрузки внутри кластера как Deployment и Service (ClusterIP или NodePort).
   • Настроить внешний трафик на этот Service.
   • Балансировщик будет самостоятельно распределять трафик между другими Pod'ами.

Таким образом, Kubernetes предлагает многоуровневый подход к балансировке нагрузки, комбинируя встроенные механизмы (Service, Kube-proxy) с внешними решениями (Ingress, Cloud Provider Load Balancers) и возможностью развертывать кастомные балансировщики.