Как работает автоматическое масштабирование в Kubernetes

Механизмы масштабирования Kubernetes

• Horizontal Pod Autoscaler (HPA) — автоматически увеличивает или уменьшает количество подов в зависимости от изменения заданных метрик приложения.
• Vertical Pod Autoscaler (VPA) — автоматически увеличивает или уменьшает запросы и лимиты на ресурсы приложения: процессор и память.
• Cluster Autoscaler — автоматически увеличивает или уменьшает количество нод в кластере на базе запрашиваемых ресурсов всеми подами.

Horizontal Pod Autoscaler (HPA)

• Поддерживает нужный уровень производительности даже при внезапных всплесках трафика, за счёт поддержания количества подов, соизмеримого с текущей нагрузкой.
• Помогает оптимизировать расходы, автоматически уменьшая количество подов в периоды низкой нагрузки.

Vertical Pod Autoscaler (VPA)

• Автоматически настраивает выделенные ресурсы (CPU и память) для подов, улучшая производительность и эффективность приложения без необходимости добавления дополнительных экземпляров.
• Помогает предотвратить проблемы с производительностью, связанные с нехваткой ресурсов.

Cluster Autoscaler

• Обеспечивает всегда достаточное количество ресурсов в кластере для обработки нагрузки.
• Повышает эффективность использования ресурсов, что может существенно снизить общие расходы на инфраструктуру.

Метрики для масштабирования подов Kubernetes

Лучшие практики

• Избегайте совместного использования HPA и VPA
  HPA и VPA потенциально совместимы при использовании для одних и тех же подов, только если вы настроите HPA на кастомные или внешние метрики.
• Используйте VPA вместе с Cluster Autoscaler
  VPA может иногда указать значения запроса ресурсов, которые превышают доступные ресурсы кластера. Тогда повышается вероятность, что ресурсов не хватит и поды перейдут в состояние ожидания. Автомасштабирование кластера решает эту проблему за счёт запуска новых нод в ответ на ожидающие модули.
• Используйте HPA вместе с Cluster Autoscaler
  Это позволит согласовывать горизонтальное масштабирование подов с поведением и количеством необходимых нод в кластере.
• Убедитесь, что для всех подов указаны настройки запрашиваемых ресурсов
  Это необходимо для правильной работы Cluster Autoscaler.

Как настраивать HPA: практика

Механизм работы HPA

1. HPA постоянно опрашивает Metrics server для получения актуальных значений интересующих метрик.
2. На основании заданных порогов в собранных данных об использовании ресурсов HPA рассчитает количество необходимых реплик подов, исходя из заданных порогов в манифесте HPA.
3. Затем HPA обновляет значение количества реплик в Deployment.
4. В зависимости от установленного значения либо разворачиваются дополнительные поды, либо останавливаются запущенные до нужного количества.
5. Далее процесс повторяется.

Настройка Horizontal Pod Autoscaler

1. Поднимите лоĸальный ĸластер Kubernetes в Minikube.
2. Аĸтивируйте metrics-server. В Minikube это можно сделать, включив metrics-server при запуске:
   Скопировать код

   BASH

   minikube start --addons=metrics-server 
   Если Minikube уже был запущен без metrics-server, его можно активировать отдельно:
   Скопировать код

   BASH

   minikube addons enable metrics-server 
3. Убедитесь, что metrics-server активен. Вы можете проверить статус metrics-server с помощью команды:
   Скопировать код

   YAML

      kubectl get deployment metrics-server -n <наименование namespace>     
4. Определите запросы и лимиты ресурсов приложения. В манифесте Deployment нужно указать запросы (requests) и лимиты (limits) памяти, которые будут использоваться для мониторинга и масштабирования. Для этого потребуется добавить следующий фрагмент в deployment.yaml (значения ресурсов указаны для примера):
   Скопировать код

   YAML

      spec:
        containers:
        - name: scalable-pod-identifier
          image: scalable-pod-identifier:v1
          resources:
            requests:
              memory: "100Mi"
            limits:
              memory: "200Mi" 
5. Напишите манифест Horizontal Pod Autoscaler. Создайте файл hpa.yaml и определите в нём параметры масштабирования:
   Скопировать код

   YAML

   apiVersion: autoscaling/v2
   kind: HorizontalPodAutoscaler
   metadata:
    name: scalable-pod-identifier-hpa
   spec:
    scaleTargetRef:
      apiVersion: apps/v1
      kind: Deployment
      name: scalable-pod-identifier
    minReplicas: 1
    maxReplicas: 10
     metrics:
    - type: Resource
      resource:
        name: memory
        target:
          type: Utilization
          averageUtilization: 80 
6. Примените манифест HPA и проверьте его состояние при помощи команд:
   Скопировать код

   YAML

   kubectl apply -f hpa.yaml
   
   kubectl get hpa 

Настройка HPA по RPS

1. Настройка системы мониторинга (на примере Prometheus)
   • Установите Prometheus в вашем кластере. Рекомендуется установку Prometheus в Kubernetes производить с использованием Prometheus Operator через Helm. Лучше всего будет воспользоваться Prometheus Community Helm charts. Можете воспользоваться командами:
     Скопировать код

     YAML

     helm repo add prometheus-community <https://prometheus-community.github.io/helm-charts>
     helm repo update
     helm install prometheus-operator prometheus-community/kube-prometheus-stack 
   • Напишите и примените Service-манифест для доступа к приложению, установленному на прошлом шаге.
   • Настройте Prometheus для сбора метрик вашего приложения. Это может потребовать добавления конфигурации сбора метрик в values.yaml при установке chart или настройки ServiceMonitor/PodMonitor в Prometheus Operator.
   Пример манифеста ServiceMonitor:
   Скопировать код

   YAML

    apiVersion: monitoring.coreos.com/v1
    kind: ServiceMonitor
    metadata:
      name: scalable-pod-identifier-sm
      namespace: default
      labels:
        serviceMonitorSelector: prometheus
     spec:
      endpoints:
        - port: metrics # Имя порта из вашего Service.
      namespaceSelector:
        matchNames:
          - default
      selector:
        matchLabels:
         app: scalable-pod-identifier  # Этот тег должен совпадать с тегом в вашем Service.      
     
   Требуемый сервис можно обнаружить посредством лейбла app или же кастомного лейбла (например, prometheus-monitored), который вы можете отразить в манифесте Service.
   • ServiceMonitor можно применить как отдельный манифест или воспользоваться специальной секцией additionalServiceMonitors при настройке Prometheus Operator через Helm.
     Пример конфигурации Prometheus Operator:
     Скопировать код

     YAML

     prometheus:
      enabled: true
      additionalServiceMonitors:
        - name: app-sm
          namespace: default
         labels:
            serviceMonitorSelector: prometheus
          endpoints:
            - port: metrics # Имя порта из вашего Service.
         namespaceSelector:
           matchNames:
              - default
         selector:
            matchLabels:
                  app: scalable-pod-identifier  # Этот тег должен совпадать с тегом в вашем Service.
       
2. Интеграция с Prometheus Adapter
   Он помогает Kubernetes использовать метрики из Prometheus для HPA.
   • Установите Prometheus Adapter, который будет служить мостом между Prometheus и Kubernetes API для внешних метрик. Используйте Helm для установки Prometheus Adapter:
     Скопировать код

          helm repo add prometheus-community <https://prometheus-community.github.io/helm-charts>
          helm install my-prometheus-adapter prometheus-community/prometheus-adapter
       
   • При использовании Helm для установки или обновления Prometheus Adapter вы должны предоставить значения, которые переопределяют базовую конфигурацию. Создайте файл values.yaml, включив определение для prometheus-adapter:
     Скопировать код

     YAML

      prometheus:
        url: "http://<адрес_prometheus>"
      rules:
        default: false
        custom:
          - seriesQuery: 'http_requests_total{namespace!="",pod!=""}'
            resources:
              overrides:
                namespace: {resource: "namespace"}
                pod: {resource: "pod"}
            name:
              matches: "^http_requests_total"
              as: "http_requests_per_second"
            metricsQuery: 'sum(rate(http_requests_total{<<.LabelMatchers>>}[30s])) by (<<.GroupBy>>)'     
       
   • Установите Prometheus Adapter при помощи команды helm intall prometheus-adapter prometheus-community/prometheus-adapter -f values.yaml.
   • Воспользуйтесь командой kubectl get --raw /apis/custom.metrics.k8s.io/v1beta1, чтобы убедиться в том, что кастомная метрика http_requests_per_second стала доступна.
3. Настройка HPA для масштабирования по RPS

   • Создайте HPA, используя внешние метрики (RPS, полученные от Prometheus через Adapter). Пример манифеста HPA может выглядеть так:
   Скопировать код

   YAML

          apiVersion: autoscaling/v2
          kind: HorizontalPodAutoscaler
          metadata:
            name: scalable-pod-identifier-hpa
          spec:
            scaleTargetRef:
              apiVersion: apps/v1
              kind: Deployment
              name: scalable-pod-identifier
            minReplicas: 1
            maxReplicas: 10
            metrics:
            - type: External
              external:
                metric:
                  name: http_requests_per_second
                target:
                  type: AverageValue
                  averageValue: 10 #Целевое значение RPS на один под
       
   • Примените созданный HPA в кластере Kubernetes:
   Скопировать код

   kubectl apply -f hpa.yaml 

Задание 1

Что почитать про Kubernetes?

Итоги

• Kubernetes даёт системе возможность адаптироваться к изменчивой нагрузке и при этом сохранять требуемые показатели производительности и стабильности. А с помощью механизмов масштабирования, таких как Horizontal Pod Autoscaler, Vertical Pod Autoscaler и Cluster Autoscaler, возможно оптимизировать использование ресурсов.
• Horizontal Pod Autoscaler (HPA) автоматически увеличивает или уменьшает количество подов в зависимости от изменения заданных метрик приложения.
• Vertical Pod Autoscaler (VPA) автоматически увеличивает или уменьшает запросы и лимиты на ресурсы приложения: процессор и память.
• Cluster Autoscaler автоматически увеличивает или уменьшает количество нод в кластере на базе запрашиваемых ресурсов всеми подами.
• Чтобы определить, когда и как Kubernetes должен масштабировать приложение, нужны метрики масштабирования. Kubernetes позволяет проводить масштабирование на основании встроенных метрик (использование процессора и памяти) и кастомных метрик, которые можно настроить на основе требований конкретных приложений или бизнес-метрик. Однако для введения кастомных метрик обычно требуется интеграция с системой мониторинга (например, Prometheus).