Перейти к содержанию

Настройка балансировки нагрузки с масштабированием в GCP

Описание

Экземпляры WCS на Google Cloud Platform поддерживают балансировку нагрузки при помощи TCP Network Load Balancer.

При этом WebSocket-соединения будут автоматически распределены между активными серверами в балансировщике нагрузки. В случае применения заданной политики масштабирования (если целевой показатель, например, загрузка процессора на сервере, достиг заданного значения) будут запущены новые экземпляры сервера и автоматически добавлены в балансировщик.

Для настройки необходимо создать следующие компоненты

  • Образ диска, который будет использоваться в шаблоне при создании нового экземпляра
  • Шаблон, на основе которого будут создаваться новые экземпляры сервера при масштабировании
  • Группа масштабирования
  • Балансировщик нагрузки
  • Настройки контроля активности сервера

Рассмотрим пример развертывания CDN для доставки WebRTC потоков, состоящей из одного Origin и группы масштабирования Edge (от 1 до 3 экземпляров) с масштабированием по загрузке процессора.

Подготовка серверов

  1. Разверните Origin и Edge серверы, как описано здесь. Назначьте Origin серверу статический внутренний IP адрес. Зарезервируйте статический внешний IP адрес для балансировщика.

  2. Настройте CDN на стороне Origin сервера

    cdn_enabled                             = true
cdn_ip                                  = <origin_internal_ip>
cdn_role                                = origin
cdn_nodes_resolve_ip                    = false

  3. Настройте CDN на стороне Edge сервера

    cdn_enabled                             = true
cdn_ip                                  = <edge_internal_ip>
cdn_point_of_entry                      = <origin_internal_ip>
cdn_role                                = edge
cdn_nodes_resolve_ip                    = false

  4. В настройке Edge сервера укажите параметр

    http_enable_root_redirect=false

  5. Подготовьте и импортируйте SSL сертификаты на Origin и Edge серверы. Не рекомендуется использовать Let'sEncrypt, поскольку это приведет к необходимости обновлять образ диска Edge сервера каждые три месяца.

Создание образа диска Edge сервера

  1. Остановите экземпляр Edge сервера

  2. Перейдите в раздел Compute Engine - Images, нажмите Create image. Выберите в качестве диска-источника диск экземпляра Edge сервера и нажмите Create
    После создания образа диска не удаляйте исходный экземпляр Edge сервера, он потребуется при изменении настроек.

Создание шаблона Edge сервера

  1. Перейдите в раздел Compute Engine - Instance templates, нажмите Create image. Выберите конфигурацию ВМ

  2. В разделе Boot disk нажмите Change

    На вкладке Custom images выберите образ диска Edge сервера

  3. На вкладке Security добавьте публичный ключ для доступа к серверу по SSH, если у Вас нет ключей, привязанных к проекту, и нажмите Create

Создание группы масштабирования

  1. Перейдите в раздел Compute Engine - Instance groups, нажмите Create instance group. Выберите регион и зону расположения группы, укажите шаблон Edge сервера

  2. Выберите режим Autoscale по метрике CPU utilization, укажите целевую величину 80% и максимальное количество экземпляров 3

  3. Включите проверку состояния ВМ (Auto healing) и создайте настройку проверки сервера. Укажите протокол TCP, порт 8081 и запрос /health-check

    Настройте критерии проверки и нажмите Create для возврата к редактированию группы

  4. Разверните пункт Advanced creation options и установите переключатель Do not retry machine creation, затем нажмите Create
    Группа масштабирования будет создана, и один экземпляр будет запущен

Создание балансировщика нагрузки

  1. Перейдите в раздел Network – Load balancers и нажмите Create load balancer. Выберите TCP Load Balancing

  2. Выберите внешний балансировщик From internet to my VMs и регион расположения балансировщика

  3. В разделе Backend configuration, на вкладке Select existing instance groups выберите группу масштабирования Edge серверов и укажите привязку сессии к IP и протоколу клиента

  4. Выберите Create health check. Создайте настройку проверки сервера, укажите порт 8081 и запрос /

  5. В разделе Frontend configuration создайте конфигурации для TCP портов 8081, 8080, 8443, 8444 для HTTP(S) и WS(S). Укажите статический внешний IP адрес для балансировщика

    Вы можете добавить другие необходимые порты (1935 для RTMP подписчиков, 8082, 8445 для HLS и т.д в зависимости от сценария использования Edge серверов)

  6. Нажмите Create. Балансировщик нагрузки запустится

Тестирование балансировщика нагрузки

  1. Войдите в веб интерфейс Origin сервера, опубликуйте поток test в примере Two Way Streaming

  2. Войдите в веб-интерфейс Edge сервера, используя IP адрес балансировщика нагрузки. Проиграйте поток test в примере Player

Изменение настроек Edge серверов

Для того, чтобы изменить настройки Edge серверов в группе масштабирования, например, обновить SSL сертификаты, необходимо обновить образ диска Edge сервера следующим образом:

  1. Отключите масштабирование и удалите все экземпляры Edge серверов в группе

  2. Запустите исходных экземпляр Edge сервера

  3. Внесите необходимые изменения в настройки (например, обновите SSL сертификаты)

  4. Остановите исходный экземпляр Edge сервера

  5. Удалите образ диска Edge сервера

  6. Создайте новый образ диска Edge сервера с тем же именем образа (например test-edge-image-1)

  7. Включите масштабирование в группе (настройки масштабирования при этом сохранятся)