Реализация взвешенной балансировки нагрузки в программном балансировщике нагрузки и приложение для динамической балансировки нагрузки (отчет стажера)

Меня зовут Масатака Сиба, я учусь на первом курсе магистратуры Высшей школы экстренных наук Университета Кагава. Во время летней стажировки 2025 года я в течение 6 недель работал в штаб-квартире облачной инфраструктуры LINE Yahoo и работал над разработкой дополнительных функций для программного балансировщика нагрузки, предоставляемого в частном облаке.

Программный балансировщик нагрузки на LINE Yahoo

ЛИНИЯ Yahoo! разработала собственный программный балансировщик нагрузки, работающий на уровне 4 на базе Linux XDP (eXpress Data Path), который можно использовать из нашей внутренней облачной инфраструктуры.

Во время стажировки я работал над разработкой функции «Взвешенная балансировка нагрузки» для этого программного обеспечения L4LB (Layer 4 Load Balancer), которая позволяет устанавливать соотношение количества запросов, передаваемых на внутренний сервер. Мы также разработали «Динамическую взвешенную балансировку нагрузки», которая динамически регулирует этот вес в зависимости от состояния нагрузки внутреннего сервера. Каждый из них будет представлен в первой и второй половине статьи.

Взвешенная балансировка нагрузки

Статическая взвешенная балансировка нагрузки

Используемый в настоящее время L4LB равномерно распределяет запросы на обычные внутренние серверы, принимая во внимание сеансы. Однако вы можете захотеть изменить скорость запросов от сервера к серверу. Например, при замене сервера или обновлении программного обеспечения, работающего на сервере, вы можете начать с небольшого количества запросов, а затем постепенно увеличивать количество запросов. Кроме того, в случае гетерогенной конфигурации с бэкэнд-серверами с разной производительностью объем запросов необходимо корректировать в соответствии с соотношением производительности, а не равномерно.

Чтобы решить эти проблемы, мы реализовали функцию «Статическая взвешенная балансировка нагрузки», которая позволяет L4LB регулировать объем трафика с фиксированным соотношением.

Справочная таблица маглева

Как программное обеспечение L4LB распределяет трафик?