로드 밸런싱과 페일오버: 다중 노드는 어떻게 지능적으로 스케줄링될까

네 가지 정책 그룹 유형 비교

유형	동작	적합한 상황
select	수동 선택, 클릭한 노드만 사용	특정 노드를 고정해서 쓰는 것을 선호할 때
url-test	주기적으로 속도를 측정해 지연이 가장 낮은 노드로 자동 전환	항상 현재 가장 빠른 회선을 쓰고 싶을 때
fallback	목록 순서대로 첫 번째 사용 가능한 노드를 사용하고, 현재 노드가 장애일 때만 다음으로 전환	명확한 주/보조 노드 우선순위가 있을 때
load-balance	전략에 따라 요청을 여러 노드로 분산시켜 연결 부담을 나눔	노드 수가 충분하고 대역폭 부담을 분산하고 싶을 때

좌우로 스와이프하여 전체 표 보기

url-test: 자동으로 저지연을 추적

url-test는 설정된 간격으로 그룹 내 모든 노드에 속도 테스트 요청을 보내고 지연이 가장 낮은 노드로 자동 전환합니다. 수동으로 속도 테스트 버튼을 클릭할 필요가 없습니다.

url은 속도 테스트 시 요청할 대상 주소로, 보통 응답이 가벼운 주소를 사용합니다. interval은 테스트 간격(초)이며, 너무 자주 하면 불필요한 요청이 늘어나므로 보통 몇 분에 한 번이면 충분합니다.

fallback: 주/보조 노드 페일오버

fallback은 proxies 목록에 작성한 순서대로 앞에 있는 노드를 우선 사용합니다. 현재 사용 중인 노드가 속도 테스트에 실패(사용 불가)하면 목록의 다음 사용 가능한 노드로 자동 전환되며, 주 노드가 복구될 때까지 이어집니다. '어떤 노드의 회선이 더 좋고 어떤 게 보조인지' 명확히 알고 있는 상황에 적합합니다.

load-balance: 부담을 분산시키기

load-balance는 '가장 좋은 하나를 고르는' 것을 목표로 하지 않고, 서로 다른 요청을 여러 노드에 분산시킵니다. 일반적인 할당 전략으로는 연결 기반 일관 해싱(같은 목적지는 항상 같은 노드를 사용해 세션 중단을 방지)과 라운드 로빈이 있습니다. 노드가 여러 개 있고 어느 정도 안정적이며 대역폭과 연결 수 부담을 나누고 싶을 때 적합합니다.

일반적인 튜닝 제안

정책 그룹을 사용하기 시작했다면, 자동 스케줄링 효과를 기대에 더 가깝게 만들어 줄 몇 가지 세부 사항도 주목할 만합니다.

• 속도 테스트 주소는 가벼운 대상을 선택:url 필드는 응답 본문이 매우 작아 대역폭을 거의 쓰지 않는 주소(예: 204 상태 코드를 반환하는 헬스체크 엔드포인트)를 사용하는 것을 권장하여 속도 테스트 자체가 과도한 트래픽을 소모하지 않도록 합니다.
• interval을 적절히 설정:간격이 너무 짧으면 지나치게 자주 속도 테스트 요청이 노드에 부담을 주고, 너무 길면 장애 감지가 늦어집니다. 몇 분에 한 번이 일반적인 절충안입니다.
• tolerance 허용치:일부 구현에서는 허용치 값을 설정할 수 있어, 새 노드의 지연이 현재 노드보다 이 값만큼 더 낮을 때만 전환이 발생하여 지연이 임계값 근처에서 흔들릴 때 반복 전환되는 것을 방지합니다.
• 그룹 내 노드 수:load-balance 그룹 내 노드가 너무 적으면 부담 분산 효과가 미미합니다. 노드 수가 충분해야 '부담 분산'의 가치가 제대로 발휘됩니다.

자주 묻는 질문

url-test 그룹의 노드가 계속 왔다갔다하는 이유는?

이는 보통 여러 노드의 지연이 매우 비슷해서 매번 속도 테스트의 작은 변동만으로도 '최저 지연' 순위가 바뀌기 때문입니다. interval을 적절히 늘리거나 tolerance 허용치를 사용하는 설정으로 이런 빈번한 전환을 효과적으로 줄일 수 있습니다.

fallback 그룹의 노드가 모두 사용 불가로 표시되면?

먼저 속도 테스트 주소 자체가 정상적으로 접근 가능한지 확인하세요. 테스트 대상 주소가 방화벽에 차단되면 모든 노드가 잘못 사용 불가로 판정됩니다. 더 안정적이고 접속량이 적은 테스트 주소로 바꿔 볼 수도 있습니다.

select, url-test, load-balance를 조합해서 쓸 수 있을까?

물론 가능하며, 오히려 추천하는 방식입니다. 노드를 지역별로 여러 url-test 하위 그룹(예: '홍콩 자동 선택', '일본 자동 선택')으로 나누고, 가장 바깥에 select 그룹을 두어 지역을 수동으로 선택하면, 수동 제어의 유연성을 유지하면서 그룹 내 자동 최적화의 편리함도 누릴 수 있습니다.

요약

노드가 하나나 둘뿐이라면 select로 수동 전환하면 충분합니다. 노드 수가 늘어나면 url-test가 수동 속도 테스트와 전환의 번거로움을 줄여주고, fallback은 명확한 주/보조 관계가 있는 상황에 적합하며, load-balance는 품질이 비슷한 여러 노드에 부담을 분산하는 데 더 적합합니다.