분산 라우팅에서는 목적지를 고르는 규칙과 그 규칙이 사용하는 상태 정보의 나이를 함께 확인해야 합니다.
관찰과 결정 사이
라우터가 읽은 대기열 길이는 측정 시점의 상태입니다. 그 값이 도착해 다음 요청을 배치할 때까지 다른 요청이 들어오거나 처리가 끝날 수 있습니다. 여러 라우터가 같은 관찰을 쓰면 각자의 선택이 다른 라우터의 입력 상태를 바꿉니다.
t0: 서버 A가 비어 있다고 관찰
t1: 라우터 1이 A로 요청 전송
t2: 라우터 2가 t0의 관찰을 읽음
t3: 라우터 2도 A로 요청 전송이 시간선은 상태가 오래될 수 있는 상황을 설명하는 예시입니다. 특정 제품에서 관찰한 장애나, 이런 순서가 항상 진동을 만든다는 증명은 아닙니다. 측정 주기와 서비스 시간이 실제로 어떤 영향을 주는지 확인해야 합니다.
Join-Idle-Queue의 정보 전달
Lu 외의 Join-Idle-Queue(JIQ)는 Performance Evaluation 2011에 발표된 분산 부하 분산 연구입니다. 요청이 도착할 때마다 서버를 조회하는 대신, 서버가 유휴 상태가 됐을 때 그 정보를 디스패처의 idle queue에 등록합니다. 디스패처는 등록된 서버를 사용해 새 요청을 보냅니다.
flowchart LR
S["서버가 유휴 상태가 됨"] --> T["디스패처에 유휴 정보 등록"]
R["새 요청"] --> D["디스패처"]
T --> D
D -->|"유휴 정보 있음"| I["등록된 서버로 전송"]
D -->|"유휴 정보 없음"| F["설계된 대체 배치 규칙"]
핵심은 정보 수집을 요청 도착 경로에서 분리하는 것입니다. 원 논문은 큰 시스템의 극한 모델과 시뮬레이션으로 동작을 분석합니다. 이는 특정 클러스터의 지연 백분위나 임의의 통신 지연에 대한 안정성 보장은 아닙니다.
정보의 수명과 요청 비용
유휴 정보도 실제 서버 상태와 일치하는 동안에만 의미가 있습니다. 상태 등록, 사용, 만료, 서버 장애를 구현이 어떻게 다루는지 확인해야 합니다. 다른 전달 규칙이나 작업 부하를 추가하면 원 논문의 분석 조건과 같은지 다시 판단해야 합니다.
| 관찰 대상 | 확인할 이유 |
|---|---|
| 측정 시각과 라우터 사용 시각 | 결정에 사용한 정보의 나이 확인 |
| 유휴 정보의 등록·사용 이력 | 여러 요청이 같은 정보를 소비하는지 확인 |
| 대기 요청 수와 실행 시간 | 같은 개수가 같은 작업량인지 확인 |
| 대체 배치의 빈도 | 정보가 없는 조건에서의 동작 확인 |
| 서버 장애와 재가입 | 오래된 정보를 제거하는 조건 확인 |
이 항목들은 JIQ의 정보 전달 구분을 운영 평가에 적용한 제안입니다. 특정 매개변수 값이나 제어 방정식을 검증한 결과가 아닙니다. 요청의 처리 시간이 크게 다른 경우에는 요청 수 외에 작업량을 나타내는 측정도 필요합니다.
비교의 경계
라우팅 정책의 통신 비용, 대기 시간, 실패 처리 비용은 따로 측정합니다. 비교할 때는 서버 수, 요청 도착 과정, 서비스 시간 분포, 네트워크 지연을 맞춰야 합니다. 한 논문의 이론적 균형 상태나 시뮬레이션 값을 다른 서비스의 예상 향상률로 사용할 수 없습니다.
기본 부하 분산 방식과 함께 보되, 상태 정보가 어떻게 생성되고 소비되는지도 기록합니다. 정보가 오래되는 조건을 확인한 뒤 그 조건에 맞는 정책을 비교해야 합니다. 이 글은 특정 라우터의 운영 성능을 재현하지 않았습니다.
정리
분산 라우팅은 목적지 선택과 상태 전달이 함께 만드는 동작입니다. JIQ는 유휴 정보를 미리 전달해 요청 도착 경로의 정보 수집을 줄이는 대표적 설계입니다. 다른 환경에 적용할 때는 정보의 수명과 작업 부하를 확인하고, 이론 모델과 실제 지연 측정을 구분해야 합니다.