Khi một Load Balancer thực hiện cơ chế Health Check đối với các Backend Server, tại sao việc cấu hình khoảng thời gian giữa các lần kiểm tra (Interval) quá ngắn lại có thể vô tình làm sập hệ thống?

Question

Accepted Answer

Khái niệm Health Check
Health Check là cơ chế mà Load Balancer định kỳ gửi các tín hiệu (như TCP SYN, HTTP GET tới endpoint /health) đến các Backend Server để kiểm tra xem server đó có còn hoạt động tốt hay không.
Rủi ro khi cấu hình Interval quá ngắn

Gây ra tải giả (Artificial Load): Nếu hệ thống có hàng chục Load Balancer và hàng trăm Backend Server, việc đặt Interval là 1 giây sẽ tạo ra một lượng lớn request kiểm tra liên tục đổ vào ứng dụng, tiêu tốn tài nguyên CPU và mạng một cách vô ích.
Hiệu ứng thảm họa (Cascading Failure): Khi một Backend Server gặp tải cao tạm thời và phản hồi chậm với Health Check, Load Balancer có thể hiểu nhầm là server này đã 'chết' và loại bỏ nó khỏi pool. Việc này ngay lập tức dồn toàn bộ lượng traffic thực tế còn lại lên các server khác, khiến chúng tiếp tục quá tải và sập theo dây chuyền.

Best Practices trong thiết kế

Cấu hình cân bằng: Đặt Interval ở mức hợp lý (ví dụ: 10 giây đến 30 giây).
Sử dụng cơ chế Threshold: Đặt ngưỡng xác định lỗi (Unhealthy Threshold), ví dụ Load Balancer phải nhận diện thất bại liên tục 3 lần mới chính thức đánh dấu server là chết, tránh việc loại bỏ nhầm server do nghẽn mạng tạm thời.

Khi một Load Balancer thực hiện cơ chế Health Check đối với các Backend Server, tại sao việc cấu hình khoảng thời gian giữa các lần kiểm tra (Interval) quá ngắn lại có thể vô tình làm sập hệ thống?

Khái niệm Health Check

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi load balancing liên quan cùng chủ đề