Trong kiến trúc Load Balancing, tại sao việc sử dụng thuật toán Least Connections lại hiệu quả hơn Round Robin trong các hệ thống có các tác vụ xử lý với thời gian thực thi không đồng nhất?

Question

Accepted Answer

Phân tích bản chất
Thuật toán Round Robin phân phối yêu cầu theo lượt mà không quan tâm đến trạng thái thực tế của Backend Server. Trong hệ thống có các tác vụ xử lý với thời gian thực thi khác nhau (ví dụ: một request chỉ mất 10ms nhưng request khác mất 2s), Round Robin dễ dẫn đến tình trạng một server bị quá tải trong khi các server khác đang rảnh rỗi.
Cơ chế Least Connections
Thuật toán Least Connections theo dõi số lượng kết nối đang hoạt động (active connections) trên mỗi server. Khi có một yêu cầu mới, Load Balancer sẽ gửi yêu cầu đó đến server có ít kết nối nhất tại thời điểm đó.
Lợi ích thực chiến

Tối ưu hóa tài nguyên: Đảm bảo tải được phân bổ dựa trên khả năng xử lý thực tế thay vì chỉ đếm số lượng request.
Giảm độ trễ: Tránh việc request bị xếp hàng (queue) tại các server đang bận xử lý các tác vụ nặng.

Lưu ý
Cần kết hợp với cơ chế Health Check để đảm bảo server không chỉ có ít kết nối mà còn đang hoạt động ổn định (không bị treo hoặc lỗi).

Trong kiến trúc Load Balancing, tại sao việc sử dụng thuật toán Least Connections lại hiệu quả hơn Round Robin trong các hệ thống có các tác vụ xử lý với thời gian thực thi không đồng nhất?

Phân tích bản chất

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi load balancing liên quan cùng chủ đề