Trong quá trình nâng cấp phiên bản ứng dụng (Rolling Update), việc ngắt kết nối đột ngột từ Load Balancer tới các Backend Server cũ gây ra ảnh hưởng gì và cơ chế nào giải quyết triệt để vấn đề này?

Question

Accepted Answer

Hiện tượng lỗi
Khi quản trị viên tiến hành dừng một Backend Server để cập nhật phiên bản mới, nếu Load Balancer lập tức cắt đứt kết nối hoặc ngừng định tuyến, các request đang được xử lý dở dang (ví dụ: giao dịch thanh toán, upload file lớn) sẽ bị hủy ngang lập tức, dẫn đến lỗi 502 Bad Gateway hoặc lỗi kết nối cho người dùng cuối.
Cơ chế giải quyết: Connection Draining (Graceful Shutdown)

Chuyển trạng thái sang Draining: Khi chuẩn bị bảo trì hoặc cập nhật server, hệ thống sẽ đánh dấu server đó ở trạng thái Draining hoặc Graceful Stop trên Load Balancer.
Ngừng nhận request mới: Load Balancer sẽ không phân phối bất kỳ request mới nào đến server này nữa, nhưng vẫn tiếp tục duy trì các kết nối hiện tại đang mở.
Hoàn tất request cũ: Server tiếp tục xử lý nốt các request đang dang dở cho đến khi hoàn tất hoặc đạt đến thời gian chờ tối đa (Draining Timeout, ví dụ 30 giây).
Ngắt kết nối an toàn: Sau khi tất cả các kết nối cũ đã được đóng lại một cách tự nhiên, quá trình tắt hẳn server mới được diễn ra an toàn.

Trong quá trình nâng cấp phiên bản ứng dụng (Rolling Update), việc ngắt kết nối đột ngột từ Load Balancer tới các Backend Server cũ gây ra ảnh hưởng gì và cơ chế nào giải quyết triệt để vấn đề này?

Hiện tượng lỗi

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi load balancing liên quan cùng chủ đề