Làm thế nào để áp dụng chiến lược Graceful Shutdown cho một ứng dụng Node.js hoặc Java Spring Boot chạy trong Kubernetes nhằm đảm bảo không bị mất kết nối của client khi deploy phiên bản mới?

Question

Accepted Answer

Bản chất vấn đề
Khi Kubernetes thực hiện việc cập nhật (rolling update) hoặc scale down một Pod, Kubernetes sẽ gửi tín hiệu SIGTERM đến tiến trình chính trong container. Mặc định, nhiều ứng dụng sẽ dừng ngay lập tức, dẫn đến việc các HTTP request đang được xử lý hoặc các kết nối WebSocket đang mở bị ngắt đột ngột, gây ra lỗi 5xx cho người dùng.
Giải pháp chuẩn Enterprise
Để đạt tính sẵn sàng cao (Availability) và độ tin cậy (Reliability), chúng ta cần cấu hình Graceful Shutdown theo các bước sau:

Lắng nghe tín hiệu từ hệ thống: Ứng dụng phải bắt sự kiện SIGTERM thay vì thoát ngay lập tức.
Ngừng nhận traffic mới: Chủ động đóng cổng kết nối HTTP để Load Balancer hoặc Kubernetes Service biết Pod này không còn nhận request mới nữa.
Hoàn thành request đang xử lý (In-flight requests): Cho phép một khoảng thời gian chờ (drain timeout) để hoàn tất các request đang chạy dở.
Đóng kết nối tài nguyên: Ngắt kết nối Database, Redis, Message Queue một cách an toàn.

Ví dụ minh họa với Node.js (Express)
const server = app.listen(3000);

process.on('SIGTERM', () => {
  console.log('Nhận tín hiệu SIGTERM. Bắt đầu Graceful Shutdown...');

// 1. Ngừng nhận request mới
  server.close(() => {
    console.log('HTTP server đã đóng.');

// 2. Đóng kết nối Database
    databasePool.end(() => {
      console.log('Đã ngắt kết nối Database.');
      process.exit(0);
    });
  });

// 3. Thiết lập timeout phòng trường hợp request bị kẹt quá lâu
  setTimeout(() => {
    console.error('Buộc đóng ứng dụng do quá thời gian chờ.');
    process.exit(1);
  }, 30000);
});
Lưu ý thực chiến

Kết hợp sử dụng preStop hook trong cấu hình Pod của Kubernetes để có độ trễ nhỏ (sleep vài giây) trước khi tiến trình nhận tín hiệu SIGTERM, giúp kube-proxy kịp cập nhật danh sách endpoints.

Làm thế nào để áp dụng chiến lược Graceful Shutdown cho một ứng dụng Node.js hoặc Java Spring Boot chạy trong Kubernetes nhằm đảm bảo không bị mất kết nối của client khi deploy phiên bản mới?

Bản chất vấn đề

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi availability & reliability liên quan cùng chủ đề