Trong quá trình vận hành hệ thống microservices có tích hợp CDN, hiện tượng Cache Stampede (hoặc Thundering Herd) thường xảy ra khi nào, gây hậu quả gì nghiêm trọng cho Origin Server và kỹ sư cần áp dụng những giải pháp nào ở tầng CDN để triệt tiêu hiện tượng này?

Question

Accepted Answer

Bản chất hiện tượng Cache Stampede
Cache Stampede xảy ra khi một tài nguyên cực kỳ hot (ví dụ: trang chủ của một sự kiện Flash Sale) bị hết hạn cache (Expired) trên toàn bộ hệ thống CDN Edge nodes cùng một thời điểm. Hàng triệu request đồng thời đổ về Edge node, và vì tài nguyên không còn trong cache, tất cả các Edge nodes này đồng loạt chuyển tiếp (forward) request đó về Origin Server gây ra hiện tượng nghẽn cổ chai đột ngột.
Hậu quả đối với hệ thống Enterprise

Origin Server Overload: CPU và Memory của các service backend tăng vọt lên 100%, dẫn đến hiện tượng timeout hàng loạt.
Cascading Failure: Hệ thống cơ sở dữ liệu (Database) đi kèm bị sập do quá nhiều câu lệnh truy vấn đồng thời.
Sập toàn hệ thống (Downtime): Trang web hoàn toàn không thể truy cập, ảnh hưởng nghiêm trọng đến doanh thu và uy tín doanh nghiệp.

Giải pháp xử lý chuẩn tại tầng CDN
Để giải quyết triệt để vấn đề này, các nhà cung cấp CDN hiện đại và kỹ sư cấu hình thường áp dụng các cơ chế sau:

Request Collapsing (Hay còn gọi là Locking / Stale-While-Revalidate):

Khi một tệp tin hết hạn cache và có nhiều request gửi đến cùng lúc, CDN Edge Server chỉ cho phép một request duy nhất đi về Origin Server để lấy nội dung mới. Các request đến sau sẽ được giữ lại (collpased/queued) tại Edge Server cho đến khi request đầu tiên trả về kết quả.
Ngay sau khi có dữ liệu mới, kết quả đó được ghi vào cache và phân phối đồng loạt cho tất cả các request đang chờ.

Sử dụng Stale Content (Serve Stale):

Cấu hình cho phép CDN tiếp tục phục vụ nội dung cũ (stale cache) cho người dùng trong lúc một tiến trình ngầm đang âm thầm đi lấy dữ liệu mới từ Origin Server (background refresh).
Cấu hình ví dụ trong tiêu đề HTTP Cache-Control:
Cache-Control: public, max-age=600, stale-while-revalidate=30
(Ý nghĩa: Sau 600 giây, cache hết hạn nhưng CDN vẫn được phép trả về dữ liệu cũ trong vòng 30 giây tiếp theo trong lúc đang cập nhật dữ liệu mới từ origin).

Probabilistic Early Expiration (Xsked):

Thuật toán tự động làm mới cache ngẫu nhiên trước khi thời gian TTL thực sự kết thúc đối với các tài nguyên có tần suất truy cập cực cao, giúp phân tán thời điểm gọi về origin ra các khoảng thời gian khác nhau.

Kinh nghiệm thực chiến
Khi phỏng vấn ở cấp độ Middle, bạn cần nhấn mạnh rằng việc cấu hình stale-while-revalidate và bật tính năng Request Collapsing trên bảng quản trị của CDN (như Cloudflare, CloudFront, Akamai) là tuyến phòng thủ đầu tiên và hiệu quả nhất để bảo vệ Origin Server khỏi các đợt tăng trưởng traffic đột biến.

Bản chất hiện tượng Cache Stampede

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi cdn liên quan cùng chủ đề