Trong kịch bản hệ thống chịu tải cực lớn, tại sao việc sử dụng kỹ thuật Cache Stampede (Thundering Herd) lại gây sập hệ thống và cách giải quyết bằng cơ chế Probabilistic Early Recomputation là gì?

Question

Accepted Answer

Bản chất vấn đề
Cache Stampede xảy ra khi một key cực kỳ phổ biến hết hạn, khiến hàng ngàn request cùng lúc đổ dồn vào Database vì cache miss. Điều này làm Database quá tải và có thể dẫn đến cascading failure.
Giải pháp Probabilistic Early Recomputation
Thay vì đợi cache hết hạn rồi mới cập nhật, chúng ta tính toán xác suất để một request thực hiện việc làm mới cache sớm hơn thời hạn.
Công thức cơ bản:
delta * beta * log(random()) > (expiry - now)
Trong đó:

delta: Thời gian làm mới dự kiến.
beta: Hệ số điều chỉnh (thường là 1.0).
random(): Số ngẫu nhiên từ 0 đến 1.

Khi điều kiện này thỏa mãn, request đầu tiên sẽ chủ động cập nhật cache trước khi nó thực sự hết hạn, giúp giảm thiểu tối đa số lượng request đồng thời truy cập vào Database.

Trong kịch bản hệ thống chịu tải cực lớn, tại sao việc sử dụng kỹ thuật Cache Stampede (Thundering Herd) lại gây sập hệ thống và cách giải quyết bằng cơ chế Probabilistic Early Recomputation là gì?

Bản chất vấn đề

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi caching liên quan cùng chủ đề