Hiện tượng Cache Stampede (hay Dog-piling) xảy ra như thế nào trong hệ thống sử dụng Cache và lập trình viên Junior cần áp dụng giải pháp cơ bản nào để khắc phục?

Question

Accepted Answer

Cache Stampede là hiện tượng xảy ra khi một Key cực kỳ quan trọng (Hot Key) trong hệ thống cache hết hạn (TTL) đúng thời điểm có một lượng lớn request đồng thời đổ vào. Do dữ liệu không còn trong cache, tất cả các request này đồng loạt chuyển xuống truy vấn trực tiếp vào Database, gây ra hiện tượng quá tải (Database Spike) hoặc làm sập Database.
1. Luồng diễn ra sự cố

Key product:123 có TTL là 1 giờ hết hạn.
Hàng nghìn người dùng truy cập cùng lúc vào thời điểm đó.
Tất cả các luồng đều kiểm tra cache và nhận kết quả Cache Miss.
Tất cả các luồng đồng loạt gọi truy vấn SQL nặng tới Database.
Database bị nghẽn CPU/Memory và trả về lỗi.

2. Giải pháp cơ bản ở cấp độ Junior

Mutex Lock / Locking Mechanism: Khi phát hiện Cache Miss, chỉ cho phép một luồng duy nhất đi xuống Database để lấy dữ liệu và nạp lại vào cache. Các luồng còn lại sẽ chờ đợi hoặc đọc lại cache sau một khoảng thời gian ngắn.
Phân rã thời gian sống (Jitter / Randomized TTL): Thay vì đặt tất cả các Key quan trọng có cùng một thời điểm hết hạn cố định (ví dụ: đúng 00:00), hãy cộng thêm một khoảng thời gian ngẫu nhiên nhỏ vào TTL (ví dụ: 3600 + random(1-300) giây). Điều này giúp phân tán thời điểm hết hạn của các Key.

3. Ví dụ mã giả áp dụng Mutex Lock
def get_product_data(product_id):
    data = redis.get(f"product:{product_id}")
    if data is not None:
        return deserialize(data)

# Thử lấy khóa phân tán để query DB
    lock = redis.set(f"lock:product:{product_id}", "locked", nx=True, ex=10)
    if lock:
        try:
            data = database.query(product_id)
            redis.set(f"product:{product_id}", serialize(data), ex=3600)
            return data
        finally:
            redis.delete(f"lock:product:{product_id}")
    else:
        # Nếu không lấy được lock, đợi một lát rồi thử đọc lại cache
        sleep(0.1)
        return get_product_data(product_id)

Hiện tượng Cache Stampede (hay Dog-piling) xảy ra như thế nào trong hệ thống sử dụng Cache và lập trình viên Junior cần áp dụng giải pháp cơ bản nào để khắc phục?

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi caching liên quan cùng chủ đề