Design to Scale
Cache Invalidation
Quyết định cách để bản sao trong cache biết database đã thay đổi — chờ TTL, xoá khi ghi, hay write-through — và đo xem dữ liệu người dùng thấy thực sự cũ tới mức nào.
Sau bài này bạn sẽ
- So sánh hết hạn theo TTL, xoá khi ghi và write-through.
- Đo độ cũ của dữ liệu thay vì đoán.
- Nhận ra race condition đưa giá trị cũ quay lại sau khi đã xoá.
- Chọn TTL như một lưới an toàn, không phải cơ chế duy nhất.
Nên đọc trước
Tổng quan
Cửa hàng in tem giá từ bảng giá. Quản lý đổi giá rồi mà tem cũ vẫn nằm trên kệ cho tới khi có người thay. Cache invalidation chính là chuyện quyết định ai thay tem, và thay lúc nào.
Với cache-aside, cache giữ bản sao dữ liệu từ database. Khi dữ liệu đổi, bản sao sai cho tới khi bị xoá hoặc thay thế. Ba cách phổ biến khác nhau ở chỗ ai làm việc đó: thời gian (TTL), người ghi xoá key, hoặc người ghi cập nhật key.
Chạy thử
Mỗi giá trị trong cache nhớ version database mà nó được lấy ra, nên mô phỏng đếm chính xác lượt hit trả dữ liệu cũ. So sánh A, B và C, rồi giảm TTL ở A để thấy sự đánh đổi giữa dữ liệu cũ và lượt đọc database.
Các chiến lược
| Chiến lược | Khi ghi | Độ cũ | Cần để ý |
|---|---|---|---|
| Chỉ TTL | Không làm gì | Tối đa bằng TTL | TTL ngắn thì giảm tỉ lệ hit; TTL dài thì hiện dữ liệu cũ |
| Xoá khi ghi | Cập nhật DB rồi xoá key | Rất nhỏ, do race | Một lượt đọc chạy song song có thể cache lại giá trị cũ |
| Write-through | Cập nhật DB rồi set giá trị mới | Rất nhỏ | Cache cả những giá trị chẳng ai đọc; hai người ghi có thể tranh nhau |
| Theo event | Consumer của event thay đổi (CDC) xoá key | Bằng độ trễ event | Thêm thành phần; dùng được xuyên service |
Race condition của xoá khi ghi
- Người đọc bị miss và đọc version 1 từ database.
- Người ghi cập nhật database lên version 2 và xoá key (lúc này chưa có gì để xoá).
- Người đọc lưu version 1 vào cache — giờ thì dữ liệu cũ nằm đó cho tới khi hết TTL.
Đó là lý do B chưa hoàn toàn bằng 0. Cách khắc phục: đặt TTL ngắn làm lưới an toàn, xoá lần hai sau một khoảng trễ, hoặc lưu version kèm giá trị và từ chối ghi đè lên version mới hơn.
Triển khai
@Transactional
public void changePrice(long productId, Money price) {
products.updatePrice(productId, price);
// Chỉ xoá sau khi transaction commit, nếu không người đọc có thể cache lại dòng cũ.
TransactionSynchronizationManager.registerSynchronization(new TransactionSynchronization() {
@Override public void afterCommit() { redis.delete("product:" + productId); }
});
}
public Product getProduct(long productId) {
String key = "product:" + productId;
Product cached = redis.get(key);
if (cached != null) return cached;
Product fresh = products.findById(productId).orElseThrow();
redis.set(key, fresh, Duration.ofMinutes(10)); // TTL giới hạn thiệt hại nếu có lần invalidate bị sót
return fresh;
}Đánh đổi
| Được | Mất | |
|---|---|---|
| Độ mới | Invalidate chủ động giữ dữ liệu mới trong vòng vài mili giây. | Mọi luồng ghi đều phải nhớ invalidate — sót một luồng là dữ liệu cũ nằm đó tới hết TTL. |
| Tải | Write-through giữ key nóng luôn nằm trong cache qua các lần cập nhật. | Xoá khi ghi biến mỗi lần cập nhật key nóng thành một lượt miss. |
| Đơn giản | Chỉ dùng TTL thì chẳng cần phối hợp gì. | Độ cũ bằng đúng TTL; bạn đổi độ mới lấy tỉ lệ hit. |
Lưu ý khi chạy production
- Luôn giữ TTL, kể cả khi đã invalidate chủ động.
- Invalidate từ một chỗ duy nhất — lý tưởng là event thay đổi (CDC) — để luồng ghi mới không thể quên.
- Quyết định mức cũ chấp nhận được cho từng loại dữ liệu: giá và tồn kho tính bằng giây, ảnh đại diện tính bằng giờ.
- Lấy mẫu giá trị trong cache so với database ở production để đo độ cũ thực tế.