Microservice Patterns
Fallback
Khi dependency lỗi, trả về thứ gì đó vẫn dùng được — giá trị mặc định, dữ liệu cache hay một tính năng rút gọn — để phần phụ hỏng không làm hỏng cả trang chính.
Sau bài này bạn sẽ
- Tách dependency thiết yếu khỏi dependency không thiết yếu của một request.
- Chọn giữa giá trị mặc định, dữ liệu tốt gần nhất và thu gọn tính năng.
- Hiểu cái giá của dữ liệu cũ và của những fallback không bao giờ được kiểm thử.
- Kết hợp fallback với circuit breaker để thất bại nhanh.
Nên đọc trước
Tổng quan
Nếu máy pha cà phê hỏng, quán không đóng cửa — họ bán trà và bánh, rồi dán một tấm biển. Fallback chính là phương án B đó: khi một dependency lỗi, service vẫn trả lời bằng thứ gì đó hữu ích, chỉ kém đi một chút.
Fallback thay kết quả của lời gọi thất bại bằng một phương án thay thế: giá trị mặc định cố định, giá trị gần nhất từng thành công, hoặc phiên bản nhỏ hơn của tính năng. Nó biến lỗi thành thành công ở mức suy giảm, và chỉ có ý nghĩa với những phần của phản hồi mà người dùng có thể sống thiếu.
Vấn đề: những phần tuỳ chọn mà code lại không coi là tuỳ chọn
Một trang sản phẩm hiển thị sản phẩm, giá, tồn kho — và một dải "có thể bạn thích" từ service gợi ý. Nếu code đối xử với mọi lời gọi như nhau, một service gợi ý bị treo làm hỏng cả trang. Khách không thể mua hàng chỉ vì một widget ở cuối trang không khả dụng.
Chạy thử: bốn câu trả lời cho cùng một sự cố
Recommendations bị treo từ t = 6 s tới t = 26 s. So sánh tỉ lệ thành công và p95: giá trị mặc định luôn hoạt động; câu trả lời đã cache chỉ hoạt động với sản phẩm đã được xem trước sự cố; thêm circuit breaker loại bỏ 800 ms chờ đợi trước mỗi lần fallback.
Các chiến lược fallback
| Chiến lược | Ví dụ | Cần lưu ý |
|---|---|---|
| Giá trị mặc định | Hiển thị sản phẩm bán chạy thay cho gợi ý cá nhân hoá. | Người dùng có thể không nhận ra sự suy giảm — hãy ghi log và đo lường. |
| Giá trị tốt gần nhất | Phục vụ tỉ giá hay danh sách gợi ý thành công gần nhất. | Độ cũ: quyết định bao lâu là quá cũ (và không bao giờ áp dụng cho giá bạn thu tiền). |
| Thu gọn tính năng | Ẩn dải gợi ý; tắt "theo dõi đơn hàng" nhưng vẫn giữ thanh toán. | Trải nghiệm ở trạng thái thu gọn phải được thiết kế, không phải ứng biến. |
| Nguồn thay thế | Đọc từ replica hoặc một nhà cung cấp phụ. | Nguồn thay thế cần đủ năng lực cho toàn bộ lưu lượng — và hiếm khi được kiểm thử. |
| Xếp hàng xử lý sau | Nhận đơn và trừ tiền thẻ bất đồng bộ. | Phải báo kết quả cho người dùng sau; cần một hàng đợi đáng tin cậy. |
Triển khai với Resilience4j
@Service
class RecommendationsClient {
private final RestClient recs;
private final Cache<String, List<Product>> lastGood = Caffeine.newBuilder()
.maximumSize(50_000)
.expireAfterWrite(Duration.ofHours(6)) // cũ hơn mức này thì không nên hiển thị
.build();
RecommendationsClient(RestClient.Builder builder) {
this.recs = builder.baseUrl("http://recommendations").build();
}
@CircuitBreaker(name = "recommendations", fallbackMethod = "fallback")
@TimeLimiter(name = "recommendations")
public CompletableFuture<List<Product>> forProduct(String productId) {
return CompletableFuture.supplyAsync(() -> {
List<Product> result = recs.get().uri("/for/{id}", productId).retrieve().body(PRODUCT_LIST);
lastGood.put(productId, result);
return result;
});
}
private CompletableFuture<List<Product>> fallback(String productId, Throwable cause) {
List<Product> cached = lastGood.getIfPresent(productId);
return CompletableFuture.completedFuture(cached != null ? cached : Bestsellers.TOP_10);
}
private static final ParameterizedTypeReference<List<Product>> PRODUCT_LIST = new ParameterizedTypeReference<>() {};
}Đánh đổi
| Được | Mất | |
|---|---|---|
| Trải nghiệm người dùng | Trang vẫn hoạt động khi có sự cố cục bộ. | Người dùng có thể thấy nội dung cũ hay chung chung mà không biết. |
| Độ tin cậy | Cô lập sự cố của phần không thiết yếu. | Code fallback hiếm khi chạy, nên thường hỏng đúng lúc cần. |
| Độ phức tạp | Thay đổi code nhỏ, cục bộ. | Mỗi fallback là một luồng code thứ hai phải kiểm thử và giám sát. |
Lưu ý khi chạy production
- Đếm số lần fallback thành metric và cảnh báo theo tỉ lệ — một fallback im lặng có thể che giấu sự cố hàng ngày trời.
- Thường xuyên chạy thử fallback (giả lập sự cố có chủ đích, game day); fallback chưa kiểm thử sẽ hỏng vào lúc tệ nhất.
- Giữ fallback rẻ và cục bộ. Fallback gọi tới một service từ xa khác có thể lỗi vì cùng lý do.
- Kết hợp với Circuit Breaker để fallback được phục vụ ngay thay vì sau một lần timeout.