Microservice Patterns
Retry
Tự động gọi lại khi lỗi chỉ là chập chờn tạm thời — có backoff, jitter và giới hạn số lần, để retry giúp hệ thống vượt qua trục trặc thay vì làm sự cố nặng thêm.
Sau bài này bạn sẽ
- Phân biệt lỗi tạm thời (đáng thử lại) với lỗi vĩnh viễn (không bao giờ đáng).
- Giải thích backoff luỹ thừa và vì sao jitter quan trọng khi nhiều client cùng thử lại.
- Nhận ra một cơn bão retry và biết các hàng rào bảo vệ để ngăn nó.
- Cấu hình retry với Resilience4j và làm cho thao tác được thử lại có tính idempotent.
Tổng quan
Khi một trang web không tải được, bạn bấm tải lại và thường lần thứ hai sẽ được. Hệ thống phân tán đầy những trục trặc chớp nhoáng như vậy: một pod đang khởi động lại, một kết nối TCP bị rớt, database chuyển sang node dự phòng. Pattern Retry bấm tải lại giúp bạn — tự động, có giới hạn số lần, và lịch sự.
Retry policy bao lấy một lời gọi từ xa. Nếu lời gọi thất bại với lỗi có khả năng tạm thời, policy chờ một chút rồi thử lại, tối đa một số lần nhất định. Bên gọi nhận được hoặc thành công (có thể chậm hơn một chút) hoặc lỗi cuối cùng.
Vấn đề: mạng lỗi chớp nhoáng và thường xuyên
Trong hệ thống có hàng chục service, lỗi ngắn hạn là chuyện bình thường, không phải ngoại lệ. Không có retry, mỗi trục trặc biến thành một lỗi người dùng nhìn thấy. Nhưng thử lại sai cách thì nguy hiểm: nếu lỗi do quá tải, mỗi lần thử lại lại đổ thêm tải vào đúng thành phần đang chật vật.
| Lỗi | Thử lại? | Vì sao |
|---|---|---|
| Connection reset, 503, gateway timeout | Có | Thường là tạm thời: lần sau có thể rơi vào instance khoẻ. |
| 429 Too Many Requests | Có, nhưng chậm | Tôn trọng header Retry-After; thử lại ngay chỉ làm tệ hơn. |
| 400 Bad Request, 404, lỗi validation | Không | Cùng request sẽ mãi thất bại theo cùng một cách. |
| Thẻ bị từ chối, không đủ tiền | Không | Đó là câu trả lời nghiệp vụ, không phải lỗi kỹ thuật. |
| Timeout khi ghi không idempotent | Chỉ khi có idempotency key | Lần đầu có thể đã thành công — thử lại mù quáng có thể trừ tiền hai lần. |
Giải pháp: retry có giới hạn, có backoff và jitter
- Giới hạn số lần thử — thường 2–3 lần tổng cộng. Thử nhiều hơn hiếm khi giúp ích nhưng luôn tốn kém.
- Backoff luỹ thừa — chờ 100 ms, rồi 200 ms, rồi 400 ms… để dependency đang phục hồi có khoảng thở.
- Jitter — ngẫu nhiên hoá mỗi lần chờ. Không có nó, hàng nghìn client lỗi cùng lúc sẽ thử lại cùng lúc, thành những đợt sóng đồng bộ.
- Chỉ thử lại thứ an toàn — thao tác idempotent, hoặc thao tác ghi được bảo vệ bằng idempotency key.
Bấm Chạy, hoặc dùng mũi tên để đi từng bước.
Chạy thử: từ trục trặc tới bão retry
Kịch bản A và B cho thấy retry ở trạng thái tốt nhất: lỗi tạm thời biến mất. Kịch bản C và D cho thấy mặt tối: khi Payment quá tải, retry không tạo ra năng lực — nó chỉ nhân thêm công việc. Hãy so sánh ô Số lần thử lại và mức sử dụng của Payment giữa C và D.
Bão retry và cách phòng tránh Nâng cao
Nâng cao Retry nhân lên qua các tầng. Nếu trình duyệt, API gateway, BFF và client của service đều thử lại 3 lần, một cú bấm của người dùng có thể thành 3⁴ = 81 lời gọi tới service dưới cùng — đúng lúc nó ít khả năng chịu đựng nhất. Các biện pháp phòng thủ, từ quan trọng nhất trở xuống:
- Chỉ retry ở một tầng, lý tưởng là tầng gần dependency đang lỗi nhất.
- Ngân sách retry (retry budget) — chỉ cho retry thêm tối đa ~10–20% lưu lượng mỗi client; vượt quá thì thất bại nhanh.
- Kết hợp với [Circuit Breaker](topic:circuit-breaker) đặt bên trong retry: khi mạch mở, các lần thử còn lại thất bại ngay thay vì gõ vào dependency.
- Tôn trọng gợi ý từ server — header
Retry-Aftertrên phản hồi 429/503. - Đặt [Timeout](topic:timeout) cho mỗi lần thử và một hạn chót tổng, để tổng thời gian không vượt quá mức bên gọi chịu chờ.
Triển khai với Spring Boot và Resilience4j
resilience4j:
retry:
instances:
payment:
max-attempts: 3 # tính cả lần gọi đầu
wait-duration: 100ms
enable-exponential-backoff: true
exponential-backoff-multiplier: 2
exponential-max-wait-duration: 2s
enable-randomized-wait: true # jitter
randomized-wait-factor: 0.5
retry-exceptions:
- java.io.IOException
- org.springframework.web.client.HttpServerErrorException
- org.springframework.web.client.ResourceAccessException
ignore-exceptions:
- org.springframework.web.client.HttpClientErrorException@Service
public class PaymentClient {
private final RestClient restClient;
public PaymentClient(RestClient.Builder builder) {
this.restClient = builder.baseUrl("http://payment-service").build();
}
@Retry(name = "payment")
public PaymentResult charge(ChargeRequest request) {
return restClient.post()
.uri("/charges")
// Cùng một key ở mọi lần thử: server chỉ trừ tiền tối đa một lần.
.header("Idempotency-Key", request.orderId())
.body(request)
.retrieve()
.body(PaymentResult.class);
}
}Đánh đổi
| Được | Mất | |
|---|---|---|
| Tính sẵn sàng | Lỗi tạm thời trở nên vô hình với người dùng. | Lỗi vĩnh viễn lâu lộ ra hơn. |
| Độ trễ | Một thành công chậm tốt hơn một lỗi nhanh. | Mỗi lần thử lại cộng thêm backoff và một lời gọi đầy đủ vào độ trễ đuôi. |
| Tải | Rất nhỏ khi lỗi hiếm. | Nhân tải lên trong lúc quá tải — đúng lúc bạn ít chịu nổi nhất. |
| Tính đúng đắn | An toàn cho thao tác đọc và ghi idempotent. | Nguy hiểm với thao tác ghi không idempotent nếu thiếu idempotency key. |
Lưu ý khi chạy production
- Ghi log và đếm số lần thử lại tách biệt với lần thử đầu — tỉ lệ retry tăng là cảnh báo sớm rằng một dependency đang xuống cấp.
- Giữ tổng thời gian retry nằm trong timeout của chính bên gọi; thử lại sau khi người dùng đã bỏ đi chỉ lãng phí tài nguyên của tất cả.
- Không retry bên trong một transaction database đang giữ khoá.