Đi tới nội dung chính
System Design Lab
Microservice Patterns

Retry

Tự động gọi lại khi lỗi chỉ là chập chờn tạm thời — có backoff, jitter và giới hạn số lần, để retry giúp hệ thống vượt qua trục trặc thay vì làm sự cố nặng thêm.

Cơ bản 8 phút đọc· Cập nhật 2026-11-18

Sau bài này bạn sẽ

  • Phân biệt lỗi tạm thời (đáng thử lại) với lỗi vĩnh viễn (không bao giờ đáng).
  • Giải thích backoff luỹ thừa và vì sao jitter quan trọng khi nhiều client cùng thử lại.
  • Nhận ra một cơn bão retry và biết các hàng rào bảo vệ để ngăn nó.
  • Cấu hình retry với Resilience4j và làm cho thao tác được thử lại có tính idempotent.

Tổng quan

Khi một trang web không tải được, bạn bấm tải lại và thường lần thứ hai sẽ được. Hệ thống phân tán đầy những trục trặc chớp nhoáng như vậy: một pod đang khởi động lại, một kết nối TCP bị rớt, database chuyển sang node dự phòng. Pattern Retry bấm tải lại giúp bạn — tự động, có giới hạn số lần, và lịch sự.

Retry policy bao lấy một lời gọi từ xa. Nếu lời gọi thất bại với lỗi có khả năng tạm thời, policy chờ một chút rồi thử lại, tối đa một số lần nhất định. Bên gọi nhận được hoặc thành công (có thể chậm hơn một chút) hoặc lỗi cuối cùng.

Vấn đề: mạng lỗi chớp nhoáng và thường xuyên

Trong hệ thống có hàng chục service, lỗi ngắn hạn là chuyện bình thường, không phải ngoại lệ. Không có retry, mỗi trục trặc biến thành một lỗi người dùng nhìn thấy. Nhưng thử lại sai cách thì nguy hiểm: nếu lỗi do quá tải, mỗi lần thử lại lại đổ thêm tải vào đúng thành phần đang chật vật.

LỗiThử lại?Vì sao
Connection reset, 503, gateway timeoutCóThường là tạm thời: lần sau có thể rơi vào instance khoẻ.
429 Too Many RequestsCó, nhưng chậmTôn trọng header Retry-After; thử lại ngay chỉ làm tệ hơn.
400 Bad Request, 404, lỗi validationKhôngCùng request sẽ mãi thất bại theo cùng một cách.
Thẻ bị từ chối, không đủ tiềnKhôngĐó là câu trả lời nghiệp vụ, không phải lỗi kỹ thuật.
Timeout khi ghi không idempotentChỉ khi có idempotency keyLần đầu có thể đã thành công — thử lại mù quáng có thể trừ tiền hai lần.

Giải pháp: retry có giới hạn, có backoff và jitter

  • Giới hạn số lần thử — thường 2–3 lần tổng cộng. Thử nhiều hơn hiếm khi giúp ích nhưng luôn tốn kém.
  • Backoff luỹ thừa — chờ 100 ms, rồi 200 ms, rồi 400 ms… để dependency đang phục hồi có khoảng thở.
  • Jitter — ngẫu nhiên hoá mỗi lần chờ. Không có nó, hàng nghìn client lỗi cùng lúc sẽ thử lại cùng lúc, thành những đợt sóng đồng bộ.
  • Chỉ thử lại thứ an toàn — thao tác idempotent, hoặc thao tác ghi được bảo vệ bằng idempotency key.
Order ServiceRetry policyPayment

Bấm Chạy, hoặc dùng mũi tên để đi từng bước.

Một lời gọi logic, ba lần thử thực tế.

Chạy thử: từ trục trặc tới bão retry

Kịch bản A và B cho thấy retry ở trạng thái tốt nhất: lỗi tạm thời biến mất. Kịch bản C và D cho thấy mặt tối: khi Payment quá tải, retry không tạo ra năng lực — nó chỉ nhân thêm công việc. Hãy so sánh ô Số lần thử lại và mức sử dụng của Payment giữa C và D.

Đang tải mô phỏng…

Bão retry và cách phòng tránh Nâng cao

Nâng cao Retry nhân lên qua các tầng. Nếu trình duyệt, API gateway, BFF và client của service đều thử lại 3 lần, một cú bấm của người dùng có thể thành 3⁴ = 81 lời gọi tới service dưới cùng — đúng lúc nó ít khả năng chịu đựng nhất. Các biện pháp phòng thủ, từ quan trọng nhất trở xuống:

Nâng cao
  • Chỉ retry ở một tầng, lý tưởng là tầng gần dependency đang lỗi nhất.
  • Ngân sách retry (retry budget) — chỉ cho retry thêm tối đa ~10–20% lưu lượng mỗi client; vượt quá thì thất bại nhanh.
  • Kết hợp với [Circuit Breaker](topic:circuit-breaker) đặt bên trong retry: khi mạch mở, các lần thử còn lại thất bại ngay thay vì gõ vào dependency.
  • Tôn trọng gợi ý từ server — header Retry-After trên phản hồi 429/503.
  • Đặt [Timeout](topic:timeout) cho mỗi lần thử và một hạn chót tổng, để tổng thời gian không vượt quá mức bên gọi chịu chờ.

Triển khai với Spring Boot và Resilience4j

application.yml
resilience4j:
  retry:
    instances:
      payment:
        max-attempts: 3                     # tính cả lần gọi đầu
        wait-duration: 100ms
        enable-exponential-backoff: true
        exponential-backoff-multiplier: 2
        exponential-max-wait-duration: 2s
        enable-randomized-wait: true        # jitter
        randomized-wait-factor: 0.5
        retry-exceptions:
          - java.io.IOException
          - org.springframework.web.client.HttpServerErrorException
          - org.springframework.web.client.ResourceAccessException
        ignore-exceptions:
          - org.springframework.web.client.HttpClientErrorException
PaymentClient.java
@Service
public class PaymentClient {

    private final RestClient restClient;

    public PaymentClient(RestClient.Builder builder) {
        this.restClient = builder.baseUrl("http://payment-service").build();
    }

    @Retry(name = "payment")
    public PaymentResult charge(ChargeRequest request) {
        return restClient.post()
                .uri("/charges")
                // Cùng một key ở mọi lần thử: server chỉ trừ tiền tối đa một lần.
                .header("Idempotency-Key", request.orderId())
                .body(request)
                .retrieve()
                .body(PaymentResult.class);
    }
}

Đánh đổi

ĐượcMất
Tính sẵn sàngLỗi tạm thời trở nên vô hình với người dùng.Lỗi vĩnh viễn lâu lộ ra hơn.
Độ trễMột thành công chậm tốt hơn một lỗi nhanh.Mỗi lần thử lại cộng thêm backoff và một lời gọi đầy đủ vào độ trễ đuôi.
TảiRất nhỏ khi lỗi hiếm.Nhân tải lên trong lúc quá tải — đúng lúc bạn ít chịu nổi nhất.
Tính đúng đắnAn toàn cho thao tác đọc và ghi idempotent.Nguy hiểm với thao tác ghi không idempotent nếu thiếu idempotency key.

Lưu ý khi chạy production

  • Ghi log và đếm số lần thử lại tách biệt với lần thử đầu — tỉ lệ retry tăng là cảnh báo sớm rằng một dependency đang xuống cấp.
  • Giữ tổng thời gian retry nằm trong timeout của chính bên gọi; thử lại sau khi người dùng đã bỏ đi chỉ lãng phí tài nguyên của tất cả.
  • Không retry bên trong một transaction database đang giữ khoá.

Đọc thêm

Bài liên quan