Microservice Patterns
Asynchronous Request-Reply
Với việc mất vài giây hay vài phút, hãy trả lời HTTP request ngay bằng 202 Accepted kèm URL trạng thái, làm việc ở chế độ nền, và để client hỏi định kỳ hoặc được báo — thay vì giữ kết nối mở cho tới khi có thứ gì đó timeout.
Sau bài này bạn sẽ
- Giải thích vì sao request đồng bộ dài hỏng sau proxy và vắt kiệt thread.
- Triển khai 202 Accepted, endpoint trạng thái và vị trí kết quả.
- Chọn chu kỳ hỏi định kỳ hay thông báo đẩy.
- Xử lý retry và gửi trùng một cách an toàn.
Nên đọc trước
Tổng quan
Mang bộ vest tới tiệm giặt khô, bạn không đứng chờ ở quầy suốt hai ngày. Bạn nhận một tấm phiếu, về nhà, rồi gọi điện hay xem online cho tới khi thấy báo "xong rồi".
HTTP là request-response, và mỗi chặng trên đường đi — trình duyệt, CDN, load balancer, gateway — đều có timeout, thường 30–60 s hoặc ngắn hơn. Giữ request mở cho một việc dài còn chiếm luôn một thread hay một kết nối của server. Với asynchronous request-reply, API kiểm tra request, xếp việc vào hàng đợi và trả 202 Accepted kèm URL trạng thái. Client hỏi URL đó định kỳ (tôn trọng Retry-After) hoặc nhận callback; khi xong, trạng thái trỏ tới kết quả.
Chạy thử
Người dùng bắt đầu export report mất 4–8 s, phía sau một proxy cắt kết nối sau 10 s. So sánh số lỗi và mức dùng thread API ở A, rồi số Lượt hỏi trạng thái ở B và C.
Luồng xử lý
POST /exports→ kiểm tra, lưu job, xếp hàng →202 Accepted,Location: /exports/42/status,Retry-After: 2.GET /exports/42/status→200 {"status":"running"}trong lúc đang chạy.- Khi xong →
303 See Other,Location: /exports/42/file(hoặc200kèm link kết quả); nếu lỗi, trạng thái kèm thông tin lỗi. - Client tải kết quả về; bản ghi job hết hạn sau một khoảng thời gian lưu giữ.
Triển khai
@PostMapping("/exports")
ResponseEntity<Void> start(@RequestBody ExportRequest req, @RequestHeader("Idempotency-Key") String key) {
Job job = jobs.findByKey(key).orElseGet(() -> jobs.create(key, req)); // cùng key → cùng job
queue.send("exports", job.id());
return ResponseEntity.accepted()
.location(URI.create("/exports/" + job.id() + "/status"))
.header(HttpHeaders.RETRY_AFTER, "2").build();
}
@GetMapping("/exports/{id}/status")
ResponseEntity<JobStatus> status(@PathVariable String id) {
Job job = jobs.get(id);
if (job.isDone()) return ResponseEntity.status(HttpStatus.SEE_OTHER).location(URI.create("/exports/" + id + "/file")).build();
return ResponseEntity.ok().header(HttpHeaders.RETRY_AFTER, "2").body(job.status());
}Đánh đổi
| Được | Mất | |
|---|---|---|
| Độ tin cậy | Không timeout ở proxy, không giữ thread; việc vẫn chạy dù client ngắt kết nối. | Phải lưu và cho hết hạn trạng thái job; thêm endpoint phải bảo mật. |
| Độ trễ | API trả lời trong vài mili giây. | Kết quả được phát hiện trễ tối đa một chu kỳ hỏi. |
| Công sức phía client | Ngữ nghĩa HTTP chuẩn. | Client phải tự làm phần hỏi định kỳ hoặc callback và xử lý lỗi. |
Lưu ý khi chạy production
- Bắt buộc Idempotency-Key để một lần POST thử lại không khởi chạy job thứ hai.
- Phân quyền URL trạng thái và kết quả: job id không được đoán ra hay vô tình chia sẻ được.
- Đặt việc vào một queue bền vững (queue-based load leveling), không phải executor trong bộ nhớ.
- Trả Retry-After và rate limit endpoint trạng thái để việc hỏi định kỳ luôn rẻ.