Microservice Patterns
Competing Consumers
Cho nhiều worker cùng lấy việc từ một queue để throughput tăng theo số worker — và hiểu rõ cái giá: mất thứ tự xử lý và có thể xử lý trùng.
Sau bài này bạn sẽ
- Mở rộng việc xử lý message theo chiều ngang bằng các worker dùng chung một hàng đợi.
- Giải thích vì sao worker chạy song song phá vỡ thứ tự theo key.
- Hiểu visibility timeout, việc giao lại và prefetch.
- Cấu hình competing consumers với Spring AMQP và giữ thứ tự ở nơi cần thiết.
Nên đọc trước
Tổng quan
Ngân hàng mở thêm quầy khi hàng người dài ra. Khách lấy số và tới bất kỳ quầy nào đang trống. Không ai phân khách cho từng quầy từ trước, và một giao dịch viên chậm chỉ đơn giản là phục vụ ít người hơn.
Với competing consumers, nhiều instance của cùng một worker đọc từ một hàng đợi. Broker giao mỗi message cho đúng một worker đang rảnh. Thêm worker để xử lý nhiều message hơn mỗi giây; nếu một worker chết, message chưa được ack của nó được giao lại cho worker khác.
Chạy thử
Kịch bản A không theo kịp; B mở rộng lên bốn worker. Hãy nhìn ô Hoàn tất sai thứ tự (cùng key) ở B — đó là cái giá của song song. Ở C một worker bị kẹt: message của nó xuất hiện lại sau visibility timeout và một worker khác hoàn tất nó.
Thứ tự: sự đánh đổi chính
Hai message của cùng một đơn hàng — "đã tạo" rồi "đã huỷ" — có thể được hai worker nhận cùng lúc. Nếu "đã huỷ" xong trước, trạng thái cuối cùng bị sai. Các lựa chọn, từ đơn giản nhất:
- Làm cho thứ tự không quan trọng: cập nhật idempotent, giao hoán hoặc kiểm tra version (
UPDATE … WHERE version < ?). - Phân vùng theo key: đưa mọi message của một key tới cùng một worker (partition Kafka, consistent-hash exchange của RabbitMQ, message group của SQS FIFO). Song song giữa các key, có thứ tự trong một key.
- Một consumer hoạt động duy nhất cho hàng đợi bắt buộc đúng thứ tự — đồng nghĩa từ bỏ việc mở rộng.
Triển khai với Spring AMQP
@Component
class ThumbnailWorker {
private final ThumbnailService thumbnails;
ThumbnailWorker(ThumbnailService thumbnails) {
this.thumbnails = thumbnails;
}
// 4 consumer mỗi instance; chạy N instance để có N × 4 consumer cạnh tranh.
@RabbitListener(queues = "thumbnail-jobs", concurrency = "4")
public void handle(ThumbnailJob job) {
thumbnails.render(job.imageId(), job.size()); // idempotent: giao lại là chuyện bình thường
}
}
// application.yml
// spring.rabbitmq.listener.simple.prefetch: 1 # chia việc công bằng: việc chậm không ôm message
// spring.rabbitmq.listener.simple.acknowledge-mode: autoNâng cao Prefetch là số message chưa ack mà một consumer được giữ. Prefetch cao tăng thông lượng cho các việc nhỏ, đồng đều nhưng cho phép một worker chậm ôm những message mà worker khác có thể xử lý; prefetch 1 chia việc công bằng nhất cho việc dài hoặc thất thường. Trong SQS, các núm tương đương là kích thước lô và visibility timeout, vốn phải lớn hơn thời gian xử lý xấu nhất.
Đánh đổi
| Được | Mất | |
|---|---|---|
| Thông lượng | Tăng gần tuyến tính theo số worker. | Cho tới khi một hệ thống dùng chung phía dưới (database, API) thành điểm nghẽn. |
| Khả năng chịu lỗi | Message của worker đã chết được giao lại cho worker khác. | Giao lại nghĩa là có bản trùng: handler phải idempotent. |
| Thứ tự | Ổn với các việc độc lập. | Mất thứ tự theo key trừ khi phân vùng theo key. |
Lưu ý khi chạy production
- Tự động mở rộng worker theo độ sâu hàng đợi hoặc tuổi của message cũ nhất, với mức tối đa mà hệ thống phía dưới chịu được.
- Đặt visibility timeout (hoặc consumer timeout) lớn hơn p99 thời gian xử lý, và gia hạn định kỳ cho việc dài.
- Dùng Dead Letter Queue để poison message không bị chuyền qua lại giữa các worker mãi mãi.