47 bài học
Microservice Patterns
Những giải pháp đã được kiểm chứng cho giao tiếp giữa các service, nhất quán dữ liệu, khả năng chịu lỗi và messaging. Pattern nào cũng có mô phỏng để bạn thấy rõ nó giải quyết vấn đề gì.
Độ tin cậy & chịu lỗi
Circuit Breaker
Khi một dependency đang lỗi, ngừng gọi nó, fail fast thay vì ngồi chờ, rồi thử lại từ từ cho tới khi nó hồi phục — để một service hỏng không kéo sập cả những service đang gọi tới nó.
PatternRetry
Tự động gọi lại khi lỗi chỉ là chập chờn tạm thời — có backoff, jitter và giới hạn số lần, để retry giúp hệ thống vượt qua trục trặc thay vì làm sự cố nặng thêm.
PatternTimeout
Đặt giới hạn thời gian chờ cho mọi lời gọi ra ngoài, để một dependency bị treo không âm thầm giữ chặt toàn bộ thread, connection và request của người dùng.
PatternBulkhead
Chia tài nguyên thành từng ngăn riêng, để một dependency chậm hay lỗi chỉ dùng hết phần của nó — phần còn lại của hệ thống vẫn chạy bình thường.
PatternGiới hạn tốc độ (Rate Limiting)
Giới hạn số request mỗi client được gửi trong một khoảng thời gian để chống quá tải và lạm dụng — và chọn thuật toán có hành vi lúc cao điểm mà bạn chấp nhận được.
PatternFallback
Khi dependency lỗi, trả về thứ gì đó vẫn dùng được — giá trị mặc định, dữ liệu cache hay một tính năng rút gọn — để phần phụ hỏng không làm hỏng cả trang chính.
PatternBackpressure
Khi bên xử lý không theo kịp, hãy đẩy vấn đề ngược về producer — hàng đợi có giới hạn và 429 Retry-After — thay vì dồn vào bộ nhớ cho tới khi process chết và kéo theo cả việc đã nhận.
PatternLeader Election
Khi một việc phải do đúng một trong nhiều instance giống hệt nhau làm — job định kỳ, bộ điều phối, nơi ghi duy nhất — hãy cho chúng bầu leader bằng lease có hạn, và chặn leader "sống lại" bằng fencing.
PatternScheduler Agent Supervisor
Chạy một workflow phân tán nhiều bước với ba vai trò: scheduler điều khiển các bước, agent làm việc từ xa, và supervisor tìm những bước bị kẹt hay lỗi để retry hoặc bù trừ.
PatternGiao tiếp
API Gateway
Cho client một cửa vào duy nhất: gateway định tuyến request tới đúng service và lo luôn xác thực, rate limit, gộp dữ liệu ở một chỗ.
PatternGiao tiếp đồng bộ và bất đồng bộ
Gọi các service nối tiếp nhau khiến availability và độ trễ của chúng dính chặt vào nhau; publish event thì tách chúng ra. Khi nào nên dùng kiểu nào — và bất đồng bộ phải trả giá gì.
PatternPublish/Subscribe
Publish một event một lần, bao nhiêu subscriber cũng nhận được bản của riêng mình — thêm consumer mới mà không phải động vào producer.
PatternRequest/Reply qua messaging
Nhận câu trả lời thông qua message broker: gửi request kèm địa chỉ reply và correlation id, ghép các reply khi chúng tới, và quyết định một reply bị thiếu nghĩa là gì.
PatternService Discovery
Instance xuất hiện rồi biến mất theo mỗi lần deploy, crash và scale. Service discovery giữ cho bên gọi luôn trỏ đúng tới những instance đang tồn tại — từ phía client qua registry, hoặc từ phía server qua load balancer.
PatternAsynchronous Request-Reply
Với việc mất vài giây hay vài phút, hãy trả lời HTTP request ngay bằng 202 Accepted kèm URL trạng thái, làm việc ở chế độ nền, và để client hỏi định kỳ hoặc được báo — thay vì giữ kết nối mở cho tới khi có thứ gì đó timeout.
PatternQuản lý dữ liệu
Saga
Giữ dữ liệu nhất quán giữa nhiều service mà không cần transaction phân tán: chạy lần lượt các local transaction, và khi một bước lỗi thì hoàn tác các bước trước đó.
PatternTransactional Outbox
Ghi thay đổi nghiệp vụ và event tương ứng trong cùng một transaction, rồi publish event từ bảng đó — không bao giờ mất event, cũng không publish event cho dữ liệu đã rollback.
PatternDatabase per Service
Mỗi service toàn quyền sở hữu dữ liệu của mình, để các đội tự đổi schema, tự scale storage — và truy vấn nặng của service này không thể làm sập service khác.
PatternCQRS
Tách model dùng để thay đổi dữ liệu khỏi model dùng để đọc, để mỗi bên được thiết kế và scale đúng cho việc của mình — và học cách sống chung với read model luôn chậm hơn một chút.
PatternEvent Sourcing
Lưu mọi thay đổi thành event bất biến và suy ra trạng thái hiện tại bằng cách replay chúng — đổi lại bạn có lịch sử đầy đủ và "quay ngược thời gian", với cái giá là thời gian replay mà snapshot phải giữ trong tầm kiểm soát.
PatternMessaging
Idempotent Consumer
Xử lý một message hai lần phải cho kết quả như xử lý một lần — vì sớm hay muộn, broker nào cũng sẽ giao trùng message.
PatternDead Letter Queue
Sau vài lần xử lý lỗi, đưa message sang một queue riêng, để một poison message không chặn hay ngốn consumer mãi — sửa lỗi xong thì đưa chúng quay lại.
PatternCompeting Consumers
Cho nhiều worker cùng lấy việc từ một queue để throughput tăng theo số worker — và hiểu rõ cái giá: mất thứ tự xử lý và có thể xử lý trùng.
PatternSan tải bằng hàng đợi
Đặt một queue giữa phía gửi request dồn dập và một hệ thống không scale được, để hệ thống đó chạy đều ở mức chịu được trong khi queue gánh các đợt cao điểm.
PatternPriority Queue
Cho việc gấp vượt lên trước việc thường trong hàng đợi — bằng lane ưu tiên hoặc queue và consumer riêng — để một đợt batch ồ ạt không bao giờ bắt người dùng tương tác phải chờ, mà batch cũng không bị bỏ đói mãi.
PatternClaim Check
Giữ payload lớn ngoài message bus: lưu nó vào blob storage và chỉ gửi một token nhỏ trỏ tới đó, để broker luôn nhanh, rẻ và nằm trong giới hạn kích thước.
PatternPipes and Filters
Chia một job xử lý nhiều bước thành các filter độc lập nối với nhau bằng queue (pipe), để mỗi bước được scale, deploy và chẩn đoán riêng — và bước chậm lộ ra ngay bằng hàng đợi phình to trước nó.
PatternObservability & vận hành
Health check
Để hệ thống tự hỏi từng instance "có phục vụ được không?" và rút các instance chết hoặc đang warm-up khỏi pool — mà không tạo ra kiểu health check làm sập cả cụm.
PatternDistributed Tracing
Theo dấu một request qua mọi service nó đi qua dưới dạng cây các span có thời gian, để thấy chính xác chặng nào làm nó chậm hay lỗi — điều mà số trung bình và log của từng service không cho thấy được.
PatternCentralized Logging
Đưa log của mọi service về một nơi tìm kiếm được, dưới dạng event có cấu trúc mang correlation id, để lần theo được một request lỗi qua mọi service và instance nó đã chạm tới.
PatternMetrics và monitoring
Đo mọi service bằng vài tín hiệu chuẩn — RED cho request, USE cho tài nguyên — và cảnh báo theo triệu chứng người dùng cảm nhận được, chứ không theo mọi nguyên nhân bạn nghĩ ra.
PatternKiến trúc
Event-Driven Architecture
Xây hệ thống mà mỗi service thông báo những gì đã xảy ra dưới dạng event, còn service khác tự phản ứng. Phân biệt event chỉ để thông báo với event mang theo dữ liệu, và cái giá của mỗi cách.
PatternBackend for Frontend (BFF)
Mỗi trải nghiệm client — web, mobile, đối tác — có một backend mỏng riêng, gom và cắt gọn dữ liệu cho đúng màn hình đó, để client chỉ cần gọi một lần thay vì nhiều lần qua mạng chậm.
PatternStrangler Fig
Thay thế monolith từng phần một: đặt một lớp định tuyến phía trước, chuyển từng chức năng sang service mới, dịch lưu lượng sang dần — và luôn có thể rollback chỉ bằng một công tắc.
PatternKiến trúc microservices
Xây hệ thống thành nhiều service nhỏ được deploy, scale và sở hữu độc lập — và trả giá bằng lời gọi mạng, lỗi cục bộ và gánh nặng vận hành.
PatternModular Monolith
Một khối deploy với ranh giới module bên trong thật chặt: đơn giản và nhanh như monolith, nhưng được tổ chức để sau này tách module thành service — khi thật sự có nhu cầu.
PatternChia tách service
Vẽ ranh giới service ở đâu: theo năng lực nghiệp vụ, không theo tầng kỹ thuật — và đừng chia nhỏ tới mức request nào cũng phải toả ra hàng loạt lời gọi đồng bộ, thành một distributed monolith.
PatternSidecar và Ambassador
Chạy phần mạng dùng chung — retry, timeout, circuit breaker, TLS, metrics — trong một process phụ trợ đặt cạnh ứng dụng, để service nào cũng có mà không phải sửa code. Một đội sidecar chính là service mesh.
PatternAnti-Corruption Layer
Đặt một lớp façade biên dịch giữa hệ thống mới và hệ thống cũ, để mô hình, giao thức và các tật của hệ thống cũ nằm yên ở phía bên kia — và tiện thể cache, gộp lời gọi và bảo vệ hệ thống cũ.
PatternUI Composition
Dựng trang từ các fragment do nhiều team sở hữu — ghép ở phía server hoặc trong trình duyệt — và cho fragment phụ deadline riêng, để một team chậm không thể làm cả trang chậm theo.
PatternBảo mật
Valet Key
Cấp cho client một token ngắn hạn, phạm vi hẹp để đọc hoặc ghi đúng một tài nguyên ngay trên storage, để các lượt truyền file lớn đi vòng qua server của bạn mà không phải giao thông tin đăng nhập thật.
PatternGatekeeper
Đặt một host chuyên trách, quyền tối thiểu trước các service tin cậy để kiểm tra và làm sạch mọi request, để tấn công và rác bị từ chối rẻ ngay ở rìa, còn service giữ secret thì không bao giờ lộ trực tiếp ra ngoài.
PatternFederated Identity và Access Token
Giao việc đăng nhập cho identity provider và truyền access token có chữ ký giữa các service, để ứng dụng không bao giờ phải xử lý mật khẩu và tự kiểm tra được bên gọi là ai — kể cả khi identity provider tạm thời sập.
PatternKiểm thử & triển khai
External Configuration Store
Đưa cấu hình, feature flag và secret ra khỏi bản build, vào một kho trung tâm mà ứng dụng đọc khi chạy — để một image chạy được ở mọi nơi và một cấu hình sai được sửa trong vài giây, không cần deploy lại.
PatternConsumer-Driven Contract Testing
Cho mỗi consumer công bố đúng những phần API mình dựa vào, và bắt build của provider kiểm tra chúng — để thay đổi phá vỡ bị bắt ngay trong CI thay vì trên production, mà không cần môi trường test end-to-end chậm chạp.
PatternDeployment Patterns
Nhiều service trên một host, mỗi service một VM, mỗi service một container, hay serverless function: mỗi cách đóng gói, cô lập và scale service ra sao — và vì sao serverless đổi chi phí lúc rảnh lấy cold start.
PatternMicroservice Chassis và Service Template
Trao cho mọi service cùng một nền móng sẵn sàng cho production — logging, metrics, tracing, health check, cấu hình, timeout — qua một thư viện chassis dùng chung và một template cho service mới, để lựa chọn an toàn chính là mặc định.
Pattern