Đi tới nội dung chính
System Design Lab

47 bài học

Microservice Patterns

Những giải pháp đã được kiểm chứng cho giao tiếp giữa các service, nhất quán dữ liệu, khả năng chịu lỗi và messaging. Pattern nào cũng có mô phỏng để bạn thấy rõ nó giải quyết vấn đề gì.

Độ tin cậy & chịu lỗi

Trung cấp 10 phút đọc

Circuit Breaker

Khi một dependency đang lỗi, ngừng gọi nó, fail fast thay vì ngồi chờ, rồi thử lại từ từ cho tới khi nó hồi phục — để một service hỏng không kéo sập cả những service đang gọi tới nó.

Pattern
Cơ bản 8 phút đọc

Retry

Tự động gọi lại khi lỗi chỉ là chập chờn tạm thời — có backoff, jitter và giới hạn số lần, để retry giúp hệ thống vượt qua trục trặc thay vì làm sự cố nặng thêm.

Pattern
Cơ bản 6 phút đọc

Timeout

Đặt giới hạn thời gian chờ cho mọi lời gọi ra ngoài, để một dependency bị treo không âm thầm giữ chặt toàn bộ thread, connection và request của người dùng.

Pattern
Trung cấp 5 phút đọc

Bulkhead

Chia tài nguyên thành từng ngăn riêng, để một dependency chậm hay lỗi chỉ dùng hết phần của nó — phần còn lại của hệ thống vẫn chạy bình thường.

Pattern
Trung cấp 5 phút đọc

Giới hạn tốc độ (Rate Limiting)

Giới hạn số request mỗi client được gửi trong một khoảng thời gian để chống quá tải và lạm dụng — và chọn thuật toán có hành vi lúc cao điểm mà bạn chấp nhận được.

Pattern
Cơ bản 5 phút đọc

Fallback

Khi dependency lỗi, trả về thứ gì đó vẫn dùng được — giá trị mặc định, dữ liệu cache hay một tính năng rút gọn — để phần phụ hỏng không làm hỏng cả trang chính.

Pattern
Trung cấp 4 phút đọc

Backpressure

Khi bên xử lý không theo kịp, hãy đẩy vấn đề ngược về producer — hàng đợi có giới hạn và 429 Retry-After — thay vì dồn vào bộ nhớ cho tới khi process chết và kéo theo cả việc đã nhận.

Pattern
Nâng cao 4 phút đọc

Leader Election

Khi một việc phải do đúng một trong nhiều instance giống hệt nhau làm — job định kỳ, bộ điều phối, nơi ghi duy nhất — hãy cho chúng bầu leader bằng lease có hạn, và chặn leader "sống lại" bằng fencing.

Pattern
Nâng cao 4 phút đọc

Scheduler Agent Supervisor

Chạy một workflow phân tán nhiều bước với ba vai trò: scheduler điều khiển các bước, agent làm việc từ xa, và supervisor tìm những bước bị kẹt hay lỗi để retry hoặc bù trừ.

Pattern

Giao tiếp

Cơ bản 7 phút đọc

API Gateway

Cho client một cửa vào duy nhất: gateway định tuyến request tới đúng service và lo luôn xác thực, rate limit, gộp dữ liệu ở một chỗ.

Pattern
Cơ bản 4 phút đọc

Giao tiếp đồng bộ và bất đồng bộ

Gọi các service nối tiếp nhau khiến availability và độ trễ của chúng dính chặt vào nhau; publish event thì tách chúng ra. Khi nào nên dùng kiểu nào — và bất đồng bộ phải trả giá gì.

Pattern
Cơ bản 4 phút đọc

Publish/Subscribe

Publish một event một lần, bao nhiêu subscriber cũng nhận được bản của riêng mình — thêm consumer mới mà không phải động vào producer.

Pattern
Trung cấp 4 phút đọc

Request/Reply qua messaging

Nhận câu trả lời thông qua message broker: gửi request kèm địa chỉ reply và correlation id, ghép các reply khi chúng tới, và quyết định một reply bị thiếu nghĩa là gì.

Pattern
Trung cấp 4 phút đọc

Service Discovery

Instance xuất hiện rồi biến mất theo mỗi lần deploy, crash và scale. Service discovery giữ cho bên gọi luôn trỏ đúng tới những instance đang tồn tại — từ phía client qua registry, hoặc từ phía server qua load balancer.

Pattern
Trung cấp 4 phút đọc

Asynchronous Request-Reply

Với việc mất vài giây hay vài phút, hãy trả lời HTTP request ngay bằng 202 Accepted kèm URL trạng thái, làm việc ở chế độ nền, và để client hỏi định kỳ hoặc được báo — thay vì giữ kết nối mở cho tới khi có thứ gì đó timeout.

Pattern

Quản lý dữ liệu

Messaging

Trung cấp 7 phút đọc

Idempotent Consumer

Xử lý một message hai lần phải cho kết quả như xử lý một lần — vì sớm hay muộn, broker nào cũng sẽ giao trùng message.

Pattern
Cơ bản 5 phút đọc

Dead Letter Queue

Sau vài lần xử lý lỗi, đưa message sang một queue riêng, để một poison message không chặn hay ngốn consumer mãi — sửa lỗi xong thì đưa chúng quay lại.

Pattern
Cơ bản 5 phút đọc

Competing Consumers

Cho nhiều worker cùng lấy việc từ một queue để throughput tăng theo số worker — và hiểu rõ cái giá: mất thứ tự xử lý và có thể xử lý trùng.

Pattern
Cơ bản 5 phút đọc

San tải bằng hàng đợi

Đặt một queue giữa phía gửi request dồn dập và một hệ thống không scale được, để hệ thống đó chạy đều ở mức chịu được trong khi queue gánh các đợt cao điểm.

Pattern
Cơ bản 4 phút đọc

Priority Queue

Cho việc gấp vượt lên trước việc thường trong hàng đợi — bằng lane ưu tiên hoặc queue và consumer riêng — để một đợt batch ồ ạt không bao giờ bắt người dùng tương tác phải chờ, mà batch cũng không bị bỏ đói mãi.

Pattern
Cơ bản 4 phút đọc

Claim Check

Giữ payload lớn ngoài message bus: lưu nó vào blob storage và chỉ gửi một token nhỏ trỏ tới đó, để broker luôn nhanh, rẻ và nằm trong giới hạn kích thước.

Pattern
Cơ bản 4 phút đọc

Pipes and Filters

Chia một job xử lý nhiều bước thành các filter độc lập nối với nhau bằng queue (pipe), để mỗi bước được scale, deploy và chẩn đoán riêng — và bước chậm lộ ra ngay bằng hàng đợi phình to trước nó.

Pattern

Observability & vận hành

Kiến trúc

Trung cấp 5 phút đọc

Event-Driven Architecture

Xây hệ thống mà mỗi service thông báo những gì đã xảy ra dưới dạng event, còn service khác tự phản ứng. Phân biệt event chỉ để thông báo với event mang theo dữ liệu, và cái giá của mỗi cách.

Pattern
Cơ bản 5 phút đọc

Backend for Frontend (BFF)

Mỗi trải nghiệm client — web, mobile, đối tác — có một backend mỏng riêng, gom và cắt gọn dữ liệu cho đúng màn hình đó, để client chỉ cần gọi một lần thay vì nhiều lần qua mạng chậm.

Pattern
Trung cấp 5 phút đọc

Strangler Fig

Thay thế monolith từng phần một: đặt một lớp định tuyến phía trước, chuyển từng chức năng sang service mới, dịch lưu lượng sang dần — và luôn có thể rollback chỉ bằng một công tắc.

Pattern
Trung cấp 4 phút đọc

Kiến trúc microservices

Xây hệ thống thành nhiều service nhỏ được deploy, scale và sở hữu độc lập — và trả giá bằng lời gọi mạng, lỗi cục bộ và gánh nặng vận hành.

Pattern
Trung cấp 5 phút đọc

Modular Monolith

Một khối deploy với ranh giới module bên trong thật chặt: đơn giản và nhanh như monolith, nhưng được tổ chức để sau này tách module thành service — khi thật sự có nhu cầu.

Pattern
Nâng cao 5 phút đọc

Chia tách service

Vẽ ranh giới service ở đâu: theo năng lực nghiệp vụ, không theo tầng kỹ thuật — và đừng chia nhỏ tới mức request nào cũng phải toả ra hàng loạt lời gọi đồng bộ, thành một distributed monolith.

Pattern
Trung cấp 5 phút đọc

Sidecar và Ambassador

Chạy phần mạng dùng chung — retry, timeout, circuit breaker, TLS, metrics — trong một process phụ trợ đặt cạnh ứng dụng, để service nào cũng có mà không phải sửa code. Một đội sidecar chính là service mesh.

Pattern
Trung cấp 5 phút đọc

Anti-Corruption Layer

Đặt một lớp façade biên dịch giữa hệ thống mới và hệ thống cũ, để mô hình, giao thức và các tật của hệ thống cũ nằm yên ở phía bên kia — và tiện thể cache, gộp lời gọi và bảo vệ hệ thống cũ.

Pattern
Trung cấp 4 phút đọc

UI Composition

Dựng trang từ các fragment do nhiều team sở hữu — ghép ở phía server hoặc trong trình duyệt — và cho fragment phụ deadline riêng, để một team chậm không thể làm cả trang chậm theo.

Pattern

Bảo mật

Kiểm thử & triển khai