Microservice Patterns
Deployment Patterns
Nhiều service trên một host, mỗi service một VM, mỗi service một container, hay serverless function: mỗi cách đóng gói, cô lập và scale service ra sao — và vì sao serverless đổi chi phí lúc rảnh lấy cold start.
Sau bài này bạn sẽ
- So sánh các cách chính để deploy instance của service.
- Hiểu đánh đổi giữa cô lập, mật độ và thời gian khởi động.
- Thấy cái giá cold start của các nền tảng scale về 0.
- Chọn nền tảng deploy cho một loại workload cụ thể.
Nên đọc trước
Tổng quan
Bạn có thể để sẵn xe trong gara (lúc nào cũng sẵn sàng, đỗ đó cũng tốn tiền), thuê xe theo tuần, hoặc gọi taxi (trả theo chuyến, nhưng phải chờ xe tới). Chạy phần mềm cũng có đúng những lựa chọn đó.
Cách đóng gói và chạy instance của service quyết định mức cô lập, mật độ, thời gian khởi động và chi phí. Các lựa chọn chính: nhiều service trên một host (rẻ, không cô lập), mỗi service một VM (cô lập mạnh, khởi động chậm, thô), mỗi service một container trên nền tảng như Kubernetes (cô lập tốt, khởi động vài giây, xếp dày — lựa chọn mặc định phổ biến), và serverless function (không phải quản lý server, scale về 0, trả tiền theo request — kèm cold start).
Chạy thử
Một endpoint webhook nhận ba đợt dồn dập mỗi đợt 4 giây, giữa các đợt thì im lặng. So sánh ô Instance đang chạy (thứ bạn trả tiền) và p99 của container luôn chạy (A) và serverless function (B).
So sánh
| Pattern | Cô lập | Khởi động | Chi phí lúc rảnh | Phù hợp với |
|---|---|---|---|---|
| Nhiều service trên một host | Yếu (chung runtime/OS) | Nhanh | Thấp | Hệ thống nhỏ, app server kiểu cũ |
| Mỗi service một VM | Mạnh | Vài phút | Cao | Cần cô lập chặt, cần OS đặc thù |
| Mỗi service một container | Tốt | Vài giây | Trung bình (số bản tối thiểu) | Phần lớn microservices |
| Serverless function | Tốt (được quản lý) | Cold start 0,1–2 s | Không có | Việc theo event, dồn từng đợt hoặc hiếm khi chạy |
Giảm cold start
Resources:
WebhookFunction:
Type: AWS::Serverless::Function
Properties:
Runtime: java21
Handler: com.example.Webhook::handle
MemorySize: 1024
SnapStart: { ApplyOn: PublishedVersions } # khôi phục từ snapshot thay vì khởi động JVM
AutoPublishAlias: live
ProvisionedConcurrencyConfig: { ProvisionedConcurrentExecutions: 2 } # luôn giữ ấm hai bảnĐánh đổi
| Được | Mất | |
|---|---|---|
| Chi phí | Serverless không tốn gì khi rảnh; container xếp được rất dày. | Serverless có thể đắt hơn khi tải cao kéo dài; VM lãng phí năng lực. |
| Độ trễ | Instance luôn chạy trả lời ngay lập tức. | Scale từ 0 thêm cold start cho những request đầu của mỗi đợt. |
| Kiểm soát | Container và VM cho tinh chỉnh runtime, mạng và việc chạy lâu. | Function giới hạn thời gian chạy, bộ nhớ và runtime; mức phụ thuộc nền tảng tăng. |
Lưu ý khi chạy production
- Mặc định dùng container trên nền tảng managed; dùng function cho phần kết nối, event và job dồn từng đợt.
- Đo cold start với phụ thuộc thật (kết nối DB, khởi tạo SDK), đừng đo bằng hello-world.
- Giữ một số bản ấm tối thiểu cho đường đi nhạy cảm về độ trễ.
- Nền tảng nào cũng vậy, hãy giữ service stateless và cấu hình được từ bên ngoài.