Đi tới nội dung chính
System Design Lab
Microservice Patterns

Deployment Patterns

Nhiều service trên một host, mỗi service một VM, mỗi service một container, hay serverless function: mỗi cách đóng gói, cô lập và scale service ra sao — và vì sao serverless đổi chi phí lúc rảnh lấy cold start.

Cơ bản 4 phút đọc· Cập nhật 2026-11-18

Sau bài này bạn sẽ

  • So sánh các cách chính để deploy instance của service.
  • Hiểu đánh đổi giữa cô lập, mật độ và thời gian khởi động.
  • Thấy cái giá cold start của các nền tảng scale về 0.
  • Chọn nền tảng deploy cho một loại workload cụ thể.

Nên đọc trước

Tổng quan

Bạn có thể để sẵn xe trong gara (lúc nào cũng sẵn sàng, đỗ đó cũng tốn tiền), thuê xe theo tuần, hoặc gọi taxi (trả theo chuyến, nhưng phải chờ xe tới). Chạy phần mềm cũng có đúng những lựa chọn đó.

Cách đóng gói và chạy instance của service quyết định mức cô lập, mật độ, thời gian khởi động và chi phí. Các lựa chọn chính: nhiều service trên một host (rẻ, không cô lập), mỗi service một VM (cô lập mạnh, khởi động chậm, thô), mỗi service một container trên nền tảng như Kubernetes (cô lập tốt, khởi động vài giây, xếp dày — lựa chọn mặc định phổ biến), và serverless function (không phải quản lý server, scale về 0, trả tiền theo request — kèm cold start).

Chạy thử

Một endpoint webhook nhận ba đợt dồn dập mỗi đợt 4 giây, giữa các đợt thì im lặng. So sánh ô Instance đang chạy (thứ bạn trả tiền) và p99 của container luôn chạy (A) và serverless function (B).

Đang tải mô phỏng…

So sánh

PatternCô lậpKhởi độngChi phí lúc rảnhPhù hợp với
Nhiều service trên một hostYếu (chung runtime/OS)NhanhThấpHệ thống nhỏ, app server kiểu cũ
Mỗi service một VMMạnhVài phútCaoCần cô lập chặt, cần OS đặc thù
Mỗi service một containerTốtVài giâyTrung bình (số bản tối thiểu)Phần lớn microservices
Serverless functionTốt (được quản lý)Cold start 0,1–2 sKhông cóViệc theo event, dồn từng đợt hoặc hiếm khi chạy

Giảm cold start

AWS SAM: function dùng SnapStart và một chút provisioned concurrency
Resources:
  WebhookFunction:
    Type: AWS::Serverless::Function
    Properties:
      Runtime: java21
      Handler: com.example.Webhook::handle
      MemorySize: 1024
      SnapStart: { ApplyOn: PublishedVersions }        # khôi phục từ snapshot thay vì khởi động JVM
      AutoPublishAlias: live
      ProvisionedConcurrencyConfig: { ProvisionedConcurrentExecutions: 2 }   # luôn giữ ấm hai bản

Đánh đổi

ĐượcMất
Chi phíServerless không tốn gì khi rảnh; container xếp được rất dày.Serverless có thể đắt hơn khi tải cao kéo dài; VM lãng phí năng lực.
Độ trễInstance luôn chạy trả lời ngay lập tức.Scale từ 0 thêm cold start cho những request đầu của mỗi đợt.
Kiểm soátContainer và VM cho tinh chỉnh runtime, mạng và việc chạy lâu.Function giới hạn thời gian chạy, bộ nhớ và runtime; mức phụ thuộc nền tảng tăng.

Lưu ý khi chạy production

  • Mặc định dùng container trên nền tảng managed; dùng function cho phần kết nối, event và job dồn từng đợt.
  • Đo cold start với phụ thuộc thật (kết nối DB, khởi tạo SDK), đừng đo bằng hello-world.
  • Giữ một số bản ấm tối thiểu cho đường đi nhạy cảm về độ trễ.
  • Nền tảng nào cũng vậy, hãy giữ service stateless và cấu hình được từ bên ngoài.

Đọc thêm

Bài liên quan