Đi tới nội dung chính
System Design Lab
Microservice Patterns

Sidecar và Ambassador

Chạy phần mạng dùng chung — retry, timeout, circuit breaker, TLS, metrics — trong một process phụ trợ đặt cạnh ứng dụng, để service nào cũng có mà không phải sửa code. Một đội sidecar chính là service mesh.

Trung cấp 5 phút đọc· Cập nhật 2026-11-18

Sau bài này bạn sẽ

  • Giải thích pattern sidecar và ambassador, và chúng khác nhau thế nào.
  • Thấy khả năng chịu lỗi được thêm vào ứng dụng mà không sửa code.
  • Hiểu service mesh mang thêm gì và tốn gì.
  • Quyết định giữa thư viện và sidecar.

Nên đọc trước

Tổng quan

Thùng xe sidecar gắn cạnh xe máy đi theo xe khắp nơi nhưng là một chỗ ngồi riêng với việc riêng. Một đại sứ thay mặt nhà ngoại giao làm việc với chính phủ nước ngoài, lo hết thủ tục nghi lễ để nhà ngoại giao khỏi phải bận tâm.

Sidecar là một process phụ trợ được deploy cạnh mỗi instance ứng dụng (cùng pod hoặc cùng máy), sống chết cùng nó. Khi sidecar thay ứng dụng xử lý các lời gọi đi ra ngoài — thêm timeout, retry, circuit breaker, TLS, định tuyến, telemetry — nó đóng vai ambassador. Đặt một sidecar cạnh mọi service và điều khiển chúng tập trung, bạn có service mesh (Istio, Linkerd).

Chạy thử

Một app cũ gọi API đối tác vốn trả lỗi (t = 8–16 s) rồi bị treo (t = 22–30 s). Ở B, vẫn app đó gọi localhost và một sidecar áp dụng timeout, retry và circuit breaker. So sánh số lỗi và p95.

Đang tải mô phỏng…

Sidecar thường làm gì

  • Chịu lỗi: timeout, retry có budget, circuit breaker, loại bỏ instance bất thường.
  • Bảo mật: mutual TLS giữa các service, xoay vòng chứng chỉ, chính sách phân quyền.
  • Lưu lượng: định tuyến canary và blue-green, nhân bản lưu lượng, chèn lỗi để test.
  • Observability: metric request và span trace đồng nhất cho mọi service, bất kể ngôn ngữ.
  • Hỗ trợ hệ thống cũ: trao cho app không sửa được những năng lực hiện đại (trường hợp ambassador).

Envoy đóng vai ambassador

App gọi localhost:9001; Envoy thêm timeout, retry và outlier detection
clusters:
  - name: partner_api
    connect_timeout: 0.25s
    type: STRICT_DNS
    load_assignment:
      cluster_name: partner_api
      endpoints: [{ lb_endpoints: [{ endpoint: { address: { socket_address: { address: api.partner.com, port_value: 443 } } } }] }]
    outlier_detection: { consecutive_5xx: 5, base_ejection_time: 30s }    # loại bỏ kiểu circuit breaker
    circuit_breakers: { thresholds: [{ max_connections: 100, max_pending_requests: 50 }] }
# cấu hình route:
#   timeout: 0.3s
#   retry_policy: { retry_on: "5xx,connect-failure", num_retries: 2, per_try_timeout: 0.3s }

Đánh đổi

ĐượcMất
Nhất quánCùng chính sách và telemetry cho mọi service và ngôn ngữ.Chính sách nằm ngoài code — đọc service khó thấy được.
Thay đổiCập nhật proxy hay luật mà không đụng tới ứng dụng.Thêm một thành phần mỗi instance phải nâng cấp, debug và bảo mật.
Chi phíBỏ được code mạng bị lặp lại khắp nơi.Thêm CPU/bộ nhớ mỗi pod và ~1 ms mỗi chặng; thêm control plane của mesh phải vận hành.

Lưu ý khi chạy production

  • Đừng chồng retry ở cả thư viện lẫn sidecar — đó là một bão retry chờ ngày bùng phát.
  • Khởi động sidecar trước app và dừng nó sau app, nếu không các request đầu và cuối sẽ lỗi.
  • Cấp tài nguyên cho sidecar rõ ràng; proxy bị đói tài nguyên làm chậm mọi thứ phía sau nó.
  • Dùng mesh đầy đủ khi có nhiều service và nhiều ngôn ngữ; với vài service, một thư viện có thể là đủ.

Đọc thêm

Bài liên quan