Microservice Patterns
Sidecar và Ambassador
Chạy phần mạng dùng chung — retry, timeout, circuit breaker, TLS, metrics — trong một process phụ trợ đặt cạnh ứng dụng, để service nào cũng có mà không phải sửa code. Một đội sidecar chính là service mesh.
Sau bài này bạn sẽ
- Giải thích pattern sidecar và ambassador, và chúng khác nhau thế nào.
- Thấy khả năng chịu lỗi được thêm vào ứng dụng mà không sửa code.
- Hiểu service mesh mang thêm gì và tốn gì.
- Quyết định giữa thư viện và sidecar.
Nên đọc trước
Tổng quan
Thùng xe sidecar gắn cạnh xe máy đi theo xe khắp nơi nhưng là một chỗ ngồi riêng với việc riêng. Một đại sứ thay mặt nhà ngoại giao làm việc với chính phủ nước ngoài, lo hết thủ tục nghi lễ để nhà ngoại giao khỏi phải bận tâm.
Sidecar là một process phụ trợ được deploy cạnh mỗi instance ứng dụng (cùng pod hoặc cùng máy), sống chết cùng nó. Khi sidecar thay ứng dụng xử lý các lời gọi đi ra ngoài — thêm timeout, retry, circuit breaker, TLS, định tuyến, telemetry — nó đóng vai ambassador. Đặt một sidecar cạnh mọi service và điều khiển chúng tập trung, bạn có service mesh (Istio, Linkerd).
Chạy thử
Một app cũ gọi API đối tác vốn trả lỗi (t = 8–16 s) rồi bị treo (t = 22–30 s). Ở B, vẫn app đó gọi localhost và một sidecar áp dụng timeout, retry và circuit breaker. So sánh số lỗi và p95.
Sidecar thường làm gì
- Chịu lỗi: timeout, retry có budget, circuit breaker, loại bỏ instance bất thường.
- Bảo mật: mutual TLS giữa các service, xoay vòng chứng chỉ, chính sách phân quyền.
- Lưu lượng: định tuyến canary và blue-green, nhân bản lưu lượng, chèn lỗi để test.
- Observability: metric request và span trace đồng nhất cho mọi service, bất kể ngôn ngữ.
- Hỗ trợ hệ thống cũ: trao cho app không sửa được những năng lực hiện đại (trường hợp ambassador).
Envoy đóng vai ambassador
clusters:
- name: partner_api
connect_timeout: 0.25s
type: STRICT_DNS
load_assignment:
cluster_name: partner_api
endpoints: [{ lb_endpoints: [{ endpoint: { address: { socket_address: { address: api.partner.com, port_value: 443 } } } }] }]
outlier_detection: { consecutive_5xx: 5, base_ejection_time: 30s } # loại bỏ kiểu circuit breaker
circuit_breakers: { thresholds: [{ max_connections: 100, max_pending_requests: 50 }] }
# cấu hình route:
# timeout: 0.3s
# retry_policy: { retry_on: "5xx,connect-failure", num_retries: 2, per_try_timeout: 0.3s }Đánh đổi
| Được | Mất | |
|---|---|---|
| Nhất quán | Cùng chính sách và telemetry cho mọi service và ngôn ngữ. | Chính sách nằm ngoài code — đọc service khó thấy được. |
| Thay đổi | Cập nhật proxy hay luật mà không đụng tới ứng dụng. | Thêm một thành phần mỗi instance phải nâng cấp, debug và bảo mật. |
| Chi phí | Bỏ được code mạng bị lặp lại khắp nơi. | Thêm CPU/bộ nhớ mỗi pod và ~1 ms mỗi chặng; thêm control plane của mesh phải vận hành. |
Lưu ý khi chạy production
- Đừng chồng retry ở cả thư viện lẫn sidecar — đó là một bão retry chờ ngày bùng phát.
- Khởi động sidecar trước app và dừng nó sau app, nếu không các request đầu và cuối sẽ lỗi.
- Cấp tài nguyên cho sidecar rõ ràng; proxy bị đói tài nguyên làm chậm mọi thứ phía sau nó.
- Dùng mesh đầy đủ khi có nhiều service và nhiều ngôn ngữ; với vài service, một thư viện có thể là đủ.