Microservice Patterns
Health check
Để hệ thống tự hỏi từng instance "có phục vụ được không?" và rút các instance chết hoặc đang warm-up khỏi pool — mà không tạo ra kiểu health check làm sập cả cụm.
Sau bài này bạn sẽ
- Phân biệt liveness, readiness và startup check, và ai hành động theo từng loại.
- Thấy cách probe chủ động loại được instance bị treo mà tín hiệu thụ động bỏ sót.
- Tránh cái bẫy health check sâu làm loại mọi instance cùng lúc.
- Cấu hình probe của Spring Boot Actuator và health check của Kubernetes.
Nên đọc trước
Tổng quan
Quản lý nhà hàng đi qua từng khu bếp trước giờ mở cửa và trong suốt ca làm: "Sẵn sàng chưa? Có ổn không?" Đầu bếp bị bỏng tay được cho về; đầu bếp còn đang chuẩn bị thì chưa được giao món. Health check chính là vòng kiểm tra đó dành cho server.
Health check là một endpoint (hoặc lệnh) báo cáo instance có làm được việc của nó hay không. Load balancer và hệ thống điều phối gọi nó định kỳ và hành động theo câu trả lời: ngừng định tuyến lưu lượng tới instance, hoặc khởi động lại nó.
Liveness, readiness, startup
| Loại | Câu hỏi | Hành động khi thất bại |
|---|---|---|
| Liveness | Tiến trình có kẹt tới mức không thể tự hồi phục (deadlock, event loop hỏng) không? | Khởi động lại instance. |
| Readiness | Instance này có nên nhận lưu lượng ngay bây giờ không (đã warm-up, không quá tải, không đang tắt)? | Đưa nó ra khỏi load balancer cho tới khi qua lại. |
| Startup | Ứng dụng khởi động chậm đã khởi động xong chưa? | Hoãn liveness check để ứng dụng không bị giết khi đang khởi động. |
Chạy thử
Một instance bị treo vẫn nhận kết nối nhưng không bao giờ trả lời, nên việc đếm lỗi thụ động có thể không bao giờ phát hiện ra. So sánh A và B. Kịch bản C là sai lầm phổ biến nhất ngoài thực tế; kịch bản D cho thấy readiness bảo vệ một lần rolling deploy.
Triển khai: Spring Boot Actuator + Kubernetes
management:
endpoint:
health:
probes:
enabled: true # /actuator/health/liveness và /actuator/health/readiness
group:
readiness:
include: readinessState # KHÔNG thêm db ở đây trừ khi ứng dụng vô dụng khi thiếu nó
endpoints:
web:
exposure:
include: healthcontainers:
- name: shop-api
image: shop-api:1.42.0
startupProbe:
httpGet: { path: /actuator/health/liveness, port: 8080 }
periodSeconds: 5
failureThreshold: 30 # cho phép tới 150 s để khởi động
livenessProbe:
httpGet: { path: /actuator/health/liveness, port: 8080 }
periodSeconds: 10
failureThreshold: 3
readinessProbe:
httpGet: { path: /actuator/health/readiness, port: 8080 }
periodSeconds: 2
failureThreshold: 2Nâng cao Spring Boot đánh dấu readiness là REFUSING_TRAFFIC khi tắt êm (graceful shutdown), nên Kubernetes ngừng định tuyến trước khi các request đang chạy bị cắt. Hãy warm-up cache và JIT trước khi báo sẵn sàng (vd. phát AvailabilityChangeEvent với ReadinessState.ACCEPTING_TRAFFIC sau một job warm-up) để tránh đỉnh độ trễ như ở kịch bản D.
Đánh đổi
| Được | Mất | |
|---|---|---|
| Probe chủ động | Phát hiện instance bị treo hay rảnh mà tín hiệu thụ động bỏ sót. | Thêm lưu lượng; chu kỳ probe × ngưỡng làm chậm việc phát hiện. |
| Kiểm tra sâu | Bắt được cấu hình hỏng (sai thông tin đăng nhập) sớm. | Lỗi tương quan: một dependency dùng chung loại cả đội máy. |
| Liveness hung hăng | Tiến trình bị kẹt được khởi động lại nhanh. | Instance chậm nhưng vẫn sống bị giết trong lúc tải cao, làm mọi thứ tệ hơn. |
Lưu ý khi chạy production
- Trả lời health check trên một thread pool hoặc cổng riêng để ứng dụng đang bão hoà vẫn phản hồi (hoặc chủ động báo chưa sẵn sàng).
- Giữ liveness thật đơn giản: "tiến trình có phản hồi không?" Không bao giờ đưa dependency vào liveness — khởi động lại không sửa được database.
- Fail open: nếu mọi instance đều không khoẻ, nhiều load balancer vẫn định tuyến tới tất cả; hãy biết balancer của bạn làm gì.
- Kết hợp với phát hiện bất thường thụ động trong load balancer.