Microservice Patterns
API Gateway
Cho client một cửa vào duy nhất: gateway định tuyến request tới đúng service và lo luôn xác thực, rate limit, gộp dữ liệu ở một chỗ.
Sau bài này bạn sẽ
- Giải thích điều gì hỏng khi mọi client nói chuyện trực tiếp với mọi microservice.
- Mô tả các việc của gateway: định tuyến, bảo mật ở biên, giới hạn tốc độ và gộp request.
- Suy luận về độ trễ khi gộp request và về phản hồi một phần.
- Cấu hình route, kiểm tra JWT và giới hạn tốc độ với Spring Cloud Gateway.
Tổng quan
Một khách sạn có một quầy lễ tân. Khách không tự đi vào bếp, phòng giặt hay phòng kế toán để yêu cầu — lễ tân kiểm tra họ là ai rồi chuyển yêu cầu tới đúng bộ phận. API gateway chính là quầy lễ tân của một hệ thống microservice.
API gateway là một reverse proxy đứng giữa client và các service backend. Client chỉ gọi một host; gateway quyết định service nào xử lý mỗi request, thực thi các chính sách chung (xác thực, giới hạn tốc độ, CORS, TLS) và có thể gộp nhiều lời gọi backend thành một phản hồi.
Vấn đề: client biết quá nhiều
- Phụ thuộc chặt — tách hay đổi tên một service làm hỏng mọi phiên bản mobile app đang được dùng.
- Client nói nhiều — màn hình chính cần ba lượt đi về qua mạng di động chậm.
- Logic biên bị lặp lại — kiểm tra token, CORS và giới hạn tốc độ được chép vào mọi service, mỗi nơi một kiểu.
- Bề mặt tấn công lớn hơn — mọi service đều lộ ra internet.
Gateway làm những gì
| Trách nhiệm | Ví dụ |
|---|---|
| Định tuyến | /orders/** → Orders Service, /catalog/** → Catalog Service. |
| Bảo mật ở biên (offloading) | Kiểm tra JWT một lần; chuyển user id xuống dưới trong một header tin cậy. |
| Giới hạn tốc độ | 25 request/giây cho mỗi API key bằng token bucket; vượt quá thì trả 429. |
| Gộp request | GET /home gọi song song ba service và hợp nhất kết quả. |
| Chuyển đổi giao thức | REST/JSON công khai đứng trước các service gRPC nội bộ. |
Bấm Chạy, hoặc dùng mũi tên để đi từng bước.
Chạy thử
Kịch bản B là thú vị nhất: tắt kiểm tra token và xem request chưa xác thực đi thẳng vào service. Ở kịch bản C, giả lập sự cố Catalog chậm — độ trễ gộp đi theo backend chậm nhất.
Một gateway hay nhiều? Backends for Frontends Nâng cao
Nâng cao Một gateway duy nhất phục vụ web, mobile và API cho đối tác thường phình thành một khối monolith gồm các endpoint riêng cho từng client mà không ai sở hữu. Biến thể Backend for Frontend (BFF) cho mỗi trải nghiệm client một gateway riêng, do chính đội làm client đó sở hữu. Những mối quan tâm chung (TLS, WAF, giới hạn tốc độ thô) vẫn nằm ở lớp biên phía trước các BFF.
Triển khai với Spring Cloud Gateway
spring:
security:
oauth2:
resourceserver:
jwt:
issuer-uri: https://auth.example.com/realms/shop
cloud:
gateway:
server:
webflux: # Spring Cloud Gateway 4.3+; bản cũ hơn: spring.cloud.gateway.routes
routes:
- id: orders
uri: lb://orders-service
predicates:
- Path=/orders/**
filters:
- name: RequestRateLimiter
args:
redis-rate-limiter.replenishRate: 25
redis-rate-limiter.burstCapacity: 50
key-resolver: "#{@userKeyResolver}"
- id: catalog
uri: lb://catalog-service
predicates:
- Path=/catalog/**
filters:
- name: CircuitBreaker
args:
name: catalog
fallbackUri: forward:/fallback/catalog@Configuration
class GatewayConfig {
/** Giới hạn tốc độ theo người dùng đã xác thực (không có thì theo IP client). */
@Bean
KeyResolver userKeyResolver() {
return exchange -> exchange.getPrincipal()
.map(Principal::getName)
.switchIfEmpty(Mono.justOrEmpty(exchange.getRequest().getRemoteAddress())
.map(address -> address.getAddress().getHostAddress()));
}
}Đánh đổi
| Được | Mất | |
|---|---|---|
| Đơn giản cho client | Một host, một luồng xác thực, ít lượt đi về hơn. | Logic riêng cho từng client dồn vào gateway nếu không tách thành các BFF. |
| Bảo mật | Service ở chế độ riêng tư; chính sách được thực thi nhất quán. | Gateway là mục tiêu giá trị cao, phải được gia cố và vá lỗi kịp thời. |
| Tính sẵn sàng | Nơi tập trung cho retry, timeout và circuit breaker. | Thêm một thành phần sống còn: hãy chạy nhiều instance sau load balancer. |
| Độ trễ | Gộp request giảm số lượt đi về của client. | Thêm một chặng mạng cho mọi request. |
Lưu ý khi chạy production
- Giữ logic nghiệp vụ ngoài gateway — nó định tuyến và bảo vệ; service mới là nơi ra quyết định.
- Cho mỗi route một Timeout và Circuit Breaker riêng để một service chậm không làm cạn gateway.
- Giới hạn tốc độ phân tán cần trạng thái dùng chung (Redis) — giới hạn theo từng instance sẽ nhân lên theo số replica của gateway.
- Truyền correlation id từ gateway để có thể lần theo một request qua mọi service.