Đi tới nội dung chính
System Design Lab
Microservice Patterns

API Gateway

Cho client một cửa vào duy nhất: gateway định tuyến request tới đúng service và lo luôn xác thực, rate limit, gộp dữ liệu ở một chỗ.

Cơ bản 7 phút đọc· Cập nhật 2026-11-18

Sau bài này bạn sẽ

  • Giải thích điều gì hỏng khi mọi client nói chuyện trực tiếp với mọi microservice.
  • Mô tả các việc của gateway: định tuyến, bảo mật ở biên, giới hạn tốc độ và gộp request.
  • Suy luận về độ trễ khi gộp request và về phản hồi một phần.
  • Cấu hình route, kiểm tra JWT và giới hạn tốc độ với Spring Cloud Gateway.

Tổng quan

Một khách sạn có một quầy lễ tân. Khách không tự đi vào bếp, phòng giặt hay phòng kế toán để yêu cầu — lễ tân kiểm tra họ là ai rồi chuyển yêu cầu tới đúng bộ phận. API gateway chính là quầy lễ tân của một hệ thống microservice.

API gateway là một reverse proxy đứng giữa client và các service backend. Client chỉ gọi một host; gateway quyết định service nào xử lý mỗi request, thực thi các chính sách chung (xác thực, giới hạn tốc độ, CORS, TLS) và có thể gộp nhiều lời gọi backend thành một phản hồi.

Vấn đề: client biết quá nhiều

TrướcClient gọi thẳng service
Mobile appbiết mọi serviceMobile appOrderstự xác thực + CORSOrdersUserstự xác thực + CORSUsersCatalogtự xác thực + CORSCatalog
Mọi client biết địa chỉ của mọi service, và mọi service tự cài lại xác thực, CORS và giới hạn tốc độ.
SauCó gateway
Web & mobile a…một endpoint công…Web & mobile appAPI Gatewayxác thực · giới h…API GatewayOrders Service/ordersOrders ServiceUsers Service/usersUsers ServiceCatalog Service/catalogCatalog Service
Một endpoint công khai; các service ở chế độ riêng tư và tập trung vào nghiệp vụ.
  • Phụ thuộc chặt — tách hay đổi tên một service làm hỏng mọi phiên bản mobile app đang được dùng.
  • Client nói nhiều — màn hình chính cần ba lượt đi về qua mạng di động chậm.
  • Logic biên bị lặp lại — kiểm tra token, CORS và giới hạn tốc độ được chép vào mọi service, mỗi nơi một kiểu.
  • Bề mặt tấn công lớn hơn — mọi service đều lộ ra internet.

Gateway làm những gì

Trách nhiệmVí dụ
Định tuyến/orders/** → Orders Service, /catalog/** → Catalog Service.
Bảo mật ở biên (offloading)Kiểm tra JWT một lần; chuyển user id xuống dưới trong một header tin cậy.
Giới hạn tốc độ25 request/giây cho mỗi API key bằng token bucket; vượt quá thì trả 429.
Gộp requestGET /home gọi song song ba service và hợp nhất kết quả.
Chuyển đổi giao thứcREST/JSON công khai đứng trước các service gRPC nội bộ.
Mobile appAPI GatewayUsersOrdersCatalog

Bấm Chạy, hoặc dùng mũi tên để đi từng bước.

Gộp request: một request từ client, ba lời gọi backend song song, phản hồi một phần khi một service lỗi.

Chạy thử

Kịch bản B là thú vị nhất: tắt kiểm tra token và xem request chưa xác thực đi thẳng vào service. Ở kịch bản C, giả lập sự cố Catalog chậm — độ trễ gộp đi theo backend chậm nhất.

Đang tải mô phỏng…

Một gateway hay nhiều? Backends for Frontends Nâng cao

Nâng cao Một gateway duy nhất phục vụ web, mobile và API cho đối tác thường phình thành một khối monolith gồm các endpoint riêng cho từng client mà không ai sở hữu. Biến thể Backend for Frontend (BFF) cho mỗi trải nghiệm client một gateway riêng, do chính đội làm client đó sở hữu. Những mối quan tâm chung (TLS, WAF, giới hạn tốc độ thô) vẫn nằm ở lớp biên phía trước các BFF.

Triển khai với Spring Cloud Gateway

application.yml
spring:
  security:
    oauth2:
      resourceserver:
        jwt:
          issuer-uri: https://auth.example.com/realms/shop
  cloud:
    gateway:
      server:
        webflux:            # Spring Cloud Gateway 4.3+; bản cũ hơn: spring.cloud.gateway.routes
          routes:
            - id: orders
              uri: lb://orders-service
              predicates:
                - Path=/orders/**
              filters:
                - name: RequestRateLimiter
                  args:
                    redis-rate-limiter.replenishRate: 25
                    redis-rate-limiter.burstCapacity: 50
                    key-resolver: "#{@userKeyResolver}"
            - id: catalog
              uri: lb://catalog-service
              predicates:
                - Path=/catalog/**
              filters:
                - name: CircuitBreaker
                  args:
                    name: catalog
                    fallbackUri: forward:/fallback/catalog
GatewayConfig.java
@Configuration
class GatewayConfig {

    /** Giới hạn tốc độ theo người dùng đã xác thực (không có thì theo IP client). */
    @Bean
    KeyResolver userKeyResolver() {
        return exchange -> exchange.getPrincipal()
                .map(Principal::getName)
                .switchIfEmpty(Mono.justOrEmpty(exchange.getRequest().getRemoteAddress())
                        .map(address -> address.getAddress().getHostAddress()));
    }
}

Đánh đổi

ĐượcMất
Đơn giản cho clientMột host, một luồng xác thực, ít lượt đi về hơn.Logic riêng cho từng client dồn vào gateway nếu không tách thành các BFF.
Bảo mậtService ở chế độ riêng tư; chính sách được thực thi nhất quán.Gateway là mục tiêu giá trị cao, phải được gia cố và vá lỗi kịp thời.
Tính sẵn sàngNơi tập trung cho retry, timeout và circuit breaker.Thêm một thành phần sống còn: hãy chạy nhiều instance sau load balancer.
Độ trễGộp request giảm số lượt đi về của client.Thêm một chặng mạng cho mọi request.

Lưu ý khi chạy production

  • Giữ logic nghiệp vụ ngoài gateway — nó định tuyến và bảo vệ; service mới là nơi ra quyết định.
  • Cho mỗi route một Timeout và Circuit Breaker riêng để một service chậm không làm cạn gateway.
  • Giới hạn tốc độ phân tán cần trạng thái dùng chung (Redis) — giới hạn theo từng instance sẽ nhân lên theo số replica của gateway.
  • Truyền correlation id từ gateway để có thể lần theo một request qua mọi service.

Đọc thêm

Bài liên quan