Design to Scale
Content Delivery Network (CDN)
Cache nội dung ở các điểm edge gần người dùng, để phần lớn request không phải vượt đại dương hay chạm tới origin — và thiết kế trang sao cho thực sự cache được.
Sau bài này bạn sẽ
- Giải thích vì sao khoảng cách chi phối độ trễ với người dùng ở xa.
- Mô tả cách edge cache, hết hạn và xoá (purge) nội dung.
- Thiết kế response cache được bằng Cache-Control và URL ổn định.
- Nhận ra khi nào cá nhân hoá vô hiệu hoá CDN.
Nên đọc trước
Tổng quan
Một nhà xuất bản ở Paris không gửi mọi cuốn sách đi từ Paris: họ để sẵn hàng ở các kho gần độc giả. Phần lớn đơn hàng xuất từ kho gần nhất; chỉ những đầu sách hiếm mới phải đi cả quãng đường từ Paris.
Ánh sáng trong cáp quang mất ~70 ms để vượt Đại Tây Dương và quay lại, tới châu Á còn lâu hơn, và mỗi request có thể cần vài lượt đi về. CDN đặt các server cache (edge) ở hàng trăm địa điểm. Request đi tới edge gần nhất; nếu hit thì được trả lời tại chỗ, nếu miss thì edge lấy từ origin của bạn và giữ một bản sao trong khoảng thời gian header cache của response cho phép.
Chạy thử
Người dùng ở châu Âu, Mỹ và châu Á xem các trang sản phẩm được phục vụ từ Frankfurt. So sánh p50/p95 và ô Origin bận giữa A và B, thử xoá cache một edge, rồi xem C, nơi mọi trang đều được cá nhân hoá.
Làm cho response cache được
| Header / kỹ thuật | Tác dụng |
|---|---|
Cache-Control: public, s-maxage=600 | Edge được giữ 10 phút (trình duyệt theo max-age). |
stale-while-revalidate=60 | Trả bản cũ trong lúc làm mới ở chế độ nền. |
URL asset có version (app.3f9c.js) | Cache vĩnh viễn (immutable); mỗi lần deploy có URL mới. |
Giữ Vary tối thiểu | Mỗi giá trị Vary nhân số bản sao edge phải lưu. |
Cache-Control: private, no-store | Dữ liệu cá nhân không bao giờ được cache ở edge. |
Ví dụ
@GetMapping("/products/{id}")
ResponseEntity<ProductPage> product(@PathVariable long id) {
return ResponseEntity.ok()
.cacheControl(CacheControl.maxAge(Duration.ofMinutes(1)).sMaxAge(Duration.ofMinutes(10)).cachePublic()
.staleWhileRevalidate(Duration.ofMinutes(1)))
.body(pages.render(id)); // giống nhau cho mọi người: không giá riêng, không giỏ hàng
}
@GetMapping("/me/cart-summary") // nhỏ, cá nhân, CDN không bao giờ cache
ResponseEntity<CartSummary> cart(Principal user) {
return ResponseEntity.ok().cacheControl(CacheControl.noStore()).body(carts.summary(user));
}Đánh đổi
| Được | Mất | |
|---|---|---|
| Độ trễ | Lượt hit được trả lời cách người dùng vài mili giây. | Lượt miss thêm một chặng; nội dung không cache được thì chẳng được lợi gì. |
| Tải origin | Origin chỉ phục vụ một phần nhỏ lưu lượng và chịu được đợt tăng vọt. | Purge hoặc hết hạn trên toàn cầu có thể dội một đợt miss về origin. |
| Độ mới | TTL và purge kiểm soát nội dung sống bao lâu. | Nội dung có thể cũ tới bằng TTL; purge cần thời gian để lan ra. |
Lưu ý khi chạy production
- Theo dõi tỉ lệ hit theo đường dẫn và khu vực; tụt đột ngột thường do thay đổi header hoặc URL.
- Dùng origin shielding (một tầng cache trung gian) để miss ở nhiều edge chỉ thành một request về origin.
- Tách trang thành phần khung cache được và các lời gọi API cá nhân nhỏ.
- Rate limit và bảo vệ origin: CDN cũng gánh được tấn công, nhưng chỉ với đường dẫn có cache.