Design to Scale
Thiết kế ứng dụng stateless
Không giữ trạng thái người dùng trong bộ nhớ của instance ứng dụng, để instance nào cũng phục vụ được mọi request — điều kiện tiên quyết cho load balancing, autoscaling và deploy nhẹ nhàng.
Sau bài này bạn sẽ
- Giải thích điều gì làm instance thành stateful và vì sao nó cản trở việc scale.
- So sánh session trong bộ nhớ, sticky session và session store dùng chung.
- Đưa session, file upload và cache ra khỏi instance.
- Nhận ra những trạng thái ẩn phá hỏng việc scale ngang.
Nên đọc trước
Tổng quan
Nếu mỗi giao dịch viên ngân hàng cất hồ sơ của bạn trong ngăn bàn riêng, lần nào bạn cũng phải xếp hàng đúng người đó — và hôm họ nghỉ ốm thì chẳng ai giúp được. Cất hồ sơ vào tủ chung thì giao dịch viên nào rảnh cũng phục vụ được bạn.
Một instance là stateful khi có thứ gì đó người dùng cần về sau chỉ nằm trong bộ nhớ hoặc ổ đĩa local của nó: session đăng nhập, giỏ hàng, file upload, form nhiều bước đang làm dở. Instance stateless đặt tất cả những thứ đó ở dịch vụ dùng chung (session store, database, object storage) hoặc ngay trong request (token có chữ ký), nên các instance có thể thay thế cho nhau.
Chạy thử
Ba instance, 300 người dùng đã đăng nhập, và app-2 crash lúc t = 10 s. So sánh ô Người dùng bị đăng xuất bất ngờ: round robin với session trong bộ nhớ (A), sticky session (B) và session store dùng chung (C).
Session có thể nằm ở đâu
| Lựa chọn | Sống sót khi mất instance | Load balancing | Ghi chú |
|---|---|---|---|
| Bộ nhớ instance | Không | Cần sticky session | Đơn giản nhất; hỏng ở mỗi lần deploy, crash và scale in. |
| Sticky session | Không | Không đều, người dùng bị ghim | Là cách chữa cháy, không phải cách sửa: người dùng của instance bị mất sẽ bị đăng xuất. |
| Store dùng chung (Redis) | Có | Thuật toán nào cũng được | Thêm một lần tra nhanh mỗi request; store phải có availability cao. |
| Token có chữ ký (JWT, cookie) | Có | Thuật toán nào cũng được | Không cần tra; cần cẩn thận chuyện thu hồi và kích thước — giữ token nhỏ và ngắn hạn. |
Spring Session với Redis
spring:
session:
store-type: redis # có spring-session-data-redis trong classpath
timeout: 30m
data:
redis:
host: sessions.internal
port: 6379
# Controller vẫn dùng HttpSession như cũ — dữ liệu giờ nằm trong Redis, không nằm trong instance này.Đánh đổi
| Được | Mất | |
|---|---|---|
| Scale | Thêm, bớt hay thay instance thoải mái; autoscaling và rolling deploy chạy trơn tru. | Store dùng chung trở thành phụ thuộc sống còn và cũng phải scale. |
| Khả năng chịu lỗi | Một lần crash chỉ mất các request đang chạy. | Session store sập là mọi người cùng bị ảnh hưởng. |
| Độ trễ | Không cần định tuyến người dùng tới một instance cụ thể. | Thêm một lời gọi mạng mỗi request (thường ~1 ms). |
Lưu ý khi chạy production
- Kiểm tra tính stateless: kill ngẫu nhiên một instance trong lúc load test và xem có ai bị đăng xuất không.
- Chạy session store có replicate, có timeout và hành vi khi lỗi rõ ràng.
- Lưu file upload vào object storage (S3, GCS), không lưu lên ổ đĩa của instance.
- Chạy job chỉ được chạy một nơi bằng khoá hoặc scheduler, không chạy trên mọi instance.