Khi một ứng dụng chỉ chạy trên một máy chủ, mọi yêu cầu đều đi vào cùng một nơi: máy quá tải thì chậm, máy hỏng thì dừng. Cân bằng tải là giải pháp quen thuộc để chia yêu cầu cho nhiều máy cùng phục vụ. Bài viết giải thích khái niệm, các kiểu cân bằng tải, cách chọn thuật toán và những lưu ý khi đưa vào hệ thống thật.
Bộ cân bằng tải nhận yêu cầu từ người dùng rồi chuyển đến một trong nhiều máy chủ phía sau, loại bỏ máy lỗi khỏi vòng phục vụ. Nó giúp tăng năng lực và tính sẵn sàng nhưng bản thân cũng cần dự phòng để không trở thành điểm đơn lỗi. Cần cấu hình kiểm tra sức khỏe và xử lý phiên đăng nhập đúng cách.
Cân bằng tải làm gì
- Chia tải: phân bổ yêu cầu cho nhiều máy để không máy nào quá tải.
- Tăng tính sẵn sàng: phát hiện máy lỗi và ngừng gửi yêu cầu đến máy đó.
- Dễ mở rộng và bảo trì: thêm hoặc bớt máy phía sau mà người dùng không nhận thấy; cập nhật từng máy lần lượt.
- Kết thúc kết nối bảo mật tập trung: nhiều hệ thống xử lý chứng chỉ HTTPS tại bộ cân bằng tải để máy phía sau nhẹ hơn.
Tầng 4 và tầng 7 khác nhau thế nào
| Tiêu chí | Tầng 4 (giao vận) | Tầng 7 (ứng dụng) |
|---|---|---|
| Dựa vào | Địa chỉ IP và cổng | Nội dung yêu cầu: tên miền, đường dẫn, tiêu đề |
| Ưu điểm | Đơn giản, xử lý nhanh, phù hợp nhiều giao thức | Định tuyến linh hoạt, ví dụ /api đến cụm này, /static đến cụm khác |
| Phù hợp | Dịch vụ TCP/UDP, cơ sở dữ liệu, kết nối tải cao | Website, API, ứng dụng vi dịch vụ |
Các thuật toán phân phối phổ biến
- Luân phiên (round robin): lần lượt từng máy; đơn giản khi các máy có cấu hình tương đương.
- Ít kết nối nhất (least connections): ưu tiên máy đang xử lý ít yêu cầu hơn, hợp với yêu cầu có thời gian xử lý khác nhau.
- Theo địa chỉ nguồn (IP hash): cùng một người dùng thường đến cùng một máy.
- Có trọng số: máy mạnh nhận nhiều yêu cầu hơn máy yếu.
Health check và phiên đăng nhập
Health check là yêu cầu định kỳ bộ cân bằng tải gửi đến từng máy để biết máy còn khỏe không. Nên kiểm tra đường dẫn phản ánh trạng thái thật của ứng dụng, không chỉ cổng có mở hay không.
Phiên đăng nhập: nếu ứng dụng lưu phiên trên từng máy, người dùng có thể bị đăng xuất khi yêu cầu sau đến máy khác. Cách xử lý ổn định hơn là lưu phiên ở kho dùng chung; giải pháp tạm thời là gắn phiên (sticky session) để cùng người dùng quay lại cùng máy, nhưng làm chia tải kém đều hơn và khó bảo trì.
Khi nào cần, khi nào chưa cần
- Nên cân nhắc: ứng dụng có người dùng thật liên tục, cần dừng bảo trì không gián đoạn, có kế hoạch tăng lưu lượng theo mùa, hoặc muốn kết hợp tự động mở rộng. Xem autoscaling là gì.
- Có thể chưa cần: ứng dụng nội bộ ít người dùng, môi trường thử nghiệm hoặc hệ thống chạy được trên một máy và chấp nhận thời gian dừng ngắn.
Tránh biến bộ cân bằng tải thành điểm đơn lỗi
- Chọn dịch vụ hoặc kiến trúc cân bằng tải có dự phòng thay vì một thành phần đơn lẻ.
- Đặt các máy phía sau ở nhiều vùng hoặc nhiều nút hạ tầng khi cần chịu lỗi cao hơn. Xem thiết kế hệ thống sẵn sàng cao trên cloud.
- Giám sát số kết nối, lỗi và thời gian phản hồi tại bộ cân bằng tải, xem giám sát và cảnh báo.
Thông tin dịch vụ tại mạng và cân bằng tải của FPT Cloud.
Câu hỏi thường gặp
Load balancer có làm tăng tốc độ ứng dụng không?
Nó giúp ứng dụng giữ ổn định khi tải cao bằng cách chia việc cho nhiều máy; không làm một yêu cầu đơn lẻ nhanh hơn nếu máy phía sau đã đủ khỏe.
Nên chọn cân bằng tải tầng 4 hay tầng 7?
Tầng 7 phù hợp khi cần định tuyến theo tên miền hoặc đường dẫn; tầng 4 phù hợp với giao thức không phải HTTP hoặc khi ưu tiên hiệu năng đơn giản.
Sticky session có nên dùng không?
Có thể dùng như giải pháp tạm. Về lâu dài nên đưa phiên đăng nhập ra kho dùng chung để chia tải đều và bảo trì dễ hơn.
Cân bằng tải có thay thế sao lưu hay dự phòng thảm họa không?
Không. Nó giúp khi một máy lỗi, nhưng không thay cho sao lưu hay kế hoạch phục hồi khi mất cả vùng hạ tầng hoặc dữ liệu.
Làm sao biết bộ cân bằng tải đang hoạt động tốt?
Theo dõi số yêu cầu, tỷ lệ lỗi, thời gian phản hồi và trạng thái health check của từng máy phía sau, đặt cảnh báo khi vượt ngưỡng.