Trong môi trường Microservices, tại sao việc kết hợp giữa Client-Side Load Balancing và Server-Side Load Balancing lại là một thiết kế kiến trúc tối ưu để giải quyết bài toán giao tiếp nội bộ giữa các Service?

Question

Accepted Answer

Khái niệm cơ bản

Server-Side Load Balancing: Mô hình truyền thống nơi client gửi yêu cầu đến một Load Balancer tập trung (như NGINX, AWS ALB), sau đó Load Balancer này mới phân phối đến các Backend Server.
Client-Side Load Balancing: Mô hình mà phía client (trong kiến trúc Microservices, đây chính là các Service gọi API lẫn nhau) tự duy trì danh sách các instance của Service đích và tự quyết định chọn instance nào để gửi request.

Sự cần thiết của Client-Side Load Balancing trong Microservices
Trong một hệ thống Microservices phức tạp, việc để mọi giao tiếp nội bộ (East-West Traffic) đi qua một Server-Side Load Balancer trung tâm sẽ tạo ra những điểm nghẽn nghiêm trọng:

Single Point of Failure (SPOF) và Bottleneck: Nếu Load Balancer trung tâm gặp sự cố hoặc quá tải, toàn bộ hệ thống giao tiếp nội bộ sẽ bị tê liệt.
Độ trễ mạng gia tăng (Network Hop): Request từ Service A phải đi qua Load Balancer rồi mới đến Service B, làm tăng thêm một bước chuyển mạng không cần thiết.

Giải pháp kiến trúc tối ưu: Kết hợp cả hai mô hình

Đối với North-South Traffic (Lưu lượng từ bên ngoài vào hệ thống): Sử dụng Server-Side Load Balancer (như API Gateway hoặc AWS ALB) để tiếp nhận request từ client bên ngoài, thực hiện SSL Termination, bảo mật và phân phối vào hệ thống.
Đối với East-West Traffic (Lưu lượng giao tiếp nội bộ giữa các Microservices): Sử dụng Client-Side Load Balancing tích hợp cơ chế Service Discovery (ví dụ: Netflix Eureka kết hợp với Ribbon/Spring Cloud LoadBalancer, hoặc mô hình Service Mesh như Istio/Envoy).

Cơ chế hoạt động của Client-Side Load Balancing với Service Discovery

Mỗi khi một Microservice khởi động, nó sẽ đăng ký địa chỉ IP và Port của mình lên Service Registry (Registry Server).
Khi Service A muốn gọi Service B, nó sẽ truy vấn Service Registry để lấy danh sách các instance hiện đang hoạt động của Service B.
Thư viện Client-Side Load Balancer tích hợp trong Service A sẽ áp dụng thuật toán cân bằng tải (như Round Robin hoặc Weighted Response Time) để chọn ra một instance cụ thể của Service B và gọi trực tiếp.

Kinh nghiệm phỏng vấn thực chiến
Ứng viên cần chứng minh khả năng thiết kế hệ thống bằng cách chỉ rõ khi nào nên dùng mô hình nào. Việc áp dụng sai mô hình (ví dụ dùng Server-Side Load Balancer cho hàng nghìn request nội bộ mỗi giây giữa các service nhỏ) sẽ làm giảm hiệu năng hệ thống đáng kể và tốn kém chi phí hạ tầng.

Trong môi trường Microservices, tại sao việc kết hợp giữa Client-Side Load Balancing và Server-Side Load Balancing lại là một thiết kế kiến trúc tối ưu để giải quyết bài toán giao tiếp nội bộ giữa các Service?

Khái niệm cơ bản

Sự cần thiết của Client-Side Load Balancing trong Microservices

Làm Chủ Phỏng Vấn & Nâng Cao Trình Độ Chuyên Nghiệp

Tải Tuyển Tập 100+ Câu Hỏi Phỏng Vấn Chuyên Sâu (PDF)

Cần Mentor Phỏng Vấn Thử 1-1 & Tối Ưu CV?

Kiểm Tra CV Chuẩn ATS Miễn Phí

Câu hỏi load balancing liên quan cùng chủ đề