loadbalancer 3

Load Balancer #3 - Advanced Details of Load Balancers

본 글은 educative.io 의 Grokking Modern System Design Interview 코스의 Load Balancer 챕터 내용을 정리한 글입니다. What is local load balancing? 로컬 LB 는 데이터센터 내에 존재하고 리버스 프록시같이 동작하며 들어오는 요청들을 가용서버들에게 분산시킨다. 들어오는 요청들은 가상 IP 주소 (VIP, Virtual IP) 를 사용하는 LB 에 원활하게 연결된다. Algorithms of load balancers 로컬 로드밸런서에 사용되는 잘 알려진 알고리즘들은 아래와 같은 것들이 있다. 이 외에도 randomized 나 weighted least connection 알고리즘 등이 있다. Round-robin schedulin..

System Design 2023.03.29

Load Balancer #2 - Global and Local Load Balancing

본 글은 educative.io 의 Grokking Modern System Design Interview 코스의 Load Balancer 챕터 내용을 정리한 글입니다. Introduction 지난 레슨에서 로드밸런싱은 데이터센터 내에서만 동작하는 것으로 보여졌다. 하지만 로드밸런싱은 글로벌과 로컬 스케일 둘 다에 필요한데, 두 경우가 어떻게 다른지 알아보자. Global server load balancing (GSLB) GSLB 는 여러 지역에 걸쳐 트래픽 부하를 분산시킨다 Local load balancing 데이터 센터 내에서 일어나는 로드밸런싱을 말한다. 이 경우는 데이터센터 내의 서버들의 효율성과 더 나은 자원 활용에 중점을 둔다 Global server load balancing GSLB ..

System Design 2023.03.26

Load Balancer #1 - Introduction to Load Balancers

본 글은 educative.io 의 Grokking Modern System Design Interview 코스의 Load Balancer 챕터 내용을 정리한 글입니다. What is load balancing? 일반적인 데이터 센터에는 초당 백만건 정도의 요청이 도착할 수 있다. 이러한 요청들을 처리하기 위해서는 수천 또는 수십억대의 서버들이 부하를 나눠갖기 위해 협업해야 한다. load balancer (LB) 는 클라이언트의 요청을 사용 가능한 서버들에 균등하게 분배하는 일을 한다. 이를 통해 서버가 과부하되거나 죽는걸 방지한다. 로드밸런싱 레이어는 방화벽 이후 데이터센터 내에서 처음 마주치는 부분이다. 서비스가 초당 수백~수천건의 요청만 처리해도 된다면 로드밸런서가 필요 없을수도 있다. 하지만 ..

System Design 2023.03.26