L'équilibrage de charge

Utilisation, principe et solutions

Introduction

L'équilibrage ou répartition de charge prend une importance particulière avec la montée en puissance des application web

Principes

En anglais Load-Balancing Répartition des connexions à une machine vers

un ensemble de machines Mis en oeuvre grâce à un boîtier d'équilibrage

de charge

Objectifs

Adaptation à la charge (Scalability) Amélioration des temps de réponse Augmentation de la qualité de service Tolérance de panne

Quelques solutions

Linux LVS Haproxy Microsoft NLB Varnish

Premier cas de figure : DNS round robin

Tourniquet DNS: à un nom DNS on associe plusieurs adresses (multiples enreg. A)

Simple à mettre en oeuvre Peu de contrôle

Microsoft NLB

Network Load Balancing Intégré à Windows serveur 2000/2003 Pas plus de 32 serveurs Répartition de charge calculée uniquement sur

la charge réseau Serveurs situés dans le même sous-réseau

Microsoft NLB - suite

Utilise une adresse MAC virtuelle pour l'ensemble des membre du cluster

Mode unicast Chaque carte du cluster dispose de la même

adresse MAC et IP : impossible de communiquer sans ajout de carte supplémentaire

ou Mode multicast Chaque carte du cluster dispose de 2 adresses

MAC => pb avec de nombreux routeurs et switch

Linux LVS/IPVS

Linux Virtual Server Dans le noyau Linux depuis 2001 Solution éprouvée utilisée par Wikipedia,

Clubic, ... Dispose d'un application d'équilibrage de

charge de niveau 7 (KTCPVS) Solution généraliste pas limitée au seul http

Linux LVS/IPVS -2

supporte de nombreux algorithmes de répartition round-robin, weighted round-robin, least-connection

scheduling, weighted least-connection, locality-based least-connection, locality-based least-connection with replication, destination hashing, source hashing, shortest expected delay, never queue.

Synchronisation des information d'état

Schéma de principe

Les mode de fonctionnement

* Tunnel Virtuel avec la NAT Tunnel Virtuel avec le TUN Tunnel Virtuel avec le Direct Routing

VS/NAT

VS/NAT

Son principe de fonctionnement ne permet pas un grand nombre de serveurs (~10)

Simple à mettre en oeuvre

VS/Tunneling

VS/Tunneling

Permet un plus grand nombre de serveurs (~ 100) : charge élevée

VS/Direct Routing

VS/Direct Routing

Permet un plus grand nombre de serveurs (~ 100)

Les modes de répartition de charge

Round-Robin : répartition uniforme Round-Robin pondéré Machine la moins chargée Machine la moins chargée avec pondération

Le paquetage ipvsadm

Permet de mettre en place un serveur LVS

exemple : répartition Web en Round-Robin ipvsadm -A -t 207.175.44.110:80 -s rr

ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.1:80 -m

ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.2:80 -m

ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.3:80 -m

ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.4:80 -m

ipvsadm -a -t 207.175.44.110:80 -r 192.168.10.5:80 -m

HAProxy

Dispositif d'équilibrage de charge pour TCP et les applications HTTP

Solution stable et éprouvée S'adapte automatiquement à l'état des serveurs Fonctionne au niveau 4 ou 7 Gère les informations de session http Ne gère pas HTTPS Gère plusieurs dizaines de milliers de

connexion

HAProxy – 2 Quelques fonctionnalités :

Répartition sur la base d’un cookie existant, ou bien insertion de son propre cookie pour gérer l’affinité de serveur.

HAProxy peut tester la disponibilité des serveurs, soit en établissant une connexion TCP, soit en adressant une requête HTTP. En mode HTTP, la vérification peut porter sur une URI particulière, qui teste tous les composants requis au bon fonctionnement.

HAProxy - 3 mode de répartition : round-robin (permutation

circulaire), avec possibilité de permutation et de limitation du nombre de connexions par serveur.

reconfiguration possible à chaud. statistiques temps-réel. HAProxy est généralement mis en œuvre

couplé à heartbeat,

VARNSIH Varnish est un accélérateur web/proxy inverse Il est assez largement utilisé sur les sites

dynamiques sur lequels il permet d'améliorer très sensiblement les temps de réponse (x 4 ou x5)

Il permet d'effectuer de la répartition de charge (au niveau 7 applicatif)

http://varnish-cache.org/

La haute disponibilité

Le redirecteur LVS constitue un SPOF (Single Point Of Failure ou ressource critique ) et par là un risque de panne. On le double souvent par une deuxième machine reliée avec un heartbeat

D'autre part, il est possible d'utiliser des logiciels (ldirectord, LVSM, keepalived, ...) qui vont tester le fonctionnement des serveurs et permettre de s'adapter dynamiquement à leur fonctionnement (ajout, suppression d'une machine, ...)

Les solutions

UltraMonkey : LVS + heartbeat + ldirectord

Mise en oeuvre

De nombreux tutoriel pour LVS/IPVS, Ultramonkey ou Haproxy sur howtoforge.com