Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Ordonnancement sous contraintes deQualite de Service dans les Clouds

GUEROUT Tom

DA COSTA Georges MONTEIL Thierry

(SEPIA) (SARA)

14/09/2015

1

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Profil

Profil

Parcours : Laboratoires LAAS et IRIT a Toulouse

• 2011-2014 : Doctorat“Ordonnancement sous contraintes de Qualite de Service dans les Clouds”

• 2015 : Post-Doctorat“Gestion de Qualite de Service pour l’Internet des Objets”

• *2016* : Charge de Recherche au LAAS

Domaines de recherche

Cloud-Computing, Internet des Objets, Qualite de Service, Etudes energetiques,Ordonnancement, Optimisation multi-objectifs, Simulation

2

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contexte de These

These : Contexte de recherche

3

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Contributions de These

* Étude de l'outil de gestion de fréquences CPU du noyau Linux : le DVFS,et implémentation au sein du simulateur CloudSim* Étude de modèles énergétiques* Validation de simulations avec DVFS par comparaisons avec des éxpérimentations réelles (Grid'5000, Super-calculateur)

* Définition et catégorisation de paramètres de QdS Cloud* Élaboration de métriques mesurables de paramètres non-fonctionnelsde QdS pour les SLA des fournisseurs de Cloud

* Problème (NP-Complet) de placement de machines virtuelles souscontraintes de QdS* Résolution par une heuristique (Algorithme Génétique)* Évaluation de la qualité d'optimisation

* Ordonnancement (ré-allocation) multi-objectifs* Analyse de l'impact de l'optimisation par le GA des algorithmes gloutons

Études deconsommations

énergétiques

ModélisationQdS

Cloud

Optimisationmulti-objectifs

QdS Cloud

Simulationd'ordonnancement

Cloud

4

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Modelisation QoS Cloud

Modelisation QoS Cloud

Categories de QoS :

• PERFORMANCE

• SURETE DE FONCTIONNEMENT

• SECURITE & DONNEES

• COUT

Avec comme buts majeurs de :

• Satisfaire l’utilisateur par de bonnes conditions d’utilisation

• Tirer profit de ces services

Compromis entre la QoS proposee a l’utilisateur et les couts engendres

5

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Modelisation QoS Cloud

Modelisation QoS CloudCategories de QoS :

• PERFORMANCE :Temps d’execution, Latence, Debit,Temps de reponse

• SURETE DE FONCTIONNEMENT :Robustesse et Dynamisme

• SECURITE & DONNEES :Authentification, Autorisation, Integrite,Confidentialite, Responsabilisation, Tracabilite,Cryptage, Cycle de vie des donnees, Non Repudiation

• COUT :Cout de service, Empreinte carbone,Cout energetique :

E =nH∑i=1

P(Fi )hi × T h,k

rep

P(Fi ) = α (Pfull (Fi )− Pidle (Fi )) + Pidle (Fi )

Temps de réponse (s)

vm4

vm3

vm2

vm1

VM

Machine

physique 0

VM

VM

VM

Machine

physique 1

VM

VM

VM

Machine

physique N

VM

LIBRE

LIBRE

LIBRE

Dynamsime

4 vm3 vm 1 vm

Robustesse : 2.67

6

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Etudes energetiques

Leviers energetiques• ON/OFF machines physiques

• Consolidation VM (Migrations)

• Reconfiguration de la capacite de calcul des VM

• Utilisation du DVFS (Dynamic Voltage & Frequency Scaling)

• PERFORMANCE : Frequence maximum fixee• POWERSAVE : Frequence minimum fixee• USERSPACE : Frequence choisie fixee• ON-DEMAND : Decision dynamique avec 1 seuil + 1 delai• CONSERVATIVE : Decision dynamique avec 2 seuils

WTime

Frequency

00

f1

T1

T1

D

WTime

Frequency

00

f2

T2 D

7

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Optimisation multi-criteres

Optimisation multi-criteres : Algorithme GenetiqueModelisation :

• Un chromosome ⇔ une solution de placement

• Un gene ⇔ une machine virtuelle

• Valeur d’un gene ⇔ numero de la machine physique

VM_1

VM_3

VM_n

Machine

physique 0

VM_n-1

VM_n-2

Machine

physique 1

VM_2

Machine

physique 2

Fonction objectif (valeur de Fitness) :

Fobj = α1 × n(E) + α2 × n(RespT ) + α3 × n(Rob)− α4 × n(Dyn)

Fonction de normalisation “Centrer-Reduire” : n(x) = v−µσ

⇒ Valeurs de fitness comparables

8

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Optimisation multi-criteres

Meta-heuristique : Algorithme Genetique

Table: Coefficient values ofthe 5 versions of the GA

GA NameCoefficients applied to metrics

EnergyRespT

Rob Dyntime

GA All 1 1 1 1GA Energy 1 0 0 0GA RespT 0 1 0 0GA Rob 0 0 1 0GA Dyn 0 0 0 1

0

0.2

0.4

0.6

0.8

1

0 50 100 150 200 250 300 350 400 450

Fit

ness

Nb machines virtuelles

Comparaison du Fitness

GA_EnergyGA_RespT

GA_RobGA_Dyn

GA_All

9

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Simulation d’ordonnancement Cloud

Ordonnancement par SimulationContribution au simulateur :

• Integration de nouvelles fonctionnalites dans CloudSim

• Collaboration avec l’equipe de Raj. Buyya de Melbourne 1

• Validation par comparaison avec des expes reelles (grid’5000, Hyperion)

• Simulation d’ordonnancement periodique afin d’analyser l’evolution desmetriques de QoS au cours du temps 2

Condition de simulation :

• Instance du probleme : 110 / 400

• Meme caracteristiques que pour l’etude du GA

• Re-Allocations periodiques chaque 20 secondes ⇒ migrations

Algorithmes de placement utilises :

• Allocation avec les differentes versions du GA

• Allocation avec des algorithmes gloutons :Best-Fit Sorted (BFS) & Round-Robin (RR)

1. Journal. : Energy-aware simulation with DVFS, Simulation Modelling Practice and Theory, 2013

2. Journal : Quality of service modeling for green scheduling in Clouds, SUSCOM, 2014

10

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contributions

Simulation d’ordonnancement Cloud

Resultat - Dynamisme

0

200

400

600

800

1000

1200

1400

1600

1800

0 20 40 60 80 100 120 140

Dyn

am

ism

e (M

IPS

lib

res

par

ma

chib

e p

hys

ique)

Temps (s)

Métrique : Dynamisme

BFSBFS−ReAlloc

GA_AllGA_All−ReAlloc

RRRR−ReAlloc

Bonne

qualité

Mauvaise

qualité

Courbes GA/BFS/RR : Allocation unique a t=0

Courbes GA All-ReAlloc/BFS-ReAlloc/RR-ReAlloc : Allocation a t=0 puis re-allocation chaque 20 secondes

11

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Contact

GUEROUT Tom

tguerout@laas.frhttp ://www.laas.fr/∼tguerout

Énergie

Qualitéde

Service

CloudComputing

Internetdes

Objets

Optimisationmulti-objectifs

Simulation

12

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Annexes

DVFS dans le noyau Linux5 modes de fonctionnement : 3 statiques, 2 dynamiques

• PERFORMANCE : Frequence maximum fixee• POWERSAVE : Frequence minimum fixee• USERSPACE : Frequence choisie fixee• ON-DEMAND : Decision dynamique avec 1 seuil + 1 delai• CONSERVATIVE : Decision dynamique avec 2 seuils

Prise de decision de changement de frequence chaque 10ms

13

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Annexes

Pourquoi changer la frequence des CPU ?

Puissance dynamique delivree par un composant CMOS :

Pcmos = Ceff × V 2 × f

avec, Ceff la capacitance effective *, V le voltage et f la frequence* grandeur physique : capacite d’un composant a s’opposer au changement de voltage entre ses bornes

Energie depensee par tache :

E = P ∗ T ∝ V 2 , avec V ∝ f , alors E ∝ f 2︸ ︷︷ ︸

WTime

Frequency

00

f1

T1

T1

D

WTime

Frequency

00

f2

T2 D

Frequence divisee par 2 → Energie divisee par 4 14

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Annexes

Resultat - Energie / Temps de reponse

460

480

500

520

540

560

580

600

620

640

660

BFSBFS−R

eAlloc

GA_All

GA_All−R

eAlloc

RR

RR−R

eAlloc

100

105

110

115

120

125

En

erg

ie (

Wh

)

Tem

ps

de

répon

se (

s)

Métriques : Energie et Temps de réponse

EnergyResponseTime

Bonne

qualité

Mauvaise

qualité

Courbes GA/BFS/RR : Allocation unique a t=0

Courbes GA All-ReAlloc/BFS-ReAlloc/RR-ReAlloc : Allocation a t=0 puis re-allocation chaque 20 secondes

15

Ordonnancement sous contraintes de Qualite de Service dans les Clouds

Annexes

Resultat - Robustesse

1

1.5

2

2.5

3

3.5

4

4.5

0 20 40 60 80 100 120 140

Rob

ust

esse

(N

b S

ervi

ces

pa

r m

ach

ibe

phys

iqu

e)

Temps (s)

Métrique : Robustesse

BFSBFS−ReAlloc

GA_AllGA_All−ReAlloc

RRRR−ReAlloc

Bonne

qualité

Mauvaise

qualité

Courbes GA/BFS/RR : Allocation unique a t=0

Courbes GA All-ReAlloc/BFS-ReAlloc/RR-ReAlloc : Allocation a t=0 puis re-allocation chaque 20 secondes

16