Limitations of the Playstation 3 for High Performance...

27
Introduction Plan Limitations of the Playstation 3 for High Performance Cluster Computing Alfredo Buttari, Jack Dongarra, Jakub Kurzak July 2007 Alfredo Buttari, Jack Dongarra, Jakub Kurzak Limitations of the Playstation 3 for High Performance Cluster Computing

Transcript of Limitations of the Playstation 3 for High Performance...

Page 1: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Introduction Plan

Limitations of the Playstation 3 for HighPerformance Cluster Computing

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

July 2007

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 2: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Introduction Plan

Introduction

Intérêts de la PS3 :

rapide et puissantebon marché

↪→ L’utiliser pour faire une grille de calculperformante ?

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 3: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Introduction Plan

Grille de calcul

CellCell Cell

CellCellCell

PS3 PS3 PS3

PS3PS3PS3

grille

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 4: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Introduction Plan

Plan

1 Architecture des composantsProcesseur CellPlaystation 3Grille de calcul

2 Test de la grillePrésentationRésultats théoriquesRésultats expérimentauxConclusion

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 5: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Première partie I

Architecture des composants

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 6: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Processeur Cell

Architecture

bus

unite

de

calcul

unite

de

calcul

unite

de

calcul

unite

de

calcul

unite

de

calcul

unite

de

calcul

unite

de

calcul

unite

de

calcul

PowerPC

I/O

Memoire

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 7: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Processeur Cell

Points forts

Points forts :

organisation de la mémoire ⇒ transferts rapidesgrande fréquencecontrôle total du développeur sur le matériel ⇒ optimisationspossibles

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 8: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Processeur Cell

Points faibles

Mais :

le développeur doit respecter des contraintes strictes pour quele code soit optimiséorganisation de la mémoire ⇒ beaucoup de transfertsne convient pas à l’algèbre linéaire creusedouble précision très lente

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 9: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Processeur Cell

Contraintes

Contraintes de programmation :

utiliser des opérations vectoriellesaligner les données en mémoiremasquer le coût des communications entre la mémoirepartagée et les unités de calcul par le coût des calculsréutiliser au maximum les données du cachedérouler les bouclesréduire le nombre de branchements

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 10: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Playstation 3

Architecture

Matériel :

un processeur Cellune mémoire de 256 Moune carte Gigabit Ethernet et une carte graphique

Logiciel : Game OS (hyperviseur) installé sur une unité de calcul

Problèmes :

accès au réseau ralenticarte graphique inaccessibleune unité de calcul perdue (+1 pour Linux)

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 11: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Playstation 3

Architecture

Matériel :

un processeur Cellune mémoire de 256 Moune carte Gigabit Ethernet et une carte graphique

Logiciel : Game OS (hyperviseur) installé sur une unité de calcul

Problèmes :

accès au réseau ralenticarte graphique inaccessibleune unité de calcul perdue (+1 pour Linux)

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 12: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Playstation 3

Points forts

Points forts :

?

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 13: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Playstation 3

Points faibles

Points faibles :

Game OSdeux unités de calcul occupéesmémoire insuffisante pour des calculs sur de grandes matrices

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 14: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Architecture des composants

Grille de calcul

Grille de calcul

Architecture : grille

Protocole : MPI, avec des performances très diminuées dues àl’hyperviseur (bande passante : 60%)

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 15: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Deuxième partie II

Test de la grille

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 16: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Présentation

Test et algorithme

Test : produit de matrices denses

Algorithme : stockage par blocs acyclique des matrices.À chaque étape i , on multiplie la ie colonne de A par la ie ligne deB .

Deux cas : masquer le coût des communications par les calculs oupas.

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 17: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Présentation

Test et algorithme

Test : produit de matrices denses

Algorithme : stockage par blocs acyclique des matrices.À chaque étape i , on multiplie la ie colonne de A par la ie ligne deB .

Deux cas : masquer le coût des communications par les calculs oupas.

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 18: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Présentation

Un petit dessin vaut mieux qu’un long discours

a

b

c

d e f

i

ad ae af

bd be bf

cd ce cf

i

A

B

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 19: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Présentation

Caractéristiques

Caractéristiques :

Donnée Notation ValeurNombre de processeurs np 4

Taille d’un vecteur (en octets) fpsize 4Bande passante du réseau bw 600 Mb/s

Performance maximale d’une PS3 peak 25, 6× 6 Gflop/s

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 20: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Résultats théoriques

Hypothèses

Hypothèses du modèle :

si plusieurs communications en même temps : mêmeperformance que lorsqu’elles ont lieu séparémentenvoyer un message à n processeurs : même coût qu’envoyerun message de longueur n à 1 processeurunités de calculs et bande passante utilisées avec leurperformance maximale

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 21: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Résultats théoriques

Modèle

calculs < communications

calculs > communications

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 22: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Résultats expérimentaux

Une seule unité de calcul

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 23: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Résultats expérimentaux

Six unités de calcul

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 24: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Conclusion

Conclusion

Le modèle est bon.La grille de calcul l’est moins.

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 25: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Conclusion

Une étude solide pour les personnes souhaitant utiliser unegrille de calcul de PS3.Utiliser des PS3 ne semble pas être très performant...

Problèmes rencontrés :

Parfois, manque de précisions.Pas de comparaison avec d’autres architectures.

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 26: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Conclusion

Une étude solide pour les personnes souhaitant utiliser unegrille de calcul de PS3.Utiliser des PS3 ne semble pas être très performant...

Problèmes rencontrés :

Parfois, manque de précisions.Pas de comparaison avec d’autres architectures.

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing

Page 27: Limitations of the Playstation 3 for High Performance ...keller/Documents-etudes/Calcul-matriciel/... · Introduction Plan Grille de calcul CellCell Cell Cell Cell PS3 PS3 PS3 PS3

Test de la grille Conclusion

Des questions ?

Alfredo Buttari, Jack Dongarra, Jakub Kurzak

Limitations of the Playstation 3 for High Performance Cluster Computing