Les aléas de données

Aléas 1

Les aléas de données

• Jusqu’à présent toutes les instructions étaient indépendantes ; aucune d’entre elles n’utilisaient les résultats calculés par une autre.

• Regardons se qui se passe dans un programme réel.

sub $2,$1,$3 # Registre $2 écrit par suband $12,$2,$5 # 1er opérande ($2) dépend de subor $13,$6,$2 # 2nd opérande ($2) dépend de subadd $14,$2,$2 # 1er ($2) & 2nd ($2) dépendent de subsw $15,100($2) # index ($2) dépend de sub

Les quatre dernières instructions sont toutes dépendantes du résultat que la première instruction écrit dans le registre $2.

Aléas 2

Exécution de la séquence précédente

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Valeur de $2 1 2 3 4 5 6 7 8 9

Aléas 3

Exécution de la séquence précédente

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Valeur de $2 110

210

310

410

510

6-20

7-20

8-20

9-20

110

210

3-20

4-20

5-20

6-20

7-20

8-20

9-20

Aléas 4

Les aléas de données

• Les dépendances de données sont appelées des aléas de données.

• Ils constituent une des raisons pour lesquelles les pipelines sont difficiles à concevoir au niveau logiciel et matériel.

• Pour résoudre ce problème, le compilateur introduit soit :– des instructions indépendantes– s’il ne peut pas en trouver il insère des instructions

dont l’indépendance est assurée : des instructions nop (no opération). Cette solution pénalise les performances, puisque chaque opération nop utilise un cycle sans réaliser de travail utile.

Aléas 5

Disparition des aléas de données

sub $2,$1,$3and $12,$2,$5or $13,$6,$2add $14,$2,$2sw $15,100($2)add $20,$20,$21sw $29,100($25)add $25,$5,$23

sub $2,$1,$3nopnopnopand $12,$2,$5or $13,$6,$2add $14,$2,$2sw $15,100($2)add $20,$20,$21sw $29,100($25)add $25,$5,$23

•Insertion de nop : solution simple, dégrade le temps

Aléas 6

Insertion de suspension dans le pipeline

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI B B B B

MI B B B B

MI B B B B

sub $2,$1,$3

suspension

suspension

suspension

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

Aléas 7

Disparition des aléas de données


sub $2,$1,$3add $20,$20,$21sw $29,100($25)add $5,$25,$23and $12,$2,$5or $13,$6,$2add $14,$2,$2sw $15,100($2)

•Réordonnancement des taches : solution très difficile, donne les meilleurs performances


Recherche de 3 opérationsindépendantes

Attention à nepas recréer des aléas

Aléas 8

Traitement des aléas au niveau matériel

• Conditions pour détecter un aléas de données• Création d’une unité de détection des aléas

Aléas 9

Le contrôle des aléas• Retour sur l’exécution d’une instruction lw $10,9($1)

Nous allons suivre la valeur 10 dans les différents bancs de registres

Aléas 10

Exemple CC1

Registrelecture1Registrelecture2

RegistreécritureDonnée àécrire

0M1

0M1

ES

0M1

CP

R.Adr

MémoireI

Donnéelue 1

Donnéelue 2

AdresseLecture

AdresseécrireDonnéeà écrire

Donnéelue 1

M0

EI/DI DI/EX EX/MEM MEM/ER

Extraction Instructionlw $10,9($1)

Aléas 11

Exemple CC2



0M1

0M1

ES

0M1

CP

R.Adr

MémoireI

Donnéelue 1

Donnéelue 2

AdresseLecture


Donnéelue 1

M0


Extraction Instruction Décodage Inssub $11,$2,$3 lw $10,9($1)

10

EI/DI.RegistreLectureEI/DI.RegistreLecture

Aléas 12

Exemple CC3



0M1

0M1

ES

0M1

CP

R.Adr

MémoireI

Donnéelue 1

Donnéelue 2

AdresseLecture


Donnéelue 1

M0


Décodage Ins Exécutionsub $11,$2,$3 lw $10,9($1)

DI/EX.RegistreEcritureDI/EX.RegistreEcriture

10

X

Si x=10 problème

Aléas 13

Exemple CC4



0M1

0M1

ES

0M1

CP

R.Adr

MémoireI

Donnéelue 1

Donnéelue 2

AdresseLecture


Donnéelue 1

M0


Exécution Mémoiresub $11,$2,$3lw $10,9($1)

EX/MEM.RegistreEcritureEX/MEM.RegistreEcriture

10

X

Si x=10 problème

Aléas 14

Exemple CC5



0M1

0M1

ES

0M1

CP

R.Adr

MémoireI

Donnéelue 1

Donnéelue 2

AdresseLecture


Donnéelue 1

M0


Mémoire Ecriture Résultatsub $11,$2,$3lw $10,9($1)

MEM/ER.RegistreEcritureMEM/ER.RegistreEcriture

10X

Si x=10 problème

Aléas 15

Le contrôle pour les aléas de données : les suspensions• Conditions pour détecter un aléas de données :

1a- EI/DI.RegistreLecture1 = DI/EX.RegistreEcriture

2a- EI/DI.RegistreLecture1 = EX/MEM.RegistreEcriture

3a- EI/DI.RegistreLecture1 = MEM/ER.RegistreEcriture

1b- EI/DI.RegistreLectur2 = DI/EX.RegistreEcriture

2b- EI/DI.RegistreLecture2 = EX/MEM.RegistreEcriture

3b- EI/DI.RegistreLecture2 = MEM/ER.RegistreEcriture

Exemple :

sub $2,$1,$3and $12,$2,$5

EI/DI.RegistreLecture1 = DI/EX.RegistreEcriture=2

sub $2,$1,$3Or $i,$j,$kand $12,$2,$5

EI/DI.RegistreLecture1 = EX/MEM.RegistreEcriture=2

Aléas 16

Unité de détection des aléas

• L’unité de détection d’aléas stoppe l’écriture dans le CP et le registre pipeline EI/DI et choisit des 0 pour les valeurs de contrôle dans le registre pipeline DI/EX lorsqu’elle détecte un aléas.

Aléas 17

L’unité de détection d’aléas

MémoireInstructionsCP

Registres

0

M

1

MémoireDonnées 1

M

0

Unité détectionaléas

Contrôle

0

M

1

ER

M

EX

ER

M ER

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg

EX/MEM.EcrireRegMEM/ER.EcrireReg

Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX

EX/MEM

MEM/ER

DI/EX.RegistreEcritutureRt

DI/EX.RegistreEcritureRd

EX/MEM.RegistreEcriture

MEM/ER.RegistreEcriture

Aléas 18



Registres

0

M

1

MémoireDonnées 1

M

0


Contrôle

0

M

1

ER

M

EX

ER

M ER

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg


Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX

EX/MEM

MEM/ER





and $4,$2,$5 sub $2,$1,$3

1 1 010

000

1100

$1

$3

2

1

3

Aléas 19



Registres

0

M

1

MémoireDonnées 1

M

0

Contrôle

0

M

1

ER

M

EX

ER

M ER

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg


Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX

EX/MEM

MEM/ER





or $8,$2,$6 and $4,$2,$5 sub $2,$1,$3

0 0 100

000

0000

$2

$5

4

1

10000

$1

$3

2

A

Aléas 20


Registres

0

M

1

Contrôle

0

M

1

ER

M

EX

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg

Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX



0 0 100

000

0000

$2

$5

4

1

10000

$1

$3

2


MémoireDonnées 1

M

0

ER

M ER


EX/MEM

MEM/ER



or $8,$2,$6 and $4,$2,$5 sub $2,$1,$3

A

Conditionsd’aléas

Aléas 21



Registres

0

M

1

MémoireDonnées 1

M

0


Contrôle

0

M

1

ER

M

EX

ER

M ER

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg


Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX

EX/MEM

MEM/ER





or $8,$2,$6 and $4,$2,$5 bulle sub $2,$1,$3

0 0 100

000

0000

$2

$5

4

000000

2

1

10

A

BulleBulle

Aléas 22



Registres

0

M

1

MémoireDonnées 1

M

0


Contrôle

0

M

1

ER

M

EX

ER

M ER

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg


Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX

EX/MEM

MEM/ER





or $8,$2,$6 and $4,$2,$5 bulle bulle sub $2,$1,$3

0 0 100

000

0000

$2

$5

4

000000

2

0

00

A

1

BulleBulle BulleBulle

Aléas 23



Registres

0

M

1

MémoireDonnées 1

M

0


Contrôle

0

M

1

ER

M

EX

ER

M ER

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg


Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX

EX/MEM

MEM/ER





or $8,$2,$6 and $4,$2,$5 bulle bulle bulle

1 1 010

000

1100

$2

$5

4

000000

0

00

0

BulleBulle BulleBulleBulleBulle

Aléas 24



Registres

0

M

1

MémoireDonnées 1

M

0


Contrôle

0

M

1

ER

M

EX

ER

M ER

EcritureREG

0 DI/EX.RegDest

DI/EX.EcrireReg


Ecr

iture

EI/

DI

Ecr

ture

CP

EI/DI

DI/EX

EX/MEM

MEM/ER





and $9,$4,$2 or $8,$2,$6 and $4,$2,$5 bulle bulle

1 1 010

000

1100

$2

$6

8

110000

0

00

0

$2

$5

4

BulleBulleBulleBulle

Aléas 25

Réduire les aléas de données : l’envoi

• L’idée est simple, les entrées de l’UAL peuvent être prises dans n’importe quels registres et non pas seulement dans le registre DI/EX.

• Autrement dit, on utilise les résultats temporaires plutôt que d’attendre que les registres soient écrits. Cette technique s’appelle l’envoi ou dérivation.

Aléas 26


Valeur de $2Valeur de EX/MEMValeur de MEM/ER

110xx

210xx

310xx

410-20x

510x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Aléas 27



110xx

210xx

310xx

410-20x

510x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Aléas 28



110xx

210xx

310xx

410-20x

510x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Aléas 29



110xx

210xx

310xx

410-20x

510x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Aléas 30



110xx

210xx

310xx

410-20x

5-20x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Dernier moment

Aléas 31



110xx

210xx

310xx

410-20x

5-20x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Aléas 32



110xx

210xx

310xx

410-20x

5-20x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Dernier moment

Aléas 33



110xx

210xx

310xx

410-20

x

5-20x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

AttentionAttention

Aléas 34



110xx

210xx

310xx

410-20x

5-20x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Aléas 35



110xx

210xx

310xx

410-20x

5-20x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Dernier moment

Aléas 36



110xx

210xx

310xx

410-20x

5-20x-20

6-20xx

7-20xx

8-20xx

9-20xx

sub $2,$1,$3

and $12,$2,$5

or $13,$6,$2

add $14,$2,$2

sw $15,100($2)

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

Bilan : Gain de 3 NOPBilan : Gain de 3 NOP

Aléas 37

Réalisation matériel

MémoireDonnées

MémoireDonnées

MM

MM

DI/EX EX/MEM MEM/ER

Aléas 38

L ’envoi au niveau EX/MEM

MémoireDonnées

MémoireDonnées

MM

MM

DI/EX EX/MEM MEM/ER

Aléas 39

L ’envoi au niveau MEM/ER

MémoireDonnées

MémoireDonnées

MM

MM

DI/EX EX/MEM MEM/ER

Aléas 40

L'envoi pour les chargements

lw $2,100($1)

and $12,$2,$5

MI R MDUAL R

MI R MDUAL R

L’unité de détection des aléas doit provoquer une suspensionpour cette combinaison.

lw $2,100($1)

Suspension

and $12,$2,$5

MI R MDUAL R

MI R MDUAL R

MI

Aléas 41

L'envoi pour les chargements

lw $2,100($1)

and $12,$2,$5

MI R MDUAL R

MI R MDUAL R

lw $2,100($1)

and $12,$2,$5

MI DI EX M ER

MI DI Nop EX M ER

Aléas 42

Erreurs fréquente

lw $2,100($1)

and $12,$2,$5

MI R MDUAL R

MI R MDUAL R

lw $2,100($1)

and $12,$2,$5

MI DI EX M ER

MI DI Nop EX M ER

AttentionAttention

Aléas 43

Exemple : Pipeline ss envois

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

Aléas 44

Exemple

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

MI DI No No No EX M ER

MI No No No DI EX M ER

No No No MI DI No No No EX M ER

Aléas 45

Exemple : pipline avec envoi

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

Aléas 46

Exemple

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

lw $1,100($2)

sub $4,$1,$5

add $6,$1,$7

Or $8,$1,$6

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

MI DI EX M ER

ERMEXDIMINop

ERMEXDINopMI

ERMEXNopDIMI

ERMEXDIMI

Aléas 47

Les Aléas de Branchement

• Lors d’une instruction de branchement, la décision concernant un branchement éventuel ne survient qu’à l’étage MEM du pipeline.

• Ce délai pour déterminer l’instruction correcte à extraire est appelé un aléas de contrôle ou aléas de branchement.

MI R MDUAL Rbeq $1,$10,30

MI R MDUAL R

MI R MDUAL R

MI R MDUAL R

MI R MDUAL

Aléas 48

Solutions

• Toujours suspendre.

– Du temps est perdu si le branchement ne doit pas s'effectuer.

• Supposer que le branchement n’est pas effectué.

– Si le branchement est effectué, les instructions extraites et décodées seront laissées de côté en remplaçant simplement les signaux de contrôle originaux des étages EI, DI et EX par des 0.

Aléas 49

Relation compilateur/matériel

• Un autre exemple de compromis entre compilateurs et complexité du matériel, les premiers processeurs MIPS évitaient que le matériel suspende le pipeline en imposant au logiciel une instruction indépendante du chargement après celui-ci.

• Que le matériel s’appuie ou non sur le compilateur pour résoudre les dépendances des aléas afin d’assurer une exécution correcte, le compilateur doit comprendre le pipeline pour obtenir les meilleurs performances. Sinon, des suspensions inattendues réduiront les performances du code compilé.

Aléas 50

Illusions et pièges

• Piège : une absence de réflexion approfondie lors de la conception du jeu d’instructions peut avoir un impact défavorable sur le pipeline.

• Illusion : accroître la profondeur du pipeline améliore toujours les performances.

• Illusion : la technique du pipeline est simple.

Aléas 51

Conclusion

Chemin de donnéesmulticycle

Chemin de donnéespipeliné

chemin de donnéesà un cycle

Plus lent Plus rapide

Débit d’instructions (1/CPI)

Fréq

uen

ce d

’horl

og

e

Plu

s le

nt

Plu

s r

ap

ide

Aléas 52

Résumé

• Le pipeline améliore le débit mais pas le temps par instruction : il faut toujours cinq cycles à une instruction d’un pipeline à cinq étages pour s’exécuter.

• Les dépendances de données et de contrôle dans les programmes imposent une limite supérieure au gain que peut générer le pipeline car le processeur doit parfois attendre la fin d’une instruction pour que les dépendances soit résolues.

• On peut élever cette limite, mais pas l’éliminer, en réduisant les aléas de contrôle par des optimisations, et les aléas de données par un ordonnancement des instructions par le compilateur.

Aléas 53

Développements récents

Machines superpipelinés

Extracinst

Extracinst

Décodinst

Exéc Mém don

Mém don

Mémdon

Ecritresul

Extracinst

Extracinst

Décodinst

Exéc Mém don

Mém don

Mémdon

Ecritresul

Superscalaire

Extractioninst

Décodage instruc

Exécution Mémoiredonnées

Ecriturerésult

Extractioninst

Décodage instruc

Exécution Mémoiredonnées

Ecriturerésult

Les aléas de données

Documents

Transcript of Les aléas de données