Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique...

64
Quelques mystères de la complexité algébique Pascal Koiran LIP, Ecole Normale Supérieure de Lyon ENS Cachan, 10 septembre 2013

Transcript of Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique...

Page 1: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques mystères de la complexité algébique

Pascal KoiranLIP, Ecole Normale Supérieure de Lyon

ENS Cachan, 10 septembre 2013

Page 2: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Qu’est-ce que la complexité algébrique ?

I But de la complexité algorithmique :déterminer le coût asymptotique du “meilleur algorithme”pour un problème donné.Le coût :temps de calcul, espace mémoire, communication, énergie. . .

I En complexité algébrique :coût = nombre d’opérations arithmétiques.

Page 3: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Qu’est-ce que la complexité algébrique ?

I But de la complexité algorithmique :déterminer le coût asymptotique du “meilleur algorithme”pour un problème donné.Le coût :temps de calcul, espace mémoire, communication, énergie. . .

I En complexité algébrique :coût = nombre d’opérations arithmétiques.

Page 4: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Qu’est-ce que la complexité algébrique ?

I But de la complexité algorithmique :déterminer le coût asymptotique du “meilleur algorithme”pour un problème donné.Le coût :temps de calcul, espace mémoire, communication, énergie. . .

I En complexité algébrique :coût = nombre d’opérations arithmétiques.

Page 5: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Premier mystère :la complexité de la multiplication de matrices

Soient A et B des matrices n × n et C = AB .

cij =n∑

k=1

aikbkj

n3 multiplications, n2(n − 1) additions.

Page 6: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2 :algorithme de Strassen

(c11 c12c21 c22

)=

(a11 a12a21 a22

)(b11 b12b21 b22

).

On calcule les 7 produits :p1 = (a11 + a22)(b11 + b22)p2 = (a21 + a22)b11p3 = a11(b12 − b22)p4 = a22(−b11 + b21)p5 = (a11 + a12)b22p6 = (−a11 + a21)(b11 + b12)p7 = (a12 − a22)(b21 + b22).(

c11 c12c21 c22

)=

(p1 + p4 − p5 + p7 p3 + p5

p2 + p4 p1 + p3 − p2 + p6

)

Page 7: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2, suite

Vérification :

c12 = p3 + p5 = a11(b12 − b22) + (a11 + a12)b22 = a11b12 + a12b22.

Bilan : 7 multiplications, 18 additions(8 et 4 pour la méthode usuelle).Intérêt ?Les entrées de A et B peuvent appartenir à un anneau,même non commutatif, par exemple un anneau de matrices !Dans ce cas, une multiplication coûte plus cher que 14 additions.

Remarques :I Comme l’algorithme usuel, cet algorithme est bilinéaire

(on ne multiplie les entrées d’une matricequ’avec les entrées de l’autre matrice).

I Contrairement à l’algorithme usuel, il y a des annulations.

Page 8: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2, suite

Vérification :

c12 = p3 + p5 = a11(b12 − b22) + (a11 + a12)b22 = a11b12 + a12b22.

Bilan : 7 multiplications, 18 additions(8 et 4 pour la méthode usuelle).Intérêt ?Les entrées de A et B peuvent appartenir à un anneau,même non commutatif, par exemple un anneau de matrices !Dans ce cas, une multiplication coûte plus cher que 14 additions.

Remarques :I Comme l’algorithme usuel, cet algorithme est bilinéaire

(on ne multiplie les entrées d’une matricequ’avec les entrées de l’autre matrice).

I Contrairement à l’algorithme usuel, il y a des annulations.

Page 9: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille 2, suite

Vérification :

c12 = p3 + p5 = a11(b12 − b22) + (a11 + a12)b22 = a11b12 + a12b22.

Bilan : 7 multiplications, 18 additions(8 et 4 pour la méthode usuelle).Intérêt ?Les entrées de A et B peuvent appartenir à un anneau,même non commutatif, par exemple un anneau de matrices !Dans ce cas, une multiplication coûte plus cher que 14 additions.

Remarques :I Comme l’algorithme usuel, cet algorithme est bilinéaire

(on ne multiplie les entrées d’une matricequ’avec les entrées de l’autre matrice).

I Contrairement à l’algorithme usuel, il y a des annulations.

Page 10: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Multiplication de matrices de taille n :algorithme de Strassen

(C11 C12C21 C22

)=

(A11 A12A21 A22

)(B11 B12B21 B22

).

Les matrices Aij , Bij , Cij sont de taille n/2, a coefficients dans R .Soit T (n) = nombre d’opérations arithmétiques dans R .

T (n) = 18(n/2)2 + 7T (n/2)

On trouve T (n) = O(nlog2 7) ∼ n2,807.

Page 11: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Après Strassen

Soit ω le meilleur exposant possible.ω ≤ 2, 807 (Strassen, 1968)2,781 (Pan, 1978)2,780 (Bini et al., 1979)2,548 (Schönhage, 1979)2,522 (Pan, 1979)2,498 (Coppersmith - Winograd, 1980)2,479 (Strassen, 1986)2,375 (Coppersmith-Winograd, 1986)

2,3736 (Stothers, 2010)2,3727 (Williams, 2011)

ω = 2 n’est pas impossible.

Page 12: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Après Strassen

Soit ω le meilleur exposant possible.ω ≤ 2, 807 (Strassen, 1968)2,781 (Pan, 1978)2,780 (Bini et al., 1979)2,548 (Schönhage, 1979)2,522 (Pan, 1979)2,498 (Coppersmith - Winograd, 1980)2,479 (Strassen, 1986)2,375 (Coppersmith-Winograd, 1986)

2,3736 (Stothers, 2010)2,3727 (Williams, 2011)

ω = 2 n’est pas impossible.

Page 13: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 14: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 15: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 16: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 17: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 18: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Quelques bornes inférieuresOn ne sait pas montrer que ω > 2 mais...On sait que le nombre de multiplications nécessaire est au moins :

I 2n2 − 1 (Lafon-Winograd, 1978)I 2n2 + n − 3 (Bläser, 1999)

Avec un algorithme bilinéaire il en faut au moins :I 2n2 − 1 (Brockett-Dobkin, 1978)I 5

2n2 − 3n (Bläser, 1999)I 3n2 − 4n3/2 + n (Landsberg, 2012)

Sans soustractions, pas d’annulations :I Il faut n3 multiplications (Paterson, 1975).

Si on ne multiplie que par des constantes ≤ 1 en valeur absolue :I Il faut Ω(n2 log n) opérations arithmétiques (Raz, 2002)

Remarque : Pour montrer de telles bornes inférieures,il faut se donner un modèle de calcul bien défini.

Page 19: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

De très nombreux modèles de calcul...

pour étudier les nombreuses facettes du calcul.Exemples :Machines de Turing, circuits booléens, modèles quantiques,circuits arithmétiques.

I Les entrées sont des variables X1, . . . ,Xn,ou des constantes d’un corps K .

I A l’étape i on calcule Ri = Pi + Qi ou Ri = Pi × Qiavec Pi ,Qi : entrées ou résultats déjà calculés.

Un circuit calcule un ou plusieurs polynômes de K [X1, . . . ,Xn].

Page 20: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

De très nombreux modèles de calcul...

pour étudier les nombreuses facettes du calcul.Exemples :Machines de Turing, circuits booléens, modèles quantiques,circuits arithmétiques.

I Les entrées sont des variables X1, . . . ,Xn,ou des constantes d’un corps K .

I A l’étape i on calcule Ri = Pi + Qi ou Ri = Pi × Qiavec Pi ,Qi : entrées ou résultats déjà calculés.

Un circuit calcule un ou plusieurs polynômes de K [X1, . . . ,Xn].

Page 21: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Représentation graphique d’un circuit arithmétique

Circuit

×+

+ ×

+

x1 x2 x4k

Taille : 9Profondeur : 3

Ce modèle permet d’exprimer de nombreux algorithmes naturels,et de prouver des bornes inférieures.

Page 22: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Importance de la multiplication de matrices

I Un problème de base de l’algèbre linéaire.I L’exposant optimal ω est le même pour de nombreux

problèmes (inversion, déterminant, décomposition LU. . . ).

Une question plus simple :calcul du déterminant par des circuits de taille polynomiale ?

Page 23: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Elimination de Gauss

O(n3) opération, y compris des divisions !On obtient :

detA =P(aij)

Q(aij)

avec P,Q des polynômes calculés par des circuits arithmétiquesde taille O(n3).Elimination des divisions (Strassen) :pour diviser par 1− R on remarque que

11− R

=+∞∑k=0

Rk .

Pour R sans terme constant on peut tronquer au degré du résultat(n pour detA).

Page 24: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Elimination de Gauss

O(n3) opération, y compris des divisions !On obtient :

detA =P(aij)

Q(aij)

avec P,Q des polynômes calculés par des circuits arithmétiquesde taille O(n3).Elimination des divisions (Strassen) :pour diviser par 1− R on remarque que

11− R

=+∞∑k=0

Rk .

Pour R sans terme constant on peut tronquer au degré du résultat(n pour detA).

Page 25: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Elimination de Gauss

O(n3) opération, y compris des divisions !On obtient :

detA =P(aij)

Q(aij)

avec P,Q des polynômes calculés par des circuits arithmétiquesde taille O(n3).Elimination des divisions (Strassen) :pour diviser par 1− R on remarque que

11− R

=+∞∑k=0

Rk .

Pour R sans terme constant on peut tronquer au degré du résultat(n pour detA).

Page 26: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Détection des triangles dans un graphe

Dans un graphe G = (V ,E ), 3 sommets distincts i , j , k ⊆ Vforment un triangle si ij , jk , ki ⊆ E .

Problème : G contient-il un triangle ?

Algorithme naif : tester les(|V |

3

)triplets de sommets.

Peut-on faire mieux ?

Page 27: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Le retour de la multiplication

Matrice d’adjacence de G :Pour chaque couple de sommets (i , j),Aij = 1 si ij ∈ E , Aij = 0 sinon.C’est une matrice symétrique.

(A2)ij =∑n

k=1 AikAkj ≥ 1 ssi il existe k tel que ik ∈ E et kj ∈ E .

Algorithme :1. Calculer A2 par multiplication rapide.2. Pour chaque arête ij ∈ E : vérifier si (A2)ij ≥ 1 ;

si oui, il y a un triangle.

Page 28: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Le retour de la multiplication

Matrice d’adjacence de G :Pour chaque couple de sommets (i , j),Aij = 1 si ij ∈ E , Aij = 0 sinon.C’est une matrice symétrique.

(A2)ij =∑n

k=1 AikAkj ≥ 1 ssi il existe k tel que ik ∈ E et kj ∈ E .

Algorithme :1. Calculer A2 par multiplication rapide.2. Pour chaque arête ij ∈ E : vérifier si (A2)ij ≥ 1 ;

si oui, il y a un triangle.

Page 29: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 30: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 31: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 32: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Borne inférieure pour la détection de triangle :le modèle approprié ?

Données booléennes (matrice d’adjacence).

1. Circuits arithmétiques sur Z/2Z.2. Circuits booléens :

les opérations sont ∨,∧,¬ au lieu de +,×.

Ces deux modèles sont équivalents :par exemple, x ∧ y = xy , x ∨ y = x + y + xy , ¬x = x + 1.

3. Circuits booléens monotones : pas de ¬.

Dans ce modèle : borne inférieure en n3/(log n)6 (Razborov, 1985).

Page 33: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 34: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 35: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 36: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices

I (A2)ij : nombre de chemins de longueur 2 de i à j .I (Ak)ij : nombre de chemins de longueur k de i à j .I Se généralise aux graphes orientés

(matrice d’adjacence non nécessairement symétrique).I Se généralise aux graphes avec poids sur les arêtes

(poids d’un chemin = produit du poids de ses arêtes).

Page 37: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Second mystère :la complexité du calcul du permanent

Un petit cousin du déterminant :

per(X ) =∑σ∈Sn

n∏i=1

Xiσ(i)

Un autre problème de borne inférieure :

Conjecture de Valiant : Le permanent n’est pas calculablepar des circuits arithmétiques de taille polynomiale en n(sauf dans un corps de caractéristique 2).

C’est un analogue algébrique de la conjecture P 6= NP.

Page 38: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Second mystère :la complexité du calcul du permanent

Un petit cousin du déterminant :

per(X ) =∑σ∈Sn

n∏i=1

Xiσ(i)

Un autre problème de borne inférieure :

Conjecture de Valiant : Le permanent n’est pas calculablepar des circuits arithmétiques de taille polynomiale en n(sauf dans un corps de caractéristique 2).

C’est un analogue algébrique de la conjecture P 6= NP.

Page 39: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Mariages parfaits

Etant donnés n hommes et n femmes qui peuvent se connaître(ou non),peut-on marier les n femmes à n hommes qui les connaissent ?

I On peut répondre à cette question en temps polynomial.I Compter le nombre de solutions est conjecturé difficile

(Valiant).

Page 40: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Mariage et permanent

# mariage parfaits = 2 = per

1 1 00 1 11 0 1

← Ann← Beth← Carla

(C’est la matrice d’adjacence bipartie du graphe)

Entrées non booléennes ⇔ poids sur les arêtes.

Page 41: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Mariage et permanent

# mariage parfaits = 2 = per

1 1 00 1 11 0 1

← Ann← Beth← Carla

(C’est la matrice d’adjacence bipartie du graphe)

Entrées non booléennes ⇔ poids sur les arêtes.

Page 42: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction de profondeur pour les circuits arithmétiquesI Un sujet d’actualité dans les années 1970/80.I Réduction à la profondeur 4 : circuits de la forme ΣΠΣΠ.

Le degré entrant des portes + et × est non borné.

x1 xn

× ×

+ +

× ×

+

×

×

Page 43: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction de profondeur pour les circuits arithmétiquesI Un sujet d’actualité dans les années 1970/80.I Réduction à la profondeur 4 : circuits de la forme ΣΠΣΠ.

Le degré entrant des portes + et × est non borné.

x1 xn

× ×

+ +

× ×

+

×

×

Page 44: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction à la profondeur 4

Théorème (Agrawal-Vinay 2008, cas particulier) :Un polynôme multilinéaire en m variablesavec un circuit de taille 2o(m)

est calculable par un circuit de profondeur 4 et de taille 2o(m).

I Application potentielle (directe ou indirecte)aux bornes inférieures.

I Réduction à la profondeur 3 (ΣΠΣ) :Gupta-Kamath-Kayal-Saptharishi 2013.

Page 45: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissance de matrice en profondeur 4

Pour calculer Ad = (A√

d )√

d :

1. Calculer B = Aδ avec δ =√

d . On a :

Bij =∑

1≤i2,i3,...,iδ≤n

Aii2Ai2i3 · · ·Aiδ−1iδAiδ j .

2. Calculer Bδ.

Coût de l’algorithme :1. Chaque Bij : nδ−1 multiplications d’arités δ,

une addition d’arité nδ−1.Profondeur 2.

2. Seconde étape : même chose.

Au total : O(n√

d+1) opérations arithmétiques, profondeur 4.

Page 46: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissance de matrice en profondeur 4

Pour calculer Ad = (A√

d )√

d :

1. Calculer B = Aδ avec δ =√

d . On a :

Bij =∑

1≤i2,i3,...,iδ≤n

Aii2Ai2i3 · · ·Aiδ−1iδAiδ j .

2. Calculer Bδ.

Coût de l’algorithme :1. Chaque Bij : nδ−1 multiplications d’arités δ,

une addition d’arité nδ−1.Profondeur 2.

2. Seconde étape : même chose.

Au total : O(n√

d+1) opérations arithmétiques, profondeur 4.

Page 47: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Un autre modèle de calcul : les programmes à branchement

Graphe orienté sans cycle avec 2 sommets distingués s, t.

I Arêtes étiquetées par des variables ou des constantes.I Poids d’un chemin = produit des poids de ses arêtes.I sortie = somme des poids de tous les chemins de s à t.

Une représentation du polynôme z(x + 3y) :

3

xy

1

z

s

t

Page 48: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices et programmes à branchement

Soit G un programme à branchement, A sa matrice d’adjacence.Supposons que tous les chemins de s à t sont de longueur `.Le polynôme représenté est (A`)st .

Théorème :Soit G un programme à branchement de taille m et de profondeur `.Il existe un circuit de profondeur 4 équivalent à G ,avec m2 + 1 portes d’addition et mO(

√`) portes de multiplication.

Page 49: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Puissances de matrices et programmes à branchement

Soit G un programme à branchement, A sa matrice d’adjacence.Supposons que tous les chemins de s à t sont de longueur `.Le polynôme représenté est (A`)st .

Théorème :Soit G un programme à branchement de taille m et de profondeur `.Il existe un circuit de profondeur 4 équivalent à G ,avec m2 + 1 portes d’addition et mO(

√`) portes de multiplication.

Page 50: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Réduction à la profondeur 4 pour les circuits arithmétiques

Théorème :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d log d).

Principe de la preuve :C → programme à branchement → circuit de profondeur 4.

Page 51: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Une amélioration, et une borne inférieure

Théorème (Tavenas 2013) :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d).

Corollaire :Si le permanent admet des circuits de taille polynomiale en n,il admet des circuits de profondeur 4 de taille nO(

√n).

Théorème (Gupta-Kamath-Kayal-Saptharishi 2013) :Tout circuit(∗) de profondeur 4 pour le permanentest de taille au moins 2Ω(

√n).

(*) Il faut supposer que le circuit est homogène et que les multiplicationsentre entrées sont d’arité O(

√n).

Page 52: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Une amélioration, et une borne inférieure

Théorème (Tavenas 2013) :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d).

Corollaire :Si le permanent admet des circuits de taille polynomiale en n,il admet des circuits de profondeur 4 de taille nO(

√n).

Théorème (Gupta-Kamath-Kayal-Saptharishi 2013) :Tout circuit(∗) de profondeur 4 pour le permanentest de taille au moins 2Ω(

√n).

(*) Il faut supposer que le circuit est homogène et que les multiplicationsentre entrées sont d’arité O(

√n).

Page 53: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Une amélioration, et une borne inférieure

Théorème (Tavenas 2013) :Soit C un circuit arithmétique de taille t et degré d .Il existe un circuit de profondeur 4 équivalent de taille tO(

√d).

Corollaire :Si le permanent admet des circuits de taille polynomiale en n,il admet des circuits de profondeur 4 de taille nO(

√n).

Théorème (Gupta-Kamath-Kayal-Saptharishi 2013) :Tout circuit(∗) de profondeur 4 pour le permanentest de taille au moins 2Ω(

√n).

(*) Il faut supposer que le circuit est homogène et que les multiplicationsentre entrées sont d’arité O(

√n).

Page 54: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Bornes inférieures et racines réelles : une approche indirecte

Principe : obtenir des bornes inférieures à partir de généralisations(conjecturées) de la règle des signes.

Règle des signes (Descartes, 1596-1650) :

I Soit P(X ) =∑d

i=0 aiX i ∈ R[X ].I Soit Z+(P) le nombre de racines strictement positives.I Soit V (P) le nombre de changements de signes dans la suite

[a0, a1, . . . , ad ].

Alors Z+(P) ≤ V (P).

Page 55: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

La règle de Descartes sans les signes

Un résultat sur les polynômes creux.Théorème :Si f ∈ R[X ] a t monômes non nuls, f a au plus t − 1 racinesstrictement positives.Preuve : Récurrence sur t. Pas de racine > 0 pour t = 1.Pour t > 1 : Soit aαXα le monôme de plus petit degré.On peut supposer que α = 0 (sinon, diviser par Xα). Du coup :

(i) f ′ a t − 1 monômes ⇒ ≤ t − 2 racines strictement positives.(ii) Entre 2 racines strictement positives et consécutives de f :

il existe une racine strictement positive de f ′

(théorème de Rolle).

Corollaire : f a au plus 2t − 1 racines réelles.Cette borne est atteinte.

Page 56: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

La règle de Descartes sans les signes

Un résultat sur les polynômes creux.Théorème :Si f ∈ R[X ] a t monômes non nuls, f a au plus t − 1 racinesstrictement positives.Preuve : Récurrence sur t. Pas de racine > 0 pour t = 1.Pour t > 1 : Soit aαXα le monôme de plus petit degré.On peut supposer que α = 0 (sinon, diviser par Xα). Du coup :

(i) f ′ a t − 1 monômes ⇒ ≤ t − 2 racines strictement positives.(ii) Entre 2 racines strictement positives et consécutives de f :

il existe une racine strictement positive de f ′

(théorème de Rolle).

Corollaire : f a au plus 2t − 1 racines réelles.Cette borne est atteinte.

Page 57: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

La règle de Descartes sans les signes

Un résultat sur les polynômes creux.Théorème :Si f ∈ R[X ] a t monômes non nuls, f a au plus t − 1 racinesstrictement positives.Preuve : Récurrence sur t. Pas de racine > 0 pour t = 1.Pour t > 1 : Soit aαXα le monôme de plus petit degré.On peut supposer que α = 0 (sinon, diviser par Xα). Du coup :

(i) f ′ a t − 1 monômes ⇒ ≤ t − 2 racines strictement positives.(ii) Entre 2 racines strictement positives et consécutives de f :

il existe une racine strictement positive de f ′

(théorème de Rolle).

Corollaire : f a au plus 2t − 1 racines réelles.Cette borne est atteinte.

Page 58: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Des généralisations souhaitables

1. Si f et g ont t monômes :nombres maximum de solutions réelles pour f (x)g(x) = 1 ?Remarque : fg − 1 a au plus t2 + 1 monômes.Le nombre maximum de solutions est il quadratique en t ?linéaire ? intermédiaire ?

2. Idem pour f1f2 · · · fm = 1.3. τ -conjecture réelle

(sur les sommes de produits de polynômes creux) :Soit f (x) =

∑ki=1∏m

j=1 fij(x).Le nombre de racines réelles de f est polynomial en kmt.

Page 59: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Des généralisations souhaitables

1. Si f et g ont t monômes :nombres maximum de solutions réelles pour f (x)g(x) = 1 ?Remarque : fg − 1 a au plus t2 + 1 monômes.Le nombre maximum de solutions est il quadratique en t ?linéaire ? intermédiaire ?

2. Idem pour f1f2 · · · fm = 1.3. τ -conjecture réelle

(sur les sommes de produits de polynômes creux) :Soit f (x) =

∑ki=1∏m

j=1 fij(x).Le nombre de racines réelles de f est polynomial en kmt.

Page 60: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Des généralisations souhaitables

1. Si f et g ont t monômes :nombres maximum de solutions réelles pour f (x)g(x) = 1 ?Remarque : fg − 1 a au plus t2 + 1 monômes.Le nombre maximum de solutions est il quadratique en t ?linéaire ? intermédiaire ?

2. Idem pour f1f2 · · · fm = 1.3. τ -conjecture réelle

(sur les sommes de produits de polynômes creux) :Soit f (x) =

∑ki=1∏m

j=1 fij(x).Le nombre de racines réelles de f est polynomial en kmt.

Page 61: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Permanent et racines réelles

Théorème : Si la τ -conjecture réelle est vraie,pas de circuits de taille polynomiale pour le permanent.

Un ingrédient : réduction à la profondeur 4.

Circuit de profondeur 4 (∑∏∑∏

),avec des entrées constantes ou de la forme X 2i

mSomme de produits de polynômes creux

Page 62: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Permanent et racines réelles

Théorème : Si la τ -conjecture réelle est vraie,pas de circuits de taille polynomiale pour le permanent.

Un ingrédient : réduction à la profondeur 4.

Circuit de profondeur 4 (∑∏∑∏

),avec des entrées constantes ou de la forme X 2i

mSomme de produits de polynômes creux

Page 63: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Petit circuit, beaucoup de racines réellesI Soit Tn le polynôme de Tchebychev d’ordre n :

cos(nθ) = Tn(cos θ).

Par exemple : T1(x) = x , T2(x) = 2x2 − 1,T4(x) = 2(2x2 − 1)2 − 1.

I Tn est un polynôme de degré n avec n racines dans [−1, 1].I T2n(x) = T2(T2(· · ·T2(T2(x)) · · · )) : T2 itéré n fois.

Conséquence : circuit de taille O(n) pour T2n .

Graphes de T2 et T4 :

−1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1−1

−0.5

0

0.5

1

−1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1−1

−0.5

0

0.5

1

Page 64: Quelques mystères de la complexité algébiqueQuelques mystères de la complexité algébique PascalKoiran LIP,EcoleNormaleSupérieuredeLyon ENSCachan,10septembre2013 Qu’est-ce

Un devoir à la maison

Si f et g ont t monômes :nombres maximum de solutions réelles de l’équation f (x)g(x) = 1 ?