La conjugaison des endomorphismes de R - Michael … · Michaël Monerau La conjugaison des...

24
La conjugaison des endomorphismes de R n Michaël Monerau TIPE 2006 Sous la direction de Nicolas Tosel

Transcript of La conjugaison des endomorphismes de R - Michael … · Michaël Monerau La conjugaison des...

La conjugaison des endomorphismesde Rn

Michaël Monerau

TIPE 2006

Sous la direction de Nicolas Tosel

Plan1 Introduction 1

1.1 Position du problème . . . . . . . . . . . . . . . . . . . . . . . . . 11.2 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

2 La classification linéaire 22.1 L’équivalence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22.2 La similitude . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

2.2.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . 22.2.2 Réduction de Jordan . . . . . . . . . . . . . . . . . . . . . 22.2.3 Description des classes de similitude . . . . . . . . . . . . 32.2.4 Intérêt des classes de similitude . . . . . . . . . . . . . . . 4

2.3 L’équivalence différentielle . . . . . . . . . . . . . . . . . . . . . . 42.3.1 Motivation et définition . . . . . . . . . . . . . . . . . . . 42.3.2 Etude des classes d’équivalence . . . . . . . . . . . . . . . 4

3 La classification topologique 73.1 Définitions et intérêt . . . . . . . . . . . . . . . . . . . . . . . . . 7

3.1.1 Définitions . . . . . . . . . . . . . . . . . . . . . . . . . . 73.1.2 Intérêt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

3.2 Classes de conjugaison hyperboliques . . . . . . . . . . . . . . . . 103.2.1 La partie nilpotente . . . . . . . . . . . . . . . . . . . . . 103.2.2 La partie automorphique . . . . . . . . . . . . . . . . . . 123.2.3 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . 16

3.3 Classes de conjugaison non hyperboliques . . . . . . . . . . . . . 16

4 Le théorème de Großman - Hartman 184.1 Préliminaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184.2 Théorème de Großman - Hartman . . . . . . . . . . . . . . . . . 19

Résumé

La deuxième moitié du XXeme siècle a connu l’essor de la désor-mais bien connue Théorie du chaos. On entend par là l’étude desystèmes physiques très complexes liés à des équations que l’on nepeut résoudre directement, que l’on a du mal à appréhender. Lathéorie mathématique a très largement contribué à mieux compren-dre bon nombre de ces phénomènes, et sous une forme tout à faitinédite.

En effet, c’est l’étude topologique des fonctions linéaires de Rnqui a poussé aux résultats les plus probants, ces fonctions linéaires re-présentant l’évolution de systèmes physiques, plus précisément leursétats, sous la forme de portraits de phase à n dimensions. Toutl’enjeu de cette étude des endomorphismes de Rn a été de trouverdes moyens de classer les systèmes qui “se ressemblent” (ie. “quiont à peu près le même comportement”), et c’est précisément dansce domaine que la puissance des outils topologiques s’est révélée.Les résultats que l’on cherche sont plus qualitatifs que précisémentquantitatifs.

Cette étude très riche des endomorphismes de Rn aboutit à uneclassification quasi-totale de ceux-ci. Par classification, on entendséparation en classes d’objets sémantiquement et structurellementproches, dans un sens qu’il nous reste bien sûr à définir sans am-biguïté. Le problème a été résolu en grande partie par J.H. Kuiperet J.W. Robin en 1972, et c’est sur leur travail que nous nous ap-puierons.

D’abord, nous nous attacherons à bien comprendre le problèmeet ses enjeux. Puis nous étudierons la classification linéaire desendomorphismes, plus communément appelée similitude en algèbrelinéaire. On affinera encore la précision de notre étude en considérantla classification topologique, beaucoup plus précise et complexe, pourenfin illustrer son utilité par un détour du côté du théorème de Groß-man - Hartman.

i

1. Introduction 1

1 Introduction

1.1 Position du problèmeDans toute la suite, n ∈ N∗.Comme annoncé, notre étude se limitera ici aux endomorphismes de Rn.On cherche à classer ces objets de manière utile et cohérente. Par classer,

on entend séparer les espaces en classes d’équivalence relatives à des relationsd’équivalence qu’on aura pris le soin de définir et de justifier clairement. C’estle choix de ces relations qui sera plus ou moins pertinent pour atteindre notrebut : arriver à une classification puissante des endomorphismes. Une classifica-tion puissante est en substance une classification qui nous donnera des résultatstrès forts si deux endomorphismes appartiennent à la même classe d’équivalence.Par exemple, on peut espérer comprendre l’action globale d’un endomorphismesur Rn donné en connaissant seulement celle d’un élément qui lui est équivalent.Par nature, on attend donc des résultats plus qualitatifs que quantitatifs.

1.2 NotationsOn notera L(Rn) l’ensemble des endomorphismes de Rn, ie. les applications

linéaires de Rn dans lui-même. L’ensemble des matrices correspondantes seranoté Mn(R). Le groupe des inversibles de L(Rn) (groupe linéaire) sera notéGL(Rn). Lorsque le contexte est évident, on confondra l’endomorphisme et samatrice, et les constantes seront identifiées à l’homothétie correspondante.

L(Rn) sera normé par la norme triple usuelle (||| |||) subordonnée à la normeeuclidienne classique (|| ||).

On notera C1 l’espace des C1-difféomorphismes de Rn dans lui-même. Ladifférentielle de ϕ ∈ C1 évaluée en x ∈ Rn sera désignée par dϕ(x).

L’espace des homéomorphismes de Rn dans lui-même sera noté H.

Michaël Monerau La conjugaison des endomorphismes de Rn

2. La classification linéaire 2

2 La classification linéaireNous formulons ici les relations en termes d’endomorphismes car cela est

plus maniable, mais il est bien évident que les énoncés sont similaires sur lesmatrices.

2.1 L’équivalenceLa première relation d’équivalence qui vient à l’esprit est classique. C’est le

changement de base d’un point de vue matriciel, ou plus simplement la conju-gaison par deux isomorphismes :

[2.A] Définition. (Equivalence)Soient (u, v) ∈ L(Rn)2. On définit la relation ∼ ainsi :

u ∼ v ⇔ ∃(p, q) ∈ GL(Rn)2 tels que v = p ◦ u ◦ q

C’est bien une relation d’équivalence comme on le vérifie immédiatement.Une étude simple montre que les classes d’équivalence de cette relation sonttrop simples pour être utiles : il y en a n + 1, et elles sont constituées desendomorphismes de rang fixé. Il est bien évident qu’une telle classification estbeaucoup trop grossière pour décrire précisément l’action globale d’un endor-morphisme sur Rn.

2.2 La similitude2.2.1 Définition

La similitude est une relation beaucoup plus fine que la simple équivalence.On demande en plus, dans la définition ci-dessus : q = p−1. Ainsi, deux en-domorphismes sont semblables lorsque leur action est identique, simplementdéplacée d’une base sur une autre. Matriciellement, cela revient à considérerque deux matrices sont semblables si et seulement si elles représentent un mêmeendomorphisme dans deux bases différentes.

On définit donc la relation d’équivalence suivante :

[2.B] Définition. (Similitude)

Soient (u, v) ∈ L(Rn)2. On définit la relation l∼ ainsi :

ul∼ v ⇔ ∃p ∈ L(Rn) tel que v = p ◦ u ◦ p−1

Il devient alors intéressant de s’attacher à déterminer les classes d’équivalencedéfinies par cette relation : les classes de similitude.

2.2.2 Réduction de Jordan

Le théorème de réduction dû à Jordan enlève tout mystère à l’étude desclasses de similitude de L(Rn) (et donc corollairement de Mn(R)).

Michaël Monerau La conjugaison des endomorphismes de Rn

2. La classification linéaire 3

Par convention, on notera hk,λ un “k-bloc de Jordan” associé à la valeurpropre λ :

hk,λ =

taille k︷ ︸︸ ︷λ 1

. . . . . .. . . 1

λ

Pour alléger la notation, on convient que hk = hk,0.

[2.C] Théorème. (Réduction de Jordan réelle)Soit A ∈ Mn(R). Alors A est semblable à la matrice J , qui s’écrit

par blocs :

J =

hk1,λ1

. . .hks,λs

K1

. . .Kr

, avec

Kl =

Λl I2

. . . . . .. . . I2

Λl

où Λl =(

al bl−bl al

)

Les réels λl sont les valeurs propres réelles (non-nécessairement dis-tinctes) de A ; les nombres complexes al ± ibl (bl 6= 0) les valeurspropres complexes conjuguées (non-nécessairement distinctes).

Notons que la réduction de Jordan (parfois appelée jordanisation) généraliseen quelque sorte la diagonalisation puisqu’elle rend l’action d’un endomorphismeexcessivement simple et intelligible en trouvant une base dans laquelle la matriceest très “vide”. Elle coïncide d’ailleurs avec la forme diagonale dans le cas dematrices diagonalisables.

2.2.3 Description des classes de similitude

Le théorème précédent associe à chaque matrice, de manière univoque, saforme normale : une matrice qui lui est semblable formée simplement de blocsde Jordan. Ainsi, deux endomorphismes sont semblables si et seulement sileur matrice ont même forme normale. La classification de L(Rn) par classes desimilitude est donc réduite à la détermination de cette forme normale de Jordan.

Par conséquent, si l’on note Nf (λ, k) le nombre de k-blocs de Jordan (blocsde Jordan de taille k) associés à la valeur propre λ pour f , les Nf (λ, k) sont desinvariants de similitude, et ils caractérisent même chaque classe de similitude.Les connaître tous est clairement équivalent à connaître la forme normale del’endomorphisme f , d’où la :

Michaël Monerau La conjugaison des endomorphismes de Rn

2. La classification linéaire 4

[2.D] Proposition. (CNS de similitude)Soient (u, v) ∈ L(Rn)2,

ul∼ v ⇐⇒ ∀λ ∈ C, ∀k ∈ N∗, Nu(λ, k) = Nv(λ, k)

2.2.4 Intérêt des classes de similitude

La classification linéaire mesure des ressemblances très quantitatives entreles endomorphismes. Par exemple, deux endomorphismes ayant des valeurs pro-pres très proches, mais différentes, seront jugés comme définitivement différents.Pourtant, il est bien évident que leur action sur Rn risque de ne pas être vraimentdifférente qualitativement. Le but qu’on s’est fixé au début de cette étude, àsavoir déterminer des correspondances plus qualitatives que quantitatives, n’estpas compatible avec ce résultat. On préfèrerait que, tant que les endomor-phismes ont des actions voisines, ils soient considérés comme équivalents. Laclassification linéaire ne permet pas de telle distinction.

Remarquons au passage que cette rigidité se traduit dans le fait qu’il y a uneinfinité de classes de similitude (car une infinité de valeurs propres possibles).

Cependant, cela ne veut pas dire pour autant que cette classification estinutile. Elle permet de résoudre beaucoup de problèmes, mais principalementen algèbre linéaire.

2.3 L’équivalence différentielle2.3.1 Motivation et définition

Afin d’affiner toujours les classes d’équivalence, on pourrait supprimer unegrosse contrainte sur l’élément qui conjugue deux endormorphismes équiva-lents : la linéarité. Demandons-nous simplement ce que deviennent les classes si,au lieu d’imposer que p soit un endomorphisme dans la définition, on demandeseulement que p soit un C1-difféomorphisme. On obtient alors la définition ana-logue :

[2.E] Définition. (Equivalence différentielle)

Soient (u, v) ∈ L(Rn)2. On définit la relation d∼ ainsi :

ud∼ v ⇔ ∃ϕ ∈ C1 tel que v = ϕ ◦ u ◦ ϕ−1

2.3.2 Etude des classes d’équivalence

Un important théorème permet de résoudre simplement le problème de ladétermination des classes d’équivalence pour cette relation :

Michaël Monerau La conjugaison des endomorphismes de Rn

2. La classification linéaire 5

[2.F] Théorème. (Classes d’équivalence différentielle)Soient (u, v) ∈ L(Rn)2, alors :

ul∼ v ⇐⇒ u

d∼ v

[2.G] Corollaire.

Les classes d’équivalence de l∼ sont les mêmes que celles de d∼.

Ainsi, il apparaît que l’équivalence différentielle n’est en rien plus fine quel’équivalence linéaire. Finalement, on s’aperçoit donc que le fait d’autoriserles conjugaisons par C1-difféomorphismes ne permet pas d’affiner les classesd’équivalence. Mais revenons ici sur la démonstration de ce théorème.

Preuve de [2.F].

Afin de simplifier les calculs, considérons le lemme suivant :

[2.H] Lemme.

Soient (u, v) ∈ L(Rn)2 avec u d∼ v. Alors :

∃ψ ∈ C1 tel que{v = ψ ◦ u ◦ ψ−1

ψ(0) = 0

Admettons provisoirement ce lemme. Considérons alors nos deux endomor-phismes u et v conjugués par ψ comme dans le lemme. Par la règle de la chaîne,en différenciant v = ψ ◦ u ◦ ψ−1, on obtient :

dv(x) = dψ(u(ψ(x)−1)) ◦ du(ψ(x)−1) ◦ dψ(x)−1 (2.i)

Puis, en notant que du(0) = u et dv(0) = v par linéarité de u et v, ψ(0) = 0donne en évaluant (2.i) en 0 :

v = dψ(0) ◦ u ◦ dψ(0)−1

Et on constate donc que u l∼ v puisque dψ(0) ∈ L(Rn). Le sens indirect duthéorème est ainsi prouvé.

Le sens direct est trivial : si u et v sont linéairement conjugués, u et vsont a fortiori conjugués par un C1-difféomorphisme puisqu’un isomorphismed’un espace vectoriel de dimension de finie est également un C1-difféomorphisme(définition trivialement vérifiée).

Preuve de [2.H].

Soient (u, v) ∈ L(Rn)2 avec u d∼ v, et ϕ ∈ C1, tel que v = ϕ ◦ u ◦ ϕ−1. Onpose ψ(x) = ϕ(x)− ϕ(0). Nous allons montrer que ψ réalise ce qu’on veut.

ψ(0) = 0 est clairement vérifiée. Reste à voir que v = ψ ◦ u ◦ ψ−1 l’est

Michaël Monerau La conjugaison des endomorphismes de Rn

2. La classification linéaire 6

également. Calculons en préliminaire ψ−1 :

∀x ∈ Rn, ψ(x) + ϕ(0) = ϕ(x)⇔ ∀x ∈ Rn, ϕ−1 (ψ(x) + ϕ(0)) = x

⇔ ∀y ∈ Rn, ψ−1(y) = ϕ−1 (y + ϕ(0))

Maintenant, ψ ◦ u ◦ ψ−1(x) :

∀x ∈ Rn, ψ ◦ u ◦ ψ−1(x) = ϕ ◦ u ◦ ψ−1 − ϕ(0)= ϕ ◦ u ◦ ϕ−1(x+ ϕ(0))− ϕ(0)= v (x+ ϕ(0))− ϕ(0)= v(x) + v ◦ ϕ(0)− ϕ(0)= v(x) + ϕ ◦ u(0)− ϕ(0)= v(x)

Ainsi, on a bien v = ψ ◦ u ◦ ψ−1, avec ψ ∈ C1 et ψ(0) = 0. Le lemme estdonc prouvé.

Maintenant, les classes de similitude sont parfaitement comprises et décrites,et leur connaissance permet de répondre à bon nombre de problèmes classiquesd’algèbre linéaire. Même après avoir tenté d’étendre les classes d’équivalence enautorisant des C1-difféomorphismes comme conjuguants, on retrouve les mêmesclasses, et donc la même classification. Il semble donc que nous ayons épuisé cequi concerne la classification linéaire des endomorphismes de Rn. Pour obtenirun résultat plus fin, il va falloir demander encore moins à l’élément conjuguant :être seulement un homéomorphisme. Comme le montre la partie 3, ce pointde vue s’avére très fertile et permet de répondre à des problèmes qualitatifstoujours plus précis et complexes.

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 7

3 La classification topologique

3.1 Définitions et intérêt3.1.1 Définitions

Comme on l’a vu, pour affiner les classes d’équivalence, il faut restreindreles contraintes imposées à l’élément conjuguant. On lui enlève donc l’hypothèsede différentiabilité pour arriver à la définition suivante :

[3.A] Définition. (Conjugaison topologique)Soient (u, v) ∈ L(Rn)2. On définit la relation t∼ ainsi :

ut∼ v ⇔ ∃h ∈ H tel que v = h ◦ u ◦ h−1

Pour voir que les classes de conjugaison obtenues sont beaucoup plus fines,il suffit de considérer un exemple très simple. En dimension 1, soient les endo-morphismes de R : f(x) = 2x et g(x) = 8x. On a f l� g (les valeurs propressont conservées par similitude) mais f t∼ g (l’homéomorphisme conjuguant étantϕ(x) = x3). Cela présage d’une complexité largement supérieure dans la répar-tition des classes d’équivalence.

Quelques nouvelles notions et notations sont nécessaires pour la suite decette section. Explicitons-les à présent.

Soit f ∈ L(Rn). On note Wσ(f) (où σ = ∞,+, 0,−, a) la somme des sous-espaces caractéristiques de f associés à toutes les valeurs propres de f contenuesdans l’ensemble Eσ, où Eσ est défini selon σ comme suit :

E∞ = {0}E+ = {λ ∈ C, 0 < |λ| < 1}E− = {λ ∈ C, |λ| > 1}E0 = {λ ∈ C, |λ| = 1} = UEa = C∗

On remarque que Wa(f) = W+(f)⊕W−(f)⊕W0(f).La décomposition de f en sous-espaces caractéristiques donne donc que les

Wσ(f) sont stables par f et que :

Rn = W∞(f)⊕W+(f)⊕W−(f)⊕W0(f)= Wa(f)⊕W∞(f)

On notera simplement fσ la restriction de f à Wσ(f).fa est la partie dite “automorphique” de f , ie. Wa(f) est le plus grand

sous-espace stable par f sur lequel f agit comme un automorphisme.f+ (resp. f−) est la partie asymptotique positive (resp. négative) de f , ie.

W+(f) (resp. W−(f)) est l’ensemble des x ∈ Rn tels que limm→+∞ fm(x) = 0(resp. limm→+∞ f−m(x) = 0), cf. [3.C] plus bas.

Enfin, f∞ est la partie nilpotente de f , ie. W∞(f) est le plus grand sous-espace stable par f sur lequel f agisse comme un nilpotent.

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 8

Pour finir, on définit la notion très intuitive de sous-espace topologiquementstable :

[3.B] Définition. (Sous-espace topologiquement stable)Soit W une application qui à chaque endomorphisme f de L(Rn)

associe un sous-espace W(f) de Rn stable par f .On dit que W est topologiquement stable si et seulement si lorsqu’on

prend deux endormorphismes f et g topologiquement conjugués, avech ∈ H tel que g = h ◦ f ◦ h−1 et h(0) = 0, on a W(g) = h (W(f)).

C’est en particulier le cas si W(f) peut être défini à partir de f par destermes topologiques (son noyau, son image, ...).

La proposition suivante est alors immédiate :

[3.C] Proposition.W∞, Wa, W+, W− sont des invariants topologiques.

[3.D] Corollaire.Soient (f, g) ∈ L(Rn)2, on a :

ft∼ g =⇒

f∞

t∼ g∞

fat∼ ga

f+t∼ g+

f−t∼ g−

Preuve de [3.C].

Soit f ∈ L(Rn), on a :

W∞(f) = Ker fn

Wa(f) = Im fn

car, respectivement, l’indice de nilpotence de f est inférieur ou égal à ladimension de l’espace (n), et car Wa(f) ⊕ W∞(f) avec f inversible sur Wa(f)(puis étude simple dans la décomposition en espaces caractéristiques). DoncW∞ et Wa sont des invariants topologiques puisqu’ils sont définis à partir denotions topologiques sur f .

Puis, la décomposition en sous-espaces caractéristiques fournit (il suffit denoter que la multiplication itérative d’un vecteur par une matrice triangulaireayant des termes de valeur absolue inférieure à 1 sur sa diagonale tend vers 0) :

W+(f) = {x ∈ Rn, limm→+∞

fm(x) = 0}

W−(f) = {x ∈ Rn, limm→+∞

f−m(x) = 0}

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 9

On a alors que W+ et W− sont des invariants topologiques en utilisant :

g = h ◦ f ◦ h−1 ⇒ ∀m ∈ Z, gm = h ◦ fm ◦ h−1

Preuve de [3.D].

On a h ∈ H tel que g = h ◦ f ◦ h−1, donc (pour σ = ∞,+,−, a), g|Wσ(g) =h ◦ f ◦ h−1

|Wσ(g) = h ◦ f|Wσ(f) ◦ h−1 (par l’invariance topologique de Wσ), d’où

gσ = h ◦ fσ ◦ h−1, d’où fσt∼ gσ.

Remarque 1.W0 n’est, en général, pas un invariant topologique comme pourrait le montrer

l’étude de l’automorphisme de R3 donné par :

24 1 1 00 1 00 0 2

35.

Enfin, définissons simplement la fonction orientation :

or (f) = signe(det f) =

1 si det f > 00 si det f = 0−1 si det f < 0

3.1.2 Intérêt

L’intérêt de la classification topologique est qu’elle est intimement reliée àla dynamique du système autonome relié aux endomorphismes classés.

En fait, deux endomorphismes f et g équivalents topologiquement sont com-plètement identiques du point de vue dynamique. Par “dynamique”, on entendque l’action de chaque endomorphisme est exactement la même, simplementdéplacée d’un repère dans un autre. Typiquement, on considère f et g commedes champs de vecteurs linéaires et on étudie le comportement de leurs itérées :

ϕn :{

ϕ0 = x0

ϕn+1 = f(ϕn)

ψn :{

ψ0 = x0

ψn+1 = g(ψn)

L’équivalence topologique de f et de g permet alors de déduire des pro-priétés de ressemblance très fortes entre les comportements de ϕn et ψn. At-tention cependant, toutes les informations obtenues seront exclusivement qual-itatives, et non quantitatives (il faudrait connaître le conjuguant pour espéreravoir de telles informations). Par exemple, et comme on va le démontrer dans laprochaine section, si on connaît le nombre de directions asymptotiques positivesou négatives de ϕn, on est certain que ψn en a autant. Ainsi, l’allure des itéréesest la même, à un homéomorphisme près. La figure 1 illustre ceci en exhibant ladynamique de deux endomorphismes conjugués topologiquement (en dimension2) :

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 10

Figure 1: Dynamiques de deux endomorphismes topologiquement équivalents

Remarque 2.Nous avons ici adopté un point de vue “discret” en considérant les itérées desendomorphismes. Les mêmes remarques peuvent être faites sur les systèmes“continus” correspondant à f et à g :

ϕ′(t) = f (ϕ(t))

ψ′(t) = g (ψ(t))

Par contre, les critères sur les valeurs propres ne sont plus tout à fait lesmêmes (mais équivalents, on doit alors passer à l’exponentielle).

3.2 Classes de conjugaison hyperboliquesOn appelle endomorphismes hyperboliques, et on note HL (Rn) leur ensem-

ble, les endomorphismes f de Rn pour lequels W0(f) = {0}, ie. les f n’ayantaucune valeur propre de module 1.

Nous allons commencer par étudier les classes d’équivalence de t∼ sur cetensemble. C’est, comme on le verra, plus aisé que dans le cas général (on évitele problème posé par le fait que W0 n’est pas un invariant topologique). Deplus, cet ensemble constitue un ouvert dense de L(Rn), donc on traite ici le casgénérique de l’endomorphisme de Rn.

3.2.1 La partie nilpotente

[3.E] Théorème. (Equivalence topologique des nilpotents)Soient (f, g) ∈ L(Rn)2, alors :

ft∼ g ⇒ f∞

l∼ g∞

[3.F] Corollaire.Deux endomorphismes nilpotents sont topologiquement équivalents si

et seulement si ils sont linéairement équivalents.

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 11

Ce corollaire est immédiat en combinant [3.D] et [3.E].

Preuve de [3.E].

Soient f et g deux endomorphismes de Rn tels que f t∼ g. Si l’on montreque pour tout entier k on a Nf (0, k) = Ng(0, k), alors les Nf (0, k) pourrontêtre considérés comme invariants topologiques. Et comme f∞ et g∞ n’ont pourvaleur propre éventuelle que 0 par définition, f∞ et g∞ auraient les mêmes blocsde Jordan, d’où f∞

l∼ g∞ par la caractérisation des classes de similitude établieen [2.D].

Reste donc à montrer que : ∀k ∈ N∗, Nf (0, k) = Ng(0, k). Pour cela, ilsuffit de noter que :∑

j≥ k

Nf (0, j) = dim(Im fk−1 ∩ Ker f

)(3.i)

Ainsi, en acceptant provisoirement cette égalité, cette somme est un invarianttopologique (définie à partir de termes topologiques sur f). Puis, en écrivant :

Nf (0, k) =∑j≥ k

Nf (0, j) −∑

j≥ k+1

Nf (0, j)

on obtient bien que Nf (0, k) est un invariant topologique pour tout entierk, et donc que : ∀k ∈ N∗, Nf (0, k) = Ng(0, k).

Revenons sur l’égalité (3.i). Elle provient d’une étude simple du résultat desitérées de hj , pour j ∈ N∗ fixé. Il est immédiat que si j < k, alors hj k−1 estnulle (hj est nilpotente d’indice j ≤ k − 1), et donc Imhj

k−1 ∩ Ker hj = {0}.Sinon, hj k−1 est de la forme :

hjk−1 =

0 · · · 1. . . . . .

. . . 1. . .

...0

où les 1 sont sur la (k − 1)eme diagonale.

Ainsi, en notant b = (b1, . . . , bj) une base adaptée à ce bloc, on a Imhjk−1 =

Vect (b1, . . . , bj−k+1). Or, il est immédiat de voir que Ker hj = Vect (b1) d’aprèsla forme de hj . Donc on obtient : Imhj

k−1 ∩ Ker hj = Vect (b1).Pour résumer, on a donc le résultat suivant :

dim(Imhj

k−1 ∩ Ker hj)

={

1 si j ≥ k0 sinon

Chaque bloc de Jordan de la forme normale de f étant stable par f , onpeut appliquer indépendamment ce raisonnement à chacun. On arrive alors àl’égalité :

∑j≥ kNf (0, j) = dim

(Im fk−1 ∩ Ker f

)qui est l’égalité (3.i) que

l’on voulait prouver.�

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 12

3.2.2 La partie automorphique

Le but de cette partie est d’établir le :

[3.G] Théorème. (Conjugaison des automorphismes hyperboliques)Soient f et g ∈ HL (Rn) inversibles, alors :

ft∼ g ⇐⇒

rg (f+) = rg (g+)rg (f−) = rg (g−)or (f+) = or (g+)or (f−) = or (g−)

Remarque 3.L’hypothèse “f et g inversibles” est simplement ici pour assurer queW∞(f) = W∞(g) = {0}.

De ce théorème, on tire immédiatement le :

[3.H] Corollaire. (Dénombrement des classes topologiques)Il y a exactement 4n classes d’équivalence topologique au sein des au-tomorphismes hyperboliques.

Le nombre plus raisonnable de classes d’équivalence topologique par rapportà celles de similitude laisse présager d’une meilleure classification : on peutespérer une classification selon des caractères structurels et non quantitatifs.

Preuve de [3.G].

Le sens direct est évident au vu des résultats déjà établis. En effet, lerang d’une application ainsi que son orientation sont clairement des invariantstopologiques. Donc [3.D] permet d’établir le sens direct.

C’est le sens indirect qui est beaucoup moins aisé à démontrer. Déjà, onpeut simplifier le problème en remarquant que :

1. L’équivalence topologique respecte les sommes directesie. si f = f1 ⊕ f2 et g = g1 ⊕ g2 (notations évidentes), alors

ft∼ g ⇐⇒ f1

t∼ g1 et f2t∼ g2

2. f+ = ((f−1)−)−1

Ces faits sont évidents sitôt qu’on écrit f sous sa forme normale de Jordan,c’est pourquoi ils ne seront pas démontrés ici. Ils permettent de réduire la preuvedu théorème à celle de f−

t∼ g− sous les mêmes hypothèses. En appliquant lerésultat à f−1 et g−1 (les hypothèses étant clairement vérifiées), on aurait alors(f−1)−

t∼ (g−1)−, d’où((f−1)−

)−1 t∼((g−1)−

)−1, et f+t∼ g+ (par le point 2

ci-dessus). Le sens indirect serait alors entièrement prouvé d’après le point 1.

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 13

Reste donc à montrer le :

[3.I] Lemme.

Soient (f, g) ∈ HL (Rn), alors :{rg (f−) = rg (g−)or (f−) = or (g−) =⇒ f−

t∼ g−

Preuve de [3.I].

Dans cette preuve, on confondra les matrices dans une base (fixée) de Rn etles applications linéaires associées, le contexte étant très clair.

Pour établir ce lemme, il nous faut remarquer que, si ε = ± 1 :

ε λ 1

. . . . . .. . . 1

ε λ

t∼

ε e

. . .. . .

ε e

(3.ii)

(où e = exp (1) et 1 < |λ|)En acceptant cette équivalence topologique, [3.I] devient facile à prouver.

En effet, (3.ii) nous dit que : hj, ελt∼ ε e Ij . Il reste alors à remarquer qu’on a

simplement : (e 00 e

)t∼

(−e 00 −e

)(3.iii)

Ainsi, en appliquant (3.ii) et (3.iii) à la décomposition de Jordan de f−, onobtient que :

f−t∼

or (f−) e

e. . .

e

= Ef

On constate alors que rg (f−) = rg (g−) et or (f−) = or (g−) permettent deconclure que f−

t∼ g−. En effet, rg (f−) = rg (g−) assure que la taille de Ef estla même que celle de Eg, et or (f−) = or (g−) que Ef = Eg. Ainsi, f− et g− sonttopologiquement équivalents au même endomorphisme de matrice E = Ef = Eg.Par transitivité, on a bien f−

t∼ g−.

Reste donc à montrer (3.ii) et (3.iii) pour achever la démonstration dulemme, et donc celle du théorème. Pour cela, considérons le :

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 14

[3.J] Lemme.Soient (α, β, γ) ∈ R∗+ × R2

+, ε = ± 1, j ∈ N∗. Posons a et b dansHL

(Rj)

inversibles :

aε,α,β,γ(x) = (ε exp (α+ iβ + γhj)) (x)bε(x) = (ε e) (x)

alors, on a :aε,α,β,γ

t∼ bε

Acceptons quelques instants ce lemme pour montrer (3.ii) et (3.iii).(3.iii) est prouvée par le fait que “e I” est la matrice de l’automorphisme

hyperbolique a−1, 1, π,0 (notations du lemme) qui est, par le lemme, topologi-quement équivalent à b−1. C’est le résultat voulu.

(3.ii) découle du fait que hj est linéairement (et donc topologiquement) con-jugué à toute matrice nilpotente de taille j et de noyau unidimensionnel (c’estimmédiat par le théorème de Jordan). Ainsi, si λ = exp (α + iβ) (on travaillesur f− donc |λ| > 1 d’où α > 0), on a :

bεt∼ aε,α,β,γ

= ε exp (α + iβ + γ hj, λ)= ε λ Ij + εTγ,jt∼ ε λ Ij + hj

où Tγ,j est triangulaire supérieure stricte de noyau unidimensionnel (les termessur-diagonaux sont non-nuls).

On a donc finalement l’équivalence voulue. Revenons donc à la preuve de[3.J] qui terminera cette démonstration.

Preuve de [3.J].

On prend les hypothèses du lemme et les mêmes notations. Le but de ladémarche qui va suivre est de montrer que aε,α,β,γ et bε sont différentiellementéquivalents, ce qui implique trivialement l’équivalence topologique. Pour cela,on va montrer que l’on peut passer de l’action de aε,α,β,γ à celle de bε par unchangement de repère C1.

On notera ici 〈x, y〉 le produit scalaire usuel du R-espace vectoriel Cj :

〈x, y〉 = <e

(j∑

i= 1

xi yi

)

pour x = (x1, . . . , xj) et y = (y1, . . . , yj) dans Cj . On notera ‖x‖ =√〈x, x〉 la

norme euclidienne associée, et on remarquera que 〈x, ix〉 = 0.Etudions maintenant le système différentiel défini comme suit :

ϕ′(t) = (α+ iβ + γ hj) (ϕ(t)) (3.iv)

On peut écrire immédiatement le flux associé à cette équation :

φx(t) = exp (t(α+ iβ + γ hj)) (x)

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 15

qui est l’évolution temporelle de la solution vérifiant φx(0) = x. Etudionsmaintenant la dynamique de φx. L’équation (3.iv) nous donne :

φ′x = (α+ iβ + γ hj) ◦ φx

d’où :

ddt‖φx‖2 = 2 〈φ′x, φx〉

= α ‖φx‖2 + γ 〈hj,λ φx, φx〉

et comme ‖hj,λ φx‖ ≤ ‖φx‖ (clairement), Cauchy-Schwarz donne que

| 〈hj,λ, φx〉 | ≤ ‖φx‖2

On a donc :ddt‖φx‖2 ≥ 2 (α− γ) ‖φx‖2 (3.v)

Par simple conjugaison linéaire, on peut rendre γ aussi petit que voulu(hj,λ

l∼ γ hj,λ). C’est pourquoi on peut supposer γ < α sans restreindre lagénéralité de la démonstration (car α > 0). Donc on obtient que :

∀x ∈ Rn \ {0}, ∀t ∈ R,ddt‖φx(t)‖2 > 0

Ainsi, pour tout x ∈ Rn\{0}, ‖φx(t)‖2 est une fonction strictement croissantede t. Par suite, l’inégalité (3.v) fournit que :

‖φx(t)‖2 −−−−→t→+∞

+∞ et ‖φx(t)‖2 −−−−→t→−∞

0

En résumé, ‖φx(t)‖2 est surjective sur R∗+ pour t ∈ R.Cela permet de conclure que φx rencon-

tre toute sphère de rayon strictement positifcentrée en 0. En particulier, φx rencontre lasphère unité transversalement et en un seulpoint. Appelons vx ce point d’intersection,et tx le temps correspondant à l’équationsuivante (la surjectivité précitée et l’invari-ance par translation d’un flux correspondantà un système différentiel autonome justifientl’existence de tx) :

x = φvx(tx)

= exp (tx(α+ iβ + γ hj)) (vx)

Ainsi, en se plaçant dans le repère de la courbe image de φx (le changementde repère est C1 car φx l’est), on peut désigner x de manière unique par tx etvx. Par injectivité de l’exponentielle sur R, (exp (tx) , vx) permet également dedésigner uniquement x dans ce repère curviligne. D’autre part, le caractère C∞de l’exponentielle garantit que le changement de repère est toujours C1. Dansce nouveau repère, l’action de aε,α,β,γ est très simple de par sa définition (cf.[3.J]) :

aε,α,β,γ : (exp (t) , v) 7→ (exp (t+ 1) , ε v)

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 16

Remarquons d’autre part que l’action de bε se prête particulièrement bienà une description dans le repère polaire de Cj . En effet, si on pose r = ‖x‖ etθ = x

‖x‖ , on peut déterminer x uniquement par r et θ de manière C1 par rapportà la base canonique sur Rn \ {0} et (cf. [3.J]) :

bε : (r, θ) 7→ (e r, ε θ)

Finalement, on a donc montré que aε,α,β,γ et bε ont la même action sur deuxrepères reliés de façon C1 à la base canonique. On en conclut aε,α,β,γ

d∼ bε.Par suite, aε,α,β,γ

t∼ bε ce qui achève la démonstration. Notons cependant icil’abus de notation évident : aε,α,β,γ

d∼ bε, mais on n’a pas aε,α,β,γl∼ bε car

l’équivalence différentielle, ici, ne vaut pas en 0.

Remarque 4.L’étude des composantes connexes de HL (Rn) ∩ GL(Rn) permettrait de

montrer que notre théorème est équivalent à dire que deux automorphismeshyperboliques sont topologiquement conjugués si et seulement si ils apparti-ennent à la même composante connexe de HL (Rn) ∩ GL(Rn).

3.2.3 Conclusion

Finalement, on peut regrouper les théorèmes précédents en un seul qui ré-sout complètement la question des classes d’équivalence topologique des endo-morphismes hyperboliques :

[3.K] Théorème. (Classification topologique des hyperboliques)Soient (f, g) ∈ HL (Rn)2, alors :

ft∼ g ⇐⇒

f∞

l∼ g∞rg (f+) = rg (g+)rg (f−) = rg (g−)or (f+) = or (g+)or (f−) = or (g−)

3.3 Classes de conjugaison non hyperboliquesNous considérons dans cette partie les endormorphismes non hyperboliques,

ie. les endomorphismes ayant des valeurs propres de module 1. Plus pré-cisément, on va considérer seulement la partie non hyperbolique des endomor-phismes. Autrement dit, on considère que si on a un endomorphisme f , alorsf = f0 avec les notations précédentes.

La classification de ces endomorphismes à conjugaison topologique près esttrès compliquée, et non encore résolue entièrement à ce jour.

Michaël Monerau La conjugaison des endomorphismes de Rn

3. La classification topologique 17

Les résultats et démarches dans cette voie étant très complexes, nous nouslimiterons à donner ici les conclusions auxquelles aboutissent Kuiper et Rob-bin dans leur article dans un premier temps, pour énoncer ensuite les résultatsatteints par certains de leurs successeurs quelques années plus tard.

La principale conjecture faite est la suivante :

[3.L] Conjecture.Soient (f, g) ∈ L(Rn)2, alors :

f0t∼ g0 ⇐⇒ f0

l∼ g0

Cette conjecture implique un comportement très rigide des endomorphismes :il ne pourrait y avoir deux endomorphismes non hyperboliques conjugués topo-logiquement mais non linéairement.

On sait depuis Poincaré que la conjecture [3.L] est vraie pour n = 2. Dans[1], les auteurs montrent que la conjecture est vraie pour n ≤ 5, mais faussepour n ≥ 6 en donnant des contre-exemples. Ainsi, il ne faut pas espérer uneclassification si simple dans le cas général.

Depuis ces travaux, beaucoup de recherches ont été menées dans le but dedécouvrir la réelle nature de cette classification topologique, mais toujours envain. On cerne de mieux en mieux le problème (des résultats sont apparus pourdes valeurs particulières de n, ...) mais personne ne l’a encore résolu entièrement.

Michaël Monerau La conjugaison des endomorphismes de Rn

4. Le théorème de Großman - Hartman 18

4 Le théorème de Großman - Hartman

4.1 PréliminaireLe théorème de Großman - Hartman étant lui-même assez substantiel, nous

nous appuierons sur une version faible du théorème d’Anosov pour l’établir (cedernier s’énonce sous sa forme plus générale en dimension infinie) :

[4.A] Théorème. (Version faible du théorème d’Anosov)Soit f ∈ HL (Rn) ∩ GL(Rn).

Il existe ε > 0 tel que pour toute fonction p de Rn dans Rn continue,bornée, et ε-lipschitzienne, on ait f + p

t∼ f .

Heuristiquement, ce théorème traduit le fait intuitif qu’une perturbationbornée et assez petite au sens lipschitzien d’un automorphisme hyperbolique luireste topologiquement conjuguée.

Preuve de [4.A].

La démonstration de ce théorème étant coûteuse, on se limitera ici à donnerles principales idées sans les détailler.

Prenons f ∈ HL (Rn) ∩ GL(Rn) et p ε-lipschitzienne comme dans l’énoncédu théorème. On cherche donc prouver qu’il existe ε > 0 tel qu’il existe h ∈ Htel que :

(f + p) ◦ h = h ◦ f (4.i)

Si p = 0, h = IdRn convient. Cela nous conduit à chercher h sous la formeh = IdRn + u, avec u continue de Rn dans Rn. L’écriture de (4.i) devient alors :

p ◦ (f−1 + u ◦ f−1) + f ◦ u ◦ f−1 = u

Pour simplifier l’écriture, posons les opérateurs :

T : L(Rn) → L(Rn)u 7→ f ◦ u ◦ f−1

Pp : L(Rn) → L(Rn)u 7→ p ◦ (f−1 + u ◦ f−1)

Prouver le théorème revient alors à montrer que T +Pp admet un point fixe.

Pour cela, on remarque que Pp est ε-lipschitzienne dans l’espace des fonctionscontinues bornées (pour la norme infinie). On peut alors établir un lemmedonnant que T + Pp est strictement contractant dans ce même espace normé.Le théorème du point fixe (on est bien dans un espace de Banach avec la normeinfinie) donne alors l’existence — et même l’unicité — du point fixe voulue.

Il reste alors à vérifier que h = IdRn + u (où u est le point fixe sus-nommé)est bien un homéomorphisme. Ceci achevé, le théorème est prouvé.

Michaël Monerau La conjugaison des endomorphismes de Rn

4. Le théorème de Großman - Hartman 19

4.2 Théorème de Großman - HartmanEnonçons maintenant le :

[4.B] Théorème. (Großman - Hartman)Soit f ∈ C1 telle que f(0) = 0 et df(0) ∈ HL (Rn) ∩ GL(Rn).

Alors, f t∼ df(0) sur un domaine suffisamment proche de 0.

Ce théorème traduit un fait intuitif très fort : sur un voisinage de l’origine,une fonction continûment dérivable de Rn fixant l’origine est topologiquementconjuguée à sa différentielle en 0. Par translation, on généralise facilement cethéorème à une situation où 0 est remplacé par un certain point fixe x de f dansRn.

Ce théorème présente un résultat très important de “ linéarisation” de fonc-tions vectorielles autour d’un point fixe, localement. L’étude effective du com-portement local de fonctions assez régulières autour de points fixes est ainsiréduite à celle de l’application linéaire tangente en ces points. La complexité enest donc largement réduite.

Remarque 5.Il est à noter que h n’est à priori pas “mieux” qu’un homéomorphisme. En

effet, des phénomènes de résonnances d’indices parmi les valeurs propres peu-vent rendre la différentiabilité de h difficile à obtenir.

Preuve de [4.B].

Commençons par constater que 0 est nécessairement point fixe de f afin dejustifier l’hypothèse f(0) = 0. Si on suppose l’existence de h ∈ H tel que

∀x ∈ Rn proche de 0 , f(x) = h ◦ df(0) ◦ h−1(x) (4.ii)

Alors on a f ◦ h(0) = h(0), d’où h−1 ◦ f(0) = h−1(0). Ainsi, (4.ii) donne que :df(0)◦h−1(0) = h−1(0). Or, df(0) est hyperbolique donc n’a pas 1 comme valeurpropre. Par conséquent, on a nécessairement h(0) = 0. Puis, en évaluant (4.ii)en 0, on obtient que nécessairement f(0) = 0.

Passons à la démonstration proprement dite du théorème.Soit ε > 0. On pose Bε une boule fermée de centre 0 et de rayon rε telle

que :∀x ∈ Bε, ||| df(x) − df(0) ||| ≤ ε

Ainsi, en posant g = f − df(0), on a :

∀x ∈ Bε, ||| dg(x) ||| ≤ ε

On obtient donc que g est ε-lipschitzienne sur Bε. On définit l’applicationgε de Rn dans Rn par :

gε(x) =

{g (x) si x ∈ Bεg(rε

x‖x‖

)si x /∈ Bε

Michaël Monerau La conjugaison des endomorphismes de Rn

4. Le théorème de Großman - Hartman 20

Ainsi, il est clair que gε est à la fois bornée et ε-lipschtizienne sur Rn.Alors, en choisissant ε assez petit, le théorème d’Anosov s’applique et donne

que df(0) + gεt∼ df(0) sur Rn tout entier. Or, par définition de gε, on a

df(0) + gε = f sur Bε. D’où finalement f t∼ df(0) sur Bε, ce qui montre lethéorème.

Michaël Monerau La conjugaison des endomorphismes de Rn

Références[1] S. Cappell et J. Shaneson, Nonlinear similarity and linear similarity are

equivariant below dimension 6, Tel Aviv topology conference : RothenbergFestschrift ; American Mathematical Society Contemp. Math. 231, pp 59-66(1999)

[2] R. Devaney, An introduction to chaotic dynamical systems, Addison-Wesley (1982)

[3] P. Hartman, Ordinary differential equations, Boston Birkhauser (1982,réédition de 1973)

[4] M.C. Irwin, Smooth dynamical systems, World scientific (2001, rééditionde 1980)

[5] N.H Kuiper et J.W. Robbin, Topological classification of linear endo-morphisms, Invent. Math. 19 (1973), pp 83-106

[6] F. Laudenbach, Equations différentielles, conférence journées X-UPS 1996

[7] P. Rouchon, Systèmes dynamiques et modélisation, notes de cours Minesde Paris (1993)

[8] N. Tosel, Les théorèmes d’Anosov et de Großman - Hartman, manuscrit

[9] G. Vial, Autour de la réduction de Jordan, document internet