J. Math. Pures Appl.,78, 1999,p. 867-876

LA MÉTRIQUE INFINITÉSIMALE DE KOBAYASHIET LA CARACTÉRISATION DES DOMAINES CONVEXES

BORNÉS

Jean-Pierre VIGUÉ 1

Mathématiques, UPRES A 6086 “Groupes de Lie et Géométrie”, Université de Poitiers, SP2MI, Boulevard 3 - Téléport2 - BP 179, 86960 Futuroscope Cedex, France

Manuscrit reçu le 10 décembre 1997

ABSTRACT. – This paper deals with the characterization of a domainD in Cn by the Kobayashiinfinitesimal metric in a neighborhood of a pointa ofD. I prove this characterization in the following cases:a domainD in C analytically isomorphic to the open unit disc, an hyperbolic domainD in C, a boundedstrictly convex domainD in Cn and also a bounded convex domainD in Cn which is isomorphic to anopen unit ball. The proofs use the result of L. Lempert on the equality of the Carathéodory and Kobayashiinfinitesimal metric on convex domains and the notion of complex geodesic. Elsevier, Paris

Keywords:Kobayashi infinitesimal metric, Characterisation of a domain by the Kobayashi infinitesimalmetric, Analytic isomorphisms

RÉSUMÉ. – Dans cet article, j’étudie la caractérisation d’un domaineD de Cn par la métriqueinfinitésimale de Kobayashi au voisinage d’un pointa deD. Je montre cette caractérisation dans les cassuivants : un domaineD deC analytiquement isomorphe au disque-unité ouvert, un domaine hyperboliqueD dansC, un domaine borné strictement convexeD dansCn et aussi un domaine borné convexeD dansCn qui est isomorphe à une boule-unité ouverte. Les démonstrations utilisent le résultat de L. Lempert surl’égalité des métriques infinitésimales de Carathéodory et de Kobayashi sur un domaine convexe borné etla notion de géodésique complexe. Elsevier, Paris

Mots Clés:métrique infinitésimale de Kobayashi, caractérisation d’un domaine par la métriqueinfinitésimale de Kobayashi, isomorphismes analytiques

1. Introduction

Dans des travaux antérieurs (voir par exemple J. Bland, T. Duchamp and M. Kalka [2],I. Graham [5], L. Belkhchicha [1], J.-P. Vigué [15]), plusieurs auteurs ont essayé de caractériserles isomorphismes analytiques d’un domaine bornéD1 sur un domaine bornéD2 comme uneapplication holomorphe isométrique pour la métrique infinitésimale de Kobayashi en un point.Par exemple, I. Graham [5] montre le théorème suivant :

THÉORÈME 1.1. –SoitD un domaine borné strictement convexe deCn et soitM une variétécomplexe connexe taut(au sens de H. Wu[16]) de dimensionn. Soitp ∈M, et soitf :M→D

1 E-mail : vigue@mathlabo.univ-poitiers.fr

JOURNAL DE MATHÉMATIQUES PURES ET APPLIQUÉES. – 0021-7824/99/09 Elsevier, Paris

868 J-.P. VIGUÉ

une application holomorphe telle que

FD(f (p),Tf (p).ν

)= FM(p, ν),pour toutν ∈ TpM. Alorsf est un isomorphisme analytique deM surD.

Sans vouloir être exhaustif, signalons qu’on peut aussi caractériser les isomorphismesanalytiques d’un domaine borné convexeD sur une variétéM en utilisant la métriqueinfinitésimale de Carathéodory (voir par exemple [14]). Dans cet article, nous allons nousintéresser à une question un peu différente. Le problème que nous allons étudier est de savoirdans quelle mesure la métrique infinitésimale de Kobayashi sur un domaineD caractériseD.Nous remarquerons d’abord que, même dans le cas d’un domaineD analytiquement isomorpheau disque-unité∆, la métrique infinitésimale de Kobayashi en un pointa deD ne suffit pas,en général, à caractériserD. Aussi, nous allons étudier la question suivante : étant donné undomaineD, un pointa deD, un voisinageU dea, la connaissance de la métrique infinitésimalede KobayashiFD(x, · ) en tous les pointsx deU permet-elle de retrouverD ? Bien sûr, ce n’estpas vrai en général et, comme nous le montrerons par un exemple, pour espérer une réponsepositive, il faut au moins queD ait un certain nombre de propriétés de convexité holomorphe.

Dans ce travail, nous allons montrer une telle caractérisation dans les quatre cas suivants :un domaine deC analytiquement isomorphe au disque-unité∆, un domaine hyperboliquede C, un domaine borné strictement convexe deCn, et enfin, des domaines isomorphes àla boule-unité ouverte deCn pour une certaine norme‖ · ‖. Pour traiter le troisième cas,nous utiliserons le résultat de L. Lempert [9] sur l’égalité des métriques infinitésimales deCarathéodory et de Kobayashi et des distances de Carathéodory et de Kobayashi sur un domaineborné strictement convexeD, et nous serons amenés à considérer les géodésiques complexesdeD. Plus exactement, nous montrerons le résultat suivant :

THÉORÈME 1.2. –SoitD un domaine deCn, analytiquement isomorphe à un domaine bornéstrictement convexe deCn. Soitϕ une application holomorphe du disque-unité ouvert∆ dansCn

telle que, pour toutz appartenant à un voisinageU de 0, on ait:

FD(ϕ(z),ϕ′(z)

)= F∆(z,1)= 1

1− |z|2 .

Alorsϕ(∆) est contenu dansD, etϕ est une géodésique complexe deD.

Ainsi donc,D apparaît comme la réunion des images de toutes les applications holomorphesϕ qui vérifient la condition du théorème précédent, ce qui permet de retrouver le domaineD àpartir de la métrique infinitésimale de Kobayashi sur un voisinage d’un pointa deD.

Comme nous le verrons, le Théorème 1.2 n’est plus vrai, en général, pour un domaine convexeborné. Cependant, il est quand même possible, au moins dans certains cas, de caractériser undomaine convexe bornéD par la métrique infinitésimale de Kobayashi au voisinage d’un pointa

deD.Nous allons commencer par un certain nombre de rappels.

2. Rappels et premiers résultats

La distance de CarathéodorycD sur un domaine bornéD deCn est défini par la formule :

cD(x, y)= supf∈H(D,∆)

ω(f (x), f (y)

),

TOME 78 – 1999 –N◦ 9

LA MÉTRIQUE INFINITÉSIMALE DE KOBAYASHI 869

où H(D,∆) désigne l’ensemble des fonctions holomorphes surD à valeurs dans∆ et ω ladistance de Poincaré sur∆. De même, la métrique infinitésimale de CarathéodoryED est définie(voir [3,4,6–8]) pour toutx ∈D, pour toutν ∈Cn, par la formule :

ED(x, ν)= supf∈H(D,∆)

∣∣f ′(x) · ν∣∣.La métrique infinitésimale de KobayashiFD est définie de manière duale :

FD(x, ν)= inff∈H(∆,D)

{|λ| | f (0)= 0, λf ′(0)= ν}.Ensuite, on définit par intégration la longueur d’un cheminγ : [a, b] → D de classeC1 parmorceaux par :

L(γ )=b∫a

FD(γ (t), γ ′(t)

)dt .

On définit alors la distance de KobayashikD comme la borne inférieure des longueursL(γ ) descheminsγ d’originex et d’extrémitéy, et nous renvoyons le lecteur intéressé par ces questionsà [3,4,6–8].

E. Vesentini [11–13] définit les géodésiques complexes d’un domaine bornéD : on dit qu’uneapplication holomorpheϕ du disque-unité∆ dansD est une géodésique complexe deD si ϕ estune isométrie pour les distances de Carathéodoryc∆ et cD . D’après E. Vesentini [11–13], nousavons la caractérisation suivante des géodésiques complexes deD.

THÉORÈME 2.1. –Soit D un domaine borné deCn. Soit ϕ :∆ → D une applicationholomorphe, et supposons que l’une des deux conditions suivantes soit satisfaite:

(i) ED(ϕ(0), ϕ′(0))= 1 ;(ii) il existe deux points distinctsα etβ de∆ tels quecD(ϕ(α),ϕ(β))= c∆(α,β).

Alorsϕ est une géodésique complexe deD.

D’autre part, siD est convexe, on sait d’après L. Lempert [9] et H. Royden and P. Wong [10](voir aussi M. Jarnicki and P. Pflug [7]) quecD = kD et queED = FD . On déduit de ce résultatl’existence de géodésiques complexes dans un domaine convexe bornéD. Plus précisément, unpointx deD et un vecteurν deCn tels queED(x, ν)= 1 étant donnés, il existe une géodésiquecomplexeϕ :∆→D telle queϕ(0) = x et queϕ′(0) = ν. De même, deux pointsx et y étantdonnés, il existe une géodésique complexeϕ deD telle quex et y appartiennent àϕ(∆).

Rappelons d’autre part qu’un domaine bornéD deCn est dit strictement convexe si tous lespoints de la frontière∂D deD sont des points extrémaux deSD. On a le théorème suivant :

THÉORÈME 2.2. –SoitD un domaine borné strictement convexe deCn.(i) Soientx ∈ D et ν ∈ Cn tels queED(x, ν) = 1. Alors, il existe une géodésique complexe

uniqueϕ :∆→D telle queϕ(0)= x et queϕ′(0)= ν.(ii) Soientx et y deux points distincts deD et soientα et β deux points de∆ tels que

cD(x, y) = c∆(α,β) = ω(α,β). Alors, il existe une géodésique complexe uniqueϕ :∆→ D

telle queϕ(α)= x et queϕ(β)= y.

Ce théorème découle de la démonstration de L. Lempert [9] quand la frontière deD estsuffisamment régulière et est démontré par S. Dineen [3], p. 93 dans le cas général.

Nous aurons besoin du théorème suivant concernant la distance de Kobayashi sur la bouleBk(a, r) pour la distance de KobayashikD sur un domaine borné convexeD.

JOURNAL DE MATHÉMATIQUES PURES ET APPLIQUÉES

870 J-.P. VIGUÉ

THÉORÈME 2.3. –SoitD un domaine borné convexe deCn. Soitr > 0 et soit

Bk(a, r)={z ∈D | kD(a, z) < r

}la boule de centre a et de rayonr pour la distance de KobayashikD . Soitρ = thr et soitϕ :∆→ D une géodésique complexe deD telle queϕ(0) = a. Alors, l’application holomorpheψ :∆→ Bk(a, r) définie parψ(ζ ) = ϕ(ρζ ) est une géodésique complexe deBk(a, r). On endéduit queFBk (a, ν)= (1/ρ)FD(a, ν) et que, pour toutz ∈Bk(a, r),

kBk (a, z)= th−1(

th(kD(a, z))

ρ

).

De plus,Bk(a, r) est convexe, et siD est strictement convexe,Bk(a, r) est strictement convexe.

Démonstration. –En utilisant le théorème de Montel, on montre facilement que, siϕ :∆→D

est une géodésique complexe deD, il existe une application holomorphes :D→ ∆ telle ques ◦ ϕ(z)= z, pour toutz ∈ ∆. D’autre part, commeϕ est une isométrie pourcD et c∆, et aussipourkD et k∆, il est clair queψ(∆) est contenu dansBk(a, r). Si on définitt :Bk(a, r)→C part (z)= (1/ρ)s(z), on vérifie quet (Bk(a, r)) est contenu dans∆ et on a :

t ◦ψ(ζ )= (1/ρ)(ϕ(ρζ ))= (1/ρ)ρζ = ζ.Ainsi donc,ψ est une géodésique complexe deBk(a, r) et on en déduit les formules annoncées.

Montrons maintenant queBk(a, r) est convexe. Soientb1 et b2 deux points deBk(a, r).Il suffit de montrer que(b1 + b2)/2 ∈ Bk(a, r). Soit ϕ1 :∆→ D une géodésique complexetelle queϕ1(0) = a, ϕ1(ζ1) = b1 avec |ζ1| < ρ. De même, soitϕ2 :∆→ D une géodésiquecomplexe telle queϕ2(0)= a, ϕ2(ζ2) = b2 avec|ζ2|< ρ. Par un choix convenable deϕ1 et ϕ2

et quitte à échangerb1 et b2, on peut supposer que 06 ζ1 6 ζ2 < ρ. Considérons l’applicationholomorpheϕ définie sur∆ par :

ϕ(ζ )1

2

(ϕ1

(ζ1

ζ2ζ

)+ ϕ2(ζ )

).

CommeD est convexe,ϕ est une application holomorphe de∆ dansD, etϕ(ζ2)= (1/2)(b1+b2). Comme|ζ2|< ρ et queϕ est contractante pour la métrique infinitésimale de Kobayashi, onen déduit que(1/2)(b1+ b2) ∈ Bk(a, r) etBk(a, r) est convexe.

Il reste à démontrer que, siD est strictement convexe,Bk(a, r) est strictement convexe. Soitdonc[x, y] un segment contenu dans la frontière deBk(a, r) et nous voulons montrer quex = y.Soitϕ1 :∆→D l’unique géodésique complexe deD telle queϕ1(0)= a, ϕ1(ρ)= x. De même,soit ϕ2 :∆→D l’unique géodésique complexe deD telle queϕ2(0)= a, ϕ2(ρ)= y. Pour toutt ∈ [0,1], l’applicationψt = tϕ1 + (1− t)ϕ2 est telle queψt (0) = a, ψt (ρ) = tx + (1− t)y.Ainsi donc,cD(ψt (0),ψt (ρ)) = c∆(0, ρ), et ψt est une géodésique complexe deD. Commeϕ1 et ϕ2 sont des fonctions holomorphes bornées, elles admettent presque partout des valeursau bordϕ∗1(eiθ ) et ϕ∗2(eiθ ) qui appartiennent à la frontière∂D de D. Commeψt est unegéodésique complexe, c’est une application holomorphe propre et ses valeurs au bordψ∗t (eiθ )=tϕ∗1(eiθ )+ (1− t)ϕ∗2(eiθ ) appartiennent à la frontière deD. CommeD est strictement convexe,on en déduit queϕ∗1 = ϕ∗2, ce qui entraîne queϕ1= ϕ2 et quex = y. Le résultat est démontré.2TOME 78 – 1999 –N◦ 9

LA MÉTRIQUE INFINITÉSIMALE DE KOBAYASHI 871

3. Les domaines isomorphes au disque-unité

Remarquons d’abord que,∆(b, r) est le disque de centreb et de rayonr dansC et sia ∈∆,alors

F∆(b,r)(a, ν)= |ν|r(1− | b−a

r|2) .

Il est clair que la donnée deF∆(b,r)(a, · ) en un pointa ∈ ∆(b, r) ne suffit pas à caractériser∆(b, r).

Nous allons maintenant montrer comment la métrique infinitésimale de Kobayashi permet decaractériser un domaineD deC, analytiquement isomorphe au disque-unité∆. Plus précisément,nous avons le théorème suivant :

THÉORÈME 3.1. –Soit D un domaine borné deC, analytiquement isomorphe au disque-unité∆ et soitU un ouvert non vide deD. AlorsD est complètement déterminé par la donnée deFD(z, · ), pour toutz ∈ U . De manière plus précise, siϕ :∆→C est une application holomorphetelle quea = ϕ(0) appartienne àD et que

FD(ϕ(z),ϕ′(z)

)= F∆(z,1)= 1

1− |z|2 ,

pour tous les pointsz d’un voisinageV de0, alorsϕ est un isomorphisme analytique de∆ surD.

Démonstration. –CommeD est analytiquement isomorphe au disque-unité∆, on peutconsidérer un isomorphisme analytiquef deD sur∆ tel quef (a) = 0. D’après l’hypothèse,on sait que, pour toutz ∈ V , ϕ′(z) est une isométrie pour les métriques infinitésimalesF∆(z, · )etFD(ϕ(z), · ). Par suite, en intégrant les métriques infinitésimales, on trouve que, pour tous lespointsz etw d’un voisinageW de 0 suffisamment petit, on a :

kD(ϕ(z),ϕ(w)

)= k∆(z,w)et, en particulier, pour toutz de module suffisamment petit, on a :

kD(a,ϕ(z)

)= kD(ϕ(0), ϕ(z))= k∆(0, z)= th−1 |z|.

D’autre part, l’applicationf , qui est un isomorphisme analytique, est une isométrie pourkDet k∆. On en déduit que, pour toutz de module suffisamment petit, on a :

k∆(0, f

(ϕ(z)

))= k∆(0, z)= th−1 |z|,

autrement dit que|f (ϕ(z))| = |z|.Ainsi, |f (ϕ(z))/z| est une constante de module 1, ce qui entraîne quef (ϕ(z)) = αz, avec|α| = 1. Quitte à remplacerf par(1/α)f , on peut supposer que, pourz de module suffisammentpetit, f ◦ ϕ(z) = z, soit queϕ(z) = f−1(z). Le théorème de prolongement analytique montreque c’est vrai pour toutz ∈∆ etϕ est un isomorphisme analytique de∆ surD.

En fait, on peut, par la même méthode, démontrer un résultat valable pour un domaine(D,p) étalé dansC, analytiquement isomorphe au disque-unité∆. Avant d’énoncer le résultat,remarquons que, si(D,p) est un domaine étalé dansC, en tout pointz deD, le fibré tangentTzD s’identifie naturellement àC. 2JOURNAL DE MATHÉMATIQUES PURES ET APPLIQUÉES

872 J-.P. VIGUÉ

THÉORÈME 3.2. –Soit (D,p) un domaine étalé dansC, analytiquement isomorphe audisque-unité∆. Soit a un point deD, soitU un voisinage de a suffisamment petit pour quep|Usoit un homéomorphisme deU surp(U), et soitρ = (p|U)−1. Soitf une application holomorphedéfinie dans un voisinageV de0 dans∆ à valeurs dansC telle queρ ◦f soit une isométrie pourla métrique infinitésimale de Kobayashi, c’est-à-dire, que,∀z ∈ V , on ait :

FD(ρ ◦ f (z), (ρ ◦ f )′(z))= F∆(z,1)= 1

1− |z|2 .

Alors,ρ ◦ f se prolonge en un isomorphisme de∆ surD.

Démonstration. –Comme précédemment, on considère un isomorphisme analytiqueg deDsur∆ et on montre que, quitte à multiplierg par un nombre complexe de module 1, pour toutz

de module suffisamment petit,g ◦ ρ ◦ f (z) est égal àz. Ceci entraîne queρ ◦ f se prolonge enun isomorphisme analytique de∆ surD. 2

4. Les domaines hyperboliques de C

On peut déduire du théorème précédent une caractérisation des domaines hyperboliquesdansC. Rappelons que, pour un domaineD deC, toutes les notions d’hyperbolicité coïncident,et il est équivalent de dire, par exemple, queFD(z, ν) 6= 0, pour toutz ∈D, pour toutν 6= 0∈C,ou que le revêtement universel̃D deD est analytiquement isomorphe au disque-unité∆. Onmontre alors le théorème suivant :

THÉORÈME 4.1. –SoitD un domaine hyperbolique deC. Soita ∈D et soitU un voisinageouvert dea. Alors,D est complètement déterminé par la donnée, pour toutz ∈ U , deFD(z, · ).De manière plus précise, siϕ :∆→ C est une application holomorphe telle quea = ϕ(0)appartienne àD et que

FD(ϕ(z),ϕ′(z)

)= F∆(z,1)= 1

1− |z|2 ,

pour tous les pointsz d’un voisinageV de0, alorsϕ est une application holomorphe de∆ surD,et (∆,ϕ) s’identifie au revêtement universel deD.

Démonstration. –Considérons le revêtement universel(D̃,π) deD, qui, comme nous l’avonsdéjà dit, est isomorphe à∆. Quitte à considérer un ouvertU suffisamment petit, on peut supposerqueπ est un isomorphisme analytique deW surU . Soitρ = (π|W)−1. On considère alorsρ ◦ ϕ,et on applique le Théorème 3.2. D’après [8], on sait queπ est une isométrie pour la métriqueinfinitésimale de Kobayashi. Par suite, il en est de même pourρ ◦ ϕ, et ρ ◦ ϕ se prolonge enun isomorphismef de∆ sur D̃. On en déduit queπ ◦ f fournit un prolongement deϕ, quil’identifie au revêtement universel deD.

Remarquons que, si(D,p) est un domaine étalé dansC qui est un revêtement de son imagep(D), d’après [8],p est une isométrie pour la métrique infinitésimale de Kobayashi. Ainsi, lamétrique infinitésimale de Kobayashi ne permet pas de distinguer un domaineD d’un revêtement(D′,p) deD. Il n’est donc pas possible de généraliser le Théorème 3.2 au cas d’une variétéhyperbolique étalée surC et non simplement connexe.2TOME 78 – 1999 –N◦ 9

LA MÉTRIQUE INFINITÉSIMALE DE KOBAYASHI 873

5. Les domaines bornés strictement convexes de Cn

Comme je l’ai dit dans l’introduction, pour que la métrique infinitésimale de KobayashiFD(x, · ) au voisinage d’un pointa deD caractériseD, il faut queD ait quelques propriétésde convexité holomorphe. Ainsi, on peut construire une marmite de HartogsM ⊂ C2 telleque l’enveloppe convexe deM soit le bidisque∆2 et que, pour tout(z1, z2) appartenant à unvoisinage de l’origine(0,0) dansC2, on ait :

FM((z1, z2), (ν1, ν2)

)= F∆2

((z1, z2), (ν1, ν2)

).

Il n’est donc pas possible, en général, de caractériser un domaine bornéD deC2 par la métriqueinfinitésimale de Kobayashi au voisinage d’un pointa du domaineD.

Pour les domaines bornés strictement convexes, nous allons maintenant montrer le théorèmesuivant :

THÉORÈME 5.1. –SoitD un domaine deCn, analytiquement isomorphe à un domaine bornéstrictement convexe deCn. Soitϕ une application holomorphe du disque-unité ouvert∆ dansCn

telle que, pour toutz appartenant à un voisinageU de0, on ait :

FD(ϕ(z),ϕ′(z)

)= F∆(z,1)= 1

1− |z|2 .

Alorsϕ(∆) est contenu dansD, etϕ est une géodésique complexe deD.

On déduit du Théorème 5.1 le corollaire suivant.

COROLLAIRE 5.2. –Soit D un domaine deCn analytiquement isomorphe à un domaineborné strictement convexe deCn. Soit a un point deD et soitU un voisinage ouvert de a dansD.AlorsD est complètement déterminé par lesFD(z, · ), pour toutz ∈ U . Plus précisément,D estla réunion desϕ(∆), pour toutes les applications holomorphesϕ :∆→ Cn telles queϕ(0)= aet que

FD(ϕ(z),ϕ′(z)

)= F∆(z,1)= 1

1− |z|2 ,pour toutz ∈∆ tel queϕ(z) appartienne àU .

Démonstration. –D’après le Théorème 5.1, pour toute application holomorpheϕ :∆→ Cn

vérifiant la condition du théorème,ϕ(∆) est contenu dansD. D’autre part, siz est un point deD,on sait qu’il existe une géodésique complexeϕ :∆→D telle queϕ(0)= a et quez ∈ ϕ(∆). Lecorollaire est démontré.2

Démonstration du Théorème 5.1. –Soit ϕ :∆→ Cn une application holomorphe telle que,pour toutz appartenant àU , on ait :

FD(ϕ(z),ϕ′(z)

)= F∆(z,1)= 1

1− |z|2 .

Par intégration, on montre que, pour toutz appartenant àU on a :

kD(ϕ(0), ϕ(z)

)6 k∆(0, z),

ce qui démontre que, pour toutr suffisamment petit,

ϕ(Bk(0, r)

)⊂ Bk(ϕ(0), r).JOURNAL DE MATHÉMATIQUES PURES ET APPLIQUÉES

874 J-.P. VIGUÉ

Soit ρ = thr. D’après le Théorème 2.3, l’applicationψ définie parψ(z) = ϕ(ρz) est unegéodésique complexe deBk(ϕ(0), r), et commeBk(ϕ(0), r) est un domaine borné strictementconvexe, les géodésiques complexes deBk(ϕ(0), r) sont uniques au sens où nous l’avons défini.De plus, celles passant para s’obtiennent par restriction et reparamétrisation des géodésiquescomplexes deD. Plus précisément, on déduit du fait que les géodésiques complexes dansBk(a, r) et dansD sont uniques, que pour toute géodésique complexeψ :∆→ Bk(a, r) telleque ψ(0) = a, il existe une géodésique complexeϑ :∆→ D telle queψ(z) = ϑ(ρz). Lethéorème de prolongement analytique montre queϕ = ϑ ; par suite,ϕ(∆) ⊂D, et le théorèmeest démontré. 2

On peut alors montrer une version du théorème de I. Graham [5] dans laquelle on ne supposepas que l’application holomorphef envoieD1 dansD2.

THÉORÈME 5.3. –SoientD1 et D2 deux domaines bornés convexes deCn, et supposonsqueD2 est strictement convexe. Soitf :D1→ Cn une application holomorphe, soita ∈ D1,et supposons qu’il existe un voisinageU de a tel quef (U)⊂D2, et que, pour toutz ∈ U , pourtoutν ∈Cn, on ait :

FD2

(f (z), f ′(z) · ν)= FD1(z, ν).

Alorsf est un isomorphisme analytique deD1 surD2.

Démonstration. –Pour appliquer le Théorème 1.1 (I. Graham [5]) ou le résultat deJ.-P. Vigué [14], il suffit de montrer quef (D1) est contenu dansD2. Si on considère une géodé-sique complexeϕ :∆→D1, telle queϕ(0)= a, on déduit des hypothèses que, pour toutζ voisinde 0,

FD2

(f ◦ ϕ(ζ ), (f ◦ ϕ)′(ζ ))= F∆(ζ,1)= 1

1− |ζ |2 .

CommeD2 est strictement convexe, le Théorème 5.1 montre quef ◦ ϕ est une géodésiquecomplexe et quef ◦ ϕ(∆) est contenu dansD2. Enfin, comme tout pointx deD1 appartientà l’image d’une géodésique complexe passant para, on a :f (D1) ⊂ D2, et le théorème estdémontré. 2

6. Les domaines convexes bornés de Cn

Il faut d’abord remarquer que le Théorème 5.1 ne se généralise pas au cas des domaines bornésconvexes deCn. Par exemple, dans le cas du polydisque∆2, l’applicationϕ :∆→C2 définie parϕ(ζ )= (ζ,Mζ 2), avecM > 1 n’envoie pas∆ dans∆2. Pourtant, on a, pour toutζ de modulesuffisamment petit,

F∆2

(ϕ(ζ ),ϕ′(ζ )

)= F∆(ζ,1).Cependant, il est quand même possible de retrouver un domaineD analytiquement isomorpheà la boule-unité ouverteB de Cn pour une norme‖ · ‖, à partir de la métrique infinitésimalede Kobayashi au voisinage d’un point convenablement choisi. Plus précisément, nous pouvonsmontrer le théorème suivant :

THÉORÈME 6.1. –SoitD un domaine deCn, soit a un point deD, et supposons qu’il existeun isomorphisme analytiqueg de la boule-unité ouverteB deCn pour une norme‖ · ‖ surDtel queg(0)= a. Soitf :B→ Cn une application holomorphe telle quef (0)= a et que, pour

TOME 78 – 1999 –N◦ 9

LA MÉTRIQUE INFINITÉSIMALE DE KOBAYASHI 875

tous les pointsz appartenant à un voisinageV de0 et pour tous les vecteursν ∈Cn, on ait :

FD(f (z), f ′(z) · ν)= FB(z, ν).

Alorsf envoieB dansD et est un isomorphisme analytique deB surD.

Démonstration. –Il est clair, par intégration, quef est une isométrie pourkB et kD auvoisinage de l’origine, c’est-à-dire que, pour tous les pointsz1 et z2 suffisamment proches del’origine, on a :

kD(f (z1), f (z2)

)= kB(z1, z2).

Par suite,g−1 ◦ f qui est défini au voisinage de l’origine dansB, est, au voisinage de l’origine,une isométrie pourkB qui laisse l’origine fixe. CommeBk(0, r) est une boule dansCn pour lanorme donnée, on en déduit queg−1 ◦ f est linéaire égale àh. Le théorème de prolongementanalytique montre alors quef = g ◦ h et le théorème est démontré.2

Ce théorème permet de retrouver un domaineD deCn, isomorphe à la boule-unité ouverteBde Cn, si on connaît l’imagea de l’origine par un isomorphisme analytique deB surD etla métrique infinitésimale de Kobayashi au voisinage dea (sans qu’on ait besoin de connaîtreplus précisémentB). En effet, siB est la boule-unité ouverte deCn pour une norme‖ · ‖ et siϕ :D→B est un isomorphisme analytique tel queϕ(a)= 0, alors

FD(a, ν)= FB(0, ϕ′(a) · ν)= ∥∥ϕ′(a) · ν∥∥.

Par suite, la boule-unité ouverte pour la normeFD(a, · ) est linéairement isomorphe àB. Ainsi,si

Ba ={z ∈Cn | FD(a, z) < 1

}et sif :Ba→Cn est une application holomorphe telle quef (0)= a et que

FD(f (z), f ′(z) · ν)= FBa (z, ν),

pour tous les pointsz appartenant à un voisinageV de 0 et pour tous les vecteursν ∈ Cn, alorsf est un isomorphisme analytique deBa surD.

En particulier, siD est un domaine borné symétrique, on sait queD est homogène etisomorphe à la boule-unité ouverte deCn pour une certaine norme, et on déduit du théorèmeprécédent que, sia est un point deD, et sif :Ba→Cn est une application holomorphe telle quef (0) = a et qui vérifie la condition précédente, alorsf est un isomorphisme analytique deBasurD.

Pour l’instant, je ne sais pas si la donnée de la métrique infinitésimale de Kobayashi auvoisinage d’un point d’un domaine borné convexeD deCn suffit à caractériserD.

RÉFÉRENCES

[1] L. B ELKHCHICHA, Caractérisation des isomorphismes analytiques sur la boule-unité deCn pour unenorme,Math. Z.215 (1994) 129–141.

[2] J. BLAND , T. DUCHAMP and M. KALKA , On the automorphism group of strictly convex domains inCn, Contemp. Math.49 (1986) 19–30.

[3] S. DINEEN, The Schwarz Lemma, Oxford Math. Monographs, Clarendon Press, Oxford, 1989.

JOURNAL DE MATHÉMATIQUES PURES ET APPLIQUÉES

876 J-.P. VIGUÉ

[4] T. FRANZONI and E. VESENTINI, Holomorphic Maps and Invariant Distances, Math. Studies 40,North-Holland, Amsterdam, 1980.

[5] I. GRAHAM, Holomorphic mappings into strictly convex domains which are Kobayashi isometries ata point,Proc. Amer. Math. Soc.105 (1989) 917–921.

[6] L. H ARRIS, Schwarz–Pick systems of pseudometrics for domains in normed linear spaces, in:Advances in Holomorphy, Math. Studies 34, North-Holland, Amsterdam, 1979, pp. 345–406.

[7] M. JARNICKI and P. PFLUG, Invariant Distances and Metrics in Complex Analysis, De GruyterExpositions in Mathematics 9, De Gruyter, Berlin, 1993.

[8] S. KOBAYASHI, Intrinsic distances, measures and geometric function theory,Bull. Amer. Math. Soc.82 (1976) 357–416.

[9] L. L EMPERT, Holomorphic retracts and intrinsic metrics in convex domains,Anal. Math.8 (1982)257–261.

[10] H. ROYDEN and P. WONG, Carathéodory and Kobayashi metrics on convex domains, Preprint, 1983.[11] E. VESENTINI, Complex geodesics,Compositio Math.44 (1981) 375–394.[12] E. VESENTINI, Complex geodesics and holomorphic mappings,Symposia Math.26 (1982) 211–230.[13] E. VESENTINI, Invariant distances and invariant differential metrics in locally convex spaces, in:

Spectral Theory, Banach Center Publications 8, Warsaw 1982, pp. 493–512.[14] J.-P. VIGUÉ, Caractérisation des automorphismes analytiques d’un domaine convexe borné,C. R.

Acad. Sci. Paris Série I Math.299 (1984) 101–104.[15] J.-P. VIGUÉ, Sur la caractérisation des isomorphismes analytiques entre domaines bornés d’un espace

de Banach complexe,Ann. Scuola Norm. Sup. Pisa Cl. Sci. (4)21 (1994) 145–155.[16] H. WU, Normal families of holomorphic mappings,Acta Math.119 (1967) 194–233.

TOME 78 – 1999 –N◦ 9