Notes de cours - Ceremade

MIDO MATHEMATIQUES ET INFORMATIQUE

DE LA DECISION ET DES ORGANISATIONS

Mthodes numriques

Introduction lanalyse numriqueet au calcul scientifique

Guillaume Legendre

(version provisoire du 12 fvrier 2018)

Ce document est mis disposition selon les termes de la licence Creative Commons Attribution - Partage dans les mmes conditions 4.0 International .

https://creativecommons.org/licenses/by-sa/4.0/deed.frhttps://creativecommons.org/licenses/by-sa/4.0/deed.frhttps://creativecommons.org/licenses/by-sa/4.0/deed.fr

Avant-propos

Ce document est une version augmente et regroupe des notes de deux cours enseigns luniversit Paris-Dauphine, respectivement en deuxime anne de licence de Mathmatiques et Informatique appliques lconomieet lEntreprise (MI2E) et en premire anne de master de Mathmatiques Appliques. Ces enseignements secomposent la fois de cours magistraux et de sances de travaux dirigs et de travaux pratiques.

Leur but est de prsenter plusieurs mthodes numriques de base utilises pour la rsolution des systmeslinaires, des quations non linaires, des quations diffrentielles et aux drives partielles, pour le calculnumrique dintgrales ou encore pour lapproximation de fonctions par interpolation polynomiale, ainsi quedintroduire aux tudiants les techniques danalyse (thorique) de ces dernires. Certains aspects pratiques demise en uvre sont galement voqus et lemploi des mthodes est motiv par des problmes concrets . Laprsentation et lanalyse des mthodes se trouvent compltes par un travail dimplmentation et dapplicationralis par les tudiants avec les logiciels MATLAB R 1 et GNU OCTAVE 2.

Il est noter que ce support de cours comporte plusieurs passages qui ne sont pas traits dans le cours devantles tudiants (ce dernier fixant le programme de lexamen), ou tout au moins pas de manire aussi dtaille. Ilcontient galement deux annexes de taille relativement consquente, lune consacre des rappels dalgbre,lautre des rappels danalyse, qui constituent les pr-requis une bonne comprhension des deux premiresparties du cours. Les courtes notes biographiques, qui apparaissent en bas de page chaque premire fois que lenom dune personne est cit, sont pour partie tires de WIKIPEDIA 3.

Je tiens enfin adresser mes remerciements tous les tudiants ayant dcel des erreurs, Matthieu Hillairetpour sa relecture dune partie du manuscrit et ses remarques, Andr Casadevall, Djalil Chafa, Maxime Chupin,Olga Mula, Pierre Lissy, Nicolas Salles, Julien Salomon, Anders Thorin et Gabriel Turinici pour leurs suggestions etenfin Donald Knuth pour linvention de TEX et Leslie Lamport pour celle de LATEX.

Guillaume LegendreParis, janvier 2018.

Quelques rfrences bibliographiques

Pour approfondir les thmes abords dans ces pages, voici une slection de plusieurs ouvrages de rfrence,que lon pourra consulter avec intrt en complment du cours. Par ailleurs, afin de faciliter laccs la littraturede langue anglaise, des traductions des termes spcifiques ce cours sont proposes tout au long du manuscrit,gnralement lors de lintroduction de lobjet ou de la notion en question.

Ouvrages rdigs en franais

[AD08] L. AMODEI et J.-P. DEDIEU. Analyse numrique matricielle. Mathmatiques pour le master/SMAI. Dunod, 2008.

[AK02] G. ALLAIRE et S. M. KABER. Algbre linaire numrique. Mathmatiques pour le deuxime cycle. Ellipses, 2002.

[Cia98] P. G. CIARLET. Introduction lanalyse numrique matricielle et loptimisation cours et exercices corrigs. Math-matiques appliques pour la matrise. Dunod, 1998.

[Dem06] J.-P. DEMAILLY. Analyse numrique et quations diffrentielles. Grenoble Sciences. EDP Sciences, 2006.

1. MATLAB est une marque dpose de The MathWorks, Inc., http://www.mathworks.com/.2. GNU OCTAVE est distribu sous licence GNU GPL, http://www.gnu.org/software/octave/.3. WIKIPEDIA, the free encyclopedia, http://www.wikipedia.org/.

i

http://www.mathworks.com/http://www.gnu.org/software/octave/http://www.wikipedia.org/

[Fil09] F. FILBET. Analyse numrique Algorithme et tude mathmatique. Dunod, 2009.

[LT00a] P. LASCAUX et R. THODOR. Analyse numrique matricielle applique lart de lingnieur. 1. Mthodes directes.Dunod, 2000.

[LT00b] P. LASCAUX et R. THODOR. Analyse numrique matricielle applique lart de lingnieur. 2. Mthodes itratives.Dunod, 2000.

[QSS07] A. QUARTERONI, R. SACCO et F. SALERI. Mthodes numriques. Algorithmes, analyse et applications. Springer, 2007.DOI : 10.1007/978-88-470-0496-2.

Ouvrages rdigs en anglais

[Act90] F. S. ACTON. Numerical methods that (usually) work. The Mathematical Association of America, 1990.

[Atk89] K. ATKINSON. An introduction to numerical analysis. John Wiley & Sons, second edition, 1989.

[Axe94] O. AXELSSON. Iterative solution methods. Cambridge University Press, 1994. DOI: 10.1017/CBO9780511624100.

[CLRS09] T. H. CORMEN, C. E. LEISERSON, R. L. RIVEST, and C. STEIN. Introduction to algorithms. MIT Press, third edition,2009.

[DB08] G. DAHLQUIST and . BJRCK. Numerical methods in scientific computing. Volume I. SIAM, 2008. DOI: 10.1137/1.9780898717785.

[Gau12] W. GAUTSCHI. Numerical analysis. Birkhuser Basel, second edition, 2012. DOI: 10.1007/978-0-8176-8259-0.

[GGK14] W. GANDER, M. J. GANDER, and F. KWOK. Scientific computing. An introduction using Maple and MATLAB. Volume 11of Texts in computational science and engineering. Springer, 2014. DOI: 10.1007/978-3-319-04325-8.

[GVL13] G. H. GOLUB and C. F. VAN LOAN. Matrix computations. Johns Hopkins University Press, fourth edition, 2013.

[Hig02] N. J. HIGHAM. Accuracy and stability of numerical algorithms. SIAM, second edition, 2002. DOI: 10.1137/1.9780898718027.

[IK94] E. ISAACSON and H. B. KELLER. Analysis of numerical methods. Dover, 1994.

[LeV07] R. J. LEVEQUE. Finite difference methods for ordinary and partial differential equations: steady-state and time-dependent problems. SIAM, 2007. DOI: 10.1137/1.9780898717839.

[Par98] B. N. PARLETT. The symmetric eigenvalue problem. Classics in applied mathematics. SIAM, 1998. DOI: 10.1137/1.9781611971163.

[PTVF07] W. H. PRESS, S. A. TEUKOLSKY, W. T. VETERLING, and B. P. FLANNERY. Numerical recipes: the art of scientificcomputing. Cambridge University Press, third edition, 2007.

[QV97] A. QUARTERONI and A. VALLI. Numerical approximation of partial differential equations. Volume 23 of Springerseries in computational mathematics. Springer, corrected second printing edition, 1997. DOI: 10.1007/978-3-540-85268-1.

[SB02] J. STOER and R. BULIRSCH. Introduction to numerical analysis. Volume 12 of Texts in applied mathematics. Springer,third edition, 2002. DOI: 10.1007/978-0-387-21738-3.

[SM03] E. SLI and D. F. MAYERS. An introduction to numerical analysis. Cambridge University Press, 2003. DOI:10.1017/CBO9780511801181.

[Ste01] G. W. STEWART. Matrix algorithms. Volume II: eigensystems. SIAM, 2001. DOI: 10.1137/1.9780898718058.

[Ste98] G. W. STEWART. Matrix algorithms. Volume I: basic decompositions. SIAM, 1998. DOI: 10.1137/1.9781611971408.

[TB97] L. N. TREFETHEN and D. BAU, III. Numerical linear algebra. SIAM, 1997.

[Var00] R. S. VARGA. Matrix iterative analysis. Volume 27 of Springer series in computational mathematics. Springer,second edition, 2000. DOI: 10.1007/978-3-642-05156-2.

[Wil65] J. H. WILKINSON. The algebraic eigenvalue problem. Numerical mathematics and scientific computation. OxfordUniversity Press, 1965.

[You71] D. M. YOUNG. Iterative solution of large linear systems. Academic Press, 1971.

ii

http://dx.doi.org/10.1007/978-88-470-0496-2http://dx.doi.org/10.1017/CBO9780511624100http://dx.doi.org/10.1137/1.9780898717785http://dx.doi.org/10.1137/1.9780898717785http://dx.doi.org/10.1007/978-0-8176-8259-0http://dx.doi.org/10.1007/978-0-8176-8259-0http://dx.doi.org/10.1007/978-3-319-04325-8http://dx.doi.org/10.1137/1.9780898718027http://dx.doi.org/10.1137/1.9780898718027http://dx.doi.org/10.1137/1.9780898717839http://dx.doi.org/10.1137/1.9781611971163http://dx.doi.org/10.1137/1.9781611971163http://dx.doi.org/10.1007/978-3-540-85268-1http://dx.doi.org/10.1007/978-3-540-85268-1http://dx.doi.org/10.1007/978-0-387-21738-3http://dx.doi.org/10.1017/CBO9780511801181http://dx.doi.org/10.1137/1.9780898718058http://dx.doi.org/10.1137/1.9781611971408http://dx.doi.org/10.1137/1.9781611971408http://dx.doi.org/10.1007/978-3-642-05156-2

Table des matires

1 Gnralits sur lanalyse numrique et le calcul scientifique 11.1 Diffrentes sources derreur dans une mthode numrique . . . . . . . . . . . . . . . . . . . . . . . . . . 21.2 Quelques notions dalgorithmique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.2.1 Algorithme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31.2.2 Codage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41.2.3 Efficacit et complexit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

1.3 Arithmtique virgule flottante . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81.3.1 Systme de numration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81.3.2 Reprsentation des nombres rels en machine . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10

Arrondi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111.3.3 Arithmtique en prcision finie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

Un modle darithmtique virgule flottante . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14Multiplication et addition fusionnes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14Perte dassociativit et de distributivit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14Soustraction exacte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15Arithmtique complexe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

1.3.4 La norme IEEE 754 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161.4 Propagation des erreurs et conditionnement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

1.4.1 Propagation des erreurs dans les oprations arithmtiques . . . . . . . . . . . . . . . . . . . . . 17Cas de la multiplication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17Cas de la division . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17Cas de laddition et de la soustraction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

1.4.2 Analyse de sensibilit et conditionnement dun problme . . . . . . . . . . . . . . . . . . . . . 18Problme bien pos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19Conditionnement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19Quelques exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

1.5 Analyse derreur et stabilit des mthodes numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . 281.5.1 Analyse derreur directe et inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28

Quelques exemples (simples) danalyse derreur . . . . . . . . . . . . . . . . . . . . . . . . . . . 301.5.2 Stabilit numrique et prcision dun algorithme . . . . . . . . . . . . . . . . . . . . . . . . . . 33

1.6 Notes sur le chapitre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

I Algbre linaire numrique 39

2 Mthodes directes de rsolution des systmes linaires 432.1 Exemples dapplication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

2.1.1 Estimation dun modle de rgression linaire en statistique * . . . . . . . . . . . . . . . . . . . 442.1.2 Rsolution numrique dun problme aux limites par la mthode des diffrences finies * . 45

2.2 Stockage des matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 462.3 Remarques sur la rsolution des systmes triangulaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . 492.4 Mthode dlimination de Gauss . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50

iii

2.4.1 limination sans change . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 512.4.2 limination de Gauss avec change . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 522.4.3 Rsolution de systmes rectangulaires par limination . . . . . . . . . . . . . . . . . . . . . . . . 542.4.4 Choix du pivot . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 542.4.5 Mthode dlimination de GaussJordan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55

2.5 Interprtation matricielle de llimination de Gauss : la factorisation LU . . . . . . . . . . . . . . . . 562.5.1 Formalisme matriciel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56

Matrices des transformations lmentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56Factorisation LU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58

2.5.2 Condition dexistence de la factorisation LU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 612.5.3 Mise en uvre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 622.5.4 Factorisation LU de matrices particulires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65

Cas des matrices diagonale strictement dominante . . . . . . . . . . . . . . . . . . . . . . . . 65Cas des matrices bandes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67Cas des matrices tridiagonales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68Cas des matrices de Hessenberg . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69Cas des matrices de Toeplitz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70Phnomne de remplissage lors de la factorisation de matrices creuses . . . . . . . . . . . . . 72

2.6 Autres mthodes de factorisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 742.6.1 Factorisation LDMT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 742.6.2 Factorisation de Cholesky . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 752.6.3 Factorisation QR . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77

2.7 Stabilit numrique des mthodes directes * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 832.7.1 Rsolution des systmes triangulaires * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 832.7.2 limination de Gauss et factorisation LU * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 832.7.3 Factorisation de Cholesky * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 852.7.4 Factorisation QR ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85

2.8 Notes sur le chapitre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87

3 Mthodes itratives de rsolution des systmes linaires 913.1 Gnralits sur les mthodes linaires stationnaires du premier degr . . . . . . . . . . . . . . . . . . . 923.2 Mthode de Jacobi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 973.3 Mthodes de GaussSeidel et de sur-relaxation successive . . . . . . . . . . . . . . . . . . . . . . . . . 983.4 Mthode de Richardson stationnaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 993.5 Convergence des mthodes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100

3.5.1 Cas des matrices diagonale strictement dominante . . . . . . . . . . . . . . . . . . . . . . . . . 1013.5.2 Cas des matrices hermitiennes dfinies positives . . . . . . . . . . . . . . . . . . . . . . . . . . . 1023.5.3 Cas des matrices tridiagonales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103

3.6 Remarques sur la mise en uvre des mthodes itratives . . . . . . . . . . . . . . . . . . . . . . . . . . 1063.7 Mthodes de projection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

3.7.1 Mthode de Kaczmarz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1073.7.2 Mthode de Cimmino . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108


4 Calcul de valeurs et de vecteurs propres 1134.1 Exemples dapplication ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114

4.1.1 Dtermination des modes propres de vibration dune plaque * . . . . . . . . . . . . . . . . . . . 1144.1.2 valuation numrique des nuds et poids des formules de quadrature de Gauss ** . . . . . 1154.1.3 PageRank . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115

4.2 Localisation des valeurs propres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1184.3 Conditionnement dun problme aux valeurs propres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1194.4 Mthode de la puissance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

4.4.1 Approximation de la valeur propre de plus grand module . . . . . . . . . . . . . . . . . . . . . 120

iv

4.4.2 Dflation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1234.4.3 Mthode de la puissance inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1244.4.4 Mthode de Lanczos ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124

4.5 Mthodes pour le calcul de valeurs propres dune matrice symtrique . . . . . . . . . . . . . . . . . . . 1244.5.1 Mthode de Jacobi pour une matrice relle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125

Matrices de rotation de Givens . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125Mthode de Jacobi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127Mthode de Jacobi cyclique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130

4.5.2 Mthode de GivensHouseholder ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1304.6 Mthodes pour la calcul de la dcomposition en valeurs singulires *** . . . . . . . . . . . . . . . . . 1334.7 Notes sur le chapitre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135

II Traitement numrique des fonctions 139

5 Rsolution numrique des quations non linaires 1435.1 Exemples dapplications * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143

5.1.1 quation de Kepler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1445.1.2 quation dtat de van der Waals pour un gaz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1445.1.3 Calcul du rendement moyen dun fonds de placement . . . . . . . . . . . . . . . . . . . . . . . 145

5.2 Ordre de convergence dune mthode itrative . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1455.3 Mthodes dencadrement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146

5.3.1 Mthode de dichotomie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1475.3.2 Mthode de la fausse position . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148

5.4 Mthodes de point fixe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1515.4.1 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1525.4.2 Quelques rsultats de convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1535.4.3 Mthode de relaxation ou de la corde . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1575.4.4 Mthode de NewtonRaphson . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1585.4.5 Mthode de Steffensen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1625.4.6 Classe des mthodes de Householder ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164

5.5 Mthode de la scante et variantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1655.5.1 Mthode de Muller . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1675.5.2 Mthode de Brent ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168

5.6 Critres darrt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1695.7 Mthodes pour les quations algbriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170

5.7.1 Localisation des racines ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1705.7.2 valuation des fonctions polynomiales et de leurs drives . . . . . . . . . . . . . . . . . . . . 170

valuation dune fonction polynomiale en un point . . . . . . . . . . . . . . . . . . . . . . . . . . 171Division euclidienne dun polynme par un monme . . . . . . . . . . . . . . . . . . . . . . . . . 171valuation des drives successives dune fonction polynomiale en un point . . . . . . . . . . 172Stabilit numrique de la mthode de Horner . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172

5.7.3 Mthode de NewtonHorner . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1735.7.4 Dflation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1735.7.5 Mthode de Bernoulli * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1745.7.6 Mthode de Grffe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1755.7.7 Mthode de Laguerre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1765.7.8 Mthode de DurandKerner ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1785.7.9 Mthode de Bairstow . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1785.7.10 Mthode de JenkinsTraub ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1805.7.11 Recherche des valeurs propres dune matrice compagnon ** . . . . . . . . . . . . . . . . . . . 180


v

6 Interpolation polynomiale 1876.1 Quelques rsultats concernant lapproximation polynomiale . . . . . . . . . . . . . . . . . . . . . . . . 188

6.1.1 Polynmes et fonctions polynomiales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1886.1.2 Approximation uniforme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1886.1.3 Meilleure approximation au sens des moindres carrs . . . . . . . . . . . . . . . . . . . . . . . . 191

6.2 Interpolation de Lagrange . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1916.2.1 Dfinition du problme dinterpolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1916.2.2 Diffrentes reprsentations du polynme dinterpolation de Lagrange . . . . . . . . . . . . . 193

Forme de Lagrange . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193Forme de Newton . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195Formes barycentriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198Algorithme de Neville . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200

6.2.3 Interpolation polynomiale dune fonction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202Polynme dinterpolation de Lagrange dune fonction . . . . . . . . . . . . . . . . . . . . . . . . 202Erreur dinterpolation polynomiale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202Quelques proprits des diffrences divises associes une fonction . . . . . . . . . . . . . . 204Convergence des polynmes dinterpolation et contre-exemple de Runge . . . . . . . . . . . 205

6.2.4 Gnralisations * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208Interpolation de Hermite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209Interpolation de Birkhoff * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210

6.3 Interpolation par morceaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2106.3.1 Interpolation de Lagrange par morceaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2116.3.2 Interpolation par des fonctions splines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211

Gnralits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212Interpolation par une fonction spline linaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212Interpolation par une fonction spline cubique . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213


7 Formules de quadrature 2257.1 Formules de quadrature interpolatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226

7.1.1 Gnralits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2267.1.2 Formules de NewtonCotes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2277.1.3 Formules de Fejr . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2317.1.4 Formules de ClenshawCurtis ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2337.1.5 Estimations derreur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233

Cas des formules de NewtonCotes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233Reprsentation intgrale de lerreur de quadrature * . . . . . . . . . . . . . . . . . . . . . . . . 236

7.2 Formules de quadrature composes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2377.2.1 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2377.2.2 Formules adaptatives ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241

7.3 valuation dintgrales sur un intervalle born de fonctions particulires ** . . . . . . . . . . . . . . . 2427.3.1 Fonctions priodiques ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2427.3.2 Fonctions rapidement oscillantes ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243


III quations diffrentielles et aux drives partielles 247

8 Rsolution numrique des quations diffrentielles ordinaires 2518.1 Rappels sur les quations diffrentielles ordinaires * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251

8.1.1 Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2528.1.2 Problme de Cauchy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2538.1.3 Une remarque fondamentale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 256

vi

8.2 Exemples dquations et de systmes diffrentiels ordinaires . . . . . . . . . . . . . . . . . . . . . . . . 2568.2.1 Problme N corps en mcanique cleste . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2578.2.2 Modle de LotkaVolterra en dynamique des populations . . . . . . . . . . . . . . . . . . . . . . 2578.2.3 Oscillateur de van der Pol . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2628.2.4 Modle SIR de KermackMcKendrick en pidmiologie . . . . . . . . . . . . . . . . . . . . . . . 2628.2.5 Modle de Lorenz en mtorologie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2648.2.6 Problme de Robertson en chimie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266

8.3 Mthodes numriques de rsolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2678.3.1 La mthode dEuler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2688.3.2 Mthodes de RungeKutta . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271

Construction dune mthode de RungeKutta explicite pour une quation scalaire . . . . . . 273Mthodes de RungeKutta implicites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275

8.3.3 Mthodes pas multiples linaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281Mthodes dAdams . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283Mthodes de Nystrm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285Gnralisations de la mthode de MilneSimpson . . . . . . . . . . . . . . . . . . . . . . . . . 286Mthodes utilisant des formules de diffrentiation rtrograde . . . . . . . . . . . . . . . . . . 286

8.3.4 Mthodes bases sur des dveloppements de Taylor . . . . . . . . . . . . . . . . . . . . . . . . . 2878.4 Analyse des mthodes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288

8.4.1 Rappels sur les quations aux diffrences linaires * . . . . . . . . . . . . . . . . . . . . . . . . 2888.4.2 Ordre et consistance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290

Cas des mthodes un pas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290Cas des mthodes pas multiples linaires * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293

8.4.3 Zro-stabilit * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 295Cas des mthodes un pas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 295Cas des mthodes pas multiples linaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297

8.4.4 Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299Cas des mthodes un pas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299Cas des mthodes pas multiples linaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299

8.4.5 Stabilit absolue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 302Cas des mthodes un pas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 302Cas des mthodes pas multiples linaires * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 305

8.4.6 Cas des systmes dquations diffrentielles ordinaires . . . . . . . . . . . . . . . . . . . . . . . 3088.5 Mthodes de prdiction-correction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3088.6 Techniques pour ladaptation du pas de discrtisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314

8.6.1 Cas des mthodes un pas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3158.6.2 Cas des mthodes pas multiples linaires * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319

8.7 Systmes raides . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3198.7.1 Deux expriences numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3208.7.2 Diffrentes notions de stabilit pour la rsolution des systmes raides * . . . . . . . . . . . . 323

8.8 Application la rsolution numrique de problmes aux limites ** . . . . . . . . . . . . . . . . . . . . 3278.8.1 Dfinition du problme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3278.8.2 Mthodes de tir . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327

8.9 Notes sur le chapitre * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329

9 Rsolution numrique des quations diffrentielles stochastiques 3359.1 Rappels de calcul stochastique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336

9.1.1 Processus stochastiques en temps continu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3369.1.2 Filtrations et martingales * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3379.1.3 Processus de Wiener et mouvement brownien * . . . . . . . . . . . . . . . . . . . . . . . . . . . 3389.1.4 Calcul stochastique dIto ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 340

Intgrale stochastique dIto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 341

vii

Formule dIto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 343Intgrale stochastique de Stratonovich . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 344

9.1.5 quations diffrentielles stochastiques * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3459.1.6 Dveloppements dItoTaylor * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 346

9.2 Exemples dquations diffrentielles stochastiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3479.2.1 Exemple issu de la physique *** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3479.2.2 Modle de BlackScholes pour lvaluation des options en finance . . . . . . . . . . . . . . . . 347

Options . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 348Hypothses sur le march . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 348Stratgie de portefeuille autofinance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349Principe darbitrage et mesure de probabilit risque-neutre . . . . . . . . . . . . . . . . . . . . 350Rplication et valuation de loption . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 351Formule de BlackScholes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 351Extensions et mthodes de Monte-Carlo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 352

9.2.3 Modle de Vasicek dvolution des taux dintrts en finance ** . . . . . . . . . . . . . . . . . . 3529.2.4 Quelques dfinitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 353

9.3 Mthodes numriques de rsolution des quations diffrentielles stochastiques . . . . . . . . . . . . . 3549.3.1 Simulation numrique dun processus de Wiener * . . . . . . . . . . . . . . . . . . . . . . . . . . 354

Gnrateurs de nombres pseudo-alatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354Approximation dun processus de Wiener . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 358

9.3.2 Mthode dEulerMaruyama . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3589.3.3 Diffrentes notions de convergence et de consistance . . . . . . . . . . . . . . . . . . . . . . . . 3599.3.4 Stabilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3629.3.5 Mthodes dordre plus lev . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 362

Mthode de Milstein . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 362Mthodes de RungeKutta stochastiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 362Mthodes multipas stochastiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 363


10 Mthodes de rsolution des systmes hyperboliques de lois de conservation 36710.1 Gnralits sur les systmes hyperboliques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36710.2 Exemples de systmes dquations hyperboliques et de lois de conservation * . . . . . . . . . . . . . 368

10.2.1 quation dadvection linaire ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36910.2.2 Modle de trafic routier * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36910.2.3 quation de Boltzmann en mcanique statistique ** . . . . . . . . . . . . . . . . . . . . . . . . . 36910.2.4 quation de Burgers pour la turbulence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36910.2.5 Systme des quations de la dynamique des gaz en description eulrienne . . . . . . . . . . 37010.2.6 Systme de Saint-Venant ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37010.2.7 quation des ondes linaire * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37010.2.8 Systme des quations de Maxwell en lectromagntisme * . . . . . . . . . . . . . . . . . . . . 371

10.3 Problme de Cauchy pour une loi de conservation scalaire . . . . . . . . . . . . . . . . . . . . . . . . . . 37110.3.1 Le cas linaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37110.3.2 Solutions classiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37310.3.3 Solutions faibles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37510.3.4 Solutions entropiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37910.3.5 Le problme de Riemann . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 384

10.4 Mthodes de discrtisation par diffrences finies ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38610.4.1 Principe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38610.4.2 Analyse des schmas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 389

Consistance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390Stabilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393La condition de CourantFriedrichsLewy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394

viii

10.4.3 Mthodes pour les quations hyperboliques linaires ** . . . . . . . . . . . . . . . . . . . . . . 395Mthode de LaxFriedrichs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 395Schma dcentr amont . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 397Mthode de LaxWendroff . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 398Autres schmas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 398Cas de lquation des ondes *** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 400

10.4.4 Mthodes pour les lois de conservation non linaires . . . . . . . . . . . . . . . . . . . . . . . . 400Extensions des schmas prcdemment introduits . . . . . . . . . . . . . . . . . . . . . . . . . 400Mthode de Godunov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 401mthode de MurmanRoe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 401Mthode dEngquistOsher . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 401Autres schmas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 402

10.4.5 Analyse par des techniques variationnelles ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40210.4.6 Remarques sur limplmentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 402

10.5 Notes sur le chapitre ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 402Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 403

11 Rsolution numrique des quations paraboliques 40511.1 Quelques exemples dquations paraboliques * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 405

11.1.1 Un modle de conduction thermique * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40511.1.2 Retour sur le modle de BlackScholes * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40611.1.3 Systmes de raction-diffusion ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40711.1.4 Systmes dadvection-raction-diffusion ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 408

11.2 Existence et unicit dune solution, proprits ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40811.3 Rsolution approche par la mthode des diffrences finies . . . . . . . . . . . . . . . . . . . . . . . . . 409

11.3.1 Analyse des mthodes ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40911.3.2 Prsentation de quelques schmas ** . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40911.3.3 Remarques sur limplmentation de conditions aux limites ** . . . . . . . . . . . . . . . . . . . 411

Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 412

IV Annexes 413

A Rappels et complments dalgbre linaire 415A.1 Ensembles et applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415

A.1.1 Gnralits sur les ensembles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415A.1.2 Relations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 417A.1.3 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 420A.1.4 Cardinalit, ensembles finis et infinis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 423

A.2 Structures algbriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424A.2.1 Lois de composition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424A.2.2 Structures de base . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 425

Groupes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426Anneaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426Corps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426

A.2.3 Structures oprateurs externes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426Espaces vectoriels * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 427Algbres * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 428

A.3 Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 429A.3.1 Oprations sur les matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 430A.3.2 Liens entre applications linaires et matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 432A.3.3 Inverse dune matrice . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 433A.3.4 Trace et dterminant dune matrice . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 433A.3.5 Valeurs et vecteurs propres . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 436A.3.6 Quelques matrices particulires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 437

ix

Matrice diagonale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 437Matrice triangulaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 437Matrice bande . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 437Matrice diagonale dominante . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 437Matrice symtriques ou hermitienne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 438Matrice rductible . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 438

A.3.7 Matrices quivalentes et matrices semblables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 439A.3.8 Matrice associe une forme bilinaire * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 440A.3.9 Diagonalisation des matrices * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 442A.3.10 Dcomposition en valeurs singulires * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 443

A.4 Normes et produits scalaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 444A.4.1 Dfinitions gnrales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 444A.4.2 Produits scalaires et normes vectoriels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 446A.4.3 Normes de matrices * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 450

A.5 Systmes linaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456A.5.1 Systmes linaires carrs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456A.5.2 Systmes linaires sur ou sous-dtermins . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 457A.5.3 Systmes linaires sous forme chelonne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 457A.5.4 Conditionnement dune matrice . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 458

A.6 Note sur lannexe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 461Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 461

B Rappels et complments danalyse 463B.1 Nombres rels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 463

B.1.1 Majorant et minorant . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 464B.1.2 Proprits des nombres rels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 464

Proprit dArchimde . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 464Partie entire dun nombre rel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 465Valeur absolue dun nombre rel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 465Densit de Q et de R\Q dans R . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 466

B.1.3 Intervalles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 466B.1.4 Droite numrique acheve . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 466

B.2 Suites numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 467B.2.1 Premires dfinitions et proprits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 467

Oprations sur les suites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 468Suites relles monotones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 468

B.2.2 Convergence dune suite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 469Proprits des suites convergentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 470Proprits algbriques des suites convergentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . 472

B.2.3 Existence de limite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 475B.2.4 Quelques suites particulires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476

Suite arithmtique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 477Suite gomtrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 477Suite arithmtico-gomtrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478Suite dfinie par rcurrence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478

B.3 Fonctions dune variable relle * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479B.3.1 Gnralits sur les fonctions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479

Oprations sur les fonctions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479Relation dordre pour les fonctions relles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479

B.3.2 Proprits globales des fonctions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480Parit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480Priodicit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480Monotonie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480Majoration, minoration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480

x

Convexit et concavit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 481B.3.3 Limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 481

Limite dune fonction en un point . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 481Limite droite, limite gauche . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 482Caractrisation squentielle de la limite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 483Passage la limite dans une ingalit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 483Thorme dencadrement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 483Oprations algbriques sur les limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 484Composition des limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 485Cas des fonctions monotones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 486

B.3.4 Continuit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 486Continuit en un point . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 486Continuit droite, continuit gauche . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487Caractrisation squentielle de la continuit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487Prolongement par continuit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487Continuit sur un intervalle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487Continuit par morceaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487Oprations algbriques sur les applications continues . . . . . . . . . . . . . . . . . . . . . . . . 487Thormes des bornes et des valeurs intermdiaires . . . . . . . . . . . . . . . . . . . . . . . . 488Application rciproque dune application continue strictement monotone . . . . . . . . . . . . 489Continuit uniforme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 490Applications lipschitziennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 490

B.3.5 Drivabilit * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 491Drivabilit en un point . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 491Proprits algbriques des fonctions drivables en un point . . . . . . . . . . . . . . . . . . . . . 492Drive dune compose de fonctions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 492Drive dune fonction rciproque . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 493Application drive . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 493Drives successives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 493Extrema locaux dune fonction relle drivable . . . . . . . . . . . . . . . . . . . . . . . . . . . . 494Rgle de LHpital . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 495Thorme de Rolle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 495Thorme des accroissements finis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 496Sens de variation dune fonction drivable . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 496Formules de Taylor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 497

B.4 Intgrales * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 498B.4.1 Intgrabilit au sens de Riemann * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 498B.4.2 Classes de fonctions intgrables * . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 500B.4.3 Thorme fondamental de lanalyse et intgration par parties ** . . . . . . . . . . . . . . . . . 501B.4.4 Formules de la moyenne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 501

Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502

C Treize articles majeurs de lanalyse numrique 503Rfrences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 504

Index 507

xi

Chapitre 1

Gnralits sur lanalyse numrique et lecalcul scientifique

Lanalyse numrique (numerical analysis en anglais) est une branche des mathmatiques appliques sintressantau dveloppement doutils et de mthodes numriques pour le calcul dapproximations de solutions de problmesde mathmatiques 1 quil serait difficile, voire impossible, dobtenir par des moyens analytiques 2. Son objectifest notamment dintroduire des procdures calculatoires dtailles susceptibles dtre mises en uvre par descalculateurs (lectroniques, mcaniques ou humains) et danalyser leurs caractristiques et leurs performances. Ellepossde des liens troits avec deux disciplines la croise des mathmatiques et de linformatique. La premire estlanalyse des algorithmes (analysis of algorithms en anglais), elle-mme une branche de la thorie de la complexit 3

(computational complexity theory en anglais), qui fournit une mesure de lefficacit dune mthode en quantifiantle nombre doprations lmentaires 4, ou parfois la quantit de ressources informatiques (comme le temps decalcul, le besoin en mmoire...), quelle requiert pour la rsolution dun problme donn. La seconde est le calculscientifique (scientific computing en anglais), qui consiste en ltude de limplmentation de mthodes numriquesdans des architectures dordinateurs et leur application la rsolution effective de problmes issus de la physique,de la biologie, des sciences de lingnieur ou encore de lconomie et de la finance.

Si lintroduction et lutilisation de mthodes numriques prcdent de plusieurs sicles lavnement desordinateurs 5, cest nanmoins avec lapparition de ces outils modernes, vers la fin des annes 1940 et le dbutdes annes 1950, que le calcul scientifique connut un essor sans prcdent et que lanalyse numrique devint unedomaine part entire des mathmatiques. La possibilit deffectuer un grand nombre doprations arithmtiquestrs rapidement et simplement ouvrit en effet la voie au dveloppement de nouvelles classes de mthodesncessitant dtre rigoureusement analyses pour sassurer de lexactitude et de la pertinence des rsultats quellesfournissent. ce titre, les travaux pionniers de Turing 6, avec notamment larticle [Tur48] sur lanalyse des effetsdes erreurs darrondi sur la factorisation LU, et de Wilkinson 7, dont on peut citer louvrage [Wil94] initialement

1. Les problmes considrs peuvent virtuellement provenir de tous les domaines dtude des mathmatiques pures ou appliques. La thoriedes nombres, la combinatoire, les algbres abstraite et linaire, la gomtrie, les analyses relle et complexe, la thorie de lapproximation etloptimisation, pour ne citer quelles, possdent toutes des aspects calculatoires. Sont ainsi couramment traites numriquement lvaluationdune fonction en un point, le calcul dintgrales, ou encore la rsolution dquations, ou de systmes dquations, algbriques, transcendantes,diffrentielles ordinaires ou aux drives partielles (dterministes ou stochastiques), de problmes aux valeurs et vecteurs propres, dinterpolationou doptimisation (avec ou sans contraintes).

2. Pour complter cette premire dfinition, on ne peut que recommander la lecture de lessai de L. N. Trefethen intitul The definition ofnumerical analysis, publi dans la revue SIAM News en novembre 1992 et reproduit par la suite dans une annexe de louvrage [Tre00].

3. Cette branche des mathmatiques et de linformatique thorique sattache connatre la difficult intrinsque dune rponse algorithmique un problme pos de faon mathmatique et dfinir en consquence une classe de complexit pour ce problme.

4. La notion d opration lmentaire est ici laisse ncessairement floue et entendue un sens plus large que celui quon lui attribuehabituellement en arithmtique.

5. Le lecteur intress est renvoy louvrage de Goldstine [Gol77], qui retrace une grande partie des dveloppements de lanalysenumrique en Europe entre le seizime et le dix-neuvime sicle.

6. Alan Mathison Turing (23 juin 1912 - 7 juin 1954) tait un mathmaticien et informaticien anglais, spcialiste de la logique et de lacryptanalyse. Il est lauteur dun article fondateur de la science informatique, dans lequel il formalisa les notions dalgorithme et de calculabilitet introduisit le concept dun calculateur universel programmable, la fameuse machine de Turing , qui joua un rle majeur dans la crationdes ordinateurs.

7. James Hardy Wilkinson (27 septembre 1919 - 5 octobre 1986) tait un mathmaticien anglais. Il fut lun des pionniers, et demeure une

1

CHAPITRE 1. GNRALITS SUR LANALYSE NUMRIQUE ET LE CALCUL SCIENTIFIQUE

publi en 1963, constituent deux des premiers lments dune longue succession de contributions sur le sujet.Dans ce premier chapitre, nous revenons sur plusieurs principes qui, bien que nayant a priori pas toujours de

rapport direct avec les mthodes numriques, interviennent de manire fondamentale dans leur mise en uvre etleur application la rsolution de problmes.

1.1 Diffrentes sources derreur dans une mthode numrique

Les solutions de problmes calcules par une mthode numrique sont affectes par des erreurs que lon peutprincipalement classer en trois catgories :

les erreurs darrondi dans les oprations arithmtiques, qui proviennent des erreurs de reprsentation duesau fait que tout calculateur travaille en prcision finie, cest--dire dans un sous-ensemble discret du corpsdes rels R, larithmtique naturelle tant alors approche par une arithmtique de nombres virguleflottante (voir la section 1.3) ;

les erreurs sur les donnes, imputables une connaissance imparfaite des donnes du problme que loncherche rsoudre, comme lorsquelles sont issues de mesures physiques soumises des contraintesexprimentales ;

les erreurs de troncature, dapproximation ou de discrtisation, introduites par les schmas de rsolutionnumrique utiliss, comme le fait de tronquer le dveloppement en srie infini dune solution analytiquepour permettre son valuation, darrter dun processus itratif ds quun itr satisfait un critre donnavec une tolrance prescrite, ou encore dapprocher la solution dune quation aux drives partielles enun nombre fini de points.

On peut galement envisager dajouter cette liste les erreurs qualifies d humaines , telles les erreurs deprogrammation, ou causes par des dysfonctionnements des machines ralisant les calculs 8.

Le prsent chapitre est en grande partie consacr aux erreurs darrondi, aux mcanismes qui en sont lorigine, leur propagation, ainsi qu lanalyse de leurs effets sur le rsultat dune suite de calculs. Ltude des erreurs detroncature, dapproximation ou de discrtisation constitue pour sa part un autre sujet majeur trait par lanalysenumrique. Elle sera aborde plusieurs reprises dans ce cours, lors de ltude de diverses mthodes itratives(chapitres 3, 4 et 5), de techniques dinterpolation polynomiale (chapitre 6) ou de formules de quadrature (chapitre7).

Pour mesurer lerreur entre la solution fournie par une mthode numrique et la solution du problme que loncherche rsoudre (on parle encore destimer la prcision de la mthode), on introduit les notions derreur absolueet relative.

Dfinition 1.1 Soit x une approximation dun nombre rel x. On dfinit lerreur absolue entre ces deux scalaires par

|x x | ,

et, lorsque x est non nul, lerreur relative par|x x ||x |

.

De ces deux quantits, cest souvent la seconde que lon privilgie pour valuer la prcision dun rsultat, enraison de son invariance par changement dchelle : la mise lchelle x x et x x , 6= 0, laisse en effetlerreur relative inchange.

Notons que ces dfinitions se gnralisent de manire immdiate des variables vectorielles ou matriciellesen substituant des normes aux valeurs absolues (on parle de normwise errors en anglais). Par exemple, pour desvecteurs x et x de Rn, on a ainsi lexpression x x pour lerreur absolue et x x/x pour lerreur relative,o dsigne une norme vectorielle donne. Dans ces derniers cas, les erreurs sont galement courammentvalues par composante ou par lment (componentwise errors en anglais) dans le cadre de lanalyse de sensibilit

grande figure, de lanalyse numrique.8. Il a t fait grand cas du bogue de division de lunit de calcul en virgule flottante du fameux processeur Pentium R dIntel R, dcouvert

peu aprs le lancement de ce dernier sur le march en 1994. En ralisant des tests informatiques pour ses recherches sur les nombres premiers,Thomas Nicely, de luniversit de Lynchburg (Virginie, USA), constata que la division de 1 par 824633702441 renvoyait un rsultat erron. Ilapparut plus tard que cette erreur tait due lalgorithme de division implant sur le microprocesseur. Pour plus de dtails, on pourra consulter[Ede97].

2

1.2. QUELQUES NOTIONS DALGORITHMIQUE

et de lanalyse derreur (voir respectivement les sections 1.4 et 1.5). Pour des vecteurs x et x de Rn, une mesure delerreur relative par composante est

max1in

|x i x i ||x i |

.

1.2 Quelques notions dalgorithmique

Une mthode numrique repose sur lemploi dun (ou de plusieurs) algorithme(s) (algorithm(s) en anglais),notion ancienne, apparue bien avant les premiers ordinateurs, avec laquelle le lecteur est peut-tre dj familier etque nous abordons plus en dtail ci-aprs.

1.2.1 Algorithme

De manire informelle, on peut dfinir un algorithme comme un nonc dcrivant, laide dun enchanementdtermin doprations lmentaires (par exemple arithmtiques ou logiques), une dmarche systmatiquepermettant la rsolution dun problme donn en un nombre fini ou infini 9 dtapes.

Un exemple dalgorithme : lalgorithme dEuclide. Dcrit dans le septime livre des lments dEuclide 10, cet algo-rithme permet de dterminer le plus grand commun diviseur de deux entiers naturels. Il est bas sur la proprit suivante : onsuppose que a b et on note r le reste de la division euclidienne de a par b ; alors le plus grand commun diviseur de a et b est leplus grand commun diviseur de b et r. En pratique, on divise le plus grand des deux nombres entiers par le plus petit, puis leplus petit des deux par le reste de la premire division euclidienne. On rpte ensuite le procd jusqu ce que le reste de ladivision, qui diminue sans cesse, devienne nul. Le plus grand commun diviseur cherch est alors le dernier reste non nul (ou lepremier diviseur, si le premier reste est nul).

La description dun algorithme fait intervenir diffrentes structures algorithmiques, qui peuvent tre desstructures de contrle (control structures en anglais) relatives lenchanement des oprations lmentaires (commedes instructions daffectation ou conditionnelles, des boucles, des appels de fonctions, des commandes de saut, desortie ou darrt, etc.), ou bien des structures de donnes (data structures en anglais), qui vont contenir et organiserles donnes (sous forme de listes, de tableaux, darbres, de piles ou de files selon le problme considr) afin denpermettre un traitement efficace.

Un algorithme est dit squentiel (sequential en anglais) lorsque les instructions qui le forment sont excutes lesunes aprs les autres. Il est dit parallle (parallel en anglais) lorsquelles sexcutent concurremment. Dautre part,un algorithme exploitant des tches sexcutant plusieurs units de calcul relies par un rseau de communicationest dit rparti ou distribu (distributed en anglais).

On dnombre trois principaux paradigmes prsidant la stratgie mise en uvre dans un algorithme pour larsolution dun problme. Tout dabord, le principe diviser pour rgner (divide and conquer en anglais) consiste scinder le problme en sous-problmes de mme nature mais dont les donnes sont de taille plus petite, puis rsoudre ces sous-problmes, pour combiner les rsultats obtenus et construire une solution au problme pos. Ilimplique une approche rcursive de la rsolution du problme considr.

La programmation dynamique (dynamic programming en anglais), introduite dans les annes 1940 et 1950par Bellman 11, possde aussi le caractre rcursif de la prcdente stratgie, tout en palliant un dfaut majeurde cette dernire, conduisant dans certains cas rsoudre plusieurs fois des sous-problmes identiques. Pour cefaire, une fois obtenue la solution dun sous-problme, celle-ci est mmorise (on parle de mmosation, du motanglais memoization) de manire tre simplement rappele chaque fois que le sous-problme sera de nouveaurencontr, vitant ainsi un recalcul.

9. Dun point de vue pratique, cest--dire pour tre utilis par le biais dun programme informatique, un algorithme doit ncessairementsachever aprs avoir effectu un nombre fini doprations. Dans un contexte abstrait cependant, le nombre doprations ralises peut treinfini, tout en restant nanmoins dnombrable.

10. Euclide ( en grec, v. 325 avant J.-C. - v. 265 avant J.-C.) tait un mathmaticien de la Grce antique ayant probablement vcuen Afrique. Il est lauteur des lments, un trait de mathmatiques et de gomtrie qui est considr comme lun des textes fondateurs desmathmatiques modernes.

11. Richard Ernest Bellman (26 aot 1920 - 19 mars 1984) tait un mathmaticien amricain. Il est linventeur de la programmationdynamique et fit de nombreuses contributions aux thories de la dcision et du contrle optimal.

3


Enfin, lapproche gloutonne (greedy en anglais), destine la rsolution de problmes doptimisation, vise construire une solution en faisant une suite de choix qui sont chacuns localement optimaux.

1.2.2 Codage

Le codage (on utilise aussi souvent langlicisme implmentation) dun algorithme consiste en lcriture de lasuite doprations lmentaires le composant dans un langage de programmation. Une premire tape en vue decette tche est dcrire lalgorithme en pseudo-code, cest--dire den donner une description compacte et informellequi utilise les conventions structurelles des langages de programmation 12 tout en saffranchissant de certainsdtails techniques non essentiels la bonne comprhension de lalgorithme, tels que la syntaxe, les dclarationsde variables, le passage darguments lors des appels des fonctions ou des routines externes, etc. ce titre, lesalgorithmes 1 et 2 ci-aprs proposent deux manires de calculer un produit de matrices rectangulaires compatibles.

Algorithme 1 : Algorithme pour le calcul du produit C = AB des matrices A de Mm,p(R) et B de Mp,n(R) (version i jk ).

Entre(s) : les tableaux contenant les matrices A et B.Sortie(s) : le tableau contenant la matrice C .pour i = 1 m faire

pour j = 1 n faireC(i, j) = 0pour k = 1 p faire

C(i, j) = C(i, j) + A(i, k) B(k, j)fin

finfin

Pour chaque problme pos de faon mathmatique, il peut exister plusieurs algorithmes le rsolvant. Certainsse distinguent par la nature et/ou le nombre des oprations lmentaires qui les constituent, alors que dautres vontau contraire effectuer strictement les mmes oprations lmentaires en ne diffrant que par la faon denchanerces dernires. Afin dillustrer ce dernier point, comparons les algorithmes 1 et 2. On remarque tout dabord quilsne se diffrencient que par lordre de leurs boucles, ce qui ne change videmment rien au rsultat obtenu. Dunpoint de vue informatique cependant, on voit quon accde aux lments des matrices A et B selon leurs lignes ouleurs colonnes, ce qui ne se fait pas la mme vitesse selon la manire dont les matrices sont stockes dans lammoire. En particulier, la boucle interne de lalgorithme 1 correspond un produit scalaire entre une ligne de lamatrice A et une colonne de la matrice B. Dans chacun de ces deux algorithmes prsents, on peut encore modifierlordre des boucle en i et j pour obtenir dautres implmentations parmi les six quil est possible de raliser.

Algorithme 2 : Algorithme pour le calcul du produit C = AB des matrices A de Mm,p(R) et B de Mp,n(R) (version ki j ).

Entre(s) : les tableaux contenant les matrices A et B.Sortie(s) : le tableau contenant la matrice C .pour i = 1 m faire

pour j = 1 n faireC(i, j) = 0

finfinpour k = 1 p faire

pour i = 1 m fairepour j = 1 n faire

C(i, j) = C(i, j) + A(i, k) B(k, j)fin

finfin

12. On notera en particulier que le signe = en pseudo-code ne reprsente pas lgalit mathmatique, mais laffectation de la valeur dunevariable une autre.

4


1.2.3 Efficacit et complexit

Tout calculateur est soumis des limitations physiques touchant sa capacit de calcul, cest--dire le nombremaximal doprations lmentaires, arithmtiques ou logiques, pouvant tre effectues chaque seconde 13, ainsiqu la mmoire disponible, cest--dire la quantit dinformation disposition ou laquelle il est possible daccder tout moment en un temps raisonnable. Typiquement, le temps dexcution dun algorithme mis en uvre sur unemachine informatique pour la rsolution dun problme dpendra :

de la qualit du codage de lalgorithme dans un langage de programmation et de loptimisation du code enlangage machine du programme excutable gnr par le compilateur partir de lanalyse du code source ;

de lorganisation et de larchitecture des units de calcul, ainsi que de la rpartition de la mmoire de lamachine ;

des donnes du problme ; de la complexit (computational complexity en anglais) de lalgorithme.

Pour mesurer lefficacit dun algorithme en saffranchissant des facteurs matriels et de linstance du problmeconsidr, on a coutume dutiliser sa seule complexit. Celle-ci est le plus souvent donne par le nombre doprationsde base que lon doit effectuer (on parle alors de complexit temporelle) et la quantit de mmoire requise (on parledans ce cas de complexit spatiale) pour rsoudre un problme dont les donnes sont de taille fixe. videmment,le type des oprations de base peut varier dun problme lautre ; par exemple, ce seront essentiellement desoprations arithmtiques (addition, soustraction, multiplication, division, etc.) pour des applications en calculscientifique, mais, comme pour un tri de donnes, il pourra aussi sagir dune comparaison ou dun dplacementdlments. De la mme manire, la mesure de la taille des donnes doit reflter la quantit, la nature et la structurede linformation manipule. Par exemple, pour des oprations sur les matrices, on emploie le (ou les) entier(s)donnant la taille des matrices en jeu ; dans le cas dun graphe, ce sont les nombres de sommets ou de nuds etdartes ou darcs que lon utilise.

Dans la suite, nous ne nous intressons qu la complexit temporelle des algorithmes, que nous dsignons parla fonction T . Nous supposons pour simplifier que la taille des donnes est reprsente par un unique entier natureln et que la complexit de lalgorithme tudi est une fonction de n, ayant pour valeur le nombre doprationslmentaires effectues, sans que lon diffrencie ces dernires 14.

Analyse de complexit du calcul du produit de deux matrices carres. On considre lvaluation du produit dedeux matrices dordre n coefficients dans un anneau, R par exemple. Pour le raliser, on a a priori, cest--dire en utilisant ladfinition (A.1), besoin de n3 multiplications et n2(n 1) additions, soit 2 n3 n2 oprations arithmtiques. Par exemple, dansle cas de matrices dordre 2,

c11 c12c21 c22

=

a11 a12a21 a22

b11 b12b21 b22

, (1.1)

il faut ainsi faire huit multiplications et quatre additions. Plus explicitement, on a

c11 = a11 b11 + a12 b21, c12 = a11 b12 + a12 b22,c21 = a21 b11 + a22 b21, c22 = a21 b12 + a22 b22.

Il est cependant possible deffectuer le produit (1.1) avec moins de multiplications. En effet, en faisant appel aux formulesdcouvertes par Strassen 15 en 1969, qui consistent en lintroduction des quantits

q1 = (a11 + a22)(b11 + b22),q2 = (a21 + a22)b11,q3 = a11(b12 b22),q4 = a22(b11 + b21),q5 = (a11 + a12)b22,q6 = (a11 + a21)(b11 + b12),q7 = (a12 a22)(b21 + b22),

13. On admet implicitement dans la suite quune opration lmentaire seffectue en un temps constant.14. En pratique cependant, et bien que cela varie avec lunit de calcul employe, on saccorde considrer que le cot dune addition

quivaut celui dune soustraction, et quune addition est moins coteuse quune multiplication, qui est elle-mme moins coteuse quunedivision.

15. Volker Strassen (n le 29 avril 1936) est un mathmaticien allemand. Il est clbre pour ses travaux sur la complexit algorithmique,avec lalgorithme de Strassen pour la multiplication rapide de matrices carres et lalgorithme de SchnhageStrassen pour la multiplicationrapide de grands entiers, et en thorie algorithmique des nombres, avec le test de primalit de SolovayStrassen.

5


telles quec11 = q1 + q4 q5 + q7, c12 = q3 + q5,c21 = q2 + q4, c22 = q1 q2 + q3 + q6,

on utilise sept multiplications et dix-huit additions et soustractions.Cette construction ne dpendant pas du fait que les lments multiplis commutent entre eux ou non, on peut lappliquer

des matrices dcomposes par blocs. Ainsi, si A, B et C sont des matrices dordre n, avec n un entier pair, partitionnes en blocsdordre n2 ,

C11 C12C21 C22

=

A11 A12A21 A22

B11 B12B21 B22

,

les blocs Ci j , 1 i, j 2, du produit C peuvent tre calculs comme prcdemment, en substituant aux coefficients les blocscorrespondant. Lalgorithme de Strassen [Str69] consiste appliquer rcursivement ce procd jusqu ce que les blocs soientdes scalaires, selon une stratgie de type diviser pour rgner. Pour cela, il faut que lentier n soit une puissance de 2, cas auquelon peut toujours se ramener en ajoutant des colonnes et des lignes de zros aux matrices A, B et C . Pour des matrices dordren= 2m, m N, le nombre T (n) de multiplications et dadditions requises par lalgorithme de Strassen vrifie

T (n) = T (2m) = 7 T (2m1) + 18 (2m1)2,

la somme de deux matrices dordre n ncessitant n2 additions. Un raisonnement par rcurrence montre alors que

T (2m) = 7m T (1) + 18m1

k=0

7k4mk1 7m(T (1) + 6),

dont on dduit queT (n) C nlog2(7),

avec C une constante strictement positive 16 et log2(7) 2, 807.En pratique, la constante C fait que cette technique de multiplication nest avantageuse que pour une valeur de n

suffisamment grande, qui dpend par ailleurs du codage et de larchitecture de lunit de calcul utilise, principalement enraison du caractre rcursif de lalgorithme qui implique le stockage de sous-matrices. Dautre part, le prix payer pour ladiminution asymptotique du nombre doprations est une stabilit numrique bien moindre que celle de la mthode standard de multiplication. Sur ce point particulier, on pourra consulter larticle [Hig90].

Lexemple prcdent montre que la question de la complexit dun algorithme revt toute son importancelorsque la taille des donnes est trs grande. Cest donc le comportement asymptotique de cette quantit quilconvient de dterminer et lon peut par consquent simplifier lanalyse en ne sintressant quau terme dominant(relativement n) dans lexpression de la fonction T (n). Ce terme fixe ce quon nomme lordre de croissance (orderof growth en anglais) du cot de lalgorithme en fonction de la taille des donnes du problme. On fait alorsappel aux notations de Bachmann 17Landau 18 [Bac94, Lan09], provenant de la comparaison asymptotique, pourcaractriser la complexit dun algorithme. Plus prcisment, tant donn une fonction f valeurs positives dfiniesur N, on crit que (voir [Knu76]) :

T (n) O( f (n)) sil existe une constante C strictement positive et un entier n0 tels que, pour tout n> n0,T (n) C f (n) ;

T (n) ( f (n)) sil existe une constante C strictement positive et un entier n0 tels que, pour tout n> n0,C f (n) T (n) (on notera que cette dfinition diffre de celle 19 de larticle [HL14], dans lequel le symbolefut introduit, qui a cours en thorie des nombres) ;

T (n) ( f (n)) sil existe deux constantes C1 et C2 strictement positives et un entier n0 tels que, pour toutn> n0, C1 f (n) T (n) C2 f (n).

On pourra remarquer que chacune de ces notations ignore la constante en facteur du terme dominant (parfoisappele la constante dordre), celle-ci jouant un rle bien moins significatif que lordre de croissance si la taille desdonnes est suffisamment grande. En pratique, la notation O() est la plus communment utilise, la notation ()la remplaant lorsque lon a besoin dune estimation plus prcise.

16. Dans [Str69], il est tabli que T (n) 4, 7 nlog2(7).17. Paul Gustav Heinrich Bachmann (22 juin 1837 - 31 mars 1920) tait un mathmaticien allemand qui sintressa principalement la

thorie des nombres.18. Edmund Georg Hermann Landau (14 fvrier 1877 - 19 fvrier 1938) tait un mathmaticien allemand qui travailla dans les domaines de

la thorie des nombres et de lanalyse complexe.19. La dfinition originelle est en effet T (n) ( f (n)) sil existe une constante C strictement positive telle que, pour tout entier naturel n0,

il existe un entier n> n0 tel que C f (n) T (n).

6


Par ailleurs, pour certains problmes et certains algorithmes, la complexit peut dpendre non seulement dela taille des donnes, mais galement des donnes elles-mmes. Lorsque cest le cas, lanalyse prend diffrentesformes, selon que lon considre la complexit

dans le meilleur des cas (best case en anglais), cest--dire pour une configuration faisant quelle est la pluspetite possible ;

dans le pire des cas (worst case en anglais), cest--dire pour une configuration faisant quelle est la plusgrande possible ;

en moyenne (average case en anglais), ce qui ncessite de la dfinir au travers dun modle probabiliste dedistribution des donnes, mais permet en contrepartie de caractriser un comportement en quelques sorte gnrique de lalgorithme par rapport aux donnes.

Analyse de complexit du tri rapide. Le tri rapide (quicksort en anglais) est un algorithme de tri en place de listeinvent par Tony Hoare 20 [Hoa61a, Hoa61b, Hoa62] et fond sur le principe diviser pour rgner. Il consiste, partir du choixarbitraire dun lment appel pivot, en un rarrangement de toute liste donne en deux sous-listes contenant respectivementles lments infrieurs (placs gauche) et suprieurs 21 (placs droite) au pivot. Cette opration, dite de partitionnement,est alors applique rcursivement jusqu ce que la liste soit trie, cest--dire que les sous-listes courantes contiennent un ouaucun lment. chaque tape, un choix de pivot possible est celui du premier (ou dernier) lment de la liste trier.

Conduisons une analyse de la complexit du tri rapide pour une liste possdant n lments. Pour cela, remarquons queltape de partitionnement applique une (sous-)liste contenant k lments trier, k = 2, . . . , n, entrane k 1 comparaisonset un certain nombre de permutations, induisant un cot linaire en lentier k, et supposons que T (1) = T (0) = 1.

Considrons tout dabord le pire des cas, cest- dire celui pour lequel chaque choix de pivot scinde une liste de k lmentsen une sous-liste contenant k 1 lments et une autre nen contenant aucun (en choisissant comme pivot le premier oudernier lment, ceci correspond au cas dune liste dj trie, le pivot tant alors le plus petit ou le plus grand lments dechaque sous-liste contenant au moins deux lments). Il en dcoule que

T (n) = T (0) + T (n 1) + C n= 2 T (0) + T (n 2) + C (n 1+ n) = 3 T (0) + T (n 3) + C (n 2+ n 1+ n)

= = n T (0) + Cn2

k=0

(n k),

do

T (n) = n T (0) + C

n(n 2)12(n 1)(n 2)

=C2

n2 +

1C2

n C .

La complexit de lalgorithme dans ce cas est donc en O(n2).Dans le meilleur des cas, chaque choix de pivot partage chaque liste en deux sous-listes contenant approximativement le

mme nombre dlments, cest--dire

T (n) = 2 Tn

2

+ C n= = 2k T (1) + C mn,

avec n= 2m, m N. On trouve par consquent

T (n) = n T (1) +C

ln(2)n ln(n),

et la complexit est en O(n ln(n)).Enfin, pour lanalyse de complexit en moyenne, faisons lhypothse que le choix de pivot renvoie avec la mme probabilit

nimporte quelle valeur prsente dans la liste trier. Il vient alors

T (n) = C n+1n

n

k=1

(T (k 1) + T (n k)) = C n+2n

n

k=1

T (k 1),

soit encore

n T (n) = C n2 + 2n

k=1

T (k 1).

20. Charles Antony Richard Hoare (gnralement appel Tony Hoare ou C. A. R. Hoare, n le 11 janvier 1934) est un informaticien anglais.Il inventa en 1960 un algorithme de tri rapide encore trs utilis et fut le premier avoir crit un compilateur complet pour le langage Algol60. Il est aussi lorigine de la logique de Hoare, qui sert la vrification des programmes, et dun langage formel permettant de spcifierlinteraction de processus concurrents.

21. En cas dgalit avec le pivot, on peut placer llment dans lune ou lautre des sous-listes.

7


Pour n> 1, on a aussi

(n 1) T (n 1) = C (n 1)2 + 2n1

k=1

T (k 1),

et, par soustraction,n T (n) = (n+ 1) T (n 1) + C (2n 1),

doT (n)n+ 1

=T (n 1)

n+

C (2n 1)n(n+ 1)

.

On arrive T (n)n+ 1

=T (n 2)

n 1+ C

2n 3)(n 1)n

+2n 1

n(n+ 1)

= =T (1)

2+ C

n

k=2

2k 1k(k+ 1)

,

doT (n)

n+2C n ln(n).

La complexit est l encore en O(n ln(n)).

Bien que lalgorithme de tri rapide possde une complexit en O(n2) dans le pire des cas, ce comportement est rarementobserv en pratique, le pivot pouvant tre choisi alatoirement (selon une loi uniforme) de faon viter les problmes lis auxlistes dj presque tries. Indiquons quun autre algorithme de tri efficace est celui du tri par tas (heapsort en anglais) [Wil64],dont la complexit dans le pire des cas est en O(n ln(n)).

On dit que la complexit dun algorithme est constante si elle est borne par une constante, quelle est linairesi elle est en O(n), quadratique (et plus gnralement polynomiale) si elle est en O(n2) (en O(np) pour un certainentier strictement positif p) et exponentielle si elle est en O(2n

p) pour un certain entier strictement positif p. On

estime quun algorithme est praticable si sa complexit est polynomiale.On considre gnralement quun algorithme est plus efficace quun autre pour la rsolution dun problme si sa

complexit dans le pire des cas est dordre de croissance moindre. Bien entendu, en raison de la constante dordreet de la prsence de termes non dominants dans lexpression de la fonction de complexit, ce jugement peut treerron pour des donnes de petite taille, mais il sera toujours vrai pour des donnes de taille suffisamment grande.

On terminera en indiquant que lanalyse de complexit du (ou d

Notes de cours - Ceremade

Documents

Transcript of Notes de cours - Ceremade