Cours 1 Analyse Numerique
Cours 1 Analyse Numerique
Cours 1 Analyse Numerique
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
A NALYSE N UM ÉRIQUE
Ishak Hajjej
April 5, 2020
1/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
1 I NTRODUCTION
2 M ÉTHODE DE RELAXATION
4 V ITESSE DE CONVERGENCE
6 C ONDITIONNEMENT
Exemple classique
Définition du conditionnement
2/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
3/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
O UTLINE
1 I NTRODUCTION
2 M ÉTHODE DE RELAXATION
3 M ÉTHODE DE G AUSS -S EIDEL
4 V ITESSE DE CONVERGENCE
5 C RIT ÈRE OU TEST D ’ ARR ÊT
6 C ONDITIONNEMENT
Exemple classique
Définition du conditionnement
4/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
I NTRODUCTION
Pour des systèmes linéaires de grande taille, les méthodes directes de
factorisations (de type LU ou de Cholesky) deviennent couteuses en temps
de calcul ou en place mémoire. L’idée alors de ne plus chercher à résoudre
exactement le système linéaire Ax = b, mais d’approcher sa solution x par
une suite de vecteurs (x(k) ) vérifiant
lim kx(k) − xk = 0.
k→∞
R EMARQUE 1
1 On n’a pas toujours besoin de calculer M −1 , mais il faut savoir
calculer la solution de Mx(k+1) = Nx(k) + b, pour x(0) donnée.
2 La matrice M −1 N = B est appelée matrice d’itération de la méthode.
La suite (x(k) ) vérifie donc x(k+1) = Bx(k) + c, pour c = M −1 b.
En général on a:
P ROPOSITION 1
Si B = M −1 N et c = M −1 b, alors la suite (x(k) ) donnéee par
6/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
I La matrice diagonale
a11 ... O
D=
O ann
I La matrice triangulaire inférieure
0 0 ... ... 0
−a21 0 ... ... 0
..
E= −a31 −a32 0 .
. .. ..
..
. .
−an1 −an2 ... −ann−1 0
qui représente l’opposée de la partie en dessous de la diagonale. 7/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
8/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
Dx(k+1) = (E + F)x(k) + b
9/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
D EFINITION 1
Une matrice A = (aij )1≤i,j≤n ∈ Mn (C) est dite à diagonale strictement
dominante si elle vérifie
X
aii > |aij | ∀ i ∈ {1, ...n}
i6=j
P ROPOSITION 2
Soit A une matrice à diagonale strictement dominante. Alors A est inversible
et la méthode de Jacobi converge pour résoudre le système Ax = b, pour
tout b ∈ Rn .
10/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
O UTLINE
1 I NTRODUCTION
2 M ÉTHODE DE RELAXATION
3 M ÉTHODE DE G AUSS -S EIDEL
4 V ITESSE DE CONVERGENCE
5 C RIT ÈRE OU TEST D ’ ARR ÊT
6 C ONDITIONNEMENT
Exemple classique
Définition du conditionnement
11/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
M ÉTHODE DE RELAXATION
Dans la méthode de relaxation, on introduit un paramètre réel non nul ω et
on prend
1 1−ω
M = D − E, N = M − A = D+F
ω ω
La matrice d’itération est donc
1 1−ω
Lω = ( D − E)−1 ( D + F)
ω ω
1
= ω(I − ωD−1 E)−1 D−1 D ((1 − ω)In + ωD−1 F)
ω
= (I − ωD−1 E)−1 ((1 − ω)In + ωD−1 F)
P ROPOSITION 3
La méthode de relaxation diverge pour tout ω ∈ R\]0, 2[
P ROPOSITION 4
Soit A ∈ Mn (R) une matrice symétrique définie positive. Alors la méthode
de relaxation converge si et seulement ω ∈]0, 2[
13/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
O UTLINE
1 I NTRODUCTION
2 M ÉTHODE DE RELAXATION
3 M ÉTHODE DE G AUSS -S EIDEL
4 V ITESSE DE CONVERGENCE
5 C RIT ÈRE OU TEST D ’ ARR ÊT
6 C ONDITIONNEMENT
Exemple classique
Définition du conditionnement
14/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
L1 = (D − E)−1 F
(D − E)x(k+1) = Fx(k) + b
15/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
(k+1)
Contrairement à la méthode de Jacobi, le calcul des composantes xi de
x(k+1) doit s’effectuer dans l’ordre i = 1, ..., n.
E XEMPLE 1
Soit
1 2 −2
A = 1 1 1
2 2 1
La matrice d’itération de la méthode de Gauss-Seidel est
1 0 0 0 −2 −2 0 −2 2
L1 = (D − E)−1 F = 1 1 0 0 0 −1 = 0 2 −3
2 Ishak
2 Hajjej
1 0 0 0 0 0 2 16/ 28
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
P ROPOSITION 5
Si A ∈ Mn (R) une matrice à diagonale strictement dominante, alors, la
méthode de Gauss-Seidel pour la résolution de système Ax = b est
convergente.
17/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
O UTLINE
1 I NTRODUCTION
2 M ÉTHODE DE RELAXATION
3 M ÉTHODE DE G AUSS -S EIDEL
4 V ITESSE DE CONVERGENCE
5 C RIT ÈRE OU TEST D ’ ARR ÊT
6 C ONDITIONNEMENT
Exemple classique
Définition du conditionnement
18/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
19/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
Ainsi, la suite (x(k) ) converge plus vite vers x d’autant que ρ(B) est plus
petit. Ceci reste encore vrai pour une norme matricielle quelconque et pour
une matrice B quelconque d’après le lemme suivant
L EMME 1
Si B ∈ Mn (C) et k.k est une norme matricielle subordonnée, alors
1
ρ(B) = lim kBk k k
k→∞
D EFINITION 2
Pour la recherche d’une solution x d’un système Ax = b, une méthode
itérative de matrice d’itération B est dite plus rapide qu’une autre de matrice
d’itération B̃, si ρ(B) < ρ(B̃).
20/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
ρ(L1 ) = (ρ(J))2
21/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel
Vitesse de convergence
Critère ou test d’arrêt
Conditionnement
O UTLINE
1 I NTRODUCTION
2 M ÉTHODE DE RELAXATION
3 M ÉTHODE DE G AUSS -S EIDEL
4 V ITESSE DE CONVERGENCE
5 C RIT ÈRE OU TEST D ’ ARR ÊT
6 C ONDITIONNEMENT
Exemple classique
Définition du conditionnement
22/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel Exemple classique
Vitesse de convergence Définition du conditionnement
Critère ou test d’arrêt
Conditionnement
kAx(k) − bk
≤ε
kbk
ou
kx(k) − x(k−1) k
≤ε
kx(k) k
O UTLINE
1 I NTRODUCTION
2 M ÉTHODE DE RELAXATION
3 M ÉTHODE DE G AUSS -S EIDEL
4 V ITESSE DE CONVERGENCE
5 C RIT ÈRE OU TEST D ’ ARR ÊT
6 C ONDITIONNEMENT
Exemple classique
Définition du conditionnement
23/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel Exemple classique
Vitesse de convergence Définition du conditionnement
Critère ou test d’arrêt
Conditionnement
7 5 9 10 31
Remarquons tout d’abord que la matrice A est symétrique, que son
déterminant vaut 1 et que la solution de (S) est donnée par x = (1, 1, 1, 1)T .
I Premier cas : b est perturbé. Perturbons légèrement le second
membre b et considérons
32.1
22.9
33.1
30.9
Si on résout le système (S0 ) : Ax0 = b0 , on trouve
x0 = (9.2, −12.6, 4.5, −1, 1)T . La petite perturbation sur le second
membre b entraı̂ne donc une forte perturbation sur la solution du
système.
24/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel Exemple classique
Vitesse de convergence Définition du conditionnement
Critère ou test d’arrêt
Conditionnement
1 kAk
≤ (2)
kxk kbk
kδxk kδbk
≤ kAkkA−1 k (3)
kxk kbk
On remarque que pour kδxk soit assez petit pour une petite perturbation de
b, il suffit que le terme kAkkA−1 k soit aussi assez petit,
25/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel Exemple classique
Vitesse de convergence Définition du conditionnement
Critère ou test d’arrêt
Conditionnement
alors la solution du système (S00 ) : A00 x00 = b est x00 = (−81 107 − 34 22)T .
D’une manière générale, on considère les deux systèmes Ax = b et
(A + ∆A)(x + δx) = b. Il vient donc δx = A−1 ∆A(x + δx) d’où
kδxk k∆Ak
≤ kA−1 k.kAk
kx + δxk kAk
26/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel Exemple classique
Vitesse de convergence Définition du conditionnement
Critère ou test d’arrêt
Conditionnement
D EFINITION 3
On appelle conditionnement d’une matrice inversible A relatif à une norme
matricielle subordonnée k.k, le réel positif, qu’on note Cond(A)
Cond(A) = kAkkA−1 k
P ROPOSITION 7
Pour toute matrice inversible A ∈ Mn (K) on a:
I Cond(A) = Cond(A−1 )
I Cond(αA) = Cond(A), pour tout α ∈ K ∗
I Cond(A) ≥ 1
max
1≤i≤n i |λ |
I Cond2 (A) = min1≤i≤n |λi | , si A est une matrice réelle symétrique (ou
complexe Hermitienne) inversible de valeurs propres (λi )1≤i≤n . Ici
Cond2 désigne le conditionnement relatif à la norme k.k2 .
27/ 28
Ishak Hajjej
Introduction
Méthode de relaxation
Méthode de Gauss-Seidel Exemple classique
Vitesse de convergence Définition du conditionnement
Critère ou test d’arrêt
Conditionnement
kδxk kδbk
≤ Cond(A)
kxk kbk
2 Si Ax = b et (A + δA)(x + δx) = b, alors
kδxk kδAk
≤ Cond(A)
kx + δxk kAk
P ROOF .
I A faire en exercice.
28/ 28
Ishak Hajjej