Sistemas LinearesParte 2
Métodos Iterativos
Introdução
Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky, ... Fornecem solução de qualquer sistema. Para minimizar problemas de arredondamento, adota-se o pivoteamento.
Métodos iterativos: podem ser mais rápidos e necessitar de menos memória do computador. Fornecem seqüências que convergem para a solução sob certas condições.
Introdução
Seja um sistema linear de ordem . A idéia é generalizar o método do ponto fixo, escrevendo o sistema linear na forma
onde é uma matriz de ordem e é um vetor coluna .
Dado um vetor aproximação inicial , cons-truímos iterativamente:
bxA
gxCx C n
n
g1n
)0(x
gxCx )1()2(
gxCx )0()1(
Introdução
Se a seqüência , , ....., convergir
Então é a solução do sistema linear
)0(x
xbxA com
gxCxLim kk
grandek
)1()(
)(kx)1(x
Teste de Parada
Se a seqüência estiver suficientemente
próximo de paramos o processo. Dada um precisão , quando
então é a solução do sistema linear. Computacionalmente, um número máximo de
iterações também é critério de parada.
1
1
)( ki
ki
ni
k xxMAXd
)(kx
)1( kx
)(kx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI
Seja o sistema linear
Se podemos isolar
por separação da diagonal.
nnnnnnn
nn
nn
bxaxaxaxa
bxaxaxaxa
bxaxaxaxa
......
.........................................................
......
......
332211
22323222121
11313212111
niaii ...1para0 gxCx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI
Iterativamente, o sistema reescreve-se como:
)(11,
)(22
)(11
)1(
)(2
)(323
)(1212
22
)1(2
)(1
)(313
)(2121
11
)1(1
......1
.........................................................
......1
......1
knnn
kn
knn
nn
kn
knn
kkk
knn
kkk
xaxaxaba
x
xaxaxaba
x
xaxaxaba
x
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI
Desta forma temos , onde
e
Do método de Gauss-Jacobi, dado ,
Obtemos , ....., através da relação
recursiva
0.......//
.................................
/.......0/
/....../0
21
2222221
1111112
nnnnnn
n
n
aaaa
aaaa
aaaa
C
nnn ab
ab
ab
g
/
.......
/
/
222
111
gxCx
)0(x)1(x )1( kx
gxCx kk )()1(
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI
Exemplo:Seja o sistema linear
Seja com . Portanto,
6.0
6.1
7.0)0(x 05.0
61032
851
7210
321
321
321
xxx
xxx
xxx
010/35/1
5/105/1
10/110/20
C
6.0
6.1
7.0
10/6
5/8
10/7
g
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI
Substituindo
Segue . Calculando
94.0
86.1
96.0)1(x
94.06.0)6.1(3.0)7.0(2.06.03.02.0
86.16.1)6.0(2.0)7.0(2.06.12.02.0
96.07.0)6.0(1.0)6.1(2.07.01.02.0
)0(2
)0(1
)1(3
)0(3
)0(1
)1(2
)0(3
)0(2
)1(1
xxx
xxx
xxx
05.034.0
05.026.0
05.026.0
)0(3
)1(3
)1(3
)0(2
)1(2
)1(2
)0(1
)1(1
)1(1
xxd
xxd
xxd
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI
Continuando com
Segue é a solução, pois
critério de parada
966.0
98.1
978.0)2(x
12.012
1
)2(ii
nixxMAXd
998.0
999.1
999.0)3(x
032.0)2()3(
1
)3(ii
nixxMAXd
Critérios de Convergência
Nos métodos iterativos são necessários critérios que garantam a convergência.
Um critério para a convergência do Método de Gauss-Jacobi é dado pelo:
1) Critério das linhas.
Método de Gauss-JacobiConvergência: Critério das linhas
Teorema – Critério das linhas
Dado o sistema , seja
Se , então o método de Gauss-
Jacobi gera uma série convergente para a
solução do sistema independentemente da
escolha de .
bxA ||/)||(1
kk
n
kjj
kjk aa
1max1
knk
)0(x
Método de Gauss-JacobiConvergência: Critério das linhas
Exemplo:Considere o sistema já estudado
Critério das linhas:
Logo, convergência OK!
13.010
121
1032
151
1210
A
61032
851
7210
321
321
321
xxx
xxx
xxx
15.010
323
14.0
5
112
15.0max1
knk
Método de Gauss-JacobiConvergência: Critério das linhas
Obs1: O sistema converge pelo método de Gauss-
Jacobi. No entanto, . Isto mostra que o Teorema das linhas é apenas suficiente para convergência.
Obs2: O sistema
Contudo, o sistema Equivalente convergepelo critério das linhas
33
3
21
21
xx
xx
1max1
knk
6860
3225
231
321
321
321
xxx
xxx
xxx
4max1
knk
6860
231
3225
321
321
321
xxx
xxx
xxx
18.0max1
knk
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Seja o sistema linear
Se podemos isolar
por separação da diagonal.
nnnnnnn
nn
nn
bxaxaxaxa
bxaxaxaxa
bxaxaxaxa
......
.........................................................
......
......
332211
22323222121
11313212111
niaii ...1para0 gxCx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Iterativamente, o sistema reescreve-se como:
)1(11,
)1(22
)1(11
)1(
)(2
)(323
)1(1212
22
)1(2
)(1
)(313
)(2121
11
)1(1
......1
.........................................................
......1
......1
knnn
kn
knn
nn
kn
knn
kkk
knn
kkk
xaxaxaba
x
xaxaxaba
x
xaxaxaba
x
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Comentário: Gauss-Jacobi X Gauss-Seidel O Método de Gauss-Seidel é uma variação
do Método de Gauss-Jacobi, pois para
calcular utilizamos os valores
já calculados e os valores restantes
)1( kjx
)1(1
)1(3
)1(2
)1(1 ,.....,,,
k
jkkk xxxx
)1()1(2
)1(1 ,.....,,
k
nk
jk
j xxx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Exemplo:Seja o sistema linear
Seja com . Portanto,
0
0
0)0(x 05.0
0633
6143
5115
321
321
321
xxx
xxx
xxx
)1(
2)1(
1)1(
3
)(3
)1(1
)1(2
)(3
)(2
)1(1
5.05.00
25.075.05.1
2.02.01
kkk
kkk
kkk
xxx
xxx
xxx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Logo, a primeira iteração fornece
88.075.05.015.05.05.00
75.0025.0175.05.125.075.05.1
10012.02.01
)1(2
)1(1
)1(3
)0(3
)1(1
)1(2
)0(3
)0(2
)1(1
xxx
xxx
xxx
88.0
75.0
1)1(x
88.0088.0
75.0075.0
101
)0(3
)1(3
)0(2
)1(2
)0(1
)1(1
xx
xx
xx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Logo, a segunda iteração fornece
99.05.05.00
95.025.075.05.1
03.12.02.01
)2(2
)2(1
)2(3
)1(3
)2(1
)2(2
)1(3
)1(2
)2(1
xxx
xxx
xxx
99.0
95.0
03.1)2(x
11.0
2.0
03.0
)1(3
)2(3
)1(2
)2(2
)1(1
)2(1
xx
xx
xx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Logo, a terceira iteração fornece
00.15.05.00
99.025.075.05.1
01.12.02.01
)3(2
)3(1
)3(3
)2(3
)3(1
)3(2
)2(3
)2(2
)3(1
xxx
xxx
xxx
00.1
99.0
01.1)3(x
01.0
04.0
02.0
)2(3
)3(3
)2(2
)3(2
)2(1
)3(1
xx
xx
xx
MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL
Logo, após a terceira iteração
é solução do sistema considerado com erro
menor do que .
00.1
99.0
01.1)3(xx
05.0
Critérios de Convergência
Nos métodos iterativos são necessários critérios que garantam a convergência.
Convergência para o Método de Gauss-Seidel: 1) Critério das linhas (já visto)
2) Critério de Sassenfeld
Os critérios acima estabelecem condições suficientes para a convergência.
Método de Gauss-SeidelConvergência - Critério de Sassenfeld
Sejam
e
n
j
jn
a
a
a
aaa
2 11
1
11
113121 ||
||
||
||||||
niaaa
a
aaaaa
ii
n
ijijj
i
jij
ii
iniiiiiiii
,3,2||/|]|||[
||
||||||||||
1
1
1
1112211
Critério de Sassenfeld
Seja
Se < 1, o método de Gauss-Seidel gera uma sequência convergente para qualquer
Quanto menor , mais rápida a convergência.
}{max1
ini
)0(x
Exemplos
Seja o sistema:
5.22.03.01.0
0.12.02.01.0
6.21.02.02.0
2.01.01.05.0
4321
4321
4321
4321
xxxx
xxxx
xxxx
xxxx
274.01/]358.02.044.02.07.01.0[
||/]|||||[|||/|]|||[
358.01/]2.044.02.07.01.0[
||/|]||||[|||/|]|||[
44.01/]1.02.07.02.0[
||/|]||||[|||/|]|||[
7.01/]1.01.05.0[||/|]||||[|||/]||[
4434324214144
4
144
14
144
333423213133
4
133
13
133
22242312122
4
122
12
122
1114131211
4
211
aaaaaaa
aaaaaaa
aaaaaaa
aaaaaa
jjj
jj
jjj
jj
jjj
jj
jj
Exemplos
Então,
de modo que o método de Gauss-Seidel converge.
17.0}{max1
ini
Exemplos
2. Seja o sistema:
Neste caso,
Trocando a 1ª equação pela terceira,
Nesta disposição:
33
1
932
31
32
321
xx
xx
xxx
122/]31[1
932
1
33
321
32
31
xxx
xx
xx
131/]30[1
Exemplos
2. Agora se trocarmos a 1ª coluna pela terceira,
Nesta disposição:
923
1
3 3
123
23
13
xxx
xx
xx
3/22//)3/1(1)3/1(3[
3/11/]0)3/1(1[
3/13/]11[
3
2
1
13/2}{max1
ini
Garantia de convergência
Exemplos
3. Seja o sistema:
O método de Gauss-Seidel gera uma seqüência convergente, apesar do crit´rio das linhas não ser satisfeito.
Pelo critério de Sassenfeld
33
3
21
21
xx
xx
3/13/11
11/1
2
1
O critério de Sassenfeld
não é satisfeito.
O critério de Sassenfeld também é suficiente, mas não necessário.
Metodos Iterativos - Comparação
Seja o sistema:
Método de Gauss-Jacobi:
Temos a seqüência:
33
3
21
21
xx
xx
)(1
)1(2
)(2
)1(1
33
1
3
kk
kk
xx
xx
3/4
3/4,
3/5
1,
2
2,
1
3,
0
0 )4()3()2()1()0( xxxxx
Metodos Iterativos - Comparação
Seja o sistema:
Método de Gauss-Seidel:
Temos a seqüência:
33
3
21
21
xx
xx
)1(1
)1(2
)(2
)1(1
33
1
3
kk
kk
xx
xx
9/14
3/5,
3/4
1,
2
3,
0
0 )3()2()1()0( xxxx
Metodos Iterativos - Comparação
Comentário1: As duas seqüências convergem para a
solução exata do sistema . Vejamos,
a) Gauss-Jacobi :
b) Gauss-Seidel: Comentário 2: A convergência do Método de Gauss-
Seidel é mais rápida, por construção do método. Comentário 3: Embora a ordem das equações num
sistema linear não mude a solução exata, as seqüências
geradas pelos Métodos de Gauss-Jacobi e Gauss-Seidel
dependem fundamentalmente da disposição das equações
5.15.1x
56.167.1)3( GSx
33.133.1)4( GJx
Métodos Direto e Iterativos Comparação
1) Convergência:
Os Métodos Diretos são processos finitos portanto fornecem solução para qualquer sistema linear não-singular.
Os Métodos Iterativos têm convergência assegurada sob certas condições.
Métodos Direto e Iterativos Comparação
2) Esparsidade da Matriz : Em problemas reais, como a discretização de EDO’s peloMétodo de Elementos Finitos ou Diferenças Finitas, as matrizes dos coeficientes tornam-se esparsas. A forma de armazenamento destes dados tira proveito da esparsidade. Métodos diretos em sistemas esparsos provocam o
preenchimento da matriz e no processo de Eliminação (escalonamento) geram elementos não-nulos, onde originalmente tínhamos elementos nulos. Técnicas especiais de pivoteamento reduzem este preenchimento. Fatoramento LU dão bons resultados. Algumas situações estes métodos não são possíveis.
Métodos iterativos não alteram a estrutura da matriz dos coeficientes. Vantagem.
A
Métodos Direto e Iterativos Comparação
3) Erros de Arredondamento
Métodos Diretos têm problemas de arredondamento. Técnicas de Pivoteamento amenizam tais erros.
Métodos iterativos têm menos erros de arredondamento, quando a convergência estiver assegurada.
A
Lista de Métodos para Sistemas Lineares
Fazer exercícios 3, 5, 9,14, 22, 29 do livro texto.