h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

1/128Universidad Politécnica de Madrid–Escuela Técnica Superior de Ingenieros IndustrialesGrado en Ingeniería en Tecnologías Industriales. Curso 2015-2016-3º

Matemáticas de Especialidad–Ingeniería Eléctrica

Sistemas de ecuaciones linealesMétodos directos de resolución

José Luis de la Fuente O’Connorjldelafuente@etsii.upm.esjoseluis.delafuente@upm.es

Clase_sistemas_ecuaciones_lineales_2016.pdf

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

2/128

Índice

� El problema y consideraciones teóricas

� Métodos directos: Eliminación de Gauss

� Pivotación� Algoritmo� Número de operaciones� Método de Gauss-Jordan

� Condicionamiento de sistemas de ecuaciones lineales

� Errores en la eliminación de Gauss

� Matlab y los sistemas de ecuaciones lineales

� Factorización LU

� Solución de sistemas modificados

� Refinamiento iterativo

� Sistemas con matrices especiales

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

3/128

El problema y sus aspectos teóricos

� Se trata de obtener la solución de un sistema de ecuaciones lineales como

a11x1 C a12x2 C � � � C a1nxn D b1a21x1 C a22x2 C � � � C a2nxn D b2::: ::: ::: :::

am1x1 C am2x2 C � � � C amnxn D bm:Hay que obtener el valor del vector x D Œx1; : : : ; xn�T que hace que se cumplansimultáneamente todas las igualdades.

� Los números aij son los coeficientes del sistema y b D Œb1; : : : ; bm�T el términoindependiente.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

4/128

� Si se introducen las matrices

A D

26664a11 a12 � � � a1na21 a22 � � � a2n::: ::: :::

am1 am2 � � � amn

37775 ; x D

26664x1x2:::

xn

37775 y b D

26664b1b2:::

xm

37775 ;

el sistema se puede representar de forma más compacta por

Ax D b:

� En general A 2 Rm�n, x 2 Rn y b 2 Rm, pero también pueden pertenecer alcuerpo de los números complejos.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

5/128� Casos posibles de sistemas de ecuaciones lineales:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

5/101

� Casos posibles de sistemas lineales, una vez más

· =

m < n

rango(A) = m < n

· =

m < n

rango(A) < m < n

· =m > n

rango(A) = n < m

· =m > n

rango(A) < n < m

· =

m = n

rango(A) = m= n

· =

m = n

rango(A)< m = n

3a 3b

2a 2b

1a 1b

· =

m < n

rango(A) = m < n

· =

m < n

rango(A) < m < n

· =m > n

rango(A) = n < m

· =m > n

rango(A)< n < m

· =

m = n

rango(A) = m = n

· =

m = n

rango(A) < m = n

3a 3b

2a 2b

1a 1b

· =

m < n

rango(A) = m < n

· =

m < n

rango(A) < m < n

· =m > n

rango(A) = n < m

· =m > n

rango(A) < n < m

· =

m = n

rango(A) = m = n

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

6/128

� Recordemos algunos resultados de la teoría de álgebra lineal.

Teorema Compatibilidad de un sistema de ecuaciones lineales La ecuación Ax D badmite solución si y sólo si

rango.Ajb/ D rango.A/.

Corolario Si Am�n tiene rango m, Ax D b siempre tiene solución.

Teorema Si x0 es una solución de Ax D b, el conjunto de soluciones de la ecuaciónestá dado por x0 C ker.A/.

Corolario Una solución de Ax D b es única si y sólo si ker.A/ D ;.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

7/128

Teorema La ecuación Ax D 0, Am�n, n > m, siempre tiene una solución no trivial.

Teorema Si A es una matriz cuadrada de orden n, las siguientes condiciones sonequivalentes:

1. rango.A/ D n.2. ker.A/ D ;.3. Los vectores columna de A son linealmente independientes.

4. Los vectores fila de A son linealmente independientes.

5. Existe una matriz de orden n, A�1, tal que A�1ADAA�1DI

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

8/128

� Ejemplo Hay que modelizar el sistema de refrigeración de una tarjetaelectrónica para poder usar un reloj de impulsos con la mayor frecuencia deoscilación posible.

� Simplificadamente, adoptamos el modelo físico y matemático de la figura en elque se esquematiza un tiristor o un transistor montado en una placa disipadorade calor.

Thermal Model of an IC Package (1)

Objective: Find the temperature of an integrated circuit (IC)package mounted on a heat spreader. The system of equations is

obtained from a thermal resistive network model.

Physical Model: Mathematical Model:

Tp Tw

aire

Ta

cQc

Τa

Q3 R3

Τp

Τa

Τw

Τa

Q4 R4 Q5 R5

Q1 Q2

R2

NMM: Solving Systems of Equations page 7

temperatura exterior

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

9/128

� Si el sistema necesita Qc watios de potencia y se supone un modelo resistivo delflujo de aire entre los nudos del sistema, aplicando los principios de conservaciónde la energía se obtienen estas ecuaciones:

Q1 D 1

R1.Tc � Tp/ Q4 D 1

R4.Tp � Ta/ Qc D Q1 CQ3

Q2 D 1

R2.Tp � Tw/ Q2 D 1

R5.Tw � Ta/ Q1 D Q2 CQ4

Q3 D 1

R3.Tc � Ta/

� Se conocen Qc y Ta. Las resistencias se pueden conocer sabiendo el material delas placas y sus propiedades.

� Las incógnitas son entonces Q1, Q2, Q3, Q4, Tc, Tp y Tw.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

10/128� Como hay siete ecuaciones, reagrupando las ecuaciones para aislar las incógnitas:

R1Q1 � Tc C T9 D 0R2Q2 � Tp C Tw D 0

R3Q3 � Tc D �TaR4Q4 � Tp D �TaR5Q2 � Tw D �TaQ1 CQ3 D Qc

Q1 �Q2 �Q4 D 0:

� En forma matricial, el sistema tiene la siguiente expresión:266664

R1 0 0 0 �1 1 0

0 R2 0 0 0 �1 1

0 0 R3 0 �1 0 0

0 0 0 R4 0 �1 0

0 R5 0 0 0 0 �11 0 1 0 0 0 0

1 �1 0 �1 0 0 0

377775

266664

Q1

Q2

Q3

Q4

Tc

Tp

Tw

377775 D

266664

0

0

�Ta

�Ta

�Ta

Qc

0

377775

� Los flujos de calor se obtendrán resolviendo este sistema.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

11/128� En Matlab, si R1 D 100, R2 D 200, R3 D 50, R4 D 100, R5 D 300,Ta D 50 y Qc D 25, en su zona de trabajo habría que hacer esto:

» A=[100 0 0 0 -1 1 0; 0 200 0 0 0 -1 1; 0 0 50 0 -1 0 0;...0 0 0 100 0 -1 0; 0 300 0 0 0 0 -1; 1 0 1 0 0 0 0;1 -1 0 -1 0 0 0]

A =100 0 0 0 -1 1 0

0 200 0 0 0 -1 10 0 50 0 -1 0 00 0 0 100 0 -1 00 300 0 0 0 0 -11 0 1 0 0 0 01 -1 0 -1 0 0 0

» b=[0;0;-50;-50;-50;25;0]b =

00

-50-50-50250

>> x=A\bx =

1.0e+003 *0.005357142857140.000892857142860.019642857142860.004464285714291.032142857142860.496428571428570.31785714285714

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

12/128� Analicemos geométricamente el problema de resolver un sistema de dosecuaciones lineales con dos incógnitas:

a11x1 C a12x2 D b1a21x1 C a22x2 D b2:

� Cada una de las ecuaciones que componen el sistema representa una rectaen el espacio euclídeo de dimensión dos.

x1

x2

a21x1 + a22x2 = b2

a11x1 + a12x2 = b1

� El proceso de obtener la solución del sistema tiene como objeto determinarlas coordenadas del punto donde se cortan.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

13/128

� Expresión gráfica de diversas formas que pueden adoptar los sistemas deecuaciones lineales.

www.FreeLibros.me

� Generalizando a Rn, la resolución de un sistema de ecuaciones lineales consisteen determinar las coordenadas del(os) punto(s) de intersección de loshiperplanos asociados a cada una de las ecuaciones.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

14/128� En R3, por ejemplo, el sistema

x1 � 2x2 C x3 D 0

2x2 � 8x3 D 8

�4x1 C 5x2 C 9x3 D �9tiene por solución, única, x D Œ29; 16; 3�T .

x1 " 2x2 D "3x2 D 16

x3 D 3

24 1 "2 0 "30 1 0 16

0 0 1 3

35

x3 x2"2x2

x3 x3

8̂<:̂x1 D 29

x2 D 16x3 D 3

24 1 0 0 29

0 1 0 16

0 0 1 3

35

.29; 16; 3/

.29; 16; 3/

.29/ " 2.16/ C .3/ D 29 " 32C 3 D 02.16/ " 8.3/ D 32 " 24 D 8

"4.29/ C 5.16/ C 9.3/ D "116C 80C 27 D "9.29; 16; 3/

(29, 16, 3)

.29; 16; 3/

c 1=c

c

"c

� El punto x D Œ29; 16; 3�T está en los tres planos que definen las ecuaciones delsistema.

>> A=[1 -2 1;0 2 -8;-4 5 9];>> b=[0;8;-9];>> A\bans =

29163

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

15/128

� Geométricamente, en el subespacio Im.A/, si se escribe el sistema de dosecuaciones con dos incógnitas de la forma

�a11a21

�x1 C

�a12a22

�x2 D

�b1b2

�;

el problema es el de descomponer linealmente el vector b en los dos vectorescolumna de la matriz de coeficientes.

[b1b2

]

[a12a22

]

[a11a21

]

� En Rn el problema es el de la búsqueda de la descomposición lineal de un vectorsegún los n vectores de la base de Im.A/: los vectores columna de A.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

16/128

Índice

� El problema; consideraciones teóricas

� Métodos directos. Eliminación de Gauss

� Condicionamiento de sistemas de ecuaciones lineales

� Errores en la eliminación de Gauss

� Matlab y los sistemas de ecuaciones lineales

� Factorización LU

� Solución de sistemas modificados

� Refinamiento iterativo

� Sistemas con matrices especiales

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

17/128

Métodos directos. Eliminación de Gauss

� Los métodos directos resuelven el problema en etapas, siendo el número deéstas fijo y función de la dimensión del problema.

� El más clásico es el debido a Gauss, quien lo aplicó por primera vez en 1809 conmotivo de unos estudios sobre órbitas de cuerpos celestes.

Carl Friedrich Gauss, Alemania, 1777-1855

� Supondremos que la matriz cuadrada A es de rango completo –regular–, por lotanto invertible, y que si eventualmente no lo es el procedimiento deberádetectarlo.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

18/128

� La mecánica del método consiste en aplicar al sistema

a11x1 C a12x2 C � � � C a1nxn D b1a21x1 C a22x2 C � � � C a2nxn D b2::: ::: ::: :::

an1x1 C an2x2 C � � � C annxn D bn

9>>>=>>>;Ax D b

n � 1 transformaciones lineales que lo conviertan en otro más fácil de resolver.

� Concretamente, en uno triangular superior de la forma

u11x1 C u12x2 C � � � C u1nxn D b01u22x2 C � � � C u2nxn D b02

::: :::

unnxn D b0n;

9=; U x D b0:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

19/128

� Un sistema triangular superior, siempre y cuando se satisfaga que

ui i ¤ 0; i D 1; : : : ; n;es fácilmente resoluble de manera recurrente mediante las fórmulas

xk D 1

ukk

b0k �

nXiDkC1

ukixi

!; k D 1; : : : ; n:

Este proceso se conoce como sustitución inversa.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

20/128

� En cada una de esas n � 1 etapas, con otras tantas transformaciones lineales,hay que llevar a cabo:

1. Una multiplicación de una de las ecuaciones del sistema por un númerodistinto de cero.

2. Una sustitución de una ecuación del sistema (o varias) por la que resulta desumarle otra multiplicada por un factor.

3. Una posible permutación del orden en que aparecen en el sistema lasecuaciones del mismo.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

21/128

� Ejemplo Se desea resolver el sistema

2x1 C x2 C 4x4 D 2

�4x1 � 2x2 C 3x3 � 7x4 D�94x1 C x2 � 2x3 C 8x4 D 2

� 3x2 � 12x3 � x4 D 2:

� Escrito en forma matricial, Ax D b, los distintos componentes son

A D

26664

2 1 0 4

�4 �2 3 �74 1 �2 8

0 �3 �12 �1

37775 ; b D

26664

2

�92

2

37775 y x D

26664x1x2x3x4

37775 :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

22/128

� Reconfiguremos inicialmente la matriz A, añadiéndole a su derecha la columnadel término independiente b, y llamemos a la nueva matriz bA; es decir,

bA D ŒAjb� D

26664

2 1 0 4 2

�4 �2 3 �7 �94 1 �2 8 2

0 �3 �12 �1 2

37775 :

Apliquemos ahora la mecánica del método en 3 etapas.

Etapa 1

� Comprobemos el valor del coeficiente Oa11 —denominado pivote—.Si es distinto de cero, pivotando sobre él, hagamos cero los coeficientes de laprimera columna por debajo de ese Oa11.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

23/128� Para ello, calculamos para cada fila 2; : : : ; n los factores o multiplicadores

ri D Oai1Oa11; i D 2; : : : ; n:

� A continuación, restamos de las filas i D 2; : : : ; n, la primera multiplicada porri . El resultado es que todos los coeficientes debajo de la diagonal principal dela columna 1 se anularán.

� Los demás coeficientes de bA debajo de la primera fila se verán afectadoscomo indica esta expresión:

Oaij Oaij � ri � Oa1j ; i D 2; : : : ; nI j D 2; : : : ; nC 1:

� En el ejemplo, los multiplicadores sonr2 D Oa21= Oa11 D�4=2D�2r3 D Oa31= Oa11 D 4=2D 2

r4 D Oa41= Oa11 D 0=2D 0:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

24/128

� Los coeficientes de la matriz bA que cambian de valor son:

en la 2a fila: Oa21 0

Oa22 Oa22 � r2 � Oa12 D �2 C 2 � 1 D 0

Oa23 Oa23 � r2 � Oa13 D 3 C 2 � 0 D 3

Oa24 Oa24 � r2 � Oa14 D �7 C 2 � 4 D 1

Oa25 Oa25 � r2 � Oa15 D �9 C 2 � 2 D �5Ien la 3a fila: Oa31 0

Oa32 Oa32 � r3 � Oa12 D 1 � 2 � 1 D �1Oa33 Oa33 � r3 � Oa13 D �2 � 2 � 0 D �2Oa34 Oa34 � r3 � Oa14 D 8 � 2 � 4 D 0

Oa35 Oa35 � r3 � Oa15 D 2 � 2 � 2 D �2Ien la 4a fila: Oa41 0

Oa42 Oa42 � r3 � Oa12 D �3 � 0 � 1 D �3Oa43 Oa43 � r4 � Oa13 D �12 � 0 � 0 D �12Oa44 Oa44 � r4 � Oa14 D �1 � 0 � 4 D �1Oa45 Oa45 � r4 � Oa15 D 2 � 0 � 2 D 2:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

25/128� La nueva matriz bA1, resultado de transformar bA, es:

bA1 D

2642 1 0 4 2

0 0 3 1 �50 �1 �2 0 �20 �3 �12 �1 2

375 :

� Obsérvese que se hubiese obtenido exactamente el mismo resultado de haberpremultiplicado bA por la denominada transformación de Gauss que define lamatriz triangular inferior unitaria

L1 D

26664

1 0 0 0

2 1 0 0

�2 0 1 00 0 0 1

37775 ;

denominada matriz de transformación de Gauss.

� En efecto, L1bA D264

1 0 0 02 1 0 0�2 0 1 00 0 0 1

375264

2 1 0 4 2�4 �2 3 �7 �94 1 �2 8 20 �3 �12 �1 2

375 D

2642 1 0 4 20 0 3 1 �50 �1 �2 0 �20 �3 �12 �1 2

375.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

26/128

� La matriz L1 también se puede escribir de la forma L1 D I � ˛eT1 , donde

˛ D

2664

0

�22

0

3775 y e1 D

26641

0

0

0

3775 :

� Su inversa es

L�11 D

26664

1 0 0 0

�2 1 0 02 0 1 0

0 0 0 1

37775 :

La única diferencia con L1 es el signo de los coeficientes de la primera columnadebajo de la diagonal principal.

� En resumen, bA1 D L1bA.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

27/128

Etapa 2

� Hagamos cero los coeficientes debajo de la diagonal principal de la 2a columnade bA1.

� Al tratar de hacerlo, vemos que el coeficiente pivote Oa122 es cero, lo que nosimpide proceder como en la etapa anterior.

� Comprobemos si algún coeficiente de la columna 2 por debajo de Oa122 no es 0:

� Si no hay ninguno, esta columna es combinación lineal de la primera y portanto la matriz es singular.

� Si hay varios, escojamos el de mayor valor absoluto e intercambiemos la filade ese coeficiente con la segunda.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

28/128

� En el ejemplo, el coeficiente de mayor valor absoluto debajo de la diagonalprincipal en la segunda columna, �3, se encuentra en la fila 4. Intercambiamosesa fila 4 con la 2. Se obtendrá

bA01 D

266642 1 0 4 2

0 �3 �12 �1 2

0 �1 �2 0 �20 0 3 1 �5

37775 :

� Esto mismo se obtiene premultiplicando bA1 por la permutación

P1 D

266641 0 0 0

0 0 0 1

0 0 1 0

0 1 0 0

37775 :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

29/128

� Recapitulemos: la matriz con la que vamos a operar a continuación, bA01, es:bA01 D P1L1bA:

� Apliquemos a continuación a la columna 2 la misma idea que a la columna 1 yhagamos cero sus coeficientes 3 a n.

� Los nuevos multiplicadores saldrán de la expresión

ri D Oa10i2

Oa1022; i D 3; 4:

� Los nuevos valores de los coeficientes de la matriz bA01 por debajo de la segundafila se obtendrán aplicando la expresión

Oa10ij Oa10ij � ri � Oa1

02j ; i D 3; 4I j D 3; : : : ; 5:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

30/128

� Los valores de los multiplicadores para el ejemplo son

r3 D Oa1032= Oa1022 D 1=3 y

r4 D Oa1042= Oa1022 D 0:

� Los nuevos coeficientes de la matriz bA01 resultante:en la 3a fila: Oa1032 0

Oa1033 Oa10

33 � r3 � Oa10

23 D �2 C 13� 12 D 2

Oa1034 Oa10

34 � r3 � Oa10

24 D 0 C 13� 1 D 1=3

Oa1035 Oa10

35 � r3 � Oa10

25 D �2 � 13� 2 D �8=3I

en la 4a fila: Oa1042 0

Oa1043 Oa10

43 � r4 � Oa10

23 D 3 � 0 � 12 D 3

Oa1044 Oa10

44 � r4 � Oa10

24 D 1 � 0 � 1 D 1

Oa1045 Oa10

45 � r4 � Oa10

25 D �5 � 0 � 2 D �5:

� Al ser r4 D 0, los cálculos para adaptar la cuarta fila podrían haberse evitado.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

31/128

� La nueva matriz resultado de estas transformaciones es

bA2 D

266642 1 0 4 2

0 �3 �12 �1 2

0 0 2 1=3 �8=30 0 3 1 �5

37775 ;

matriz que se expresa a partir de la inicial como

bA2 D L2P1L1bA;

donde L2 D

266641 0 0 0

0 1 0 0

0 �1=3 1 00 0 0 1

37775 :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

32/128

Etapa 3

� Para conseguir transformar el sistema original en uno triangular superior sóloresta anular el coeficiente Oa243.

� El coeficiente de la diagonal principal Oa233 es distinto de cero, luego procedemosa calcular el multiplicador r4:

r4 D Oa243= Oa233 D 3=2:

� Los nuevos valores de los coeficientes de la matriz bA2 por debajo de la tercerafila se obtendrán aplicando la expresión

Oa2ij Oa2ij � ri � Oa23j ; i D 4I j D 4; 5:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

33/128

� En concreto, en la cuarta fila:

Oa243 0

Oa244 Oa244 � r4 � Oa234 D 1 � 32� 13D 1=2

Oa245 Oa245 � r4 � Oa235 D�5C 32� 83D �1:

� La nueva matriz resultado de estas transformaciones es

bA3 D

266642 1 0 4 2

0 �3 �12 �1 2

0 0 2 1=3 �8=30 0 0 1=2 �1

37775 :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

34/128

� A este resultado se ha llegado después de aplicar a la matriz inicial bA una seriede transformaciones; concretamente:

bA3 D L3L2P1L1bA;donde

L3 D

266641 0 0 0

0 1 0 0

0 0 1 0

0 0 �3=2 1

37775 :

� En conclusión, la matriz original que definía el sistema, A, se puede transformaren la triangular superior U aplicándole las mismas transformaciones que a bA.Es decir,

U D L3L2P1L1A:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

35/128

� Como a b también se le han efectuado las mismas transformaciones llegándosea b0, resolver el sistema de ecuaciones original es equivalente a resolver

Ux D b0

� En el ejemplo, 266642 1 0 4

0 �3 �12 �10 0 2 1=3

0 0 0 1=2

37775

26664x1x2x3x4

37775 D

26664

2

2

�8=3�1

37775 :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

36/128

� La solución se lleva a cabo mediante sustitución inversa:

x4 D �2;sustituyendo en la tercera ecuación,

x3 D �8=3 � .�2/.1=3/2

D �1;

y, a su vez, haciéndolo en la segunda,

x2 D 2 � .�1/.�2/ � .�12/.�1/�3 D 4:

� Por último, sustituyendo los valores de las variables ya calculados en la primeraecuación se obtiene

x1 D 2 � 4.�2/ � 1.4/2

D 3:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

37/128

� La solución de nuestro ejemplo es pues26664x1x2x3x4

37775 D

26664

3

4

�1�2

37775 :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

38/128

Pivotación

� Veamos qué ocurre si resolvemos con el procedimiento estudiado�10�4 11 1

�˜

A

�x1x2

�

„ƒ‚…x

D�1

2

�

„ƒ‚…b

;

en una máquina teórica con sólo tres dígitos significativos que redondea.

� Aplicando la mecánica apuntada, como 10�4 no es cero, en una primera etapaordinaria se obtendría una nueva matriz A1 y un nuevo vector b1 así:

A1 D�10�4 1

0 1 � 104�

y b1 D�

1

2 � 104�:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

39/128

� Ahora bien, el número 1 � 104 D �9999 la máquina lo redondearía a �104; dela misma forma procedería con 2 � 104. La solución del sistema sería

x2 D �104

�104 D 1

x1 D 1 � x210�4

D 0;

muy distinta de la real Œ0;99989999; 1;00010001�T .

� La elección del pivote, y su uso, además de que el multiplicador no salga de unposible ai i D 0, también tiene por objeto que ese multiplicador no tenga unamagnitud mucho mayor que 1 con el fin de aumentar la estabilidad numérica delprocedimiento,

� Es por esto por lo que siempre se escoge el coeficiente pivote de mayormagnitud de entre los de debajo de la diagonal principal.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

40/128

� Para el caso de este último ejemplo, en la primera etapa en vez de operar sobrela matriz anterior, como el valor absoluto del coeficiente a21 es mayor que el dela11, se intercambiaría la fila 1 con la 2, obteniéndose

A0 D�1 1

10�4 1

�y b0 D

�2

1

�:

� Continuando con el procedimiento normal, después de la primera etapa, sellegará a

A01 D�1 1

0 1 � 10�4�

y b01 D�

2

1 � 2 � 10�4�:

Por redondeos internos, la máquina representaría

A01 D�1 1

0 1

�y b01 D

�2

1

�:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

41/128� La solución de este sistema de ecuaciones sería�

x1x2

�D�1

1

�:

Solución mucho mejor que la anterior, pues la real es x2 D 0,99980,9999

D 0,99989999

x1 D 1,00010001:

� La diferencia entre las dos formas de proceder anteriores es importante. En laprimera, al usar el multiplicador 104, el efecto de restar 104 veces la ecuaciónsuperior de la ecuación inferior hace que la primera domine la ecuación final.

� Aunque al principio del proceso había dos ecuaciones, o fuentes de informaciónindependientes, actuando de la primera manera, después de la primeraeliminación quedan en esencia dos copias de la ecuación superior pues lainferior, a efectos prácticos, ha desaparecido. La solución obtenida con esaprimera forma de actuar, como es lógico, no satisface la ecuación inferior.A este efecto se le conoce como dominancia.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

42/128

� El proceso descrito de intercambiar filas se denomina pivotación parcial.

� Su por qué radica en la aritmética de precisión finita con la que trabajan todoslos ordenadores y en el hecho de que los factores o multiplicadores antesintroducidos son inversamente proporcionales al coeficiente pivote: si éste esdemasiado pequeño puede amplificar los errores de redondeo a lo largo delproceso de solución y favorecer la dominancia que se ha descrito.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

43/128� Una segunda estrategia de pivotación es la pivotación total. Consiste en buscaren una etapa i no sólo el coeficiente de mayor valor absoluto en esa columnasino en todo lo que queda de la submatriz activa: mKaxi�k�n; i�j�n jakj j.

Partial Pivoting

To avoid division by zero, swap the row having the zero pivot

with one of the rows below it.

0

*

Rows completed inforward elimination.

Rows to search for amore favorable pivotelement.

Row with zero pivot element

To minimize the effect of roundoff, always choose the row that

puts the largest pivot element on the diagonal, i.e., find ip such

that |aip,i| = max(|ak,i|) for k = i, . . . , n

NMM: Solving Systems of Equations page 37

Full Pivoting

0

*

Rows completed inforward elimination.

Columns to search for a morefavorable pivot element.

Row with zero pivot element

Rows to search for amore favorable pivotelement.

*

NMM: Solving Systems of Equations page 39

� La pivotación total es la estrategia óptima para minimizar errores.

� Una tercera estrategia de pivotación es la denominada rook pivoting ,consistente en escoger como pivote cualquiera de los coeficientes de mayor valorabsoluto de las filas de la submatriz activa.

� En la práctica, la pivotación parcial produce buenos resultados y excelentesprestaciones numéricas por lo que rara vez se usa otra.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

44/128

Algoritmo

� Resolución de Ax D b� Transformación de la Matriz Aumentada ŒAjb�for i D 1 to n � 1

Determinar índice p 2 fi; i C 1; : : : ; ng tal que ja.p; i/j D mKaxi�j�n ja.j; i/j.Intercambiar filas p e i .for j D i C 1 to n

� D a.j; i/=a.i; i/for k D i C 1 to nC 1

a.j; k/ a.j; k/ � � � a.i; k/end

endend� Sustitución Inversa.for j D n to 1

x.j / 0@b.j / �

nXkDjC1

a.j; k/ � x.k/1A�a.j; j /

end

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

45/128� En código de Matlab, para cualquier sistema.

function [x]=Gauss(A,b)% Solución de Ax=b mediante eliminación de Gaussn=size(A,1); x=zeros(n,1);for i=1:n-1 % Transformación matriz A en n-1 etapas

[p,maxk]=max(abs(A(i:n,i)));maxk=maxk+i-1;if i~=maxk

A([i maxk],:) = A([maxk i],:);b([i maxk]) = b([maxk i]);

endj=i+1:n;

A(j,i) = A(j,i)/A(i,i);A(j,j) = A(j,j)-A(j,i)*A(i,j);b(j) = b(j)-b(i)*A(j,i);

endfor i=n:-1:1 % Sustitución inversa

x(i)=(b(i)-A(i,i+1:n)*x(i+1:n))/A(i,i);end

end

� El sistema del ejemplo y otro:>> A=[2 1 0 4;-4 -2 3 -7;4 1 -2 8;0 -3 -12 -1];>> Gauss(A,b)ans =

3.00004.0000

-1.0000-2.0000

>> A=randn(4000);>> x=ones(4000,1);>> b=A*x;>> tic,norm(x-Gauss(A,b)),tocans =

4.2042e-11Elapsed time is 173.586543 seconds.>> tic,norm(x-A\b),tocans =

6.6135e-11Elapsed time is 0.827066 seconds.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

46/128

� Desde el punto de vista de la codificación del algoritmo, conviene mejorar:

� Que no es realmente necesario intercambiar las filas una vez elegido elcoeficiente pivote de cada etapa; basta con tener constancia en cadamomento dónde están las filas que se intercambian.

� Que tal como está estructurado el programa sólo se podría resolver unsistema –el definido por el b dado– y no, como es lo más habitual, distintossistemas con la misma matriz A y diversos términos independientes.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

47/128� Lo primero se puede paliar mediante la introducción de vector índice, IPIV, dedimensión el número de ecuaciones, inicializado a la posición inicial en elsistema de cada una de las ecuaciones; es decir,

IPIV D

26664

1

2

3:::

n

37775 :

� Cuando haya que intercambiar dos filas en un etapa, no se hará intercambiandofísicamente los coeficientes de esas dos filas, sino las correspondientes de IPIV.

� Si en una primera etapa hay se utilizar como pivote el de la cuarta fila,

IPIV D

2666664

4

2

3

1:::

n

3777775:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

48/128

� Si al final de un proceso de resolución de un sistema de cinco ecuaciones concinco incógnitas, el vector puntero resultase

IPIV D

26664

4

2

5

1

3

37775 ;

la matriz A0 que se obtendría no resultaría ser estrictamente triangular superior.Tendría la forma que sigue.

� Para obtener Ax D b habría que aplicar esas mismas manipulaciones de filas ab, o tenerlo en cuenta.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

49/128� Para evitar el segundo inconveniente, habría que guardar adecuadamente lainformación que definen los multiplicadores asociados a cada fila de cada etapa.

� Los i � 1 multiplicadores se pueden guardar en los lugares vacíos —o mejordicho, que se hacen cero— que provocan las transformaciones que definen:en la etapa i , debajo de la diagonal principal en la columna i .

� En el ejemplo, con esta idea, al final del proceso:

A D

26664

2 1 0 4

�2 �3 �12 �12 1=3 2 1=3

0 0 3=2 1=2

37775 :

Los multiplicadores eran �2, 2, 1=3 y 3=2.

Ojo, verifiquemos:

>> I=eye(4); L1=I; L2=I; L3=I;>> L1(2:3,1)=[-2 2]; L2(3,2)=1/3; L3(4,3)=3/2; P=I([1 4 3 2],:);>> U=[2 1 0 4;0 -3 -12 -1;0 0 2 1/3; 0 0 0 1/2];>> L=L1*P*L2*L3; L*U, Aans =

2 1 0 4-4 -2 3 -74 1 -2 80 -3 -12 -1

A =2 1 0 4

-4 -2 3 -74 1 -2 80 -3 -12 -1

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

50/128

Número de operaciones del método

� Dos de los factores más importantes que influyen en las prestaciones de unalgoritmo son:

� Su estabilidad numérica ante los diversos errores.

� La cantidad de tiempo necesaria para completar los cálculos que conlleva.

� Ambos factores dependen del número de operaciones aritméticas necesarias parala aplicación del algoritmo.

� Los tiempos necesarios para realizar en un ordenador la multiplicación y ladivisión de dos números son aproximadamente iguales y considerablementemayores, en términos relativos, que los requeridos para realizar la suma odiferencia, que también son muy semejantes entre sí.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

51/128

� La eliminación de Gauss para resolver un sistema de ecuaciones lineales, en laprimera etapa, realiza las operaciones que se representan simbólicamente en elesquema que sigue.

�� � � � � � ��� � � � � � �::: ::: ::: ::: :::

�� � � � � � ��� � � � � � �

!

� � � � � � � �0 2 � � �222::: ::: ::: ::: :::

0 2 � � �222

0 2 � � �222

� El símbolo 2 designa los coeficientes de la matriz que se ven afectados en esaetapa y que, en principio, son distintos de cero.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

52/128

� Si en la etapa i se está transformando una matriz n � n, las operaciones que enella se realizan son:

n � i divisiones para el cálculo de los multiplicadores;

.n � i/.n � i C 1/ multiplicaciones y restas para modificar los coeficientesde la matriz por debajo de la fila i que no están en lapropia columna i .

� En cada etapa se efectúan,

.n � i/C .n � i/.n � i C 1/ D .n � i/.n � i C 2/multiplicaciones y divisiones y

.n � i/.n � i C 1/sumas y restas.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

53/128� En n � 1 etapas de que consta el proceso, se haránn�1XiD1.n � i/.n � i C 2/ D .n2 C 2n/

n�1XiD1

1 � 2.nC 1/n�1XiD1

i Cn�1XiD1

i2

D .n2 C 2n/.n � 1/ � 2.nC 1/.n � 1/n2

C .n � 1/n.2n � 1/6

D 2n3 C 3n2 � 5n6

multiplicaciones y divisiones yn�1XiD1.n � i/.n � i C 1/ D .n2 C n/

n�1XiD1

1 � .2nC 1/n�1XiD1

i Cn�1XiD1

i2

D .n2 C n/.n � 1/ � .2nC 1/.n � 1/n2

C .n � 1/n.2n � 1/6

D n3 � n3

sumas y restas.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

54/128� El comportamiento de estos valores para n grande tiende a

1

3n3.

� El proceso de sustitución inversa requiere .n � i/ multiplicaciones y .n � i � 1/sumas, para cada término del sumatorio, y una resta y una división.

� El número total de operaciones de todo el proceso es

1Cn�1XiD1..n � i/C 1/ D n2 C n

2

multiplicaciones y divisiones y

n�1XiD1..n � i � 1/C 1/ D n2 � n

2

sumas y restas.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

55/128

� Contando la totalidad de la transformación de la matriz del sistema y lasustitución inversa, la eliminación de Gauss requiere

2n3 C 3n2 � 5n6

C n2 C n2D n3 C 2n2 � n

3

multiplicaciones y divisiones y

n3 � n3C n

2 � n2D 2n3 C 3n2 � 5n

6

sumas y restas.

� Para valores de n, estas expresiones tienden a

1

3n3 � O.n3=3/

lo que refleja la importante magnitud del número de operaciones.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

56/128� Aunque la cantidad n3=3 puede parecer muy grande, recordemos las fórmulas deCramer para la solución de sistemas:

xi D det.B i/

det.A/; donde B i D

26664a11 � � � a1i�1 b1 a1iC1 � � � a1na21 � � � a2i�1 b2 a2iC1 � � � a2n::: ::: ::: ::: :::

an1 � � � ani�1 bn aniC1 � � � ann

37775 :

� Mediante estas fórmulas se requieren:8<:.nC 1/Š sumas,.nC 2/Š multiplicaciones yn divisiones.

� Para diez ecuaciones con diez incógnitas se requerirán:8<:

740 operaciones utilizando eliminación de Gauss.500.000.000 operaciones, aproximadamente, aplicando

las fórmulas de Cramer.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

57/128

Método de Gauss-Jordan Wilhelm Jordan, Alemania, 1842-1899.

� Es una extensión natural de la eliminación de Gauss para obtener A�1. Consisteen hacer cero de cada columna de A no sólo los coeficientes que están debajode la diagonal sino también los de arriba.

� Una etapa i de la eliminación de Gauss estaba caracterizada por la matriz

Li D I � ˛ieTi ;donde

˛i D

2666664

0:::

aiiC1 i=aii i

:::

aini=aii i

3777775 fila i C 1 y ei D

2666664

0:::

1:::

0

3777775 fila i :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

58/128

� En la etapa i de este método, la matriz de transformación de Gauss-Jordan es

T i D I � ˛ieTi ;donde

˛i D

2666664

ai1i=aii i

:::

1=aii i:::

aini=aii i

3777775 fila i y ei D

2666664

0:::

1:::

0

3777775 fila i :

� Si se tiene en cuenta que A0 D A y An D I , se tendrá que

T n�1 � � �T 2T 1A D I ;y por tanto A�1 D T n�1 � � �T 2T 1:

� Las multiplicaciones y divisiones, y sumas y restas, son O.n3=2/ .

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

59/128Condicionamiento de sistemas

� En un sentido general se dice que un problema o un algoritmo está biencondicionado si pequeñas perturbaciones en los parámetros que lo definenproducen pequeños cambios en los resultados.

� Consideremos el ejemplo de una carga sujeta a una superficie firme mediante uncable o una barra de hierro.

� Aumentando la carga en pequeñas cantidades el cable sufre unos pequeñosestiramientos proporcionales a los incrementos de esa carga.

� Alcanzado el umbral de la zona de fluencia del material del cable,incrementos muy pequeños de la carga suponen, proporcionalmente, grandesestiramientos del cable.

� Antes de este umbral, el problema estiramiento/carga se puede decir queestá bien condicionado; en la zona de fluencia el problema está malcondicionado.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

60/128

� El condicionamiento de un sistema de ecuaciones lineales Ax D b locaracterizará la sensibilidad del vector solución x a pequeños cambios, tanto enel término de la derecha b, como en los coeficientes que definen la matriz A.

� Como sabemos, el ordenador o máquina que resuelve Ax D b, al no trabajarmás que con una precisión determinada, resolverá una aproximación

.A C�A/x D bC�b:

� Si el algoritmo utilizado es estable y el sistema también, el resultadoobtenido debe ser muy parecido al real.

� Si el sistema está mal condicionado, sin embargo, o el algoritmo no esnuméricamente estable, la solución puede diferir sustancialmente de la real.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

61/128

� Ejemplo Consideremos los dos sistemas de ecuaciones lineales

Ax D b!�8 �54 10

� �x1x2

�D�3

14

�

y

bA Ox D Ob!�0;66 3;34

1;99 10;01

� � Ox1Ox2

�D�4

12

�:

La solución de ambos es el vector Œ1; 1�T .

� Si introducimos una perturbación �b D Œ�0,04; �0,06�T en el términoindependiente del primer sistema, su solución pasará a ser Œ0,993; 0,9968�T .

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

62/128

� El cambio relativo en la norma euclídea del vector b es

k�bk2kbk2

Dq0;042 C 0;062q32 C 142

� 0,0050:

� Por lo que respecta al vector solución, ese cambio relativo en la norma euclídeaes

k�xk2kxk2

Dq.1 � 0;993/2 C .1 � 0;9968/2q

12 C 12� 0;0054:

� Como se puede ver, un pequeño cambio en el vector b induce un cambiopequeño en el vector solución.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

63/128

� Introduciendo el mismo cambio � Ob D Œ�0,04; �0,06�T en el términoindependiente del segundo sistema, Ob, su solución pasa a ser Œ6; 0�T .

� Es decir, un cambio relativo en la norma euclídea de Ob igual aq0;042 C 0;062q42 C 122

D 0,0057;

produce un cambio en el vector solución igual a:q52 C 12q12 C 12

D 3,6055:

� Evidentemente, el segundo sistema es mucho más sensible a cambios en eltérmino independiente que el primero.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

64/128

x1

x2

x1

x2

� La figura representa a la izquierda el primer sistema; el segundo a la derecha.

� Como se aprecia las dos rectas que representan las ecuaciones del primersistema se cortan nítidamente en el punto Œ1; 1�T .

� En el caso del segundo sistema, aun usando una resolución gráfica mayor,apenas se diferencian las dos rectas y mucho menos dónde se cortan.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

65/128

� Estudiemos cómo cuantificar la sensibilidad de Ax D b a pequeñasmodificaciones tanto en el término independiente como en los coeficientes de lamatriz de coeficientes.

� Analicemos en primer lugar el caso de una modificación �b del términoindependiente.

� Veamos cómo se relaciona la solución de

A.x C�x/ D bC�bcon la de

Ax D b:

� Designemos por k � k cualquier norma vectorial y su norma matricial consistentecorrespondiente.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

66/128

� De las igualdades

A.x C�x/ D bC�b y Ax D b;se obtiene, restando y despejando �x, que

�x D A�1�b:

� De la definición de norma matricial consistente con una norma vectorial se tieneque

k�xk � kA�1k k�bk (1)

y que kbk � kAk kxk o, lo que es lo mismo, que

1

kxk �kAkkbk : (2)

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

67/128� Combinando (1) y (2) se deduce que el error relativo, k�xk=kxk, de la solucióndel sistema Ax D b al modificar el término independiente de b a bC�b es

k�xkkxk � kAk kA

�1kk�bkkbk :

Definición Sea k�k una norma matricial consistente con una norma vectorial. Asociadoa esa norma, el número de condición de una matriz invertible A, �.A/, es:

�.A/ D kAk kA�1k:

El número de condición de una matriz expresa lo cerca queesa matriz está de la singularidad

� Las matrices con números de condición pequeños –próximos a la unidad–, sedicen bien condicionadas; las que tienen números de condición altos, malcondicionadas.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

68/128

� Si los datos de un sistema Ax D b son exactos con la precisión de la máquina,el error relativo de la solución cumple que

jjx� � xjjjjxjj � �.A/�:

� El concepto de número de condición de una matriz se generaliza a cualquiermatriz A (no necesariamente cuadrada) de rango completo mediante laexpresión

�.A/ D kAk kA�k;donde A� es la matriz pseudoinversa de la matriz A.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

69/128� El número de condición de una matriz A es un indicador del error deamplificación que produce en un vector x el someterlo a la transformación quedefine dicha matriz A.

� Concretamente, si la esfera unidad se somete a esa transformación el número decondición 2 asociado a la norma euclídea será igual al cociente de las longitudesde los semiejes mayor y menor, �1 y �2, del hiperelipsoide resultante de esatransformación.

x

σ1σ2

Ax

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

70/128� Estudiemos ahora la sensibilidad a pequeñas perturbaciones en los coeficientesde A. Comparemos la solución de

Ax D b y .A C�A/.x C�x/ D b:De la segunda igualdad, como Ax D b, haciendo �x D �A�1�A.x C�x/resulta, despreciando el producto �A ��x, que

k�xk � kA�1k k�Ak kxk:

� Expresión que también se puede escribir como

k�xkkxk � kA

�1k kAkk�AkkAk :

� Así pues el error relativo que resulta de perturbar ligeramente los coeficientes dela matriz del sistema Ax D b está también acotado en términos del número decondición de la matriz A.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

71/128Teorema Para toda matriz A de rango completo:

1. Su número de condición �.A/ � 1.2. �.A/ D �.A�/.

3. �.˛A/ D �.A/ para todo escalar ˛ ¤ 0.

4. �2.A/ D �n.A/�1.A/

, donde �n y �1 son, respectivamente, los valores singulares mayor y menor de lamatriz A.

5. �2.A/ DmKax

ij�i.A/j

mKınij�i.A/j , si A es simétrica.

6. �2.ATA/ D �2

2.A/.

7. Su número �2.A/ D 1 si la matriz es la identidad o se trata de una matriz ortogonal.

8. Su número de condición �2.A/ es invariante frente a transformaciones ortogonales.

� Los distintos números de condición de una matriz A 2 Rn�n asociados con lasnormas matriciales más habituales cumplen que:

�2.A/=n � �1.A/ � n �2.A/I�1.A/=n � �2.A/ � n �1.A/I�1.A/=n

2 � �1.A/ � n2 �1.A/:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

72/128� Volvamos al ejemplo que utilizábamos para concretar estos conceptos. Lamatriz

A D�8 �54 10

�;

cuya inversa es

A�1 D�0;10 0;05

�0;04 0;08�;

tiene un número de condición �1.A/ D kAk1 kA�1k1 D 15 � 0,14 D 2,1.

� El debA D

�0,66 3,341,99 10,01

�;

cuya inversa es

bA�1 D�250,25 83,549,75 �16,5

�;

es �1.bA/ D kbAk1 kbA�1k1 D 13,35 � 300 D 4.005: tres órdenes de magnitudsuperior.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

73/128

� Un error que se comete con frecuencia es asimilar el concepto de número decondición de una matriz con el de su determinante y que, en ese sentido, amayor determinante, mayor número de condición; nada más lejos de la realidad.

� Ejemplo 1 Sea A una matriz diagonal de orden 100 definida por

a11 D 1I ai i D 0,1 2 � i � 100:De esta matriz, kAk2 D 1 y kA�1k2 D 10.

� El número de condición �2.A/ D 10. Por el contrario, su determinante esdet.A/ D 1 � .0; 1/99 D 10�99. u

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

74/128� Ejemplo 2 Sea A una matriz bidiagonal de la forma

2666664

1 2

1 2

1 2: : : : : :

1 2

1

3777775:

Su inversa es 26664

1 �2 4 � � � .�2/n�11 �2 .�2/n�2

1:::

: : ::::

1

37775 :

� Sus diversas normas son kAk1 D kAk1 D 3 y kA�1k1 D kA�1k1 DD 1C 2C 4C � � � C 2n�1 D 2n � 1.

� Sus números de condición, �1.A/ D �1.A/ � 3 � 2n. Su determinante, 1.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

75/128

Cálculo del número de condición

� Calcular directamente el número de condición de una matriz es una tareanumérica muy costosa: O.n3/.

� No obstante, como �.A/ es un buen diagnóstico de las implicaciones que el usode esa matriz puede comportar en un proceso numérico, se puede realizar unaestimación de su orden de magnitud.

� Existen diversos buenos algoritmos para estimar el número de condición deuna matriz en O.n2/ operaciones.� En Matlab lo estiman condest y rcond; lo calcula exactamente cond.

� Siempre que se usa el operador “n”, Matlab usa rcond para comprobar lacondición de la matriz afectada.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

76/128

Errores en la eliminación de Gauss

� Conviene disponer de otros indicadores, además del número de condición de lamatriz A, para conocer la fuente de los posibles errores en la solución de unsistema de ecuaciones lineales mediante la eliminación de Gauss.

Definición Sea xa una solución aproximada del sistema lineal Ax D b. El vectorresiduo es r D b�Axa. El error hacia atrás de esa solución es la norma del vector residuo,kb �Axak, y el error hacia delante kx � xak.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

77/128� Si se tiene el sistemax1 C x2 D 2

1;0001x1 C x2 D 2;0001cuya solución es Œ1; 1�T , y queremos calcular los errores hacia atras y haciadelante de la solución aproximada Œ�1; 3;0001�, se tendrá que,

� Error hacia atrás:

b �Ax D�2

2;0001

���1 1

1;0001 1

� � �13;00001

�

D�2

2;0001

���2;0001

2

�D��0;00010;0001

� :

Si utilizamos la norma infinito, por ejemplo, este error es 0;0001.

� Error hacia delante

x � xa D�1

1

��� �13;0001

�D�

2

�2;0001�:

Con el mismo tipo de norma, este error es 2;0001.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

78/128

� La figura aclara cómo puede haber un error pequeño hacia atrás y uno grandehacia delante al mismo tiempo.

2.3 Sources of Error | 87

Solving the resulting equations

x1 + x2 = 2

−0.0001x2 = −0.0001

yields the solution [x1,x2] = [1,1].The backward error is the infinity norm of the vector

b − Axa =[

22.0001

]−[

1 11.0001 1

][ −13.0001

]

=[

22.0001

]−[

2.00012

]=[ −0.0001

0.0001

],

which is 0.0001. The forward error is the infinity norm of the difference

x − xa =[

11

]−[ −1

3.0001

]=[

2−2.0001

],

which is 2.0001. �

Figure 2.2 helps to clarify how there can be a small backward error and large forwarderror at the same time. Even though the “approximate root’’ (−1,3.0001) is relatively farfrom the exact root (1,1), it nearly lies on both lines. This is possible because the two linesare almost parallel. If the lines are far from parallel, the forward and backward errors willbe closer in magnitude.

y

x

1

2

3

–1 1

2

Figure 2.2 The geometry behind Example 2.11. System (2.17) is represented by

the lines x2 = 2 – x1 and x2 = 2.0001 – 1.0001x1, which intersect at (1,1). The point

( –1, 3.0001) nearly misses lying on both lines and being a solution. The differences

between the lines is exaggerated in the figure—they are actually much closer.

Denote the residual by r = b − Axa . The relative backward error of system Ax = b

is defined to be

||r||∞||b||∞ ,

and the relative forward error is

||x − xa||∞||x||∞ .

� El punto Œ�1; 3;0001� está relativamente lejos de la solución, pero cerca deambas rectas, pues casi son paralelas.

� El número de condición �1.A/ D 40:004;0001.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

79/128� El error relativo hacia atrás del sistema Ax D b eskrkkbk.

El error relativo hacia delante,kx � xakkxk .

� El factor de magnificación o amplificación del error para Ax D b es la razón delos dos:

factor de amplificación del error D error relativo hacia delanteerror realtivo hacia atrás

Dkx�xakkxkkrkkbk

:

� Para el sistema anterior, con normas infinito, el error relativo hacia atrás es0;0001

2;0001� 0;00005 D 0;005%

y el error relativo hacia adelante2;0001

1D 2;0001 � 200%:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

80/128

� El factor de amplificación del error es

kx�xak1kxk1krk1kbk1

D 2;0001=.0;0001=2;0001/ D 40004;0001:

� El número de condición de una matriz cuadrada es el factor de magnificacióndel error máximo posible para resolver Ax D b sobre todos los posibles b.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

81/128

Matlab y los sistemas de ecuaciones lineales

� Repasamos un poco: Para resolver un sistema Ax D b con Matlab sólo hayque hacer

x D Anb

� Con el ejemplo que estamos manejando:

>> A=[2 1 0 4;-4 -2 3 -7;4 1 -2 8;0 -3 -12 -1];>> b=[2;-9;2;2];>> A\bans =

3.00004.0000

-1.0000-2.0000

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

82/128

� Utilizando el script Gauss que hemos presentado:

>> Gauss(A,b)ans =

3.00004.0000

-1.0000-2.0000

� Utilizando otra utilidad de Matlab muy interesante:

>> linsolve(A,b)ans =

3.00004.0000

-1.0000-2.0000

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

83/128

Índice

� El problema; consideraciones teóricas

� Eliminación de Gauss

� Condicionamiento de sistemas de ecuaciones lineales

� Errores en la eliminación de Gauss

� Matlab y los sistemas de ecuaciones lineales

� Factorización LU

� Solución de sistemas modificados

� Refinamiento iterativo

� Sistemas con matrices especiales

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

84/128

Factorización LU

� El cálculo de A D LU se conoce como factorización o descomposición LU .

� Si se tiene esta factorización, resolver Ax D b se convierte en dar solucióna LUx D b a través de dos sistemas de ecuaciones triangulares:

Ux D y y Ly D b:� Esto es muy útil cuando se requiere resolver sistemas de ecuaciones en losque la matriz A es siempre la misma y sólo cambia es el términoindependiente.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

85/128La factorización LU y la eliminación de Gauss

� Una forma indirecta de conseguir esta factorización LU es la propia eliminaciónde Gauss.

� En efecto, mediante unas permutaciones y unas transformaciones definidas pormatrices elementales triangulares inferiores el método conseguía:

Ln�1Pn�1 � � �L1P1A D U :

� De este proceso, haciendo

P D Pn�1 � � �P1 yL D P.Ln�1Pn�1 � � �L2P2L1P1/

�1;

se puede comprobar que se obtiene la factorización

PA D LU :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

86/128

Existencia y unicidad de la factorización LU

Teorema Sea A una matriz cuadrada regular de orden n. Existe una matriz de per-mutación P y dos matrices, una triangular inferior y otra triangular superior, L y U ,respectivamente, tales que

PA D LU :La matriz L tiene todos los coeficientes de la diagonal principal igual a 1.

Lema La matriz A admite una factorización LU si y sólo si se cumple que det.Ak/ ¤0; k D 1; : : : ; n:

Teorema Si una matriz regular A de orden n admite una factorización A D LU ,donde L es una matriz triangular inferior de coeficientes diagonales 1 y U una triangularsuperior, esa factorización es única.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

87/128

Métodos numéricos directos para la obtención defactorizaciones LU

Método de Crout. Versión LU 1Prescott Durand Crout,EE.UU., 1907-1984.

� Supongamos que se desea obtener la factorización en la forma LU 1, donde U 1

designa una matriz triangular superior en la que todos los coeficientes de ladiagonal principal son 1.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

88/128� Si la matriz A es de orden 3 y se quiere factorizarla de la forma�

a11 a12 a13a21 a22 a23a31 a32 a33

�D�l11 0 0l21 l22 0l31 l32 l33

� �1 u12 u130 1 u230 0 1

�;

usando las reglas de multiplicación de matrices se obtendrá:1a col. de L: l11 D a11

l21 D a21

l31 D a31I

2a fila de U :l11u12 D a12

l11u13 D a13

��! u1j D a1j =l11; j D 2; 3I

2a col. de L:l21u12 C l22 D a22

l31u12 C l32 D a32

��! li2 D ai2 � li1u12; i D 2; 3I

2a fila de U : l21u13 C l22u23 D a23 �! u2j D .a2j � l21u1j /=l22; j D 3I

3a col. de L: l31u13 C l32u23 C l33 D a33 �! li3 D ai3 �i�1XjD1

lijuj i ; i D 3:

� En general, las fórmulas de recurrencia que se pueden deducir de este proceso,denominado factorización LU de Crout, son:

li1 D ai1; i D 1; 2; : : : ; n;u1j D a1j =l11; j > 1;

lik D aik �Pk�1

pD1 lipupk ; i � k;ukj D

�akj �

Pk�1pD1 lkpupj

��lkk ; j > k:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

89/128

� El algoritmo de Crout para factorizar una matriz regular An�n D LU 1, es este.

� Factorización A D LU por algoritmo de Croutfor k D 1 to n

for i D k to n

l.i; k/ a.i; k/ �k�1XpD1

l.i; p/u.p; k/

endfor i D k C 1 to n

u.k; i/ 0@a.k; i/ �

k�1XpD1

l.k; p/u.p; i/

1A�l.k; k/

endend

� En Matlab:

function [L U]=LUCrout(a)% Factorización LU por Croutn=size(a,1); L=zeros(n); U=eye(n);for k=1:n

i=k:n; L(i,k)=a(i,k)-L(i,1:k-1)*U(1:k-1,k);i=k+1:n; U(k,i)=(a(k,i)-L(k,1:k-1)*U(1:k-1,i))/L(k,k);

endend

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

90/128� Ahora bien, como apuntábamos en la eliminación de Gauss, se puede aprovecharla estructura de la matriz A para guardar en ella las nuevas matrices L y U . Elmismo algoritmo quedaría así.

function [L U]=Crout_1(A)% Factorización LU por Croutn=size(A,1);for k=1:n

i=k:n; A(i,k)=A(i,k)-A(i,1:k-1)*A(1:k-1,k);i=k+1:n; A(k,i)=(A(k,i)-A(k,1:k-1)*A(1:k-1,i))/A(k,k);

endL=tril(A,0); U=triu(A,1)+eye(n,n);

end

� Factorizar�10 10 2020 25 4030 50 61

�da como resultado LU D

�1020 530 20 1

� �1 1 21 01

�.

� Así:

>> A=[10 10 20;20 25 40;30 50 61];>> [L,U]=Crout_1(A)L =

10 0 020 5 030 20 1

U =1 1 20 1 00 0 1

>>

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

91/128� Ejemplo Se desea factorizar en una máquina con cuatro dígitos significativos

A D24 0,001 2,000 3,000-1,000 3,712 4,623-2,000 1,072 5,643

35

� Las operaciones en la máquina son:

l11 D 0,001Il21 D -1,000Il31 D -2,000Iu12 D f l

�2,0000,001

�D 2000I

u13 D f l

�3,0000,001

�D 3000I

l22 D f l Œ3,712C .1,000/.2000/� D 2004Il32 D f l Œ1,072C .2,000/.2000/� D 4001Iu23 D f l

�4,623C .1,000/.3000/

2004

�D 1,500 y

l33 D f lŒ5,643C (2,000)(3,000) � (4,001)(1,500)� D 5,642:

� ¡Ojo! que el cálculo de l33 conlleva la pérdida de tres dígitos por redondeo: elvalor que debería dar es 5,922.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

92/128

Pivotación

� El ejemplo pone de manifiesto que, aunque se sepa que una matriz no essingular y que su factorización LU existe teóricamente, los errores de redondeoque se pueden producir al trabajar en una máquina pueden dar al traste con elresultado.

� Es aconsejable realizar pivotación. Al final de un proceso con pivotación seobtendría

PA D LUes decir, no la factorización LU de la matriz original sino de PA.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

93/128� Factorización A D LU por Crout con pivotación parcialfor k D 1 to n

for i D k to n

l.i; k/ a.i; k/ �k�1XpD1

l.i; p/u.p; k/

endDeterminar índice p 2 fk; k C 1; : : : ; ng tal que ja.p; i/j D mKaxi�j�n ja.j; i/j.Intercambiar filas p y k.for i D k C 1 to n

u.k; i/ 0@a.k; i/ �

k�1XpD1

l.k; p/u.p; i/

1A�l.k; k/

endend

function [L U p]=CroutP(a)% Factorización LU por Crout con pivotaciónn=size(a,1); p=1:n;for k=1:n

i=k:n; a(i,k)=a(i,k)-a(i,1:k-1)*a(1:k-1,k);[r,m]=max(abs(a(k:n,k))); m=m+k-1;if a(m,k)==0, continue, endif k~=m, a([k m],:)=a([m k],:); p([k m])=p([m k]); endi=k+1:n; a(k,i)=(a(k,i)-a(k,1:k-1)*a(1:k-1,i))/a(k,k);

endL=tril(a,0); U=triu(a,1)+eye(n,n);

end

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

94/128

� Si se factoriza la matriz�10 10 2020 25 4030 50 61

�al final de este proceso, el vector IPVT.�/,

que indica las pivotaciones realizadas, es Œ3, 2, 1�T .

>> A=[10 10 20;20 25 40;30 50 61];>> [L U p]=CroutP(A)L =

30.0000 0 020.0000 -8.3333 010.0000 -6.6667 0.2000

U =1.0000 1.6667 2.0333

0 1.0000 0.0800p =

3 2 1

� La matriz PA realmente factorizada es�30 50 6120 25 4010 10 20

�D�3020 �8;333310 �6;6667 0; 2

� �1 1;6667 2;0333

1 0;08001

�:

� El algoritmo de Crout requiere O.n3=3/ multiplicaciones/divisiones ysumas/restas para la factorización de la matriz.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

95/128Método de Crout. Versión L1U

� Si se quiere conseguir la factorización L1U de una matriz 3 � 3,�a11 a12 a13a21 a22 a23a31 a32 a33

�D�1 0 0l21 1 0l31 l32 1

� �u11 u12 u130 u22 u230 0 u33

�;

operando:1a fila de U : u11 D a11

u12 D a12

u13 D a13I

1a col. de L:l21u11 D a21

l31u11 D a31

��! li1 D ai1=u11; i D 2; 3I

2a fila de U :l21u12 C u22 D a22

l21u13 C u32 D a23

��! u2j D a2j � l21u1j ; j D 2; 3I

2a col. de L: l31u12 C l32u22 D a32 �! li2 D .ai2 � li1u12/=u22; i D 3I

3a fila de U : l31u13 C l32u23 C u33 D a33 �! u3j D a3j �j�1XiD1

l3iuij ; j D 3:

� Las fórmulas de recurrencia que se pueden deducir de este proceso son:u1j D a1j ; j D 1; 2; : : : ; n;li1 D ai1=u11; j > 1;

ukj D akj �Pk�1

pD1 lkpupj ; j � k;lik D

�aik �

Pk�1pD1 lipupk

��ukk ; i > k:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

96/128

� El algoritmo de Crout para factorizar una matriz regular An�n en la forma L1Ues el que sigue.

� Factorización A D L1U por Crout sin pivotaciónfor k D 1 to n

for j D k to n

u.k; j / a.k; j / �k�1XpD1

l.k; p/u.p; j /

endfor i D k C 1 to n

l.i; k/ 0@a.i; k/ �

k�1XpD1

l.i; p/u.p; k/

1A�u.k; k/

endend

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

97/128

� Su implementación en Matlab:

function [L,U]=Croutl1u(a)% Factorización L1U por Croutn=size(a,1);for k=1:n-1

i=k+1:n;a(i,k)=a(i,k)/a(k,k);a(i,i)=a(i,i)-a(i,k)*a(k,i);

endL=tril(a,-1)+eye(n,n); U=triu(a);

end

� El resultado con la matriz precedente es:

>> [L U]=Croutl1u(A)L =

1 0 02 1 03 4 1

U =10 10 200 5 00 0 1

>> L*Uans =

10 10 2020 25 4030 50 61

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

98/128� La versión del algoritmo con pivotación en Matlab es esta.

function [L,U,P]=CroutP1(a)% Factorización L1U por Crout con pivotaciónn=size(a,1); p=1:n;for k=1:n-1

[r,m]=max(abs(a(k:n,k)));m=m+k-1;if a(m,k)==0, continue, endif k~=m, a([k m],:)=a([m k],:); p([k m])=p([m k]); endi=k+1:n;a(i,k)=a(i,k)/a(k,k);a(i,i)=a(i,i)-a(i,k)*a(k,i);

endL=tril(a,-1)+eye(n,n); U=triu(a); P=eye(n); P=P(p,:);

end

>> [L U P]=CroutP1(A);>> LL =

1.0000 0 00.6667 1.0000 00.3333 0.8000 1.0000

>> UU =

30.0000 50.0000 61.00000 -8.3333 -0.66670 0 0.2000

>> P*L*Uans =

10 10 2020 25 4030 50 61

>> norm(P*A-L*U)ans =

0

� Con los recursos de Matlab:

>> [L,U,P] = lu(A)L =

1.0000 0 00.6667 1.0000 00.3333 0.8000 1.0000

U =30.0000 50.0000 61.0000

0 -8.3333 -0.66670 0 0.2000

P =0 0 10 1 01 0 0

>> P*L*Uans =

10 10 2020 25 4030 50 61

>> norm(P*A-L*U)ans =

0

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

99/128

Obtención de la matriz inversa a partir de lafactorización LU

� Si se designa por X la matriz inversa de A 2 Rn�n, los n vectores columna deX son los vectores solución de los sistemas Axi D ei , i D 1; : : : ; n.

� Si suponemos que tenemos la factorización PA D LU , donde P es una matrizde permutación, para obtener la inversa de A hay que resolver los 2n sistemassiguientes:

Ly i D Pei ; Uxi D y i ; i D 1; : : : ; n:Es decir 2n sistemas de ecuaciones lineales con matrices triangulares en los quesólo cambian los términos independientes.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

100/128� Un programa para hacerlo en Matlab podría ser así:

function InvA = InvLU_1(A)% Inversa de A a partir de su fact. LU[m n]=size(A); InvA=zeros(m); b=zeros(m,1);[L U P] = lu(A);for i=1:m

b(i) = 1;InvA(:,i) = U\(L\(P*b));b(i) = 0;

endend

� Probemos:

>> A=rand(20);>> max(max(A*InvLU_1(A)-eye(20)))ans =

2.109423746787797e-015>> A=rand(1000);>> tic, max(max(A*InvLU_1(A)-eye(1000))), tocans =

5.251354906476990e-013Elapsed time is 4.017733 seconds.>> tic, max(max(A*inv(A)-eye(1000))), tocans =

5.207778652760453e-013Elapsed time is 0.447034 seconds.>> tic, max(max(A*(A\eye(1000))-eye(1000))), tocans =

3.934630399271555e-013Elapsed time is 0.393214 seconds.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

101/128Matlab y la factorización LU

� Para resolver Ax D b con Matlab, usando la factorización LU de A, seutiliza [L U P]=lu(A) y luego se obtiene la solución del sistema haciendo

x=U\(L\(P*b))

Apliquemos esta idea a uno de los ejemplos que manejamos:

>> A=[2 1 0 4;0 -3 -12 -1;0 -1 -2 0;0 0 3 1];>> b=[2;2;-2;-5];>> [L U P]=lu(A)L =

1.0000 0 0 00 1.0000 0 00 0 1.0000 00 0.3333 0.6667 1.0000

U =2.0000 1.0000 0 4.0000

0 -3.0000 -12.0000 -1.00000 0 3.0000 1.00000 0 0 -0.3333

P =1 0 0 00 1 0 00 0 0 10 0 1 0

>> x=U\(L\(P*b))x =

3.00004.0000

-1.0000-2.0000

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

102/128

� Otra cuestión a tener muy en cuenta:

% Ensayo tiempos LU: Tiemp_LU.m

A=rand(200,200);

ticfor i=1:1000

b=rand(200,1);x=A\b;

endtoc

Elapsed time is 0.828548 seconds

tic[L U P] = lu(A);for i=1:1000

b=rand(200,1);x=U\(L\(P*b));

endtoc

Elapsed time is 0.089372 seconds

� Copiar y pegar en el escritorio de Matlab. ¿Por qué ocurre lo que sale?

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

103/128

Índice

� El problema; consideraciones teóricas

� Eliminación de Gauss

� Condicionamiento de sistemas de ecuaciones lineales

� Errores en la eliminación de Gauss

� Matlab y los sistemas de ecuaciones lineales

� Factorización LU

� Solución de sistemas modificados

� Refinamiento iterativo

� Sistemas con matrices especiales

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

104/128

Solución de sistemas modificados

� Si en Ax D b se modifica el vector b pero no A, no es necesario rehacer lafactorización LU para resolver el nuevo sistema.

� Si se modifica ligeramente la matriz A, por ejemplo el coeficiente (j; k), con loque A D A � ˛ejeTk , puede que no sea necesario tampoco recalcular lafactorización en su totalidad.

� La fórmula de Sherman-Morrison-Woodbury proporciona la inversa de unamatriz en términos de los vectores de una modificación a la misma de rangouno del tipo uvT :

�A � uvT ��1 D

A�1 CA�1u �1 � vTA�1u��1 vTA�1:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

105/128

� Para resolver el nuevo sistema .A � uvT /x D b, usando la fórmula, seobtendría

x D �A � uvT ��1 bDA�1bCA�1u �1 � vTA�1u��1 vTA�1b;

operación que podría hacerse por partes:

1. Resolviendo Az D u, obteniendo z.2. Resolviendo Ay D b, obteniendo y .3. Calculando x D y C ..vTy/=.1 � vT z//z.

� Como A ya está factorizada, este procedimiento requiere solo sustitucionesinversas y productos interiores; es decir O.n2/ operaciones frente a las O.n3=3/de la factorización.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

106/128

� Ejemplo Consideremos la matriz

A D24 2 4 �2

4 9 �3�2 �3 7

35 D

24 1 0 0

2 1 0

�1 1 1

35

™L

242 4 �20 1 1

0 0 4

35

™U

a la que se le efectúa una modificación consistente en cambiar el coeficiente(3,2) de -3 a -1.

� En este caso

u D24 0

0

�2

35 y v D

24010

35 ;

con lo que la matriz resultante es A � uvT .

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

107/128

� Con la factorización LU de A, se resuelve Az D u y Ay D b, dando

z D24�3=21=2�1=2

35 y y D

24�12

2

35 :

� Por último,

x D y C vTy

1 � vT zz D24�12

2

35C 2

1 � 1=2

24�3=21=2�1=2

35 D

24�74

0

35 :

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

108/128Refinamiento iterativo

� Formulado en la década de 1960 por James Hardy Wilkinson, del NationalPhysical Laboratory, Reino Unido, 1919-1986.

� Supongamos que se tiene una solución aproximada x0 del sistema de ecuacioneslineales Ax D b y que el residuo r1 D Ax0 � b no es cero. Resolvamosexactamente

Az1 D �r1y hagamos y D x0 C z1 como una corrección o mejora de la solución. Secumple que

Ay DA.x0 C z1/DAx0 CAz1DAx0 � r1D b:

La solución x0 C z1 sería la exacta del sistema original.Aunque esa solución exacta no lo fuera del todo, si que y sería mejor que x0.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

109/128� Si el nuevo vector de residuos r2 no cumpliese unos requisitos de precisión, sepuede resolver el sistema Az2 D �r2 y hacer

y D x1 C z2;lo que hará que la solución se aproxime un poco más a x que x0.

� Si es necesario, se calcula un nuevo vector de residuos, r3 y se continua elproceso hasta que la solución se aproxime tanto como se quiera a la esperada.

� El vector de residuos debe calcularse con más precisión que la usada paracalcular la solución inicial. Un pequeño código para probar estas ideas:

function x = Iter_ref(A,b)%Refinamiento iterativo con 4 iteraciones.[~,n]=size(A); x=inv(A)*b+1e-3*randn(n,1); % ¡OJO! con esto[L,U]=lu(A);for k = 1:4

r = A*x-b;z = -U\(L\r); norm(z)x = x+z;

endend

>> A=hilb(6);>> x=ones(6,1); b=A*x;>> x=Iter_ref(A,b);ans =

0.0019ans =

7.7568e-10ans =

7.0729e-10ans =

7.0729e-10

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

110/128� Este script de Matlab lleva a cabo el proceso a mano.

% Script_Ref.m - Script de Refinamiento Iterativo

n=6;format shortA=hilb(n); % Matriz de Hilbert (muy mal condicionada)b=A*ones(n,1); % Elegimos término independiente para sol. x=1.pausex=A\b % Solución, evidentemente, =1

B=A; % En B está A perturbada un poquitoB(6,1)=B(6,1)+1.e-06;pausex1=B\b % Veamos la nueva solución; difiere bastantepause

xex=ones(n,1); % Calculemos cuántonorm(xex-x1,2) % Como magnitud calculemos la norma 2 de la desviaci.norm(xex-x,2)pause

res=b-A*x1; % Hagamos una iteración del Refinamiento iterativox1=x1+B\resnorm(xex-x1,2)pause

res=b-A*x1; % Hagamos otra iteración del Refinamiento iterativoformat longx1=x1+B\resnorm(xex-x1,2)pause

res=b-A*x1; % Hagamos otra iteración del Refinamiento iterativox1=x1+B\resnorm(xex-x1,2)

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

111/128

Índice

� El problema; consideraciones teóricas

� Eliminación de Gauss

� Condicionamiento de sistemas de ecuaciones lineales

� Errores en la eliminación de Gauss

� Matlab y los sistemas de ecuaciones lineales

� Factorización LU

� Solución de sistemas modificados

� Refinamiento iterativo

� Sistemas con matrices especiales

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

112/128

Sistemas con matrices especialesMatrices simétricasFactorización LDLT

Lema Si todas las submatrices principales de una matriz A 2 Rn�n son regulares, existendos matrices triangulares inferiores unitarias únicas, L yM , y otra diagonal también única,D D diag.d1; : : : ; dn/, tales que A D LDM T .

Teorema Si A admite una factorización LDM T y es simétrica, L DM .

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

113/128

� Para derivar unas fórmulas de recurrencia, a partir de un ejemplo simbólico deorden 3,

24a11 a12 a13a21 a22 a23a31 a32 a33

35 D

24 1 0 0

l21 1 0

l31 l32 1

3524d11 d22

d33

35241 l21 l310 1 l320 0 1

35 ;

operando de acuerdo con las reglas de multiplicación matricial se obtiene que

a11 D d11

a21 D l21d11

a31 D l31d11

a22 D l221d11 C d22a32 D l31l21d11 C l32d22a33 D l231d11 C l232d22 C d33:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

114/128� Generalizando se obtiene el algoritmo de la tabla.

� Factorización A D LDLT sin pivotaciónfor k D 1 to n

d.k/ a.k; k/ �k�1XpD1

a2.k; p/d.p/

if d.k/ D 0 then stopfor i D k C 1 to n

a.i; k/ 0@a.i; k/ �

k�1XpD1

a.i; p/a.k; p/d.p/

1A�d.k/

endend

� Requiere O.n3=6/ multiplicaciones y divisiones y sumas y restas.

� Si no se efectúan pivotaciones, el procedimiento numérico puede fallar por laposible presencia de coeficientes pivote muy pequeños, o por la acumulación deerrores de redondeo o de cancelación importantes.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

115/128Factorización de Cholesky

� Debida a André Louis Cholesky, Francia, 1875-1918, comandante del ejércitodurante la ocupación internacional de Creta en 1906-09.

� Una matriz es definida positiva si para todo x ¤ 0 se cumple que xTAx > 0.Todos sus valores propios son positivos.

� Las matrices simétricas definidas positivas admiten la descomposición

A D G TG ;

donde G es una matriz triangular superior con todos sus coeficientes de ladiagonal principal positivos.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

116/128

� Las matrices simétricas definidas positivas se presentan habitualmente en:

� Problemas relacionados con el análisis de sistemas eléctricos de generación ytransporte de energía.

� Ajuste de funciones por mínimos cuadrados.

� Análisis de estructuras mecánicas.

� En muchos procedimientos de optimización lineal y no lineal.

� En general, en todas aquellas aplicaciones donde al modelizar un sistema, laexpresión xTAx mide la energía presente, o disponible, o cualquier otramagnitud física que sólo admite cantidades positivas en un entorno determinado.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

117/128

Lema Las submatrices principales de una matriz definida positiva son definidas positivas.

Teorema Si A es una matriz definida positiva de orden n, tiene una descomposiciónde la forma LDM T , siendo todos los coeficientes de la matriz diagonal D positivos.

Teorema Si A es una matriz simétrica definida positiva de orden n, existe una únicamatriz triangular superior, G , con todos sus coeficientes diagonales positivos, tal que A DG TG .

Ver AQUÍ el trabajo de Cholesky

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

118/128� Procedamos a simular el algoritmo con la descomposición simbólica de unamatriz 3 � 3.

� Si se desea obtener la factorización24a11 a12 a13a12 a22 a23a13 a23 a33

35 D

24g11 0 0

g12 g22 0

g13 g23 g33

3524g11 g12 g130 g22 g230 0 g33

35 ;

operando de acuerdo con las reglas de multiplicación matricial se obtiene que:

a11 D g211a12 D g11g12

a13 D g11g13

a22 D g212 C g222a23 D g12g13 C g22g23a33 D g213 C g223 C g233:

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

119/128

� Generalizando este proceso se obtiene el algoritmo que describe la tabla.

� Factorización de Cholesky A D GTG

for i D 1 to n

g.i; i/

sa.i; i/ �

i�1XkD1

g2.k; i/

for j D i C 1 to n

g.i; j / a.i; j / �

i�1XkD1

g.k; i/g.k; j /

!�g.i; i/

endend

� El algoritmo requiere O.n3=6/ operaciones de multiplicación+división y desuma+resta.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

120/128� Este algoritmo en Matlab sería como sigue.

function G=Chols_1(A)% Factorización de Choleskyn=size(A,1);for i=1:n, j=i+1:n;

A(i,i)=sqrt(A(i,i));A(i,j)=A(i,j)/A(i,i);A(j,j)=A(j,j)-A(i,j)’*A(i,j);

endG=triu(A);

end

� La factorización de

24

5 1�2 01 2 0 0�2 0 4 10 0 1 3

35!

>> A=[5 1 -2 0;1 2 0 0;-2 0 4 1;0 0 1 3];>> G=Chols_1(A)G =

2.2361 0.4472 -0.8944 00 1.3416 0.2981 00 0 1.7638 0.56690 0 0 1.6366

>> G’*Gans =

5.0000 1.0000 -2.0000 01.0000 2.0000 0 0

-2.0000 0 4.0000 1.00000 0 1.0000 3.0000

>> G=chol(A)G =

2.2361 0.4472 -0.8944 00 1.3416 0.2981 00 0 1.7638 0.56690 0 0 1.6366

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

121/128Matlab y la factorización de Cholesky

� Para resolver un sistema lineal de ecuaciones Ax D b con Matlab utilizandola factorización de Cholesky hay que utilizar la función G=chol(A).

� La solución del sistema correspondiente se puede obtener, teniendo en cuentaque se realiza A D G TG , haciendo x=G\(G’\b)

� Para utilizar esta operación con un ejemplo de los que estamos manejando,habría que hacer algo parecido a lo que sigue.

>> A=[5 1 -2 0;1 2 0 0;-2 0 4 1;0 0 1 3];>> b=[1;5;14;15];>> G=chol(A)G =

2.2361 0.4472 -0.8944 00 1.3416 0.2981 00 0 1.7638 0.56690 0 0 1.6366

>> x=G\(G’\b)x =

1.00002.00003.00004.0000

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

122/128Matrices simétricas semidefinidas positivas

� Una matriz A se dice semidefinida positiva, si para todo x ¤ 0, xTAx � 0.

Teorema Si A 2 Rn�n es simétrica semidefinida positiva se cumple que:jaij j � .ai i C ajj /=2jaij j � pai iajj .i ¤ j /

mKaxi;jjaij j D mKax

iai i

ai i D 0) aij D aj i D 0; j D 1; : : : ; n:

� Si el algoritmo de Cholesky se aplica a una matriz semidefinida positiva y en unpaso akk es cero entonces ajk D 0; j D k; : : : n, por lo que no habría que hacernada más en la columna k.

� En la práctica, los errores de redondeo internos impiden los ceros exactospor lo que se recurre a la pivotación.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

123/128

Pivotación

� Para mantener la simetría las pivotaciones han de ser simétricas: si seintercambian dos filas también hay que intercambiar las columnas simétricas:A PAPT .

� La pivotación en Cholesky se lleva adelante así:

En cada etapa k del proceso se determina el coeficiente de mayor valor de la diagonalprincipal, mKaxk�j�n ajj :

� Si no es cero se intercambian las filas/columnas p y k, siempre y cuando k ¤ p;� si es cero el resto de la matriz por factorizar sería nula y no se haría nada más.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

124/128� El algoritmo de Cholesky con pivotación para matrices semidefinidas positivas es:

� Factorización de Cholesky A D GT G con pivotaciónfor i D 1 to n

Determinar índice p 2 fi; i C 1; ng tal que ja.p; p/j D mKaxi�j�nfja.j; j /jgif a.p; p/ > 0Intercambiar filas/columnas p y i .

g.i; i/

vuuta.i; i/�

i�1XkD1

g2.k; i/

for j D i C 1 to n

g.i; j /

0@a.i; j /�

i�1XkD1

g.k; i/g.k; j /

1A�

g.i; i/

endend

end

function [R, P, I] = Chol_p(A, pivot)%Chol_p Cholesky factorization with pivoting of a pos. semidefinite matrix.% [R, P] = Chol_p(A) returns R and a permutation matrix P such that% R’*R = P’*A*P. Only the upper triangular part of A is used.% [R, P, I] = Chol_p(A) returns in addition the index I of the last% positive diagonal element of R. The first I rows of R contain% the Cholesky factor of A.% [R, I] = Chol_p(A, 0) forces P = EYE(SIZE(A)), and therefore produces% the same output as R = CHOL(A) when A is positive definite (to% within roundoff).% Reference: G.H. Golub and C.F. Van Loan, Matrix Computations, Second% Edition, Johns Hopkins University Press, Baltimore, Maryland, 1989.

if nargin == 2, piv = pivot; else piv = 1; end[~,n] = size(A); pp = 1:n; I = [];for k = 1:n

if pivd = diag(A); [big, m] = max( d(k:n) ); m = m+k-1;

elsebig = A(k,k); m = k;

endif big < 0, I = k; break, end

% Symmetric row/column permutations.if m ~= k

A(:,[k m]) = A(:,[m k]); A([k m],:) = A([m k],:); pp([k m]) = pp([m k]);endif big == 0

if norm(A(k+1:n,k)) ~= 0I = k; break

elsecontinue

endendA(k,k) = sqrt( A(k,k) );if k == n, break, endA(k, k+1:n) = A(k, k+1:n) / A(k,k);

% For simplicity update the whole of the remaining submatrix (rather% than just the upper triangle).j = k+1:n;A(j,j) = A(j,j) - A(k,j)’*A(k,j);

endR = triu(A);if I > 0

if nargout < 3, error(’Matrix must be positive semidefinite.’), endR = R(1:I-1,:);

endif piv == 0, P = I; else P = eye(n); P = P(:,pp); end

end

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

125/128� Si comprobamos con un ejemplo

>> A=[5 1 -2 0;1 2 0 0;-2 0 4 1;0 0 1 3];>> b=[1;5;14;15];>> G=chol(A)G =

2.2361 0.4472 -0.8944 00 1.3416 0.2981 00 0 1.7638 0.56690 0 0 1.6366

>> [R,G1]=Chol_p(A)R =

2.2361 -0.8944 0 0.44720 1.7889 0.5590 0.22360 0 1.6394 -0.07620 0 0 1.3207

G1 =1 0 0 00 0 0 10 1 0 00 0 1 0

>> G1’\(R\(R’\(G1\b)))ans =

1.00002.00003.00004.0000

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

126/128Matrices simétricas indefinidas

� Una matriz A se dice indefinida si para algunos vectores x ¤ 0 la formacuadrática xTAx es positiva y para otros negativa. Para factorizar este tipo dematrices se usan pivotaciones por bloques en la diagonal

PAPT D LBLT

donde L es triangular inferior unitaria y B diagonal en bloques 1 � 1 ó 2 � 2.

� Los métodos más conocidos1 se citan a continuación.

Método Estrategia OperacionesParlett y Reid PAPT D LTLT O.n3=3/Aasen PAPT D LTLT O.n3=6/Bunch y Parlett PAPT D LBLT O.n3=6/CO.n3=6/ comparacionesBunch y Kaufman PAPT D LBLT O.n3=6/C .n2 � 1/ comparaciones

1El de James R. Bunch y Linda Kaufman, 1977, en alguna de sus variantes, es el más utilizadopor los códigos profesionales y comerciales para factorizar matrices simétricas.

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

127/128function [L,D,P,rho] = Diagpiv_1(A)%DIAGPIV Factorización de Pivotación diagonal con pivotación parcial.% Matriz de entrada, A (simétrica). Matrices de salida: permutación P,% triangular inferior unitaria L, D matriz diagonal en bloques 1x1 o 2x2.% P*A*P’ = L*D*L’.% Ref. J.R. Bunch and L. Kaufman, Some stable methods for calculating% inertia and solving symmetric linear systems, Math. Comp. 1977.if norm(triu(A,1)’-tril(A,-1),1), error(’La matriz A debe ser simétrica.’), endn = max(size(A)); k = 1; pp = 1:n;D = eye(n); L = eye(n);normA = norm(A(:),inf); rho = normA;alpha = (1 + sqrt(17))/8;while k < n

[lambda,r] = max( abs(A(k+1:n,k)) );r = r(1) + k;if lambda > 0

swap = 0;if abs(A(k,k))>=alpha*lambda

s = 1;else

temp = A(k:n,r); temp(r-k+1) = 0;sigma = norm(temp, inf);if alpha*lambda^2 <= abs(A(k,k))*sigma

s = 1;elseif abs(A(r,r)) >= alpha*sigma

swap = 1;m1 = k; m2 = r;s = 1;

elseswap = 1;m1 = k+1; m2 = r;s = 2;

endend% -----if swap

A( [m1, m2],: ) = A( [m2, m1],: ); A( :,[m1, m2] ) = A( :,[m2, m1] );L( [m1, m2],: ) = L( [m2, m1],: ); L( :,[m1, m2] ) = L( :,[m2, m1] );pp( [m1, m2] ) = pp( [m2, m1] );

end% -----

if s == 1 % Bloque diagonal 1x1D(k,k) = A(k,k); i = k+1:n;A(i,k) = A(i,k)/A(k,k);L(i,k) = A(i,k);A(i,i) = A(i,i) - A(i,k) * A(k,i);

elseif s == 2 % Bloque diagonal 2x2E = A(k:k+1,k:k+1);D(k:k+1,k:k+1) = E;C = A(k+2:n,k:k+1);temp = C/E;L(k+2:n,k:k+1) = temp;A(k+2:n,k+2:n) = A(k+2:n,k+2:n) - temp*C’;

endif k+s <= n

rho = max( rho, max(max(abs(A(k+s:n,k+s:n)))) );end

else % Nada, elemento en diagonal 0s = 1; D(k,k) = A(k,k);

endk = k + s;if k == n, D(n,n) = A(n,n); break, end

endif nargout>=3, P = eye(n); P = P(pp,:); endrho = rho/normA;

end

h i j

d e f g

a b c

10 8 7

9 4 6 5

1 2 3

128/128� Con una matriz de Hankel, Hermann Hankel, Alemania, 1839-1873, funciona así:

>> A = gallery(’ris’,6)A =

0.0909 0.1111 0.1429 0.2000 0.3333 1.00000.1111 0.1429 0.2000 0.3333 1.0000 -1.00000.1429 0.2000 0.3333 1.0000 -1.0000 -0.33330.2000 0.3333 1.0000 -1.0000 -0.3333 -0.20000.3333 1.0000 -1.0000 -0.3333 -0.2000 -0.14291.0000 -1.0000 -0.3333 -0.2000 -0.1429 -0.1111

>> cond(A)ans =

2.2185>> [L D P rho]=Diagpiv_1(A)L =

1.0000 0 0 0 0 00 1.0000 0 0 0 0

-0.1760 0.2160 1.0000 0 0 0-0.3143 0.1714 -1.1905 1.0000 0 0-0.1048 0.3429 0.2646 -0.6667 1.0000 0-0.9778 0.2000 -0.6173 0.6222 0 1.0000

D =0.0909 1.0000 0 0 0 01.0000 -0.1111 0 0 0 0

0 0 -0.9216 0 0 00 0 0 1.7415 0 00 0 0 0 -0.8256 1.92640 0 0 0 1.9264 0.1284

P =1 0 0 0 0 00 0 0 0 0 10 0 0 1 0 00 0 1 0 0 00 0 0 0 1 00 1 0 0 0 0

rho =1.9264

>> max(max(L*D*L’-P*A*P’))ans =

1.665334536937735e-016

>> eig(A)ans =

-1.5708-1.5705-1.44380.70801.56221.5708