ระเบยบวธ LU Decomposition หลกการของระเบยบวธนคอตองการแบงเมตรกซ A ออกเปนผลคณของ

เมตรกซ LU เมอ L เปนเมตรกซสามเหลยมลางและ U เปนเมตรกซสามเหลยมบนซงเราเรยกระเบยบวธนวา LU Decomposition

ดงนนระบบสมการ BXA จะอยในรป BXLU เมอ

nn3n2n1n

333231

2221

11

0

00

000

L

และ

nn

n333

n22322

n1131211

u000

uu00

uuu0

uuuu

U

ให ZXU ดงนนจะไดวา BZL ถา t

n21 )z,...,z,z(Z และ tn21 )x,...,x,x(X

โดยการแทนคาไปขางหนาในระบบสมการ BZL จะได

n

3

2

1

nnn33n22n11n

333232131

222121

111

b

b

b

b

z...zzz

zzz

zz

z

โดยการแทนคายอนกลบในระบบสมการ ZXU จะได

n

3

2

1

nnn

nn3333

nn2323222

nn1313212111

z

z

z

z

xu

xu...xu

xu...xuzu

xu...xuxuxu

ถา 1uii ทก i แลวเราจะเรยกระเบยบวธนวา Crout’s Decomposition ถา 1ii ทก i แลวจะเรยกระเบยบวธนวา Doolittle’s Decomposition ถา iiiiu ทก i แลวจะเรยกระเบยบวธนวา Cholesky’s Decomposition

ในขนตอนนจะไดคา t

n21 )z,...,z,z(Z

เพอน าไปแทนขนถดไป

เ

ในขนตอนนจะไดคา t

n21 )x,...,x,x(X

เปนผลเฉลยทตองการ

Crout’s Decomposition or Reduction สมมตให 1uii ทก i จากความสมพนธ LUA จะไดวา

nn3n2n1n

n3333231

n2232221

n1131211

aaaa

aaaa

aaaa

aaaa

nnn33nn22nn1n3n232n131n2n121n1n

n3n333n232n131332332133132123131

n222n1212322132122122121

n1111311121111

...uuu...uuu

...uuuuuu

uuuuu

uuu

โดยการเปรยบเทยบสมาชกในแตละต าแหนงจะไดวา หลกท 1 ของทงสองเมทรกซคอ

1i1i a ทก n,..,2,1i แถวท 1 ของทงสองเมทรกซคอ

j1j111 au ทก n,..,3,2j

11

j1j1

au

หลกท 2 ของทงสองเมทรกซคอ 2i121i2i au ทก n,..,3,2i

121i2i2i ua แถวท 2 ของทงสองเมทรกซคอ

j2j121j222 auu ทก n,..,4,3j

22

j121j2j2

uau

ในกรณทวไป เมอเปรยบเทยบหลกท i ของทงสองเมทรกซ จะได ji,ua

1j

1kkjikijij

และ )ij(0ij

และแถวท j คอ ji,

ua

uii

1i

1kkjikij

ij

และ

)ji(0u),ij(0,1u ijijii

1

1

3

3

5

สรปขนตอนการเปรยบเทยบคาของเมตรกซ

nnn33nn22nn1n3n232n131n2n121n1n

n3n333n232n131332332133132123131

n222n1212322132122122121

n1111311121111

...uuuuuu

...uuuuuu

uuuuu

uuu

nn3n2n1n

n3333231

n2232221

n1131211

aaaa

aaaa

aaaa

aaaa

ขนท 1 : จะไดสมาชกในหลกท 1 ของ L ขนท 2 : จะไดสมาชกในแถวท 1 ของ U ขนท 3 : จะไดสมาชกในหลกท 2 ของ L ขนท 4 : จะไดสมาชกในแถวท 2 ของ U

2

2

4

4

ตวอยาง ก าหนดให

143

315

122

A

1. จงแยกเมตรกซ A ใหอยในรป LU Decomposition

2. จงหาผลเฉลยของระบบสมการ BXA เมอ

9

0

2

B

3. จงหาคาของ 11 U,L และ 1A

วธท า (1) สมมตให

333231

2221

11

0

00

L

และ

100

u10

uu1

U 23

1312

ดงนน

143

315

122

A

uuu

uuu

uu

LU

332332133132123131

2322132122122121

1311121111

โดยการเปรยบเทยบคาจะได 5,2 2111 และ 331

จากแถวท 1 ของ LU : 1u,2u 13111211 เมอแทนคาจะได

2

11u,1

2u

11

13

11

12

จากหลกท 2 ของ LU : 4u,1u 321231221221 เมอแทนคาจะได ,6)1)(5(1u1 122122 7)1)(3(4u4 123132 จากแถวท 2 ของ LU : 3uu 23221321 เมอแทนคาจะได

12

11

6

)2/11(u3u

22

132123

จากหลกท 3 ของ LU : 1uu 3323321331 เมอแทนคาจะได 12/7112/77)2/3(1uu1 2332133133

ดงนน

12/7173

065

002

L และ

100

12/1110

2/111

U

(2) จากระบบสมการ BZL จะไดวา

9

0

2

z)12/71(z7z3

z6z5

z2

321

21

1

โดยการแทนคาไปขางหนาจะได 6

5

6

z50z,1

2

2z 1

21

และ

212/71

z7z39z 21

3

จากระบบสมการ ZXU จะไดวา

2

6/5

1

x

12/x11x

2/xxx

3

32

321

โดยการแทนคายอนกลบจะได

112

x11

6

5x,2x 3

23

และ

1x2

x1x 2

31

(3) จาก

12/7173

065

002

L

ดงนน

10012/7173

010065

001002

]I|L[

102/312/7170

012/5060

002/1001

16/712/1712/7100

06/112/5010

002/1001

71/1271/1471/17100

06/112/5010

002/1001

จะไดวา

71/1271/1471/17

06/112/5

002/1

L 1

ท านองเดยวกนจะได

100

12/1110

12/511

U 1

ดงนน

71/1271/1471/17

06/112/5

002/1

100

12/1110

12/511

LUA 111

121417

11114

5613

71

1

บทท 2 การแกระบบสมการเชงเสน

การวดขนาดเวกเตอรและเมตรกซ

นยาม คาประจ า (norm) ของเวกเตอร Tn21 x,...,x,xX คอฟงกชน RR: n ทมคณสมบตตอไปน

1. 0X ส าหรบทก X

2. 0X เมอและตอเมอ 0X

3. XX ส าหรบทกสเกลาร และทกเวกเตอร X

4. YXYX ส าหรบทกเวกเตอร X , Y

ตวอยาง

1. คาประจ ายคลด (Euclidian norm) 2n

22

212

x...xxX

2. คาประจ าสงสด (Maximum norm)

n21 x,...,x,xmaxX

ตวอยาง เวกเตอร T2,1,1X มคาประจ า

45.26211X222

2

22,1,1maxX

ระยะระหวางเวกเตอร

ถา Tn21 x,...,x,xX และ Tn21 y,...,y,yY

ระยะทางระหวาง X และ Y นยามโดย

n

1i

2ii2

yxYX

iini1

yxmaxYX

ตวอยาง พจารณาระบบสมการเชงเสน

15913x333.10x15920x333.3 321

544.28x612.9x17.16x222.2 321

4254.8x6852.1x1791.5x5611.1 321 มผลเฉลยเปน TT

321 1,1,1x,x,x

ถาใชวธการก าจดแบบเกาสระบความแมนย าแบบเลขคณต 5 ต าแหนง โดยเทคนคการก าหนดหลกแบบแนวตงสงสด ไดผลเฉลย

TT321 92538.0,99991.0,2001.1x~,x~,x~

วดขนาด

X~

X โดย

20010.092538.01,99991.01,20010.11maxX~

X

แนวคดของระยะระหวางเวกเตอร ใชในการนยามลมตของล าดบของเวกเตอรดงตอไปน

ล าดบ kX ลเขาส X ใน nR เมอและตอเมอ

i

ki

kxxlim

ส าหรบทก n,...,2,1i

หรอส าหรบทกจ านวนจรง 0 ม NN ทวา

XX

k ส าหรบทก Nk

ตวอยาง ให T

k

2

k4

k3

k2

k1

kksine,

k

3,

k

12,1x,x,x,xX

1xlim k1

k

2xlim k

2k

0xlim k3

k

0xlim k

4k

ดงนน kX ลเขาส T0,0,2,1X

และมจ านวนเตมบวก N ทท าให

XX

k หรอ 0x,0x,2x,1x k

4k

3k

2k

1 แลวนอยกวา เมอ 0

U

Uนยาม คาประจ าของเมตรกซ คอฟงกชนคาจรง ทนยามบนเซต

ของเมตรกซ nn และมคณสมบต

1. 0A

2. 0A เมอและตอเมอ 0A

3. AA ส าหรบทกสเกลาร

4. BABA

5. BABA

ตวอยาง

1. คาประจ าแบบยคลด

n

1i

n

1j

2ij2

aA

2. คาประจ าสงสด

n

1jij

ni1amaxA

U

ตวอยาง ก าหนดให

115

130

121

A

222222222

2115130121A

5574.6 และ 4121a

3

1jj1

4130a3

1jj2

7115a3

1jj3

ดงนน 77,4,4maxA

เศษตกคางและปญหาภาวะไมเหมาะสม

พจารณาระบบสมการ BXA

สมมตให X~ เปนผลเฉลยประมาณของผลเฉลยจรง X นยามเวกเตอรตกคางคอ X

~AB

โดยทวไปเวกเตอรตกคางจะมสมบตวา ||X~

AB|| มคานอยแลว X~

X จะมคานอย

แตกมบางกรณทสมบตนไมจรงดงเชนตวอยางตอไปน

ตวอยาง ระบบสมการเชงเสนก าหนดโดย

0001.3

3

x

x

20001.1

21

2

1

ซงมผลเฉลยหนงเดยวคอ TT21 1,1x,xX

สมมตให T0,3X~ เปนคาประมาณ(ทไมดนก)ของระบบสมการขางตน

จะไดเวกเตอรตกคางคอ

0

3

20001.1

21

0001.3

3X~

AB

0002.0

0

ดงนน 0002.0X~

AB

ซงมคานอย

แต 2X~

X

แสดงวาX~ เปนตวประมาณทไมดเพราะหางจากคาจรงมาก

ปญหาในตวอยางนอธบายไดงายๆโดยสงเกตวาผลเฉลยของระบบแทนไดโดยจดตดของเสนตรง

3x2x:L 211

0001.3x2x0001.1:L 212

จด 0,3 อยบนเสนตรง 1L โดยทเสนตรง 1L และ 2L เกอบขนานกน

ท าใหจด 0,3 อยใกล 2L ดวย แมวาจะแตกตางอยางมากจากผลเฉลยของ

ระบบสมการซงคอจดตด 1,1

จากตวอยางขางตนจะเหนวา ปญหาจะเกดขนเมอเสนตรงเกอบทบกน แตในความจรงเราไมอาจพจารณาลกษณะทางเรขาคณตได ถาระบบสมการนนประกอบไปดวยตวแปรจ านวนมาก

สาเหตของปญหา ทคาประจ าของเวกเตอรเศษตกคางมคานอย แตคาประมาณยงไมดพอ

1,1

0,3

y

x

กรณนเราจะพจารณาคาประจ าของเมตรกซและเศษตกคางดงน

ถา X~ เปนตวประมาณผลเฉลย X ของระบบสมการ BXA และ A เปนเมตรกซไมเอกฐาน ( 0Adet ) แลว

1AX~

ABX~

X

และ

B

X~

ABAA

X

X~

X1

ตราบเทาท 0X และ 0B

สงนชวา 1A และ AA 1 ใหความสมพนธระหวางเวกเตอรเศษตกคางและความแมนย าของการประมาณ

โดยทวไปแลวคาผดพลาดสมพทธ X

X~

X มความส าคญมาก และมขอบเขต

เปนผลคณของ AA 1 กบเศษตกคางสมพทธของการประมาณ B

X~

AB

จาก และ

คณสมบตทวา

หารดวย แต

และเมอตวหารมาก กท าใหผลหารนอยกวา

นยาม จ านวนชภาวะของ A (Conditional number of A)

แทนดวย AC หมายถงจ านวน 1AAAC

ดงนน A

X~

ABACX

~X

และ B

X~

ABAC

X

X~

X

ส าหรบเมตรกซไมเอกฐาน A และคาประจ าธรรมชาต (ไมนบ 2 )

ACAAAAI1 11

เรยกเมตรกซ A วาม “ภาวะเหมาะสม” ถา AC มคาใกล 1 และเรยกวาม “ภาวะ

ไมเหมาะสม” ถา AC มคาสงกวา 1 มากๆ

ตวอยาง ก าหนดให

20001.1

21A จงหาจ านวนชสภาวะของ A

วธท า เนองจาก )2)(0001.1()2)(1(Adet

จะไดวา

10001.1

22

0002.0

1)A(adj

Adet

1A 1

50005.5000

1000010000

ดงนน 0001.3A

และ 20000A 1

ดงนนจ านวนชสภาวะ 60002200000001.3AC

ระเบยบวธท าซ าโดยใชเศษตกคาง

เปนวธการในการปรบคาประมาณใหดขน สมมตให 0

X เปนตวประมาณเรมตนของ X และสมมตวาความคลาดเคลอนของการประมาณในครงแรกเปน

00XXe

ให 0r คอเวกเตอรเศษตกคางจากการประมาณในครงแรก นนคอ

00XABr ------ (1)

เนองจาก

00000rXABXAXAXXAeA

นนคอ 00reA ------ (2)

แกระบบสมการ (2) โดยใหผลเฉลยคอ 0ε ดงนน 0

ε เปนคาโดยประมาณของ 0

e แกไขคาประมาณ 0

X ใหมใหเปน 1X โดยให

001

XX จบกระบวนการในขนแรก

ในทนยงไมรคา e(0) เนองจากไมรคาจรงของ X

ท าซ าเดมโดยเรมจากหาเวกเตอรเศษตกคาง

111eAXABr

แกระบบสมการ 11reA ไดผลเฉลยคอ 1

ε ซงเปนคาประมาณของ 1e

ไดตวประมาณใหมคอ 112εXX

ท าซ าไปเรอยๆจนถงครงท k หาเวกเตอรเศษตกคางโดย

kkXABr แลว

แกสมการ kkeAr จะไดผลเฉลย k

ε เปนตวประมาณของ ke

ไดตวประมาณถดไปคอ kk1kεXX

การท าซ านจะหยดเมอ

k

k

X

ε มขอบเขตนอยกวาทยอมรบได

ตวอยาง แกระบบสมการ BXA เมอก าหนด

5

1

4

1

3

14

1

3

1

2

13

1

2

11

A,

0

0

1

B

(โดยทระบบสมการมผลเฉลยแทจรง T30,36,9X และม 524AC )

วธท า โดยใชความแมนย าแบบเลขคณต 4 ต าแหนง

2.025.03333.0

25.03333.05.0

3333.05.01

A

ขนตอนท 1 : หาผลเฉลยโดยวธก าจดแบบเกาสจะได T031,04.37,19.9X

ขนตอนท 2 :

ค านวณเศษตกคาง

003027.0

004320.0

002300.0

XABr00

จาก 00reA จะไดระบบสมการ

003027.0

004320.0

002300.0

e

e

e

2.025.03333.0

25.03333.05.0

3333.05.01

3

2

1

แกระบบสมการโดยการก าจดแบบเกาสจะได

)0(0e

7122.0

7320.0

1309.0

ε

ให

29.30

31.36

059.9

εXX001

คาประมาณตวใหม

ขนตอนท 3 : เรมกระบวนการท าซ า ได

หาเวกเตอรเศษตกคาง

000135.0

000123.0

000343.0

XABr11

แกระบบสมการ 1)1(reA จะได

01289.0

01349.0

002792.0

ε1

ให

30.30

32.36

062.9

εXX112 ซง 2

X เรมเขาใกลคาจรงมากขน

ระเบยบวธ Jacobi และ Gauss-Seidel

ใชแนวคดเดยวกนกบการท าซ าจดคงทในการหาคารากของสมการ 0xf โดยแปลงระบบสมการ BXA ใหเปนระบบสมการ DXCX โดยท

ระบบสมการทงสองมผลเฉลยชดเดยวกน

สรางล าดบของเวกเตอร ,...X,X,X

210 ทลเขาหาผลเฉลยโดยการท าซ า จากสตรการท าซ าจดคงท )X(FX

)r()1r(

นนคอ ถาสมมตให 0

X เปนเวกเตอรเรมตนทก าหนด แลวจะให

DXCX

DXCX

DXCX

)r()1r(

)1()2(

)0()1(

)X(F

ระเบยบวธ Jacobi

แนวคด

จากระบบสมการ BXA แยกเมตรกซ A ออกเปนเมตรกซ

FEA โดยท E เปนเมตรกซทแยงมมทมสมาชกบนแนวทแยงมมเหมอนกบสมาชก

บนแนวทแยงมมของ A 0aii และ F เปนเมตรกซนอกแนวทแยงมมของ A โดยทสมาชกในแนวทแยงมม

เปนศนยหมด จะไดวา BXFEXA หรอ BXFXE

หรอ DXCBEXFEX 11

เมอ FEC 1 และ BED 1

เลอกคาประมาณเรมตน 0X แลวใชสตรการท าซ า

DXCX

k1k

, ,...2,1,0k

จะไดล าดบของเวกเตอร ,...X,X,X

210

การหาสตรของระเบยบวธ Jacobi

สมมตให

0...aaa

a...a0a

a...aa0

F,0a,

a...000

0...0a0

0...00a

E

3n2n1n

n22321

n11312

ii

nn

22

11

จะไดวา

0a

a

a

a

a

a0

a

a

a

a

a

a0

FEcC

nn

2n

nn

1n

22

n2

22

21

11

n1

11

n1

1

nnij

,

nn

n

22

2

11

1

ab

ab

ab

1BED

แทนคาในสมการ DXCX

k1k

และกระจายออกทละแถวเราจะได

nn

n

22

2

11

1

)k(n

)k(2

)k(1

nn

2n

nn

1n

22

n2

22

21

11

n1

11

n1

)1k(n

)1k(2

)1k(1

a

b

a

b

a

b

x

x

x

0a

a

a

a

a

a0

a

a

a

a

a

a0

x

x

x

กระจายออกทละแถวจะไดสตรการท าซ าคอ k

nn1k

313k

212111

1k1 xaxaxab

a

1x

k

nn2k

323k

121222

1k2 xaxaxab

a

1x

k

1n1n,nk

22nk

11nnnn

1kn xaxaxab

a

1x

ตวอยาง ระบบสมการก าหนดโดย

6x2xx10 321

25x3xx11x 4321

11xx10xx2 4321

15x8xx3 432

ซงมผลเฉลยจรงคอ T1,1,2,1X จงหาผลเฉลยโดยระเบยบวธ Jacobi

วธท า เปลยนระบบสมการ BXA เปน DXCX แลวแกสมการหา ix ได

)k(

3)k(

2)1k(

1 x2x610

1x

)k(

4)k(

3)k(

1)1k(

2 x3xx2511

1x

)k(

4)k(

2)k(

1)1k(

3 xxx21110

1x

)k(

3)k(

2)1k(

4 xx3158

1x

สมมตใหตวประมาณเรมตนเปน TT)0(

4)0(

3)0(

2)0(

10

0,0,0,0x,x,x,xX

จะได 6.000610

1x

)1(1

2727.200025

11

1x

)1(2

1.100011

10

1x

)1(3

875.10015

8

1x

)1(4

ท าซ าไปเรอยๆจะไดผลดงตาราง

k 1x 2x 3x 4x 0 0.00000000 0.00000000 0.00000000 0.00000000 1 0.60000000 2.27272727 -1.10000000 1.87500000 2 1.04727273 1.71590909 -0.80522727 0.88522727 3 0.93263636 2.05330579 -1.04934091 1.13088068 4 1.01519876 1.95369576 -0.96810863 0.97384272 5 0.98899130 2.01141473 -1.01028590 1.02135051 6 1.00319865 1.99224126 -0.99452174 0.99443374 7 0.99812847 2.00230688 -1.00197223 1.00359431 8 1.00062513 1.99867030 -0.99903558 0.99888839 9 0.99967415 2.00044767 -1.00036916 1.00061919

10 1.00011860 1.99976795 -0.99982814 0.99978598 910

ii xx 0.00044445 0.00067972 0.00054101 0.00083321

ในรอบท 10 เราสามารถค านวณคาความคลาดเคลอนสมพทธได

3

10

910

1041665.099976795.1

00083321.0

X

XX

ซงความจรงแลว 3101023205.0XX

ระเบยบวธ Gauss-Seidel

Gauss-Seidel ไดปรบปรงสตรของ Jacobi โดยในการประมาณคา ix ในขนท k+1 เราทราบคาของ 1i21 x,...,x,x ของขนท k+1 มาแลว ดงนนเพอความแมนย าขนจะน าคาเหลานมาใชในการประมาณคา ix แทนทจะเปนคาจากขน k กลาวคอ

knin

k1i1i,i

1k1n1i,i

1k22i

1k11ii

ii

1ki xaxaxaxaxab

a

1x

หรอ

n

1ij

kjij

1i

1j

1kjiji

ii

1ki xaxab

a

1x

ตวอยาง พจารณาระบบสมการ 6x2xx10 321

25x3xx11x 4321

11xx10xx2 4321

15x8xx3 432

จงหาผลเฉลยดวยวธท าซ าของ Gauss Seidel

วธท า จากสตรการท าซ าคอ k

3k

21k

1 x2x610

1x

k

4k

31k

11k

2 x3xx2511

1x

k

41k

21k

11k

3 xxx21110

1x

1k

31k

21k

4 xx3158

1x

เมอใหคาเรมตนเปน T00,0,0,0X เราไดผลดงตาราง

k 1x 2x 3x 4x

0 0.00000000 0.00000000 0.00000000 0.00000000

1 0.60000000 2.32727273 -0.98727273 0.87886364

2 1.03018182 2.03693802 -1.01445620 0.98434122

3 1.00658504 2.00355502 -1.00252738 0.99835095

4 1.00086098 2.00029825 -1.00030728 0.99984975

5 1.00009128 2.00002134 -1.00003115 0.99998810

6 1.00000836 2.00000117 -1.00000275 0.99999922

7 1.00000067 2.00000002 -1.00000021 0.99999996

8 1.00000004 1.99999999 -1.00000001 1.00000000

9 1.00000000 2.00000000 -1.00000000 1.00000000

10 1.00000000 2.00000000 -1.00000000 1.00000000

และไดวา

3

5

45

1043049.000002134.2

00086098.0

X

XX