covariance, correlation, and momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... ·...

29
Covariance, Correlation, and Moments รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย ©Kilenthong 2019 รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 1 / 29

Upload: others

Post on 07-Mar-2021

5 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

Covariance, Correlation, and Moments

รศ.ดร. วีระชาติ กิเลนทองมหาวิทยาลัยหอการคาไทย

©Kilenthong 2019

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 1 / 29

Page 2: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

นิยาม: ความแปรปรวนรวมและสหสัมพันธ (Covariance andCorrelation)

ความแปรปรวนรวมและสหสัมพันธ (Covariance and Correlation) คือ “ความสัมพันธระหวางตัวแปรสุม” เปนสิ่งที่นักวิเคราะหตองการทราบ

Definitionกำหนดให X และ Y เปนตัวแปรสุมที่คาคาดหมายมีคาจำกัด และ E [X] = µX และ E [Y] = µYความแปรปรวนรวม (covariance) ของ X และ Y นิยามไดเปน

Cov [X, Y] = E [(X− µX) (Y− µY)] (1)

ถาคาคาดหมายมีคาจำกัด

ความแปรปรวนรวม (covariance) ก็คือคาคาดหมายของฟงกชันของ “ตัวแปรสุม” อยางหนึ่งนั่นเอง

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 2 / 29

Page 3: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: ความแปรปรวนรวม(Covariance)

Theoremสำหรับตัวแปรสุม X และ Y ที่ความแปรปรวนรวม (covariance) มีคาจำกัดใดๆ

Cov [X, Y] = E [XY]− E [X] E [Y] (2)

Proof.กำหนดให E [X] = µX และ E [Y] = µY

Cov [X, Y] = E [(X− µX) (Y− µY)] = E [XY− µXY− µYX+ µXµY]

= E [XY]− µXE [Y]− µYE [X] + µXµY= E [XY]− µXµY = E [XY]− E [X] E [Y]

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 3 / 29

Page 4: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ขอสังเกตของความแปรปรวนรวม (Covariance)

ขอจำกัดอยางหนึ่งคือการที่ขนาดของความแปรปรวนรวม (covariance) ขึ้นอยูกับขนาดของแตละตัวแปรการเปรียบเทียบคาความแปรปรวนรวม (covariance) บอกไดยาก วาตัวแปรคูใดมีความสัมพันธระหวางกัน (association) มากกวากันเราตองหานิยามคาสถิติที่บอกถึง ความสัมพันธแตไมขึ้นอยูกับขนาดของแตละตัวแปรโดยตรง หรือมีการปรับขนาด (re-scaling) นั่นเอง

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 4 / 29

Page 5: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

นิยาม: สหสัมพันธ (Correlation)

Definitionกำหนดให X และ Y เปนตัวแปรสุมที่ความแปรปรวน (variance) มีคาจำกัด นั่นคือ σ2X <∞และ σ2Y <∞ สหสัมพันธ (correlation) ของ X และ Y นิยามไดเปน

ρ [X, Y] = Cov [X, Y]σXσY

(3)

คาสมบูรณของสหสัมพันธมีคานอยกวาหรือเทากับหนึ่งเสมอ

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 5 / 29

Page 6: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: สหสัมพันธ (Correlation)Theoremสำหรับตัวแปรสุม X และ Y ใดๆ ที่ E [XY] หาคาได

(E [XY])2 ≤ E[X2]E[Y2]

(4)

ความสัมพันธนี้เปนจริงในรูปแบบสมการก็ตอเมื่อมีจำนวนจริงที่ไมเทากับศูนย a ̸= 0 และb ̸= 0 ที่ทำให aX+ bY = 0 ดวยความนาจะเปนเทากับหนึ่ง

Proof.สำหรับกรณีที่ E

[X2]= ∞ หรือ E

[Y2]= ∞ ไมจำเปนตองพิสูจนอะไรมากเพราะพจน

ดานขวาเทากับอนันตดังนั้นอสมการที่ 4 เปนจริงในกรณีที่ E

[X2]= 0 นั้นสามารถพิสูจนไดโดยเริ่มจาก Pr (X = 0) = 1 ดังนั้น

E [XY] = 0 ซึ่งมีผลทำใหอสมการที่นี้ปนจริงเชนกันE[Y2]= 0 ก็สามารถพิสูจนไดในทำนองเดียวกัน

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 6 / 29

Page 7: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

พิสูจน: สหสัมพันธ (Correlation)Proof.

กรณีที่ 0 < E[X2

]< ∞ และ 0 < E

[Y2]< ∞ ซึ่งสามารถพิสูจนไดโดยเริ่มจากการพิจารณาความสัมพันธตอไปนี้

สำหรับคาจำนวนจริงที่ไมเทากับศูนย a, b ใดๆI

E[(aX + bY)2

]= a2E

[X2

]+ b2E

[Y2

]+ 2abE [XY] ≥ 0 (5)

E[(aX − bY)2

]= a2E

[X2

]+ b2E

[Y2

]− 2abE [XY] ≥ 0 (6)

I หากเลือก a =√

E[Y2

]และ b =

√E[X2

]จะสามารถเขียนสมการที่ 5 และ 6 ตามลำดับ ไดใหมเปน

E [XY] ≥ −√

E[X2

]E[Y2

](7)

E [XY] ≤√

E[X2

]E[Y2

](8)

(E [XY])2 ≤ E[X2

]E[Y2

](9)

I สรุปไดวา

E[(aX + bY)2

]= 0 ⇒ Pr (aX + bY = 0) = 1

E[(aX − bY)2

]= 0 ⇒ Pr (aX − bY = 0) = 1

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 7 / 29

Page 8: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: อสมการโคชีและชวารซ (Cauchy-Schwarz Inequality)

Theorem (อสมการโคชีและชวารซ (Cauchy-Schwarz Inequality))กำหนดให X และ Y เปนตัวแปรสุมที่ความแปรปรวน (variance) มีคาจำกัด นั่นคือ σ2X <∞และ σ2Y <∞ สหสัมพันธ (correlation) ของ X และ Y มีคาอยูระหวาง [−1, 1] นั่นคือ

− 1 ≤ ρ [X, Y] ≤ 1 (10)

และความแปรปรวนรวม (covariance) ของ X และ Y มีความสัมพันธกับความแปรปรวน(variance) ของแตละตัวแปรสุมดังนี้

(Cov [X, Y])2 ≤ σ2Xσ2Y (11)

โดยที่ อสมการที่ จะเปนจริงในรูปแบบสมการก็ตอเมื่อ มีจำนวนจริงที่ไมเทากับศูนย a, b ̸= 0

และจำนวนจริง c ที่ทำให aX+ bY = c ดวยความนาจะเปนเทากับ 1

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 8 / 29

Page 9: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

พิสูจน: ทฤษฎีของอสมการโคชีและชวารซ (Cauchy-SchwarzInequality)Proof.ประยุกตใชทฤษฎีบทกอนหนานี้ เพื่อแสดงวา

(Cov [X, Y])2 = (E [(X− µX) (Y− µY)])2 ≤ E

[(X− µX)

2]E[(Y− µY)

2]= σ2Xσ

2Y

ซึ่งจะเปนจริงในรูปแบบสมการก็ตอเมื่อมีจำนวนจริงที่ไมเทากับศูนย a ̸= 0 และ b ̸= 0 ที่ทำใหaX+ bY = 0 ดวยความนาจะเปนเทากับหนึ่ง เชนเดียวกับกรณีของทฤษฎีกอนหนานี้ ยิ่งไปกวานั้นความสัมพันธที่ไดนำไปสูขอสรุปที่วา

−σXσY ≤ Cov [X, Y] ≤ σXσY ⇒ −1 ≤ Cov [X, Y]σXσY

≤ 1 ⇒ −1 ≤ ρ [X, Y] ≤ 1

“คาสมบูรณของสหสัมพันธมีคานอยกวาหรือเทากับหนึ่ง” เสมอรศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 9 / 29

Page 10: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

นิยาม: สหสัมพันธเชิงบวกและเชิงลบ (positively and negativelycorrelated)

Definitionตัวแปรสุม X และ Y มีสหสัมพันธเชิงบวก (positively correlated) ถา ρ [X, Y] > 0 และมีสหสัมพันธเชิงลบ (negatively correlated) ถา ρ [X, Y] < 0 สวนกรณีที่ ρ [X, Y] = 0หมายความวา X และ Y ไมมีสหสัมพันธ (uncorrelated)

ความสัมพันธระหวางความเปนอิสระตอกัน (independent) และการไมมีสหสัมพันธ(uncorrelated) ซึ่งกลาววา “ตัวแปรสุมที่เปนอิสระตอกันตองไมมีสหสัมพันธ”

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 10 / 29

Page 11: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: การไมมีสหสัมพันธ (uncorrelated)Theoremถาตัวแปรสุม X และ Y เปนอิสระตอกัน (independent) และ σ2X <∞ และ σ2Y <∞ แลว

Cov [X, Y] = ρ [X, Y] = 0 (12)

Proof.เนื่องจาก X และ Y เปนอิสระตอกัน (independent)

E [XY] = E [X] E [Y] ซึ่งหมายความวา E [XY]− E [X] E [Y] = Cov [X, Y] = 0

ผลที่ตามมาอีกอยางหนึ่งก็คือ ρ [X, Y] = 0

ตัวแปรสุมที่ไมมีสหสัมพันธอาจจะไมเปนอิสระตอกันก็ไดสะทอนใหเห็นวา การเปนอิสระตอกัน (independent) นั้นเปน “ขอจำกัดที่เขมขนมากกวา” การไมมีสหสัมพันธ (uncorrelated)

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 11 / 29

Page 12: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ตัวอยาง: คาสหสัมพันธ และ การเปนอิสระตอกันExampleกำหนดให X เปนตัวแปรสุมที่มีคาที่เปนไปไดสามคาคือ {−1, 0, 1} และมีความนาจะเปนเทากับ

Pr (X = −1) = Pr (X = 0) = Pr (X = 1) =1

3

สมมุติให Y = X2 ดังนั้น X และ Y ไมเปนอิสระตอกันอยางชัดเจน สวนที่เหลืออยูคือการตรวจสอบวา X และ Y มีสหสัมพันธตอกันหรือไม?

หาวา E [X] = 0

คาสหสัมพันธของ X และ Y

Cov [X, Y] = E [XY]− E [X] E [Y] = E [XY]= Pr (X = −1, Y = 1) (−1) + Pr (X = 0, Y = 0) (0)

+ Pr (X = 1, Y = 1) (1)

= −1

3+ 0 +

1

3= 0

X และ Y ไมมีสหสัมพันธ (uncorrelated) ทั้งที่ไมเปนอิสระตอกัน

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 12 / 29

Page 13: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ขอสังเกต: คาสหสัมพันธ และ การเปนอิสระตอกัน

ตัวอยางนี้คือความสัมพันธระหวาง X และ Y เปนแบบไมเปนเชิงเสน (nonlinear)I มีสวนสำคัญที่ทำใหเกิดปรากฏการณที่ตัวแปรสุมสองตัวที่ไมเปนอิสระตอกัน แตกลับไมมีสห

สัมพันธ (uncorrelated)แตถาความสัมพันธของตัวแปรเปนแบบเชิงเสน (linear) จะสามารถสรุปไดวา ตัวแปรสุมสองตัวที่ไมเปนอิสระตอกันจะมีสหสัมพันธตอกัน

Theoremกำหนดให X เปนตัวแปรสุมที่ 0 < σ2X <∞ และ Y = aX+ b สำหรับคาคงที่ a ̸= 0 และ bแลวสามารถสรุปไดวา

1 ถา a > 0 แลว ρ [X, Y] = 1

2 ถา a < 0 แลว ρ [X, Y] = −1

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 13 / 29

Page 14: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

สหสัมพันธใชวัดความสัมพันธเชิงเสนเปนหลักTheoremกำหนดให X และ Y เปนตัวแปรสุมที่ความแปรปรวน (variance) มีคาจำกัด นั่นคือ σ2X <∞และ σ2Y <∞ ถา |ρ [X, Y] | = 1 แลว จะตองมีคาคงที่ a ̸= 0, b ̸= 0, และ c ที่ทำใหaX+ bY = c ดวยความนาจะเปนเทากับหนึ่ง

Proof.เริ่มจากอสมการโคชีและชวารซ (Cauchy-Schwarz Inequality)

(Cov [X, Y])2 ≤ σ2Xσ2Y

ซึ่งจะเปนจริงในรูปแบบสมการก็ตอเมื่อมีจำนวนจริงที่ไมเทากับศูนย a, b ̸= 0 และจำนวนจริง cที่ทำให aX+ bY = c ดวยความนาจะเปนเทากับ 1 ซึ่งหมายความวา ถา

(Cov [X, Y])2 = σ2Xσ2Y

ก็ตอเมื่อมีจำนวนจริงที่ไมเทากับศูนย a, b ̸= 0 และจำนวนจริง c ที่ทำให aX+ bY = c ดวยความนาจะเปนเทากับ 1

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 14 / 29

Page 15: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: ผลรวมเชิงเสนของความแปรปรวนรวมสำหรับตัวแปรสุม 2 ตัว

Theoremถา X และ Y เปนตัวแปรสุมที่ความแปรปรวน (variance) มีคาจำกัด นั่นคือ σ2X <∞ และσ2Y <∞ แลว

Var [aX+ bY+ c] = a2Var [X] + b2Var [Y] + 2abCov [X, Y] (13)

ทฤษฎีบทตอไปนี้แสดงวิธีการคำนวณคาความแปรปรวนของผลรวมของตัวแปรสุมสองตัวซึ่งรวมทั้งกรณีที่ตัวแปรสุมทั้งสองมีสหสัมพันธตอกันดวย

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 15 / 29

Page 16: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: ผลรวมเชิงเสนของความแปรปรวนรวมสำหรับตัวแปรสุมหลายตัวTheoremถา X1, . . . , Xn เปนตัวแปรสุมที่ความแปรปรวน (variance) มีคาจำกัด นั่นคือ Var [Xi] <∞แลว

Var[ n∑

i=1

aiXi

]=

n∑i=1

a2i Var [Xi] + 2aiaj∑i<j

Cov [Xi, Xj] (14)

Proof.

Var[ n∑

i=1

aiXi

]= Cov

[ n∑i=1

aiXi,n∑

j=1

ajXj

]=

n∑i=1

n∑j=1

aiajCov [Xi, Xj]

=n∑

i=1

a2i Cov [Xi, Xi] +∑i ̸=j

aiajCov [Xi, Xj]

=

n∑i=1

a2i Var [Xi] + 2aiaj∑i<j

Cov [Xi, Xj]

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 16 / 29

Page 17: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ตัวอยาง: ขอบเขตของคาคาดหมายและความแปรปรวนของกลุมหลักทรัพย(mean-variance frontier)

Example (ขอบเขตของคาคาดหมายและความแปรปรวนของกลุมหลักทรัพย(mean-variance frontier))กำหนดให Ri แทนอัตราผลตอบแทนรวม (gross return) ตอปของกองทุนรวม (mutual fund) iสำหรับ i = 1, . . . , n และกำหนดให αi ∈ [0, 1] โดยที่ ∑i αi = 1 แทนสัดสวนการลงทุนในกองทุน i ของกลุมหลักทรัพย (portfolio) ที่สนใจสิ่งที่ตองการทราบคือกลุมหลักทรัพย (portfolio) คืออัตราผลตอบแทนรวมของกลุมหลักทรัพย(portfolio) หลังจากลงทุนเปนเวลาหนึ่งป

R =

n∑i=1

αiRi

ซึ่งเปนตัวแปรสุมเพราะเปนฟงกชันของตัวแปรสุม

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 17 / 29

Page 18: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

รูปแสดงขอบเขตของคาคาดหมายและความแปรปรวนของกลุมหลักทรัพย(mean-variance frontier)

ยกตัวอยางกองทุนรวม 5 กองทุน ซึ่งประกอบไปดวย ABSM, 1AMSET50, BTP, CGLTF,ABAG และใชขอมูลอัตราผลตอบแทนรวมสุทธิตั้งแต11/9/2017 จนถึง 11/9/2018 และแสดงเปนกราฟความสัมพันธและจัดกลุมหลักทรัพยไดคือ

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 18 / 29

Page 19: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

โมเมนตและฟงกชันกอกำเนิดโมเมนต (Moments and MomentGenerating Function)

ที่ผานมา คุณสมบัติทั้งหมดของตัวแปรสุมในรูปของ ฟงกชันการแจกแจง (distributionfunction) ไมวาจะเปนในรูปของฟงกชันความหนาแนนของความนาจะเปน (p.d.f.) หรือฟงกชันความนาจะเปนสะสม (C.D.F.)“คาคาดหมาย (expectation)” เปนเครื่องมือที่ชวย “สรุปคุณสมบัติของการแจกแจง”ใหเขาใจไดงายและสะดวกมากยิ่งขึ้น แต คาคาดหมาย (expectation) อันเดียว “ไมสามารถบงบอก” ถึงคุณสมบัติของการแจกแจงไดครบถวนหากรวบรวมเอาคาคาดหมายของฟงกชันยกกำลังของตัวแปรสุมสำหรับทุกๆ คายกกำลังที่เปนจำนวนเต็มบวกแลวก็จะไดคุณสมบัติที่ครบถวนตามที่ตองการ นักสถิติมักเรียกคาคาดหมายของฟงกชันยกกำลังของตัวแปรสุมวา คาโมเมนต (moment)

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 19 / 29

Page 20: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

โมเมนตและฟงกชันกอกำเนิดโมเมนต (Moments and MomentGenerating Function)

ที่สำคัญเราสามารถรวบรวมเอาคาโมเมนตทั้งหมดนั้นมาไวดวยกันในรูปของฟงกชัน โดยเรียกฟงกชันนี้วา ฟงกชันกอกำเนิดโมเมนต (moment generating function หรือm.g.f.)การแจกแจงอันใดอันหนึ่ง มีฟงกชันกอกำเนิดโมเมนต (m.g.f.) ไดเพียงอันเดียว(unique)โมเมนต (moment) ที่ k ของ X คือคาคาดหมายของ Xk ซึ่งแทนดวย E

[Xk]

I µ = E [X] แทนคาคาดหมายของ X

สวน E[(X− µ)k

]นั้นจะถูกเรียกวา โมเมนตศูนยกลาง (central moment) ที่ k ของ

XI โมเมนตศูนยกลางที่สองก็คือคาความแปรปรวน E

[(X− µ)

2]= Var(X)

I สวนโมเมนตศูนยกลางที่สามนั้นใชเพื่อบงบอกถึงความสมมาตร (symmetry) ของการแจกแจงซึ่งวัดดวยคาสถิติที่เรียกวาความเบ (skewness) ซึ่งนิยามไดเปน E[(X−µ)3]

σ3

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 20 / 29

Page 21: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: โมเมนตที่มีคาจำกัดทฤษฎีบทนี้แสดงวาหากโมเมนตที่ k มีคาจำกัด คาโมเมนตที่ต่ำกวานั้น (สำหรับ j < k) จะมีคาจำกัดเสมอ หมายความวาหากเราสามารถหาคาโมเมนตในอันดับที่สูงของการแจกแจงได เรายอมสามารถหาคาโมเมนตในอันดับที่ต่ำลงมาไดเสมอ

Theoremถา E [|X|k] <∞ สำหรับคาจำนวนเต็มบวก k แลว E [|X|j] <∞ สำหรับคาจำนวนเต็มบวก j ใดๆ ที่j < k

Proof.กำหนดให j และ k โดยที่ j < k

E[|X|j

]=

∫ ∞

−∞|x|jf (x) dx =

∫|x|≤1

|x|jf (x) dx +∫|x|>1

|x|jf (x) dx

≤∫|x|≤1

f (x) dx +∫|x|>1

|x|jf (x) dx ≤∫|x|≤1

f (x) dx +∫|x|>1

|x|kf (x) dx

≤∫|x|≤1

f (x) dx +∫|x|>1

|x|kf (x) dx +∫|x|≤1

|x|kf (x) dx

= Pr (|X| ≤ 1) + E[|X|k

]< ∞

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 21 / 29

Page 22: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

นิยาม: ฟงกชันกอกำเนิดโมเมนต (m.g.f.)Definitionกำหนดให X เปนตัวแปรสุม สำหรับคาจำนวนจริง t ใดๆ นิยามฟงกชันกอกำเนิดโมเมนต (m.g.f.) ของ Xเปน

ψ (t) = E[etX

](15)

ทฤษฎีบทนี้นำเสนอวิธีการคำนวณหาคาโมเมนตตางๆ จากฟงกชันกอกำเนิดโมเมนต (m.g.f.)

Theoremกำหนดให X เปนตัวแปรสุมที่ฟงกชันกอกำเนิดโมเมนต (m.g.f.) มีคาจำกัดทุกๆ คา t ที่อยูรอบๆ ศูนย (t insome open interval around zero) ดังนั้น สำหรับคาจำนวนเต็มบวก n ใดๆ โมเมนตที่ n ของ X มีคาเทากับอนุพันธลำดับที่ n ของฟงกชันกอกำเนิดโมเมนต (m.g.f.) ψ (t) ที่ t = 0 นั่นคือ

E [Xn] = ψn (0) (16)

โดยที่ ψn (0) หมายถึงอนุพันธลำดับที่ n ของฟงกชัน ψ (t) ที่ t = 0

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 22 / 29

Page 23: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ทฤษฎี: ฟงกชันกอกำเนิดโมเมนตของฟงกชันเชิงเสนของตัวแปรสุม

Theoremกำหนดให X เปนตัวแปรสุมที่ฟงกชันกอกำเนิดโมเมนต (m.g.f.) เทากับ ψx (t) และY = aX+ b สำหรับจำนวนจริง a และ b ใดๆ แลว ตัวแปรสุมที่ฟงกชันกอกำเนิดโมเมนต(m.g.f.) ของ Y เทากับ

ψy (t) = ebtψx (at) (17)

Proof.

ψy (t) = E[etY

]= E

[et(aX+b)

]= ebtE

[e(at)X

]= ebtψx (at)

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 23 / 29

Page 24: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ฟงกชันกอกำเนิดโมเมนต (m.g.f.) ของตัวแปรสุมที่เปนอิสระตอกัน(independent)

ทฤษฎีบทตอไปนี้แสดงถึงวิธีการหาฟงกชันกอกำเนิดโมเมนต (m.g.f.) ของตัวแปรสุมที่เกิดจากการบวกกันของตัวแปรสุมที่เปนอิสระตอกัน (independent)

Theoremสมมุติให X1, . . . , Xn เปนตัวแปรสุมที่เปนอิสระตอกัน (independent) ที่มีฟงกชันกอกำเนิดโมเมนต (m.g.f.) ของแตละตัวแปรเทากับ ψi (t) สำหรับ i = 1, . . . , n และกำหนดใหY =

∑ni=1 Xi ดังนั้น ฟงกชันกอกำเนิดโมเมนต (m.g.f.) ของ Y เทากับ

ψY (t) =n∏

i=1

ψi (t) (18)

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 24 / 29

Page 25: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

นิยาม: คามัธยฐาน (median)

นิยามของคามัธยฐาน (median) จำเปนตองกำหนดใหครอบคลุมทั้งกรณีของตัวแปรสุมตอเนื่องและไมตอเนื่อง ดังนี้

Definitionคามัธยฐาน (median) m ของการแจกแจงของตัวแปรสุม X ตองสอดคลองกับเงื่อนไขตอไปนี้

Pr (X ≤ m) ≥ 1

2และ Pr (X ≥ m) ≥ 1

2(19)

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 25 / 29

Page 26: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ตัวอยาง: ในกรณีที่มีคามัธยฐานคาเดียวและ มีคาที่ชัดเจน

ตัวอยางตอไปนี้ชวยใหเขาใจนิยามของคามัธยฐาน (median) ไดดียิ่งขึ้น

Exampleพิจารณาตัวแปรสุมไมตอเนื่อง X ที่มีการแจกแจงดังนี้

Pr (X = 1) = 0.2, Pr (X = 3) = 0.4, Pr (X = 5) = 0.1, Pr (X = 7) = 0.3

ในกรณีนี้ จะเห็นไดวาคามัธยฐาน m = 3 เพราะ

Pr (X ≤ 3) = 0.6 ≥ 0.5 และ Pr (X ≥ 3) = 0.8 ≥ 0.5

ยิ่งไปกวานั้น คาที่เปนไปไดของตัวแปรสุม X คาอื่นไมสามารถเปนคามัธยฐานได ดังนั้น m = 3จึงเปนคามัธยฐานเพียงคาเดียว (unique)

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 26 / 29

Page 27: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ตัวอยาง: ในกรณีที่มีคามัธยฐานคาเดียว แตมีคาอยูระหวางคาของตัวแปรสุม

Exampleพิจารณาตัวแปรสุมไมตอเนื่อง X ที่มีการแจกแจงตางออกไปจากตัวอยางกอนหนานี้เล็กนอย

Pr (X = 1) = 0.1, Pr (X = 3) = 0.4, Pr (X = 5) = 0.2, Pr (X = 7) = 0.3

ซึ่งจะเห็นไดวา

Pr (X ≤ 3) = 0.5 และ Pr (X ≥ 5) = 0.5

ดังนั้น คาจำนวนจริง m ที่อยูระหวางชวง 3 ≤ m ≤ 5 ลวนเปนคามัธยฐานทั้งสิ้นเพราะสอดคลองกับสมการที่ 19 กลาวคือ คามัธยฐานในกรณีนี้ไมมากกวาหนึ่งคา (not unique) ในทางปฏิบัติ จึงมักนิยมที่จะใชคากึ่งกลางของชวงดังกลาวแทนคามัธยฐาน ซึ่งในกรณีมีคาเทากับ 4

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 27 / 29

Page 28: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

ตัวอยาง: คามัธยฐานในกรณีที่มีคามัธยฐานมากกวาหนึ่งคา

กรณีที่มีคามัธยฐานมากกวาหนึ่งคาสามารถเกิดขึ้นกับการแจกแจงแบบตอเนื่องไดเชนกัน ดังแสดงในตัวอยางตอไปนี้Example

พิจารณาตัวแปรสุม X ที่มีการแจกแจงตอเนื่องและมีฟงกชันความหนาแนนของความนาจะเปน (p.d.f.) เทากับ

f (x) =

14

สำหรับ − 1 ≤ x ≤ 112, สำหรับ 3 ≤ x ≤ 4

0, สำหรับกรณีอื่น

สามารถใชคำนวณหาฟงกชันความนาจะเปนสะสม (C.D.F.) ไดเปน

F (x) =

0, สำหรับ − ∞ ≤ x ≤ −114

+ 14x, สำหรับ − 1 ≤ x ≤ 1

12, สำหรับ 1 ≤ x ≤ 3

−1 + 12x, สำหรับ 3 ≤ x ≤ 4

1, สำหรับ 4 ≤ x ≤ ∞

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 28 / 29

Page 29: Covariance, Correlation, and Momentsriped.utcc.ac.th/tee/wp-content/uploads/sites/3/2019/09/... · 2019. 9. 18. · Covariance, Correlation, and Moments รศ.ดร. วีระชาติ

กราฟแสดงคามัธยฐานในกรณีที่มีคามัธยฐานมากกวาหนึ่งคาดูรูปประกอบ จะเห็นไดวา คาจำนวนจริง m ที่อยูระหวาง 1 ≤ m ≤ 3 ลวนแตมีผลทำใหPr (X ≤ m) ≥ 1

2 และ Pr (X ≥ m) ≥ 12 นั่นหมายความวา คาจำนวนจริงเหลานี้ลวน

เปนคามัธยฐานในทำนองเดียวกับตัวอยางกอนหนานี้ ในทางปฏิบัติมักนิยมที่จะใชคากึ่งกลางของชวงดังกลาวแทนคามัธยฐาน ซึ่งในกรณีมีคาเทากับ 2

รศ.ดร. วีระชาติ กิเลนทอง มหาวิทยาลัยหอการคาไทย Covariance, Correlation, and Moments 29 / 29