mÔ hÌnh hỒi quy tuyẾn tÍnh

29
MÔ HÌNH HỒI QUY TUYẾN TÍNH 1. MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN 2. MÔ HÌNH HỒI QUY TUYẾN TÍNH BỘI

Upload: mikko

Post on 16-Jan-2016

87 views

Category:

Documents


7 download

DESCRIPTION

MÔ HÌNH HỒI QUY TUYẾN TÍNH. MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN MÔ HÌNH HỒI QUY TUYẾN TÍNH BỘI. § 1. MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN. 1. Vấn đề mô hình hồi quy 2. Ước lượng hệ số hồi quy 3. Tính chất của ước lượng của các hệ số hồi quy 4. Kiểm định giả thuyết 5. Khoảng tin cậy - PowerPoint PPT Presentation

TRANSCRIPT

Page 1: MÔ HÌNH HỒI QUY TUYẾN TÍNH

MÔ HÌNH HỒI QUY TUYẾN TÍNH

1. MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN

2. MÔ HÌNH HỒI QUY TUYẾN TÍNH BỘI

Page 2: MÔ HÌNH HỒI QUY TUYẾN TÍNH

§ 1. MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN

• 1. Vấn đề mô hình hồi quy • 2. Ước lượng hệ số hồi quy • 3. Tính chất của ước lượng của các hệ số hồi

quy • 4. Kiểm định giả thuyết • 5. Khoảng tin cậy • 6. Tính phù hợp của mô hình • 7. Tuyến tính hóa một số mô hình

Page 3: MÔ HÌNH HỒI QUY TUYẾN TÍNH

1.1. Vấn đề mô hình hồi quy

E(Y | x) f (x) (1)

Y a bx (3)

Y f (x) (2)

§1. MH HÒI QUY TUYẾN TÍNH ĐƠN

a: Hệ số chặn,

b: Hệ số góc

MH tuyến tính

Page 4: MÔ HÌNH HỒI QUY TUYẾN TÍNH
Page 5: MÔ HÌNH HỒI QUY TUYẾN TÍNH

Dạng quan sát

1 1 1

n n n

y a bx

. . . . . . .

y a bx

1 1 n n(x , y ),..., (x , y ) ...

ˆˆy a bx :

MHHQthùc nghiÖm(läc)

Page 6: MÔ HÌNH HỒI QUY TUYẾN TÍNH

2. Ước lượng hệ số hồi quy • Tổng bình phương các độ lệch

• Trong đó

• Thể hiện chất lượng của xấp xỉ

n2

i ii 1

(a, b) (y (a bx )) min (5.1.5)

i i iy (ax b) n n

2 2i i i

i 1 i 1

(y (a bx ))

Page 7: MÔ HÌNH HỒI QUY TUYẾN TÍNH

0b

• Điều kiện cần của cực tiểu

a

XX

xy x.yb

S / n

ˆa y b x

n n

i ii 1 i 1

1 1x x ; y y ;

n n

ˆˆy a bx

Phương trình hồi quy thực nghiệm

n n2

i i XX ii 1 i 1

1xy x y ; S (x x)

n

Page 8: MÔ HÌNH HỒI QUY TUYẾN TÍNH
Page 9: MÔ HÌNH HỒI QUY TUYẾN TÍNH

3. Tính chất của ước lượng của các hệ số hồi quy

• đường hồi quy qua “trung tâm” số liệu.

• Giả thiết:

ˆˆy a bx : PTHQ

ˆˆy a bx :

thùc nghiÖm

Page 10: MÔ HÌNH HỒI QUY TUYẾN TÍNH
Page 11: MÔ HÌNH HỒI QUY TUYẾN TÍNH

4. Kiểm định giả thuyết• a) Sử dụng kiểm định T

0 00 b 2

2XX

ˆ ˆb b b bReject H if T t (n 2)

ˆse(b) ˆ / S

0 0 1 0H : b b / H : b b

0b 2

XX

b bT T(n 2)

ˆ / S

0 0 1b 0 H : b 0 / H : b 0 Đặc biệt

Nếu H0 không bị bác bỏ: ....., Mô hình không có ý nghĩa, ..., Xây dựng lại!

Page 12: MÔ HÌNH HỒI QUY TUYẾN TÍNH

• Tương tự

0

0 0a

222

XX

Reject H if

ˆ ˆa a a aT t (n 2)

ˆse(a) 1 xˆ

n S

0 0 1 0H : a a / H : a a

0a

2

XX

a aT T(n 2)

1 xˆ

n S

Page 13: MÔ HÌNH HỒI QUY TUYẾN TÍNH

b. Phân tích phương sai4. Kiểm định giả thuyết

a) Sử dụng kiểm định T

Bác bỏ GT b=0: Chấp nhận MH

2

2

(1)

(n 2)

F(1; n 2)

Page 14: MÔ HÌNH HỒI QUY TUYẾN TÍNH

• P giá trị lớn: Chấp nhận H0, tìm MH khác

Page 15: MÔ HÌNH HỒI QUY TUYẾN TÍNH

1.5. Khoảng tin cậy

• Hệ số góc b:

22

/2XX

1 xˆ ˆa t (n 2)

n S

2

/2XX

ˆb t (n 2)

S

1.4. Kiểm định GT

a) Khoảng tin cậy của các tham số

• Hệ số chặn a:

Page 16: MÔ HÌNH HỒI QUY TUYẾN TÍNH

1.4.Kiểm định GT

1.5. Khoảng tin cậy

b) Khoản tin cậy cho đáp ứng trung bình

Page 17: MÔ HÌNH HỒI QUY TUYẾN TÍNH

22 0

/2XX

0 0

(x x)1ˆt (n 2) 1 ,

n S

ˆˆy a bx .

1.4.Kiểm định GT

1.5. Khoảng tin cậy

c) Dự đoán quan sát tương lai =

Đáp ứng trung bình khi x = xo :

0ˆˆ ˆy a bx

Page 18: MÔ HÌNH HỒI QUY TUYẾN TÍNH

8070605040

27

25

23

21

19

17

• 1.4.Kiểm định GT

• 1.5. Khoảng tin cậy

Page 19: MÔ HÌNH HỒI QUY TUYẾN TÍNH

d) Lưu ý khi sử dụng MHHQ

• Trường hợp nội suy

• Trường hợp ngoại suy

1.4.Kiểm định GT

1.5. Khoảng tin cậy

Page 20: MÔ HÌNH HỒI QUY TUYẾN TÍNH

1.6. Tính phù hợp của mô hình

• a) Phân tích phần dư

• Phần dư chuẩn hóa

i i ie y y

2i i ˆd e / ,

Yêu cầu: * 95% các phần dư chuẩn hóa rơi vào khoảng (-2; 2) *Có dạng bình thường, tập trung “đều đặn” trong dải

(-2; 2) quanh trục hoành như dạng (a)

1.4.Kiểm định GT

1.5. Khoảng tin cậy

Page 21: MÔ HÌNH HỒI QUY TUYẾN TÍNH
Page 22: MÔ HÌNH HỒI QUY TUYẾN TÍNH

b) Hệ số xác định (coefficient of determination)

• Định nghĩa, tính chất, cách tính

2 R R E E E

T T T

2

2 2XY

SS (SS SS ) SS SSR 1

SS SS SS

0 R 1

R r

Page 23: MÔ HÌNH HỒI QUY TUYẾN TÍNH

• y: lực kéo

• X: độ dài của dây

• Y = ax + b + sai số

Page 24: MÔ HÌNH HỒI QUY TUYẾN TÍNH

• Phương trình hồi quy thực nghiệm• Y = 5.115+ 2.9027x

n n2 2 2R

i iT i 1 i 1

SSˆR (y y) / (y y) 0.964

SS

n2 2 2

i ii 1

1ˆ ˆ(y y ) 3.0934

n 2

Page 25: MÔ HÌNH HỒI QUY TUYẾN TÍNH

Phân tích phương sai

Page 26: MÔ HÌNH HỒI QUY TUYẾN TÍNH
Page 27: MÔ HÌNH HỒI QUY TUYẾN TÍNH

Tuyến tính hóa một số mô hình

Page 28: MÔ HÌNH HỒI QUY TUYẾN TÍNH

Sử dụng máy tính bỏ túi

Page 29: MÔ HÌNH HỒI QUY TUYẾN TÍNH