chapter 14 simple linear regression analysis - … simple linear... · 14.1簡單線性迴歸模式...

90
十四、簡單線性迴歸 分析 Chapter 14 Simple Linear Regression Analysis 6/1/2018 6:20:10 PM 1

Upload: phamduong

Post on 01-Sep-2018

245 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

十四、簡單線性迴歸分析

Chapter 14 Simple Linear

Regression Analysis

6/1/2018 6:20:10 PM 1

Page 2: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

學習目標

知識(認知)

• 可以清楚陳述簡單線

性迴歸分析的意涵。

• 可以清楚陳述在迴歸

分析中判定係數的意

涵。

• 可以說明各種狀況下

,顯著性檢定的程序

和標準。

• 評價各種情境下,簡

單線性迴歸分析的使

用價值。

技能

• 依循教學適當引導,

計算各種情境下的迴

歸係數與截距樣本統

計值。

• 依循教學適當引導,

能夠利用顯著性檢定

,提出統計推論。

• 綜合所學,能夠於實

務領域中,依據特定

情境的需求進行簡單

線性迴歸分析程序。

態度(情意)

• 意識到在日常生活或

未來工作環境中,簡

單線性迴歸分析的重

要性。

• 在各種情境下,依循

簡單線性迴歸分析的

程序,接受統計推論

所傳達的意涵。

6/1/2018 6:20:10 PM 2

Page 3: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

章節內容十四、簡單線性迴歸分析14.1簡單線性迴歸模式14.2最小平方法14.3判定係數14.4模式假設14.5顯著性檢定14.6運用迴歸方程式進行估算與預估14.7統計軟體迴歸運用

6/1/2018 6:20:11 PM 3

Page 4: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

學習內容不同迴歸模式的差異性運用最小平方法計算迴歸係數學習判定係數意涵與計算方式學習顯著性檢定程序運用迴歸方程式計算依變數預估平均值的信賴區間

運用迴歸方程式計算依變數預估值的信賴區間學習利用Excel軟體進行簡單線性迴歸分析

6/1/2018 6:20:11 PM 4

Page 5: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

學習建議

【開始上課】

下載PDF講

義預習

依據各單元

順序,瀏覽

數位教材內

針對數位教

材中練習題

目(牛刀小試)

演練

同步上課學

相關學習主

題討論學習評量

6/1/2018 6:20:11 PM 5

Page 6: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

迴歸分析的目的迴歸分析程序將欲預測的變數視為依變數,欲操作的變數視為自變數。迴歸分析的目的是期望瞭解自變數的數值或改變量對於依變數產生(影響程度)的數值或改變量。

簡單線性迴歸分析只有一個自變數和另一個依變數,兩者的關係趨近於比例關係。

多元迴歸分析迴歸程序有超過兩個(含兩個)自變數與一個依變數

多變量迴歸分析迴歸關係多個自變數預測數個依變數。

6/1/2018 6:20:11 PM 6

Page 7: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

相關分析與迴歸分析相關分析(correlation analysis)敘述兩變數之間關係之方向和關係之強度(程度之大小)的統計方法,兩個變數之間皆是屬於隨機變數。

迴歸分析(regression analysis)欲分析一個或一個以上自變數與依變數之間的影響程度,期望藉由瞭解自變數對依變數的影響程度,而達到預測依變數的目的。

6/1/2018 6:20:11 PM 7

Page 8: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

提示舊經驗:激發學習動機

餐廳或

旅館經

抽樣調

查產品

品質、

服務品

質、消

費者滿

意度

再次消

費意願

運用特

定變數

預測目

標變數

的能力

信賴水

準(推

論成功

機率)

簡單線

性迴歸

分析

採取因

應作為

6/1/2018 6:20:11 PM 8

Page 9: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

14.1簡單線性迴歸模式

6/1/2018 6:20:11 PM 9

自變數與依變數之間的關係

正向

關係

負向

關係

沒有

關係

自變數與依變數之間的關係

線性(linear)

非線性(nonlinear)

自變數 依變數

簡單線性迴歸模式是探討一個自變數和另一個依變數之間關係的統計法。

Page 10: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

確定性數學模式設自變數為X,例如餐廳的行銷費用;依變數為

Y,例如餐廳的營業額,兩者的關係為直線關係,表示為確定性數學模式(deterministic model):

yi = β0 + β1 × xi,其中i = 1, …, n代表依變數Y僅受到自變數X的影響,不受其他因素影響。

只要確定自變數X數值,即可獲得依變數Y數值,自變數X與依變數Y之間有一對一的對應數值。

實務面:營業額還是會受到其他因素的影響,如競爭對手的行銷費用、競爭對手的強弱、餐廳所在位置、餐廳目標消費者、…等因素。

6/1/2018 6:20:11 PM 10

理想型態

Page 11: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

簡單線性迴歸模式考慮上述其他隨機因素後,可將確定模式修正為機率模式、迴歸模式或簡單線性迴歸模式:

yi = β0 + β1 × xi + εi,其中i = 1,…, nyi = 依變數第i個觀測值的實際觀測值xi = 自變數第i個觀測值β0 = 迴歸模式的參數,截距、常數項。數值可能範圍-∞~+∞。

β1 = 迴歸模式的參數,迴歸係數或斜率。數值可能範圍-∞~+∞。

εi = 第i個觀測值的隨機變數,屬於隨機誤差,讀音epsilon。

n = 觀測值數量

6/1/2018 6:20:11 PM 11

Page 12: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

簡單線性迴歸方程式簡單線性迴歸方程式中,假設誤差項εi的平均值或期望值為0。迴歸模式中依變數y的期望值E(yi) = β0 + β1 × xi,故依變數Y的期望值與自變數X屬於線性關係。

敘述依變數Y的期望值E(yi)與自變數X關係的方程式,稱為迴歸方程式或預測方程式。

簡單線性迴歸方程式E(yi) = β0 + β1 × xi,其中i = 1,…, n若上述迴歸方程式中參數β0和β1值已知時,可利用已知的自變數xi計算獲得依變數yi。實際上參數β0和β1值未知,必須利用樣本資料進行估算。

假設利用樣本統計值b0和b1作為迴歸參數β0和β1值的估計值,可獲得估計迴歸方程式。

6/1/2018 6:20:11 PM 12

Page 13: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

估計迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi,其中i = 1,…, n

ො𝑦𝑖 = 在自變數為xi時依變數yi的估計值xi = 自變數第i個觀測值b0 = 迴歸模式E(yi) = β0 + β1 × xi中,參數β0的估計值。

數值可能範圍-∞~+∞。

b1 = 迴歸模式E(yi) = β0 + β1 × xi中,參數β1的估計值。數值可能範圍-∞~+∞。

樣本統計值b0和b1(估計值)估算法最小平方法最大概似估計法

6/1/2018 6:20:11 PM 13

Page 14: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

迴歸模式與方程式模式 方程式

確定性數學模式 yi = β0 + β1 × xi

簡單線性迴歸模式 yi = β0 + β1 × xi + εi

簡單線性迴歸方程式 E(yi) = β0 + β1 × xi

估計迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi

6/1/2018 6:20:11 PM 14

Page 15: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_1

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習5 分鐘內完

成)

6/1/2018 6:20:11 PM 15

Page 16: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

14.2最小平方法利用樣本資料中自變數xi和依變數yi的對應數值,並使用自變數xi、截距b0和斜率b1推算依變數yi

的估計值 ො𝑦𝑖,使得依變數yi和其估計值 ො𝑦𝑖的差(距)

之平方和(sum square error, SSE)為最小數值,此為最小平方法的特性。

Min SSE = min σ𝑖=1𝑛 𝑦𝑖 − ො𝑦𝑖

2 = min σ𝑖=1𝑛 ሺ𝑦𝑖 −

6/1/2018 6:20:11 PM 16

Page 17: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

斜率和截距計算公式利用微分方式獲得估計迴歸方程式【 ො𝑦𝑖 = b0 + b1

× xi,其中i = 1,…, n】的斜率b1和截距b0

斜 率 b1 =σ𝑖=1𝑛 𝑥𝑖×𝑦𝑖 −

σ𝑖=1𝑛 𝑥𝑖×σ𝑖=1

𝑛 𝑦𝑖𝑛

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

=

𝑛×σ𝑖=1𝑛 𝑥𝑖×𝑦𝑖 −σ𝑖=1

𝑛 𝑥𝑖×σ𝑖=1𝑛 𝑦𝑖

𝑛×σ𝑖=1𝑛 𝑥𝑖

2− σ𝑖=1𝑛 𝑥𝑖

2 =σ𝑖=1𝑛 𝑥𝑖− ҧ𝑥 × 𝑦𝑖−ത𝑦

σ𝑖=1𝑛 𝑥𝑖− ҧ𝑥 2 =

σ𝑖=1𝑛 𝑥𝑖−ഥ𝑥 × 𝑦𝑖−ഥ𝑦

𝑛−1

σ𝑖=1𝑛 𝑥𝑖−ഥ𝑥

2

𝑛−1

=𝑆𝑥𝑦

𝑆𝑥2 =

自變數與依變數之共變異數自變數之變異數

截距b0 = ത𝑦 – b1 × ҧ𝑥 =σ𝑖=1𝑛 𝑦𝑖×σ𝑖=1

𝑛 𝑥𝑖2−σ𝑖=1

𝑛 𝑥𝑖×σ𝑖=1𝑛 𝑥𝑖×𝑦𝑖

𝑛×σ𝑖=1𝑛 𝑥𝑖

2− σ𝑖=1𝑛 𝑥𝑖

2

6/1/2018 6:20:11 PM 17

Page 18: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

最小平方法估算的特徵(1/2)A.估計簡單線性迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi直線會通過自變數和依變數樣本平均值點( ҧ𝑥,ത𝑦)。

6/1/2018 6:20:11 PM 18

x

y

x

y

ii xy × b + b = ˆ10

Page 19: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

最小平方法估算的特徵(2/2)B.樣本殘差(εi = yi – ො𝑦𝑖 )和為0。σ𝑖=1

𝑛 𝑦𝑖 − ො𝑦𝑖 =σ𝑖=1𝑛 𝑦𝑖 − 𝑏0 − 𝑏1 × 𝑥𝑖 = σ𝑖=1

𝑛 ε𝑖= 0。樣本殘差的期望值亦等於0,E(εi) = 0。

C.樣本殘差εi與自變數xi的共變數為0,樣本殘差和自變數x無線性關係。Cov(xi,εi) = 0 = E(𝑥𝑖 × ε𝑖) - E(𝑥𝑖) × E(ε𝑖) = E(𝑥𝑖 × ε𝑖) -

E( 𝑥𝑖 ) × 0 = E( 𝑥𝑖 × ε𝑖 ),故,E( 𝑥𝑖 × ε𝑖 ) = 0和σ𝑖=1𝑛 𝑥𝑖 × ε𝑖 = 0亦成立。

D.樣本殘差εi與依變數預估值 ො𝑦𝑖的共變數為0,樣本殘差εi與依變數預估值 ො𝑦𝑖無線性關係。Cov( ො𝑦𝑖,εi) = 0 = E( ො𝑦𝑖 × ε𝑖) - E( ො𝑦𝑖) × E(ε𝑖) = E( ො𝑦𝑖 × ε𝑖) -

E( ො𝑦𝑖 ) × 0 = E( ො𝑦𝑖 × ε𝑖 ),故,E( ො𝑦𝑖 × ε𝑖 ) = 0和σ𝑖=1𝑛 ො𝑦𝑖 × ε𝑖 = 0亦成立。

6/1/2018 6:20:11 PM 19

Page 20: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

最小平方法運算範例(1/4)範例14.1 天空連鎖餐廳有10個營業點,每個營業點前一日行銷費用和前一日販售套餐數樣本資料依序列於下表。欲運用行銷費用xi預測販售套餐數量yi,而建立估計迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi。請利用最小平方法計算出估計簡單線性迴歸方程式的統計值:斜率與截距。

6/1/2018 6:20:11 PM 20

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

Page 21: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

最小平方法運算範例(2/4)範例14.1 天空連鎖餐廳有10個營業點,每個營業點前一日行銷費用和前一日販售套餐數樣本資料依序列於下表。欲運用行銷費用xi預測販售套餐數量yi,而建立估計迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi。請利用最小平方法計算出估計簡單線性迴歸方程式的統計值:斜率與截距。

6/1/2018 6:20:11 PM 21

題解:營業點i 行銷費用xi 套餐數yi xi×yi 𝑥𝑖

2 xi– ҧ𝑥 yi–ത𝑦 (xi– ҧ𝑥)2 (xi– ҧ𝑥)×(yi–ത𝑦)

1 150 156 23400 22500 -33 -41.2 1089 1359.6

2 160 180 28800 25600 -23 -17.2 529 395.6

3 180 190 34200 32400 -3 -7.2 9 21.6

4 160 170 27200 25600 -23 -27.2 529 625.6

5 190 198 37620 36100 7 0.8 49 5.6

6 210 250 52500 44100 27 52.8 729 1425.6

7 180 189 34020 32400 -3 -8.2 9 24.6

8 160 168 26880 25600 -23 -29.2 529 671.6

9 180 191 34380 32400 -3 -6.2 9 18.6

10 260 280 72800 67600 77 82.8 5929 6375.6

合計 1830 1972 371800 344300 0 0.0 9410 10924

平均值 183 197.2 37180 34430 0 0.0 941 1092.4

Page 22: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

最小平方法運算範例(3/4)範例14.1 天空連鎖餐廳有10個營業點,每個營業點前一日行銷費用和前一日販售套餐數樣本資料依序列於下表。欲運用行銷費用xi預測販售套餐數量yi,而建立估計迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi。請利用最小平方法計算出估計簡單線性迴歸方程式的統計值:斜率與截距。

6/1/2018 6:20:11 PM 22

題解:營業點i 行銷費用xi 套餐數yi xi×yi 𝑥𝑖

2 xi– ҧ𝑥 yi–ത𝑦 (xi– ҧ𝑥)2 (xi– ҧ𝑥)×(yi–ത𝑦)

1 150 156 23400 22500 -33 -41.2 1089 1359.6

2 160 180 28800 25600 -23 -17.2 529 395.6

3 180 190 34200 32400 -3 -7.2 9 21.6

4 160 170 27200 25600 -23 -27.2 529 625.6

5 190 198 37620 36100 7 0.8 49 5.6

6 210 250 52500 44100 27 52.8 729 1425.6

7 180 189 34020 32400 -3 -8.2 9 24.6

8 160 168 26880 25600 -23 -29.2 529 671.6

9 180 191 34380 32400 -3 -6.2 9 18.6

10 260 280 72800 67600 77 82.8 5929 6375.6

合計 1830 1972 371800 344300 0 0.0 9410 10924

平均值 183 197.2 37180 34430 0 0.0 941 1092.4

斜率b1 =σ𝑖=1𝑛 𝑥𝑖×𝑦𝑖 −

σ𝑖=1𝑛 𝑥𝑖×σ𝑖=1

𝑛 𝑦𝑖𝑛

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

=371800−

1830×1972

10

344300−18302

10

=371800−360876

344300−334890=

10924

9410= 1.1609第一種公式計算方法

斜率b1 =σ𝑖=1𝑛 𝑥𝑖− ҧ𝑥 × 𝑦𝑖− ത𝑦

σ𝑖=1𝑛 𝑥𝑖− ҧ𝑥 2 =

10924

9410= 1.1609第二種公式計算方法

Page 23: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

最小平方法運算範例(4/4)範例14.1 天空連鎖餐廳有10個營業點,每個營業點前一日行銷費用和前一日販售套餐數樣本資料依序列於下表。欲運用行銷費用xi預測販售套餐數量yi,而建立估計迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi。請利用最小平方法計算出估計簡單線性迴歸方程式的統計值:斜率與截距。

6/1/2018 6:20:11 PM 23

截距b0 = ത𝑦 – b1× ҧ𝑥 = 197.2 – 1.1609×183 = 197.2 – 212.4433 = –

15.2433

行銷費用對銷售套餐數量的估計迴歸方程式 ො𝑦𝑖 = b0 + b1×xi = –

15.2433 + 1.1609×xi

答案:斜率b1 = 1.1609;截距b0 = –15.2433

Page 24: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_2

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:11 PM 25

Page 25: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

14.3判定係數估計迴歸方程式之適合度的測量值。依變數Y總變異中,可以由自變數X之變異解釋的部分。

透過樣本資料估算獲得估計迴歸方程式的斜率b1

和截距b0,在第i個樣本資料中,依變數的實際觀測值yi和估計值ෝ𝑦𝑖之間的差距,稱為第i項殘差 εi

。代表實際觀測值yi與預估值ෝ𝑦𝑖之間的誤差量。

最小平方法中期望獲得殘差值之平方和是最小數值者,此數值屬於誤差項平方和(sum of squaresdue to error, SSE)、不可解釋的變異或隨機變異。SSE = σ𝑖=1

𝑛 𝑦𝑖 − ො𝑦𝑖2 = σ𝑖=1

𝑛 𝑦𝑖 − 𝑏0 − 𝑏1 × 𝑥𝑖2 =

σ𝑖=1𝑛 𝑦𝑖

2 – b0×σ𝑖=1𝑛 𝑦𝑖 – b1×σ𝑖=1

𝑛 𝑥𝑖 × 𝑦𝑖6/1/2018 6:20:11 PM 26

Page 26: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

總平方和與迴歸項平方和假設在未知母體總數N時,欲估計依變數yi。若沒有其他資料時,使用依變數yi的樣本平均值 ത𝑦作為第i項(任何)依變數yi的估計值。yi – ത𝑦的差距,即是使用樣本平均值ത𝑦作為第i項(任何)

依變數yi的估計值,所產生的差距。其對應的平方和稱為總平方和或總變異(sum of squares total, SST)。SST = σ𝑖=1

𝑛 𝑦𝑖 − ത𝑦 2

為評量迴歸所產生依變數估計值 ො𝑦𝑖和樣本平均值 ത𝑦之間的差距 ො𝑦𝑖 – ത𝑦,其對應的平方和稱為迴歸造成的平方和(sum of squares due to regression, SSR)或可解釋的變異。SSR = σ𝑖=1

𝑛 ො𝑦𝑖 − ത𝑦 2

6/1/2018 6:20:11 PM 27

Page 27: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

依變數的總差異與總變異依變數yi的總差異yi – ത𝑦yi – ത𝑦 = ො𝑦𝑖 – ത𝑦 + yi – ො𝑦𝑖總差異 = 迴歸差異(可解釋的差異) + 誤差差異(誤差差異、不可解釋的差異)

依變數yi的總變異σ𝑖=1𝑛 𝑦𝑖 − ത𝑦 2

σ𝑖=1𝑛 𝑦𝑖 − ത𝑦 2 = σ𝑖=1

𝑛 ො𝑦𝑖 − ത𝑦 2 + σ𝑖=1𝑛 𝑦𝑖 − ො𝑦𝑖

2

總平方和(總變異) = 迴歸造成的平方和(迴歸項平方和、可解釋的變異) + 誤差造成的平方和(誤差項平方和、不可解釋的變異、隨機變異)

SST = SSR + SSE

6/1/2018 6:20:11 PM 28

Page 28: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

判定係數判定係數即是迴歸造成的平方和(迴歸項平方和、可解釋的變異)佔總平方和(總變異)的比例,常使用R2或r2符號代表。R2數值範圍0~1,愈靠近1迴歸方程式的適配度愈高。

R2 =SSR

SST=

σ𝑖=1𝑛 ො𝑦𝑖−ത𝑦 2

σ𝑖=1𝑛 𝑦𝑖−ത𝑦 2

判定係數可以評量迴歸方程式的適配度,亦可評量迴歸方程式的解釋能力。

SST和SSR計算公式

SST = σ𝑖=1𝑛 𝑦𝑖 − ത𝑦 2 = σ𝑖=1

𝑛 𝑦𝑖2 –

σ𝑖=1𝑛 𝑦𝑖

2

𝑛

SSR = σ𝑖=1𝑛 ො𝑦𝑖 − ത𝑦 2 =

σ𝑖=1𝑛 𝑥𝑖×𝑦𝑖 −

σ𝑖=1𝑛 𝑥𝑖×σ𝑖=1

𝑛 𝑦𝑖𝑛

2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

6/1/2018 6:20:11 PM 29

Page 29: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

判定係數運算範例(1/5)範例14.4 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。請計算出估計簡單線性迴歸方程式的判定係數R2。

6/1/2018 6:20:11 PM 30

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

Page 30: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

判定係數運算範例(2/5)範例14.4 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。請計算出估計簡單線性迴歸方程式的判定係數R2。

6/1/2018 6:20:11 PM 31

題解:行銷費用對銷售套餐數量的迴歸方程式 ො𝑦𝑖 = b0 +

b1×xi = –15.2433 + 1.1609×xi營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)

2 yi–ത𝑦 (yi–ത𝑦)2 𝑦𝑖2 xi×yi

1 150 156 158.89 -2.89 8.36 -41.20 1697.44 24336 23400

2 160 180 170.50 9.50 90.24 -17.20 295.84 32400 28800

3 180 190 193.72 -3.72 13.83 -7.20 51.84 36100 34200

4 160 170 170.50 -0.50 0.25 -27.20 739.84 28900 27200

5 190 198 205.33 -7.33 53.70 0.80 0.64 39204 37620

6 210 250 228.55 21.45 460.29 52.80 2787.84 62500 52500

7 180 189 193.72 -4.72 22.27 -8.20 67.24 35721 34020

8 160 168 170.50 -2.50 6.25 -29.20 852.64 28224 26880

9 180 191 193.72 -2.72 7.39 -6.20 38.44 36481 34380

10 260 280 286.59 -6.59 43.44 82.80 6855.84 78400 72800

合計 1830 1972 1972.01 -0.01 706.01 0.00 13387.60 402266 371800

平均值 183 197.2

Page 31: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

判定係數運算範例(3/5)範例14.4 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。請計算出估計簡單線性迴歸方程式的判定係數R2。

6/1/2018 6:20:11 PM 32

題解:行銷費用對銷售套餐數量的迴歸方程式 ො𝑦𝑖 = b0 +

b1×xi = –15.2433 + 1.1609×xi營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)

2 yi–ത𝑦 (yi–ത𝑦)2 𝑦𝑖2 xi×yi

1 150 156 158.89 -2.89 8.36 -41.20 1697.44 24336 23400

2 160 180 170.50 9.50 90.24 -17.20 295.84 32400 28800

3 180 190 193.72 -3.72 13.83 -7.20 51.84 36100 34200

4 160 170 170.50 -0.50 0.25 -27.20 739.84 28900 27200

5 190 198 205.33 -7.33 53.70 0.80 0.64 39204 37620

6 210 250 228.55 21.45 460.29 52.80 2787.84 62500 52500

7 180 189 193.72 -4.72 22.27 -8.20 67.24 35721 34020

8 160 168 170.50 -2.50 6.25 -29.20 852.64 28224 26880

9 180 191 193.72 -2.72 7.39 -6.20 38.44 36481 34380

10 260 280 286.59 -6.59 43.44 82.80 6855.84 78400 72800

合計 1830 1972 1972.01 -0.01 706.01 0.00 13387.60 402266 371800

平均值 183 197.2

SSE = σ𝑖=1𝑛 𝑦𝑖

2 – b0×σ𝑖=1𝑛 𝑦𝑖 – b1×σ𝑖=1

𝑛 𝑥𝑖 × 𝑦𝑖 = 402266 +

15.2434 × 1972 – 1.1609 × 371800 = 706.0085 (第一種算法)

SSE = σ𝑖=1𝑛 𝑦𝑖 − ො𝑦𝑖

2 = 706.01 (第二種算法)

SST = σ𝑖=1𝑛 𝑦𝑖 − ത𝑦 2 = 13387.60

SSR = σ𝑖=1𝑛 ො𝑦𝑖 − ത𝑦 2 = SST – SSE = 13387.60 – 706.01 = 12681.59

R2 = SSR

SST= 12681.59

13387.60= 0.9473

Page 32: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

判定係數運算範例(4/5)範例14.4 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。請計算出估計簡單線性迴歸方程式的判定係數R2。

6/1/2018 6:20:11 PM 33

題解:行銷費用對銷售套餐數量的迴歸方程式 ො𝑦𝑖 = b0 +

b1×xi = –15.2433 + 1.1609×xi

(B)依據SST和SSR公式的計算方式營業點i 行銷費用xi 套餐數yi 𝑦𝑖

2 xi×yi 𝑥𝑖2

1 150 156 24336 23400 22500

2 160 180 32400 28800 25600

3 180 190 36100 34200 32400

4 160 170 28900 27200 25600

5 190 198 39204 37620 36100

6 210 250 62500 52500 44100

7 180 189 35721 34020 32400

8 160 168 28224 26880 25600

9 180 191 36481 34380 32400

10 260 280 78400 72800 67600

合計 1830 1972 402266 371800 344300

平均值 183 197.2

Page 33: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

判定係數運算範例(5/5)範例14.4 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。請計算出估計簡單線性迴歸方程式的判定係數R2。

6/1/2018 6:20:11 PM 34

題解:行銷費用對銷售套餐數量的迴歸方程式 ො𝑦𝑖 = b0 +

b1×xi = –15.2433 + 1.1609×xi

(B)依據SST和SSR公式的計算方式營業點i 行銷費用xi 套餐數yi 𝑦𝑖

2 xi×yi 𝑥𝑖2

1 150 156 24336 23400 22500

2 160 180 32400 28800 25600

3 180 190 36100 34200 32400

4 160 170 28900 27200 25600

5 190 198 39204 37620 36100

6 210 250 62500 52500 44100

7 180 189 35721 34020 32400

8 160 168 28224 26880 25600

9 180 191 36481 34380 32400

10 260 280 78400 72800 67600

合計 1830 1972 402266 371800 344300

平均值 183 197.2

SST = σ𝑖=1𝑛 𝑦𝑖

2 –σ𝑖=1𝑛 𝑦𝑖

2

𝑛= 402266 –

19722

10= 402266 – 388878.4 = 13387.6

SSR =σ𝑖=1𝑛 𝑥𝑖×𝑦𝑖 −

σ𝑖=1𝑛 𝑥𝑖×σ𝑖=1

𝑛 𝑦𝑖𝑛

2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

=371800−

1830×1972

10

2

344300−18302

10

=371800−360876 2

344300−334890=

109242

9410=119333776

9410= 12681.59

判定係數R2 = SSR

SST= 12681.59

13387.6= 0.9473 答案:判定係數R2 = 0.9473

Page 34: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_3

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:11 PM 36

Page 35: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

相關係數當兩個隨機變數的關係屬於不獨立時,並呈現線性相關,表達正負向關係和關係強弱者,即為相關係數。

樣本相關係數Rxy

Rxy = (b1的正負符號) × 判定係數 = (b1的正負符號) ×𝑅2

Rxy =𝑐𝑜𝑣ሺ𝑥,y)

𝑆𝑥×𝑆𝑦=

𝑆𝑥𝑦

𝑆𝑥×𝑆𝑦=

σ𝑖=1𝑛 𝑥𝑖−ഥ𝑥 × 𝑦𝑖−ഥ𝑦

𝑛−1

σ𝑖=1𝑛 𝑥𝑖−ഥ𝑥

2

𝑛−1×

σ𝑖=1𝑛 𝑦𝑖−ഥ𝑦

2

𝑛−1

=

σ𝑖=1𝑛 𝑥𝑖− ҧ𝑥 × 𝑦𝑖−ത𝑦

σ𝑖=1𝑛 𝑥𝑖− ҧ𝑥 2× σ𝑖=1

𝑛 𝑦𝑖−ത𝑦 2=

σ𝑖=1𝑛 𝑥𝑖×𝑦𝑖−

σ𝑖𝑛 𝑥𝑖×σ𝑖

𝑛 𝑦𝑖𝑛

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛× σ𝑖=1

𝑛 𝑦𝑖2−

σ𝑖=1𝑛 𝑦𝑖

2

𝑛b1 = 迴歸模式E(yi) = β0 + β1×xi中參數β1的估計值。R2 = 判定係數。數值範圍0~1。

6/1/2018 6:20:11 PM 37

Page 36: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

相關係數運算範例

6/1/2018 6:20:11 PM 38

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

題解:依據判定係數定義的計算方式營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi – ො𝑦𝑖 (yi – ො𝑦𝑖)

2 yi – ത𝑦 (yi – ത𝑦)2

1 150 156 158.89 -2.89 8.36 -41.20 1697.44

2 160 180 170.50 9.50 90.24 -17.20 295.84

3 180 190 193.72 -3.72 13.83 -7.20 51.84

4 160 170 170.50 -0.50 0.25 -27.20 739.84

5 190 198 205.33 -7.33 53.70 0.80 0.64

6 210 250 228.55 21.45 460.29 52.80 2787.84

7 180 189 193.72 -4.72 22.27 -8.20 67.24

8 160 168 170.50 -2.50 6.25 -29.20 852.64

9 180 191 193.72 -2.72 7.39 -6.20 38.44

10 260 280 286.59 -6.59 43.44 82.80 6855.84

合計 1830 1972 1972.01 -0.01 706.01 0.00 13387.60

平均值 183 197.2

行銷費用對銷售套餐數量的迴歸方程式 ො𝑦𝑖 = b0 + b1 × xi = -15.2433 +

1.1609×xi

SSE = σ𝑖=1𝑛 𝑦𝑖 − ො𝑦𝑖

2 = 706.01 SST = σ𝑖=1𝑛 𝑦𝑖 − ത𝑦 2 = 13387.60

SSR = σ𝑖=1𝑛 ො𝑦𝑖 − ത𝑦 2 = SST – SSE = 13387.60 – 706.01 = 12681.59

判定係數R2 =SSR

SST=12681.59

13387.60= 0.9473

迴歸方程式中b1屬於正值故在相關係數中為+

Rxy = (b1的正負符號)× 𝑅2 = + 0.9473 = 0.9733

答案:相關係數Rxy = 0.9733

範例14.5 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。請計算出估計簡單線性迴歸方程式的相關係數Rxy。

Page 37: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

相關係數與判定係數判定係數(coefficient of determination)數值範圍0~1。可以使用於線性關係、非線性關係或兩個以上自(獨立)變數的關係。

判定係數運用範圍比較大。

相關係數(correlation coefficient)數值範圍–1~+1。運用上僅限定於兩個變數之間屬於線性關係者

6/1/2018 6:20:11 PM 40

Page 38: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_4

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:11 PM 41

Page 39: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

14.4模式假設簡單線性迴歸分析的機率模式或迴歸模式:yi = β0 + β1×xi + εi,其中 i = 1, …, n

yi = 依變數Y第i個觀測值的實際觀測值xi = 自變數X第i個觀測值β0 = 迴歸模式的參數,截距或常數項。

數值可能範圍-∞~+∞。

β1 = 迴歸模式的參數,迴歸係數或斜率。數值可能範圍-∞~+∞。

εi = 第i個觀測值的隨機變數,屬於隨機誤差,讀音epsilon

。n = 觀測值數量

6/1/2018 6:20:11 PM 42

Page 40: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

樣本迴歸方程式 ො𝑦𝑖 = b0 + b1×xi,其中i = 1, …, n ො𝑦𝑖 = 在自變數為xi時依變數yi的估計值xi = 自變數X第i個觀測值b0 = 迴歸模式E(yi) = β0 + β1×xi參數β0的估計值,截距、常數項。數值可能範圍-∞~+∞。

b1 = 迴歸模式E(yi) = β0 + β1×xi參數β1的估計值,迴歸係數或斜率。數值可能範圍-∞~+∞。

6/1/2018 6:20:11 PM 43

Page 41: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

顯著性檢定的必要性

6/1/2018 6:20:11 PM 44

利用判定係數(R2)估計迴歸方程式之適合度,其必須先經過顯著性檢定(斜率β1是否等於0的假設檢定)。顯著性檢定達顯著水準判定係數R2數值高低才具有代表性意義

顯著性檢定未達顯著性水準判定係數R2數值高低不具任何意義

Page 42: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

殘差項的假設條件迴歸分析之顯著性檢定必須依據下列誤差項或殘差項εi的假設條件。

A.各觀測點之誤差項εi的平均值或期望值為0。

ҧ𝜀𝑖 = E(εi) = 0。

B.各觀測點之誤差項εi之間相互獨立。

Cov(εi,εj) = 0 at i ≠ j, i, j = 1,…, n。任何兩個誤差項不相關。

C.各觀測點之誤差項εi之變異數σ2皆相等。

V(εi) = σ2。殘差項之變異數具有均一性(齊一性)。

D.各觀測點之誤差項εi屬於常態分布,εi~N(0,σ2)。

6/1/2018 6:20:11 PM 45

Page 43: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

14.5顯著性檢定E(yi) = β0 + β1×xi

斜率β1等於0依變數E(yi)和自變數xi之間沒有關係存在

斜率β1不等於0依變數E(yi)和自變數xi之間有相關性存在。

檢定依變數E(yi)和自變數xi之間的迴歸關係,必須進行斜率β1是否等於0的假設檢定,此稱為顯著性檢定。

斜率β1是否等於0的假設檢定,可以利用t值檢定和F值檢定。進行斜率β1是否等於0的假設檢定前,需要先估計迴歸模式中誤差項或殘差項εi的變異數σ2。

6/1/2018 6:20:11 PM 46

Page 44: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

誤差項的變異數估算自變數xi與依變數yi的迴歸模式yi = β0 + β1×xi + εi中顯示,誤差項εi的變異數σ2即是依變數yi在迴歸模式的變異數。

誤差均方(mean square error, MSE)則為誤差項εi之變異數σ2的估計值(可表示為S2),可由殘差平方和(sumsquare error, SSE)除以其自由度獲得。計算殘差平方和時,需先估算迴歸模式的兩個參數(β0和

β1),殘差平方和的自由度為n – 2。

MSE = S2 =𝑆𝑆𝐸

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖−ො𝑦𝑖

2

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖−𝑏0−𝑏1×𝑥𝑖

2

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖

2 – b0×σ𝑖=1𝑛 𝑦𝑖 – b1×σ𝑖=1

𝑛 𝑥𝑖×𝑦𝑖

𝑛−2誤差項εi之標準差σ的估計值S稱為估計值的標準差

S = MSE = 𝑆2 =𝑆𝑆𝐸

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖−ො𝑦𝑖

2

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖−𝑏0−𝑏1×𝑥𝑖

2

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖

2 – b0×σ𝑖=1𝑛 𝑦𝑖 – b1×σ𝑖=1

𝑛 𝑥𝑖×𝑦𝑖

𝑛−2

6/1/2018 6:20:11 PM 47

Page 45: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

誤差項之變異數估計值運算範例(1/3)範例14.7 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。試利用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×x1i + εi

。請計算估計簡單線性迴歸方程式誤差項εi之變異數σ2

和標準差σ的估計值。

6/1/2018 6:20:11 PM 48

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

Page 46: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

誤差項之變異數估計值運算範例(2/3)範例14.7 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。試利用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×x1i + εi

。請計算估計簡單線性迴歸方程式誤差項εi之變異數σ2

和標準差σ的估計值。

6/1/2018 6:20:11 PM 49

題解:行銷費用對銷售套餐數量的迴歸方程式ො𝑦𝑖 = b0 + b1 × xi = –

15.2433 + 1.1609 × xi營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi – ො𝑦𝑖 (yi – ො𝑦𝑖)2

1 150 156 158.89 -2.89 8.36

2 160 180 170.50 9.50 90.24

3 180 190 193.72 -3.72 13.83

4 160 170 170.50 -0.50 0.25

5 190 198 205.33 -7.33 53.70

6 210 250 228.55 21.45 460.29

7 180 189 193.72 -4.72 22.27

8 160 168 170.50 -2.50 6.25

9 180 191 193.72 -2.72 7.39

10 260 280 286.59 -6.59 43.44

合計 1830 1972 1972.01 -0.01 706.01

平均值 183 197.2

Page 47: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

誤差項之變異數估計值運算範例(3/3)範例14.7 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。試利用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×x1i + εi

。請計算估計簡單線性迴歸方程式誤差項εi之變異數σ2

和標準差σ的估計值。

6/1/2018 6:20:12 PM 50

題解:行銷費用對銷售套餐數量的迴歸方程式ො𝑦𝑖 = b0 + b1 × xi = –

15.2433 + 1.1609 × xi營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi – ො𝑦𝑖 (yi – ො𝑦𝑖)2

1 150 156 158.89 -2.89 8.36

2 160 180 170.50 9.50 90.24

3 180 190 193.72 -3.72 13.83

4 160 170 170.50 -0.50 0.25

5 190 198 205.33 -7.33 53.70

6 210 250 228.55 21.45 460.29

7 180 189 193.72 -4.72 22.27

8 160 168 170.50 -2.50 6.25

9 180 191 193.72 -2.72 7.39

10 260 280 286.59 -6.59 43.44

合計 1830 1972 1972.01 -0.01 706.01

平均值 183 197.2

殘差平方和SSE = σ𝑖=1𝑛 𝑦𝑖 − ො𝑦𝑖

2 = 706.01

誤差平均平方和MSE = S2 =𝑆𝑆𝐸

𝑛−2=σ𝑖=1𝑛 𝑦𝑖− ො𝑦𝑖

2

𝑛−2=706.01

10−2= 88.2513

S = MSE = 𝑆2 =𝑆𝑆𝐸

𝑛−2= 88.2513 = 9.3942

答案:誤差項εi變異數之估計值S2 = 88.2513;標準差之估計值S = 9.3942

Page 48: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_5

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:12 PM 52

Page 49: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

t值檢定利用樣本資料檢定迴歸方程式斜率β1是否等於0

,設立假設

A.虛無假設(null hypothesis) H0: β1 = 0

B.對立假設(alternative hypothesis) H1: β1 ≠ 0

接受虛無假設H0: β1 = 0

A.依變數E(yi)和自變數xi之間沒有足夠的證據證明兩者關係存在

接受對立假設H1: β1 ≠ 0

A.依變數E(yi)和自變數xi之間有統計上的相關性存在。

進行統計驗證時,將依據迴歸方程式斜率β1之估計值b1之抽樣分布資料。

6/1/2018 6:20:12 PM 53

Page 50: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

迴歸方程式斜率之估計值抽樣分布b1期望值E(b1) = β1

b1標準差𝜎𝑏1 =𝜎

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

分布方式屬於常態分布。

誤差項εi之標準差σ未知,利用誤差項εi之標準差σ的估計值S取代標準差,以獲得b1標準差𝜎𝑏1的

估計值𝑆𝑏1。

b1標準差𝜎𝑏1的估計值𝑆𝑏1 =𝑆

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

檢定統計值t =𝑏1

𝑆𝑏16/1/2018 6:20:12 PM 54

Page 51: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

統計推論檢定統計值t =

𝑏1

𝑆𝑏1

雙尾檢定左側臨界值–𝑡𝛼

2,𝑛−2

≤ 檢定統計值t ≤ 右側臨界值

𝑡𝛼2,𝑛−2

,接受虛無假設H0: β1 = 0。

檢定統計值t < 左側臨界值–𝑡𝛼2,𝑛−2

或檢定統計值t >

右側臨界值𝑡𝛼2,𝑛−2

,接受對立假設H1: β1 ≠ 0。

6/1/2018 6:20:12 PM 55

Page 52: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

t值法檢定斜率等於0範例(1/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用t值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 56

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

Page 53: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

t值法檢定斜率等於0範例(2/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用t值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 57

題解: 營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)2 𝑥𝑖

2

1 150 156 158.89 -2.89 8.36 22500

2 160 180 170.50 9.50 90.24 25600

3 180 190 193.72 -3.72 13.83 32400

4 160 170 170.50 -0.50 0.25 25600

5 190 198 205.33 -7.33 53.70 36100

6 210 250 228.55 21.45 460.29 44100

7 180 189 193.72 -4.72 22.27 32400

8 160 168 170.50 -2.50 6.25 25600

9 180 191 193.72 -2.72 7.39 32400

10 260 280 286.59 -6.59 43.44 67600

合計 1830 1972 1972.01 -0.01 706.01 344300

平均值 183 197.2

Page 54: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

t值法檢定斜率等於0範例(3/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用t值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 58

題解: 營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)2 𝑥𝑖

2

1 150 156 158.89 -2.89 8.36 22500

2 160 180 170.50 9.50 90.24 25600

3 180 190 193.72 -3.72 13.83 32400

4 160 170 170.50 -0.50 0.25 25600

5 190 198 205.33 -7.33 53.70 36100

6 210 250 228.55 21.45 460.29 44100

7 180 189 193.72 -4.72 22.27 32400

8 160 168 170.50 -2.50 6.25 25600

9 180 191 193.72 -2.72 7.39 32400

10 260 280 286.59 -6.59 43.44 67600

合計 1830 1972 1972.01 -0.01 706.01 344300

平均值 183 197.2

估計迴歸方程式 ො𝑦𝑖 = b0 + b1×xi = –15.2433 + 1.1609×xi

A.設定顯著水準α = 0.01,臨界值𝑡𝛼2,𝑛−2

= 𝑡0.012,10−2

= 3.3554。

B.虛無假設H0: β1 = 0

C.對立假設H1: β1 ≠ 0

D.計算檢定統計值–t值殘差平方和SSE = σ𝑖=1

𝑛 𝑦𝑖 − ො𝑦𝑖2 = 706.01

Page 55: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

t值法檢定斜率等於0範例(4/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用t值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 59

題解: 營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)2 𝑥𝑖

2

1 150 156 158.89 -2.89 8.36 22500

2 160 180 170.50 9.50 90.24 25600

3 180 190 193.72 -3.72 13.83 32400

4 160 170 170.50 -0.50 0.25 25600

5 190 198 205.33 -7.33 53.70 36100

6 210 250 228.55 21.45 460.29 44100

7 180 189 193.72 -4.72 22.27 32400

8 160 168 170.50 -2.50 6.25 25600

9 180 191 193.72 -2.72 7.39 32400

10 260 280 286.59 -6.59 43.44 67600

合計 1830 1972 1972.01 -0.01 706.01 344300

平均值 183 197.2

誤差平均平方和MSE = S2 =𝑆𝑆𝐸

𝑛−2=σ𝑖=1𝑛 𝑦𝑖− ො𝑦𝑖

2

𝑛−2=706.01

10−2= 88.2513

S = 𝑆2 =𝑆𝑆𝐸

𝑛−2= 88.2513 = 9.3942

𝑆𝑏1 =𝑆

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

=9.3942

344300−18302

10

=9.3942

344300−334890=

9.3942

97.0052= 0.0968

檢定統計值t = 𝑏1

𝑆𝑏1= 1.1609

0.0968= 11.9875

Page 56: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

t值法檢定斜率等於0範例(5/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用t值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 60

E. 檢定統計值t = 11.9875 > 右側臨界值𝑡𝛼2,𝑛−2

= 3.3554。接受對立假

設H1: β1 ≠ 0。自變數與依變數之間的迴歸關係達到顯著性相關,迴歸方程式具有解釋能力。

答案:t值法檢定迴歸方程式中斜率β1不等於0

Page 57: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_6

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:12 PM 62

Page 58: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

F值檢定利用F機率分布以樣本資料檢定迴歸方程式中斜率β1

是否等於0,使用於驗證迴歸關係的顯著性。只有一個自變數xi(簡單線性迴歸分析)時,利用t值檢定和F值檢定的結果相同。

當有兩個(含)以上自變數xi時,僅可以使用F值檢定法,以驗證全部自變數xi與依變數yi之間關係的顯著性。

若欲檢定迴歸方程式中斜率β1是否等於特定數值(C)或進行左右尾檢定,皆必須使用t值檢定法,無法使用F值檢定法。

6/1/2018 6:20:12 PM 63

t值檢定 F值檢定一個自變數 ● ●兩個(含)以上自變數 ╳ ●檢定斜率β1是否等於特定數值(C) ● ╳左右尾檢定 ● ╳

Page 59: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

迴歸平均平方和迴歸造成的均方、迴歸均方或迴歸平均平方和

(mean square regression, MSR)是迴歸項平方和(sum of squares due to regression, SSR)除以迴歸自由度獲得。迴歸自由度等於自變數之個數。

MSR =𝑆𝑆𝑅

𝑑𝑓=σ𝑖=1𝑛 ො𝑦𝑖−ത𝑦 2

𝑑𝑓=迴歸項平方和迴歸自由度

6/1/2018 6:20:12 PM 64

Page 60: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

利用F值檢定的程序A.設定顯著水準α

B.虛無假設H0: β1 = 0

C.對立假設H1: β1 ≠ 0

D.計算檢定統計值─F值 =MSR

MSE=迴歸造成的均方

誤差均方

E.檢定統計值F ≤ 臨界值Fα,1,n-2,接受虛無假設H0:

β1 = 0。

F.檢定統計值F > 臨界值Fα,1,n-2,拒絕虛無假設H0:

β1 = 0,接受對立假設H1: β1 ≠ 0。

6/1/2018 6:20:12 PM 65

Page 61: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

6/1/2018 6:20:12 PM 66

變異來源 平方和 自由度 均方 F值

迴歸項 SSR = σ𝑖=1𝑛 ො𝑦𝑖 − ത𝑦 2 1 MSR =

SSR

1F =

MSR

MSE

誤差項(隨機項) SSE = σ𝑖=1𝑛 𝑦𝑖 − ො𝑦𝑖

2 n – 2 MSE =SSE

𝑛−2

總變異 SST = σ𝑖=1𝑛 𝑦𝑖 − ത𝑦 2 n – 1

簡單線性迴歸變異數分析(anova)表

Page 62: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

F值檢定範例(1/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用F值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 67

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

Page 63: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

F值檢定範例(2/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用F值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 68

題解:營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)2 yi–തy (yi–തy)2

1 150 156 158.89 -2.89 8.36 -41.20 1697.44

2 160 180 170.50 9.50 90.24 -17.20 295.84

3 180 190 193.72 -3.72 13.83 -7.20 51.84

4 160 170 170.50 -0.50 0.25 -27.20 739.84

5 190 198 205.33 -7.33 53.70 0.80 0.64

6 210 250 228.55 21.45 460.29 52.80 2787.84

7 180 189 193.72 -4.72 22.27 -8.20 67.24

8 160 168 170.50 -2.50 6.25 -29.20 852.64

9 180 191 193.72 -2.72 7.39 -6.20 38.44

10 260 280 286.59 -6.59 43.44 82.80 6855.84

合計 1830 1972 1972.01 -0.01 706.01 0.00 13387.60

平均值 183 197.2

Page 64: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

F值檢定範例(3/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用F值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 69

題解:營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)2 yi–തy (yi–തy)2

1 150 156 158.89 -2.89 8.36 -41.20 1697.44

2 160 180 170.50 9.50 90.24 -17.20 295.84

3 180 190 193.72 -3.72 13.83 -7.20 51.84

4 160 170 170.50 -0.50 0.25 -27.20 739.84

5 190 198 205.33 -7.33 53.70 0.80 0.64

6 210 250 228.55 21.45 460.29 52.80 2787.84

7 180 189 193.72 -4.72 22.27 -8.20 67.24

8 160 168 170.50 -2.50 6.25 -29.20 852.64

9 180 191 193.72 -2.72 7.39 -6.20 38.44

10 260 280 286.59 -6.59 43.44 82.80 6855.84

合計 1830 1972 1972.01 -0.01 706.01 0.00 13387.60

平均值 183 197.2

行銷費用對銷售套餐數量的迴歸方程式 ො𝑦𝑖 = b0 + b1×xi = –15.2433 +

1.1609×xi

SSE = σ𝑖=1𝑛 𝑦𝑖 − ො𝑦𝑖

2 = 706.01 SST = σ𝑖=1𝑛 𝑦𝑖 − ത𝑦 2 = 13387.60

SSR = SST – SSE = 13387.60 – 706.01 = 12681.59

MSE = s2 =𝑆𝑆𝐸

𝑛−2=706.01

10−2= 88.2513 MSR =

𝑆𝑆𝑅

𝑑𝑓=12681.59

1= 12681.59

Page 65: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

F值檢定範例(4/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用F值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 70

A.設定顯著水準α = 0.01,臨界值Fα,1,n-2 = F0.01,1,10-2 = 11.2586。B.虛無假設H0: β1 = 0。C.對立假設H1: β1 ≠ 0。D.計算檢定統計值─F值

檢定統計值F = MSR

MSE= 12681.59

88.2513= 143.6986

E.檢定統計值F = 143.6986 > 臨界值Fα,1,n-2 = 11.2586,接受對立假設H1: β1 ≠ 0。自變數與依變數之間的迴歸關係達到顯著性相關,迴歸方程式具有解釋能力。

答案:F值法檢定迴歸方程式中斜率β1不等於0

Page 66: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

F值檢定範例(5/5)範例14.8 連鎖餐廳有10營業點,每個營業點前一日行銷費用和前一日販售套餐數列於下表。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi為誤差項。請利用F值法檢定迴歸方程式中斜率β1

是否等於0。

6/1/2018 6:20:12 PM 71

變異來源 平方和 自由度 均方 F值迴歸項 12681.59 1 12681.59 143.6986

誤差項 706.01 8 88.25

總變異 13387.60 9

Page 67: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_7

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:12 PM 73

Page 68: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

斜率與判定係數檢定迴歸方程式斜率β1顯著性不等於0,判定係數R2

數值高,解釋迴歸方程式不會有疑慮

判定係數R2數值高,β1顯著性等於0或判定係數R2數值低,β1顯著性不等於0時,在解釋和運用迴歸方程式應特別謹慎。運用自變數對依變數進行預測時,會比較看重判定係數,判定係數高時自變數對依變數的預測才會準確。

探索自變數對依變數是否有影響或影響程度,則著重於檢定迴歸方程式中斜率β1是否等於0。

6/1/2018 6:20:12 PM 74

斜率β1 = 0 斜率β1 ≠ 0

R2數值高

自變數對依變數沒有意義

自變數對依變數預測能力佳,具有意義

R2數值低

自變數對依變數沒有意義

自變數對依變數預測能力弱,具有意義,影響力小

Page 69: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

因果關係與線性關係檢定迴歸方程式斜率β1顯著性的不等於0,獲得自變數xi與依變數yi存在顯著關係的推論,不能單因此統計檢定的證據就斷然判定自變數xi與依變數yi存在因果關係,還是需要具有相關的理論基礎為佐證,才能較客觀的判定自變數xi與依變數yi存在因果關係。

檢定迴歸方程式斜率β1顯著性的不等於0,獲得自變數xi與依變數yi存在顯著關係的推論,但是不能據此推論自變數xi與依變數yi存在線性關係,僅能夠推論自變數xi與依變數yi存在顯著關係。欲驗證自變數xi與依變數yi存在線性關係時,利用樣本相關係數rxy進行檢定。母體相關係數ρxy (讀音rho)假設:虛無假設H0: ρxy = 0

對立假設H1: ρxy ≠ 0

6/1/2018 6:20:12 PM 75

Page 70: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

因果關係與線性關係拒絕虛無假設H0: ρxy = 0,接受對立假設H1: ρxy ≠

0,可以驗證自變數xi與依變數yi存在線性關係。

6/1/2018 6:20:12 PM 76

論證 斜率β1 ≠ 0

因果關係 需要具有相關的理論基礎為佐證線性關係 利用樣本相關係數rxy進行檢定

Page 71: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

14.6運用迴歸方程式進行估算與預估

6/1/2018 6:20:12 PM 77

斜率β1不等

於0

判定係數

R2數值高

預測依變數yi

點估計(point

estimation)

區間估計(interval

estimation)

簡單線性迴歸模式利用樣本資料以最小平方法,獲得估計線性迴歸方程式。

檢定迴歸方程式中斜率β1是顯著性的不等於0(接受對立假設H1: β1 ≠ 0),判定係數R2數值高,顯示其適合度亦高。此迴歸方程式可以應用於預測依變數yi。

Page 72: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

點估計連鎖餐廳有10營業點,依據每個營業點個別的平均每日行銷費用xi和平均每日販售套餐數yi10個營業點樣本資料。

獲得行銷費用xi對銷售套餐數量yi的估計迴歸方程式為 ො𝑦𝑖 = b0 + b1 × xi = –15.2433 + 1.1609 × xi。行銷費用xi為250,套餐販售數量的預估值 ො𝑦𝑖 = –

15.2433 + 1.1609 × 250 = 274.9;行銷費用xi為350,套餐販售數量的預估值 ො𝑦𝑖 = –

15.2433 + 1.1609 × 350 = 391.1。

6/1/2018 6:20:12 PM 78

自變數xi 依變數yi 點估計依變數 yi

估計值

Page 73: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

區間估計

6/1/2018 6:20:12 PM 79

迴歸分析的目的就是預測依變數yi,對依變數yi

的預測可以分為兩種自變數為一特定數值x0時,預測依變數之平均值തy0的信賴區間

自變數為一特定數值x0時,預測依變數yi之個別數值y0的信賴區間

Page 74: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數之平均值的信賴區間迴歸方程式依變數的估計值 ො𝑦0很少剛好等於期望值E(y0),若欲瞭解估計值 ො𝑦0與期望值E(y0)之間的差距時,需依據迴歸方程式中依變數預估值 ො𝑦0的變異數𝑆 ො𝑦0

2 。

依 變 數 預 估 值 ො𝑦0 的 變 異 數 𝑆ො𝑦02 = S2×

1

𝑛+

6/1/2018 6:20:12 PM 80

Page 75: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數之平均值的信賴區間迴歸方程式預測依變數之平均值തy0的信賴區間為 ො𝑦0 ± 𝑡𝛼

2,𝑛−2

×𝑆 ො𝑦0

ො𝑦0 ± 𝑡𝛼2,𝑛−2

×S×1

𝑛+

𝑥0− ҧ𝑥 2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

𝑡𝛼2,𝑛−2

:右尾機率𝛼

2,自由度n – 2的t分布數值。

S稱為估計值的標準(偏)差:誤差項εi之標準(偏)差σ

的估計值。

S = 𝑆2 =𝑆𝑆𝐸

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖− ො𝑦𝑖

2

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖−𝑏0−𝑏1×𝑥𝑖

2

𝑛−2

6/1/2018 6:20:12 PM 81

Page 76: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數之平均值信賴區間範例(1/4)範例14.10 連鎖餐廳有10營業點,依據每個營業點前一日行銷費用xi和前一日販售套餐數yi十個營業點樣本資料。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi誤差項。請分別計算在行銷費用x0為250和350時,販售套餐數量之平均值തy0的信賴區間。

6/1/2018 6:20:12 PM 82

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

Page 77: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數之平均值信賴區間範例(2/4)範例14.10 連鎖餐廳有10營業點,依據每個營業點前一日行銷費用xi和前一日販售套餐數yi十個營業點樣本資料。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi誤差項。請分別計算在行銷費用x0為250和350時,販售套餐數量之平均值തy0的信賴區間。

6/1/2018 6:20:12 PM 83

題解: 營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)2 𝑥𝑖

2

1 150 156 158.89 -2.89 8.36 22500

2 160 180 170.50 9.50 90.24 25600

3 180 190 193.72 -3.72 13.83 32400

4 160 170 170.50 -0.50 0.25 25600

5 190 198 205.33 -7.33 53.70 36100

6 210 250 228.55 21.45 460.29 44100

7 180 189 193.72 -4.72 22.27 32400

8 160 168 170.50 -2.50 6.25 25600

9 180 191 193.72 -2.72 7.39 32400

10 260 280 286.59 -6.59 43.44 67600

合計 1830 1972 1972.01 -0.01 706.01 344300

平均值 183.0 197.2

行銷費用對銷售套餐數量的估計迴歸方程式 ො𝑦𝑖 = b0 + b1×xi = –

15.2433 + 1.1609 × xi

Page 78: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數之平均值信賴區間範例(3/4)範例14.10 連鎖餐廳有10營業點,依據每個營業點前一日行銷費用xi和前一日販售套餐數yi十個營業點樣本資料。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi誤差項。請分別計算在行銷費用x0為250和350時,販售套餐數量之平均值തy0的信賴區間。

6/1/2018 6:20:10 PM 84

行銷費用 x0為 250元,販售套餐數量的預估值 ො𝑦0 = -

15.2433+1.1609×250 = 275.0套,其販售套餐數量之平均值തy0的信賴區間 ො𝑦0 ± 𝑡𝛼

2,𝑛−2

×𝑆 ො𝑦0 = 275.0 ± 2.3060×7.1362 = 275.0 ± 16.4561

信賴區間為258.5~291.4套其中顯著水準α = 0.05,自由度df = n – 2 = 10 – 2 = 8,𝑡𝛼

2,𝑛−2 = 𝑡0.05

2,10−2

= t0.025,8 = 2.3060

𝑆ො𝑦0 =σ𝑖=1𝑛 𝑦𝑖−ො𝑦𝑖

2

𝑛−2×

1

𝑛+

𝑥0− ҧ𝑥 2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

=706.01

10−2×

1

10+

250−183 2

344300−18302

10

= 9.3942 ×

0.1 +672

344300−334890= 9.3942× 0.1 +

4489

9410= 9.3942×0.7596 = 7.1362

Page 79: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數之平均值信賴區間範例(4/4)範例14.10 連鎖餐廳有10營業點,依據每個營業點前一日行銷費用xi和前一日販售套餐數yi十個營業點樣本資料。欲運用行銷費用xi預測販售套餐數量yi,欲建立迴歸模式yi = β0 + β1×xi + εi,其中εi誤差項。請分別計算在行銷費用x0為250和350時,販售套餐數量之平均值തy0的信賴區間。

6/1/2018 6:20:12 PM 85

行銷費用 x0為 350元,販售套餐數量的預估值 ො𝑦0 = -

15.2433+1.1609×350 = 391.1套。販售套餐數量之平均值തy0的信賴區間 ො𝑦0 ± 𝑡𝛼

2,𝑛−2

×𝑆 ො𝑦0 = 391.1 ± 2.3060×16.4432 = 391.1 ± 37.9181

信賴區間為353.2~429.0套

𝑆 ො𝑦0 =σ𝑖=1𝑛 𝑦𝑖− ො𝑦𝑖

2

𝑛−2×

1

𝑛+

𝑥0− ҧ𝑥 2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

=706.01

10−2×

1

10+

350−183 2

344300−18302

10

=

9.3942× 0.1 +1672

344300−334890= 9.3942× 0.1 +

27889

9410= 9.3942×1.7504 = 16.4432

答案:行銷費用250元,信賴區間258.5~291.4套;350元,信賴區間353.2~429.0套

Page 80: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_8

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:12 PM 87

Page 81: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數之個別數值的信賴區間迴歸方程式利用自變數x0預測依變數數值y0的單一數值時,需要瞭解依變數y0的信賴區間。

為獲得依變數y0的信賴區間,必須依據自變數為x0時,其依變數y0的變異數𝑆𝑦0

2 。

依變數y0的變異數𝑆𝑦02 = S2 + 𝑆ො𝑦0

2 = S2 + S2×1

𝑛+

6/1/2018 6:20:12 PM 88

Page 82: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數的信賴區間迴歸方程式預測依變數y0的信賴區間為 ො𝑦0 ± 𝑡𝛼

2,𝑛−2

×𝑆𝑦0

ො𝑦0 ± 𝑡𝛼2,𝑛−2

×S× 1 +1

𝑛+

𝑥0− ҧ𝑥 2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

𝑡𝛼2,𝑛−2

:右尾機率𝛼

2,自由度n – 2的t分布數值。

S稱為估計值的標準差:誤差項εi之標準(偏)差σ的估計值。

S = 𝑆2 =𝑆𝑆𝐸

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖− ො𝑦𝑖

2

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖−𝑏0−𝑏1×𝑥𝑖

2

𝑛−2

6/1/2018 6:20:12 PM 89

Page 83: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

預測依變數的信賴區間範例範例14.11 連鎖餐廳有10營業點,依據每個營業點前一日行銷費用xi和前一日販售套餐數yi十個營業點樣本資料。請分別計算在行銷費用x0為250和350時,販售套餐數量y0的信賴區間。

6/1/2018 6:20:12 PM 90

營業點i 行銷費用xi 套餐數yi

1 150 156

2 160 180

3 180 190

4 160 170

5 190 198

6 210 250

7 180 189

8 160 168

9 180 191

10 260 280

題解:營業點i 行銷費用xi 套餐數yi ො𝑦𝑖 yi– ො𝑦𝑖 (yi– ො𝑦𝑖)2 𝑥𝑖

2

1 150 156 158.89 -2.89 8.36 22500

2 160 180 170.50 9.50 90.24 25600

3 180 190 193.72 -3.72 13.83 32400

4 160 170 170.50 -0.50 0.25 25600

5 190 198 205.33 -7.33 53.70 36100

6 210 250 228.55 21.45 460.29 44100

7 180 189 193.72 -4.72 22.27 32400

8 160 168 170.50 -2.50 6.25 25600

9 180 191 193.72 -2.72 7.39 32400

10 260 280 286.59 -6.59 43.44 67600

合計 1830 1972 1972.01 -0.01 706.01 344300

平均值 183.0 197.2

行銷費用對銷售套餐數量的迴歸方程式 ො𝑦𝑖 = b0 + b1×xi

= –15.2433 + 1.1609 ×xi

行銷費用x0為250元,販售套餐數量的預估值 ො𝑦0 = -15.2433 + 1.1609 × 250 =

275.0套,當行銷費用x0為250元時,販售套餐數量y0的標準差𝑆𝑦0

S = 𝑆2 = 𝑆𝑆𝐸

𝑛−2=

σ𝑖=1𝑛 𝑦𝑖− ො𝑦𝑖

2

𝑛−2=

706.01

10−2= 88.2513 = 9.3942

𝑆𝑦0 = S× 1 +1

𝑛+

𝑥0− ҧ𝑥 2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

= 9.3942× 1 +1

10+

250−183 2

344300−18302

10

=

9.3942× 1.1 +672

344300−334890= 9.3942× 1.1 +

4489

9410= 9.3942×1.2558 = 11.7973

若顯著水準α = 0.05,自由度df = n– 2 = 10 – 2 = 8,𝑡𝛼2,𝑛−2 = 𝑡0.05

2,10−2

=

t0.025,8 = 2.3060

販售套餐數量y0的信賴區間、預測區間ො𝑦0 ± 𝑡𝛼

2,𝑛−2

×𝑆𝑦0 = 275.0 ± 2.3060×11.7973 = 275.0 ± 27.2046

信賴區間或預測區間247.8~302.2套販售套餐數量y0的信賴區間或預測區間247.8~302.2,比販售套

餐數量之平均值തy0的信賴區間258.5~291.4更大,因此利用平均值的估計法比利用個別數值更為精準。

行 銷 費 用 x0 為 350 元 , 販 售 套 餐 數 量 的 預 估 值 ො𝑦0 = -

15.2433+1.1609×350 = 391.1套。當行銷費用x0為350時,販售套餐數量y0

的標準差𝑆𝑦0

𝑆𝑦0 = S× 1 +1

𝑛+

𝑥0− ҧ𝑥 2

σ𝑖=1𝑛 𝑥𝑖

2−σ𝑖=1𝑛 𝑥𝑖

2

𝑛

= 9.3942× 1 +1

10+

350−183 2

344300−18302

10

=

9.3942× 1.1 +1672

344300−334890= 9.3942× 1.1 +

27889

9410= 9.3942×2.0159

= 18.9376

若顯著水準α = 0.05,自由度df = n – 2 = 10 – 2 = 8,t0.025,8 = 2.3060

販售套餐數量y0的信賴區間、預測區間ො𝑦0 ± 𝑡𝛼

2,𝑛−2

×𝑆𝑦0 = 391.1 ± 2.3060×18.9376 = 391.1 ± 43.6700

信賴區間347.4~434.8

答案:行銷費用250元,販售套餐數量y0的信賴區間247.8~302.2

套;行銷費用350元,販售套餐數量y0的信賴區間為347.4~434.8套

Page 84: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

最小信賴區間個別數值和平均值信賴區間預估時,皆在自變數

x0 = ҧ𝑥,信賴區間最小,精準度最高。

6/1/2018 6:20:12 PM 91

Page 85: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

上課練習106ch14_9

輕鬆練習一下此投影片播放後3分鐘內,沒有進入該練習卷者,老師即關閉沒有進入者的練習卷(本練習10 分鐘內

完成)

6/1/2018 6:20:12 PM 93

Page 86: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

14.7統計軟體迴歸運用

Excel 2010

分析

工具

箱-

VBA

按執

行(G)

分析

工具

箱-

VBA

6/1/2018 6:20:12 PM 94

Excel 2010 資料

資料分

析迴歸 確定

啟動資料分析工具

開啟資料分析迴歸

Page 87: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

分組作業練習14.2 小魚連鎖咖啡館蒐集15個營業點資料,以決定訓練費用xi(單位:新台幣百元)和銷售金額yi(單位:新台幣百元)的

關係。獲得σ𝑖=115 𝑥𝑖 = 80、σ𝑖=1

15 𝑦𝑖 = 1080、σ𝑖=115 𝑥𝑖

2 = 680、

σ𝑖=115 𝑦𝑖

2 = 125080+組數和σ𝑖=115 𝑥𝑖 × 𝑦𝑖 = 8510+組數。(A)請利

用最小平方法計算出估計簡單線性迴歸方程式的統計值:斜率。(B)相關係數。

6/1/2018 6:20:12 PM 95

作業名稱

• 最小平方法

word檔案主檔名稱

• 組長姓名+學號

繳交截止日期時間

• 依據平台設定

Page 88: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

討論議題:簡單線性迴歸分析應用第一回合請於20180524中午12點以前從「議題討論」區【張貼】標題:「應用情境」,本文:請針對第14章學習的【簡單線性迴歸分析】課程內容,陳述您現在或未來最想運用到情境和理由。請具體的陳述或標示您想運用的情境下,自變數(可操控變數)和依變數(預測目標變數)分別的具體名稱(變數)(40個字以上)。待有30篇第一回合【張貼】回應或第一回合【張貼】時間結束後,請詳細檢視其他同學的回應內容。

第二回合【張貼】標題:「最佳詮釋」,本文:哪一位同學詮釋得最具體與明確,請說明理由或者有哪些是值得讓自己學習之處?(30個字以上)。第二回合【張貼】截止時間就是本議題在平台上的關閉時間。

6/1/2018 6:20:12 PM 96

Page 89: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

平常考106ch14

關閉時間:20180524(星期四)2400

6/1/2018 6:20:12 PM 97

Page 90: Chapter 14 Simple Linear Regression Analysis - … Simple linear... · 14.1簡單線性迴歸模式 14.2最小平 ... 運用最小平方法計算迴歸 ... 學習利用Excel軟體進行簡單線性迴歸

第十四章課程結束

您辛苦了

6/1/2018 6:20:12 PM 98