regresi linier sederhana -...
TRANSCRIPT
PowerPoint® Slides
byYana RohmanaEducation University of Indonesian
© 2007 Laboratorium Ekonomi & Koperasi Publishing Jl. Dr. Setiabudi 229 Bandung, Telp. 022 2013163 - 2523
REGRESI LINIER SEDERHANA(MASALAH ESTIMASI)
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Hal-hal yang akan dipelajari:
2
Metode kuadrat terkecil yang biasa (OLS)
Ukuran tingkat ketepatan suatu perkiraan
Sifat-sifat yang dimiliki pemerkira OLS dan koefisien
determinasi
Koefisien determinasi, suatu ukuran
ketepatan/kecocokan
Bentuk-bentuk fungsi model regresi
Asumsi kenormalan
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Metode Kuadrat Terkecil Biasa (OLS)
3
Yi = A + BXi + εi (sebenarnya)
Yi = a + bXi + ei (perkiraan)
Untuk menghitung a dan b berdasarkan data sampel, ada berberapa
cara atau metode salah satu diantaranya ialah metode kuadarat
terkecil yang biasa (Ordinary Least Square = OLS).
Metode ini ditemukan oleh ahli matematika Jerman bernama Carl
Friedrich Gauss, sering disingkat Gauss.
Gauss membuat beberapa asumsi (asumsi Klasik) sebagai berikut.
Asumsi Dinyatakan dalam ε Dinyatakan dalam Y
1.
2.
3.
E( εi / Xi) = 0
kov (εi , εj ) = 0, i ≠ j
var (εi, Xi) = σ2
E (Yi / Xi) = A + BXi
kov (Yi, Yj) = 0, I ≠ j
var (Yi / Xi ) = σ2
i i j i2 2
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Prinsip Metode Kuadrat Terkecil
4
Model regresi linear sebenarnya dari populasi yang tidak diketahuidan harus diperkirakan berdasarkan data empiris dari sampel.
Perhatikan model regresi linear dari sampel:
Yi = a + bXi + ei
= Ŷi + ei
Ŷi = a + bXi
Ŷi dibacaY topi merupakan perkiraan/ ramalan dari Y, karena
Yi = Ŷi + ei , maka
ei = Yi - Ŷi
ei = Yi - a - bXi
Metode OLS menyatakan bahwa berdasarkan nilai observasi X dan Y sebanyak n pasang akan menentukan nilai a dan b sebagai perkiraan A dan B, sehingga Σei
2 = Σ(Yi – Yi)2 = Σ (Yi – a – bXi)2
= minimum
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Prinsip Metode Kuadrat Terkecil
5
( FRS )
Ŷi = a + bXi
X4X3X2X1
e1
X
Y
e3
e2
e4
.
.
..
.
.
.
.
.
Kesalahan Pengganggu Sampel
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Prinsip Metode Kuadrat Terkecil
6
Apabila kita perhatikan Σei2 = f (a, b), yaitu jumlah kesalahan
pengganggu kuadarat merupakan fungsi a dan b, artinya nilainya
tergantung kepada nilai a dan b.
Untuk nilai a dan b yang berlainan , nilai Σei2 juga akan berlainan.
Dengan metode kuadrat terkecil kita peroleh a dan b yang
membuat Σei2 = minimum. Itulah sebabnya mengapa cara ini
disebut least square error.
atau
XbYa
2
i
2
i
iiii
X - Xn
YX - YXnb
2
ixb
i
i
x
y
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Ukuran Tingkat Ketelitian/Ketepatan Suatu Perkiraan
7
Perkiraan a dan b akan bervariasi dari sampel ke sampel, jadi
mempunyai standar deviasi, yang disebut standard error, sebagai
ukuran tingkat ketelitian (reliability atau precision).
Standar deviasi dari suatu perkiraan yang disebut standar error
merupakan akar varian (var) dari perkiraan tersebut.
Makin kecil standar error suatu perkiraan, makin tinggi tingkat
ketelitian perkiraan tersebut.
Kesalahan baku (standard error) ialah penyimpangan baku (standard deviation)
ditribusi sampling untuk pemerkira (estimator ) dan distribusi sampling dari
suatu pemerkira, merupakan distribusi probabilitas (frekuensi) dari
pemerkira, yaitu suatu distribusi dari himpunan nilai-nilai pemerkira (set of
valuesof the estimators) yang diperoleh dari semua kemungkinan sampel
dengan jumlah elemen (n) yang sama dari suatu populasi tertentu.
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Ukuran Tingkat Ketelitian/Ketepatan Suatu Perkiraan
8
Dalam praktiknya, σ2 tidak diketahui dan harus diperkirakan dengan Se2,
di mana :
Oleh karena Se2 sering dipergunakan dalam praktik, perhitungannya
sebagai berikut.
atau ;
2
ii
2
i
2
e YY2-n
1e
2-n
1S
2222
e b2-n
1S ii xy
iii yxy b2-n
1S 22
e
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Sifat-sifat yang dimiliki pemerkira OLS
9
Pemerkira a dan b yang diperoleh dengan menggunakan metode kuadrat
terkecil (least square method) disebut best linear unbiased estimator, disingkat
dengan BLUE.
Suatu pemerkira, katakan (dibaca teta topi atau cap) dikatakan pemerkira
linear tanpa bias dan terkait (BLUE) dan parameter θ (teta), kalau:
1. Linear ;
2. Tak bias (unbiased)
3. Mempunyai variance terkecil di dalam kelas seluruh pemerkira tanpa
bias dari θ .
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Goodness of Fit
10
Koefisien Determinasi, Suatu Ukuran Ketepatan/ Kecocokan
Kita hanya mengharapkan bahwa kesalahan pengganggu berada di sekitar
garis regresi dengan jarak sedekat-dekatnya.
Sebelum menjelaskan arti koefisien determinasi/ penentuan (coefficient of
determination), terlebih dahulu akan diterangkan arti koefisien korelasi
(coefficient correlation).
22
ii
ii
yx
yxr
2222
iiii
iiii
nn
nr
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Goodness of Fit
11
Koefisien determinasi merupakan kuadrat koefisien korelasi (r2).
Nilai maksimum/ terbesar koefisien determinasi 1 terjadi kalau ei2
= 0, yaitu kalu semua nilai ei = 0.
Koefisien determinasi merupakan nilai yang dipergunakan untuk
mengukur besarnya sumbangan / andil (share) variabel X terhadap
variasi atau naik turunnya Y, kalau persamaan regresi Ŷ = a + b X.
Jika r = 0,9 ; r2 = 0,81, berarti sumbangan X terhadap naik
turunnya Y sebesar 81%, sedangkan sisanya sebesar 19%
merupakan faktor lainnya.
2
2
2ˆ
i
i
y
yr
2
2
2 1i
i
y
er
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Goodness of Fit
12
Pengertian variasi (variation) dengan varian itu berbeda.
Variasi berarti jumlah deviasi kuadrat (sum of square of deviation)
suatu variabel terhadap rata-ratanya, yaitu yi2 = (Yi - Ȳ)2 = TSS,
singkatan Total Sum of Squares.
Sedangkan, varian adalah variasi dibagi dengan derajat kebebasan
yang tepat (the appropriate degrees of freedom = df).
Jadi varian = variasi / df.
Untuk keperluan analisis varian:
∑yi2 = TSS, ∑уˆi
2 = ESS (= explained sum of square), dan
∑e2= RSS (residual or unexplained sum of square)
∑yi2 = ∑уˆi
2 + ∑ei2→ TSS = ESS + RSS
untuk mengetahui hubungan antara ei, yi, dan уˆi lihat gambar sbb:
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Goodness of Fit
13
Xi
Y
X0
Ȳ
ei = kesalahan pengganggu
.
.a + bXi
(FRS)
iY
regresikesalahan )YY( i
total)Y(Yi
Pembagian Variasi Y dalam Dua Komponen
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Goodness of Fit
14
r2 yang disebut koefisien determinasi/ penentuan mempunyai dua
kegunaan yaitu sebagai berikut:
1. Sebagai ukuran ketepatan/ kecocokan suatu garis regresi yang
diterapkan terhadap suatu kelompok data hasil observsasi (a
measure of goodness of fit). Makin besar nilai r2, makun bagus
atau makin tepat/ cocok suatu garis regresi, sebaliknya, makin
kecil makin tidak tepat garis regresi tersebut untuk mewakili data
hasil observasi. Nilai r2 terletak antara 0 dan 1 (0 ≤ r2 ≤ 1)
2. Untuk mengukur besarnya proporsi (presentase) jumlah variasi Y
yang diterangkan oleh model regresi. Atau secara mudah untuk
mengukur besarnya sumbangan (share) variabel bebas X (=
explanatory/ independent variable) terhadapa variasi (naik
turunnya) Y.
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Contoh
15
X = pendapatan bulanan karyawan perusahaan swasta (ribuan Rp)
Y = konsumsi bulanan (ribuan Rp)
Ditanyakan:
1. Hitung a, b, dan tulis persamaan regresi linear Ŷ = a + bX
(dengan metode kuadrat terkecil)! Apa arti b?
2. Hitung var (a), Sa !
Hitung var (b), Sb !
3. Hitung r2 ! Apa arti r2 ?
Xu 80 100 120 140 160 180 200 220 240 260
Y 70 65 90 95 110 115 120 140 155 150
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Contoh
16
JAWABAN
X Y X2 Y2 XY
80
100
120
140
160
180
200
220
240
260
70
65
90
95
110
115
120
140
155
150
6400
10000
14400
19600
25600
32400
40000
48400
57600
67600
4900
4225
8100
9025
12100
13225
14400
19600
24025
22500
5600
6500
10800
13300
17600
20600
24000
30800
37200
39000
∑Xi
1700
∑Yi
1110
∑Xi2
322000
∑Yi2
132100
∑XY
205500
17010
17001 i
nX
11110
11101 i
nY
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Contoh
17
Rumus Praktis:
22
iix nii
22
ny iii
222
n
yx ii
iiiiii
Maka:
3300028900032200010/1700322000 22 ix
1680018870020550010/)1110)(1700(205500 ii yx
Sehingga :
5090909,033000
168002
i
ii
x
yxb
4545,24)170(5090909,0111 XbYa
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Contoh
18
a) Ŷ = a + bX = 24,4545 + 0,5091 X
b = 0,5091, artinya jika pendapatan bulanan naik Rp 1000, maka
konsumsi bulanan akan naik Rp 509,10
b)
∑yi2 = 132100 – (1110)2/10 = 132100 – 123210 = 8890
b2 ∑xi2 = (0,5090909)2 . 33000 = 8552,726952
82,)var(
22222
2
22 iii
e
i
ie
xby
n
eS
xnSa
1591,428
726952,855288902
eS
137,41)33000(10
3220001591,42)var( a
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Contoh
19
c)
artinya, besarnya sumbangan pendapatan (X) terhadap variasi (naik
turunnya) konsumsi (Y) sebesar 96%, sedangkan sisanya sebesar 4%
merupakan sumbangan faktor lainnya.
4138,6)var( aS a
0013,033000/1591,42/)var( 22
ie xSb
0357,0)var( bSb
96,0293370000
282240000
889033000
168002
22
2
2
ii
ii
yx
yxr
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Contoh
20
Ŷi = 24,4545 + 0,5091Xi
Xi
Ȳ
Y
X
a = 0,5091
24,4545
Garis Regresi Sampel
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
Single Variable Regression
21
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
QUIZ
22
1. ............
2. ...............
3. ................
4. ...................
5. ...................
Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi
TERIMA KASIH
23
NEXT CHAPTER :
PENGUJIAN HIPOTESIS
DALAM REGRESI SEDERHANA