oleh: kukuh winarso - · pdf filemanajemen dan ekonomi, penerbit erlangga, jilid i dan ii....

Korelasi & Regresi

Oleh:

Kukuh Winarso

Klasifikasi Pemodelan Regresi

REGRESI

NOMINAL, ORDINAL INTERVAL, RASIO

REGRESI LOGISTIK REGRESI LINIER SEDERHANA

SKALA PENGUKURAN DATAPADA VARIABEL RESPON

REGRESI ORDINAL/MULTINOMIAL LOGIT

REGRESI BETA BINOMIAL

REGRESI LINIER BERGANDA

REGRESI PROBIT

REGRESI TOBIT

Probabilistic interpretation

0 200

Likelihood

Model Regresi:

Satu variabel independent Regresi Linear Sederhana

Lebih dari satu variabel independent Regresi Linear Berganda.

Tujuan:

• mendapatkan pola hubungan secara

matematis antara variabel X dan Y

• mengetahui besarnya perubahan variabel X

terhadap Y

• memprediksi Y jika nilai X diketahui

Tahap-Tahap dalam Analisis Regresi

1. Plot data

identifikasi bentuk hubungan secara grafik

2. Koefisien Korelasi

identifikasi hubungan linear dengan suatu angka

3. Pendugaan (estimasi) model regresi

4. Evaluasi (diagnostic check) kesesuain model regresi

5. Prediksi (forecast) suatu nilai Y pada suatu X tertentu

n

ii

n

ii

n

iii

xy

yyxx

yyxx

r

1

2

1

2

1

)()(

))((

, -1 rxy 1

Korelasi :.Hubungan antara dua variabel (misal X dengan Y)

Nilai Korelasi:• Bila r = 0, atau mendekati 0,

Berarti hubungan antara variabel independen dengan variabel dependen sangat lemah atau tidak terdapat hubungan sama sekali.

• Bila r = 1, atau mendekati 1,

Berarti terdapat hubungan positif antara variabel independen dengan variabel dependen yang sangat kuat.

• Bila r = –1, atau mendekati – 1,

Berarti terdapat hubungan negatif antara variabel independen dengan variabel dependen yang sangat kuat.

n

i

i

n

i

i

n

i

ii

yx

xy

xy

YnYXnX

YXnYX

SS

Sr

1

22

1

22

1

Pengujian Koefisien Korelasi ( r )

Hipotesis

Ho : = 0 H1 : 0 Statistik Uji

tr n

ro

2

1 2

dimana : r = koefisien korelasi

n = jumlah sampel

Daerah Penolakan

Mencari nilai t tabel untuk tingkat signifikansi ( ) dan derajat bebas

sebesar n-2. Sehingga | t0 | > t ( /2, n-2)

Kesimpulan:

Ho ditolak jika t0 > t ( /2, n-2) atau t0 < t ( /2,n-2)

Ho diterima jika t0 > t ( /2,n-2) atau t0 < t ( /2,n-2)

Korelasi

n

i

i

n

i

i

n

i

ii

yx

xy

xy

YnYXnX

YXnYX

SS

Sr

1

22

1

22

1

0 10 200

20

40

[start Matlab demo lecture2.m]

Plot antara X dengan Y

Korelasi

tr n

ro

2

1 2

Uji Korelasi

iiXiY

dimana:Yi = variabel dependent/respon/outputXi = variabel independent/prediktor/input/fixed

= intercept

i = slope/gradien/koefisien regresi

i = unsur gangguan yang diasumsikan identik,independen dan berdistribusi normal atau

i ~ IIDN(0, 2)

REGRESI LINIER SEDERHANA

DENGAN Ordinary Least Squares (OLS):

Persamaan Regresi:

ii Xy ˆˆˆ

PENGUJIAN KOEFISIEN REGRESI SECARA SERENTAKHO : model tidak signifikanH1 : model signifikan

Statistik Uji:

Tolak Ho, jika F-Rasio > F(1,n-2; )

Pengujian Koefisien Regresi untuk

13

Problem: Regresi Linear Sederhana

Process(Model Regresi)Input (X) Output (Y)

Z1, Z2, …, Zq

F1, F2, …, Fq

Uncontrollable Factors

Controllable Factors

Harga Produk

Biaya Iklan, Jumlah Outlet, Area Pema-saran dan faktor lain yang dapat dikontrol dalam kondisi TETAP

Sales Produk

Bagaimana pengaruh harga terhadap sales suatu produk ? Dapatkah meramal sales suatu produk berdasarkan harganya ?

Harga Pesaing, Selera Konsumen, Kondisi Ekonomi Nasional (inflasi dll) dan faktor lain yang tidak dapat dikontrol dalam kondisi TETAP

Regresi Linier

0

1020

30

40

0

10

20

30

20

22

24

26

Tem

pera

ture

0 10 200

20

40

[start Matlab demo lecture2.m]

Given examples

Predict given a new point

0 200

20

40

0

1020

30

40

0

10

20

30

20

22

24

26

Tem

pera

ture

Prediction

Ordinary Least Squares (OLS)

0 200

Error or “residual”

Prediction

Observation

Sum squared error

Probabilistic interpretation

0 200

Likelihood

Minimize the sum squared error

Sum squared error

Linear equation

Linear system

Problem : Data hasil pengamatan … (continued)

Minggu

Sales

(ribu unit)

Harga

(ribu rupiah)

1. 10 1.3

2. 6 2.0

3. 5 1.7

4. 12 1.5

5. 10 1.6

6. 15 1.2

7. 5 1.6

8. 12 1.4

9. 17 1.0

10. 20 1.1

Pengamatan dilakukan dengan mengambil secara random data 10 minggu penjualan

Plot antara Harga dan Sales

Problem : MINITAB output … (continued)

MTB > Correlation 'Harga' 'Sales'.

Pearson correlation of Harga and Sales = -0.863

P-Value = 0.001

MTB > Regress 'Sales' 1 'Harga'

The regression equation is

Sales = 32.1 – 14.5 Harga

Predictor Coef SE Coef T P

Constant 32.136 4.409 7.29 0.000

Harga -14.539 3.002 -4.84 0.001

S = 2.725 R-Sq = 74.6% R-Sq(adj) = 71.4%

Analysis of Variance

Source DF SS MS F P

Regression 1 174.18 174.18 23.45 0.001

Residual Error 8 59.42 7.43

Total 9 233.60

Model Regresi Linier Berganda

)X,...,X,X(fY

)X(fY

n21

ikiki22i110i XXXY ...

dimana:Yi = variabel dependent/respon/outputXi = variabel independent/prediktor/input/fixed

i = parameter/koefisien regresi

i = unsur gangguan yang diasumsikan identik,independen dan berdistribusi normal atau

i ~ IIDN(0, 2)

DENGAN Ordinary Least Squares (OLS):

PENGUJIAN KOEFISIEN REGRESI SECARA SERENTAK

PENGUJIAN KOEFISIEN REGRESI SECARA INDIVIDU

RSSR

SSTx2 100%

%)( 100xR11R1kn

1n22

KEGUNAAN:• Mengukur ketepatan atau kecocokan suatu garis regresi yang

diterapkan terhadap suatu kelompok data hasil observasi. Makinbesar nilai R2 dikatakan model regresi semakin tepat atau cocok,sebaliknya makin kecil nilai R2 dikatakan model regresi tidaktepat untuk mewakili data hasil observasi.

• Mengukur proporsi atau prosentase dari jumlah variasi Y yangdapat diterangkan oleh model regresi.

KOEFISIEN DETERMINASI

ryr r r

r r

y y

y

1 21 1

1 2 12

22

122,

( )( )

ry

r r r

r r

y y

y

2 11 1

2 1 12

12

122,

( )( )

Korelasi parsial merupakan ukuran hubungan linier antaravariabel Y dengan X1 dan X2 dibuat tetap atau sebaliknya.Nilai koefisien korelasi parsial ry1,2 artinya korelasi Ydengan X1 dikontrol dengan X2.

ryr r r

r r

y y

y

1 21 1

1 2 12

22

122,

( )( )

ry

r r r

r r

y y

y

2 11 1

2 1 12

12

122,

( )( )

KOEFISIEN KORELASI PARSIAL

IDENTIK INDEPENDEN

RESIDUAL

iii YYe

DISTRIBUSI

NORMAL

• Penerapan metode kuadrat terkecil (Ordinary Least Squares/OLS)tidak memerlukan / membuat asumsi apapun mengenai distribusipada residualnya. Asumsi pada residual yang diperoleh diharapkanmempunyai nilai (rata-rata) nol, tak berkorelasi dan mempunyaivarians konstan. Dengan adanya asumsi ini, penaksir OLS memenuhibeberapa sifat statistik yang diinginkan, seperti ketidakbiasan(unbiased) dan varians minimum.

• Karena hal tersebut di atas dan tujuan penarikan kesimpulanmengenai persamaan regresi populasi, dalam konteks regresibiasanya resudal diasumsikan mengikuti distribusi normal.

• Pengujian ini dilakukan untuk mengetahui apakah residual darimodel berdistribusi normal dengan mean nol dan varians 2.

DISTRIBUSI NORMAL

),(~ 2i 0N

PEMERIKSAAN DISTRIBUSI NORMAL

1. Tentukan residual ei dari persamaan regresi

2. Sortir ei dari urutan yang terkecil sampai yang besar

3. Hitung Pi yang sesuai dengan ei yang telah disortir

%),(100

n

50iPi

4. Plot Pi dengan ei

Jika pola tersebut membentuk sudut mendekati450, maka asumsi normal terpenuhi.

PEMERIKSAAN IDENTIK (HOMOSKEDASTISITAS)

HETEROSKEDASTISITAS

HOMOSKEDASTISITAS

Descriptive Statistics

1.19808 2.998614 104

.29611 .299745 104

.12470 .094526 104

.96362 .407539 104

.16785 .157325 104

Perubahan Laba Bank

Gross Prof it Margin

Interest Margin on Loans

Operating Ef f ic iency Ratio

Ratio Non Performing

Loans to Total Loans

Mean Std. Deviation N

Apakah Y=Perubahan Laba Bank dipengaruhi

Oleh:X1 = Gross Profit Margin

X2 = Interest Margin on Loans

X3 = Operating Efficiency Ratio

X4 = Ratio Non Performing Loans to Total Loans

Cor relations

1.000 .915 .873 .972 .854

.915 1.000 .984 .951 .967

.873 .984 1.000 .915 .990

.972 .951 .915 1.000 .881

.854 .967 .990 .881 1.000

. .000 .000 .000 .000

.000 . .000 .000 .000

.000 .000 . .000 .000

.000 .000 .000 . .000

.000 .000 .000 .000 .

104 104 104 104 104

104 104 104 104 104

104 104 104 104 104

104 104 104 104 104

104 104 104 104 104

Perubahan Laba Bank






Perubahan Laba Bank






Perubahan Laba Bank






Pearson Correlation

Sig. (1-tailed)

N

Perubahan

Laba Bank

Gross Prof it

Margin

Interest

Margin on

Loans

Operating

Ef f iciency

Ratio

Ratio Non

Performing

Loans to

Total Loans

ANOVAb

889.232 4 222.308 596.244 .000a

36.912 99 .373

926.144 103

Regression

Residual

Total

Model

1

Sum of

Squares df Mean Square F Sig.

Predictors: (Constant), Ratio Non Performing Loans to Total Loans, Operating

Eff iciency Ratio, Gross Prof it Margin, Interest Margin on Loans

a.

Dependent Variable: Perubahan Laba Bankb.

Model Summ aryb

.980a .960 .959 .610612 .960 596.244 4 99 .000 2.120

Model

1

R R Square

Adjusted

R Square

Std. Error of

the Estimate

R Square

Change F Change df1 df2 Sig. F Change

Change Statis tics

Durbin-

Watson

Predictors: (Constant), Ratio Non Performing Loans to Total Loans, Operating Eff iciency Ratio, Gross Prof it Margin, Interest Margin on Loansa.

Dependent Variable: Perubahan Laba Bankb.

Coefficientsa

-5.633 .373 -15.094 .000 -6.373 -4.892

.637 1.574 .064 .405 .687 -2.486 3.759 .915 .041 .008 .016 61.470

-37.410 6.611 -1.179 -5.659 .000 -50.527 -24.293 .873 -.494 -.114 .009 107.871

8.680 .549 1.180 15.816 .000 7.591 9.769 .972 .846 .317 .072 13.820

17.531 2.990 .920 5.864 .000 11.599 23.463 .854 .508 .118 .016 61.114

(Constant)






Model

1

B Std. Error

Unstandardized

Coeff icients

Beta

Standardized

Coeff icients

t Sig. Low er Bound Upper Bound

95% Conf idence Interval for B

Zero-order Partial Part

Correlations

Tolerance VIF

Collinearity Statis tics

Dependent Variable: Perubahan Laba Banka.

Persamaan Regresi:

Y=-5,633 + 0,637X1 – 37,41X2 + 8,680 X3 + 17,531X4

6420-2-4

Regression Standardized Residual

40

30

20

10

0

Fre

qu

en

cy

Mean = 8E-15Std. Dev. = 0.98N = 104

Dependent Variable: Perubahan Laba Bank

Histogram

1.00.80.60.40.20.0

Observed Cum Prob

1.0

0.8

0.6

0.4

0.2

0.0

Exp

ecte

d C

um

Pro

b


Normal P-P Plot of Regression Standardized Residual

20.00015.00010.0005.0000.000-5.000

Perubahan Laba Bank

6

4

2

0

-2

-4

Reg

ressio

n S

tud

en

tized

Resid

ual


Scatterplot

Pemeriksaan

ASUMSI pada Error

DAFTAR PUSTAKA

Mason Robert D, 1996, Teknik Statistika untuk BISNIS & EKONOMI, Jilid I dan II, PT Gelora Aksara Pratama

Spiegel, M.R., 1961, Theory and Problem of Statistics, McGraw-Hill. Company.

William Mendenhall dan James E.R., 1993, Statistik untuk Manajemen dan Ekonomi, penerbit Erlangga, Jilid I dan II.

Suharyadi & Purwanto, S.K.2000. Statistika Untuk Ekonomi & Keuangan Modern, Salemba Empat.

T E R I M A K A S I H

oleh: kukuh winarso - · pdf filemanajemen dan ekonomi, penerbit erlangga, jilid i dan ii....

Documents