2003 hubungan antara estimator bayes dengan estimator klasik

11
TELAH DIPRT:tINIqSLi. l,]l pdDA SEI'IHj. I i,i JURUSA[,] f,-i,,1;tEt]:.rr j !,(A Fi.,iipA UNNES TANGGAL 27 5:F] LI48IR ZCO3 l(!, i'uA FAi;it'iA 1r ^ ( | /j---<- DRA. KUsiJi, t4.Si NIP. 130515748 HUBUNGAN ANTARA ESTIMATOR BAYES DENGAN EST}MATOR KLASIK PADA DISTRIBUSI PELUANG DISKRETYANG KHUSUS-} Kismiantini & Himmawati puji Lestari Jurusan Pendidikan Matematika FMIPA UNy Abstrak Maximum Likelihood Estimator {MLE) adatah satah satu metode klasik yang sering digunakan untuk menentukan estimator parameter. Pada metode klasik parameter dianggap sebagai konstan, sedangkan pada metode Bayes semua parameter yang terdapat dalam model diperlakukan sebagai variabel. Dalam tulisan ini akan dibahas mengenai hubungan antara estimator bayes dengan estimator klasik pada distribusi peluang diskret yang khusus. Kata kunci : estimator klasik, estimator Bayes. PENDAHULUAN Metode yang biasa digunakan dalam menentukan estimator parameter adalah metode klasik. Metode klasik adalah suatu metode yang mendasarkan estimasinya pada Maximum Likelihood Estimator (MLE), Uniformly Minimum Variance Unbiased Estimator {UMVU4, Minimum Mean Square Error Estimator, Method of Moments Estimator (MMq dan lain-lain. Salah satu metode yang juga dapat digunakan datam menentukan estimator parameter adalah metode Bayes. Pada metode Bayes, semua parameter dalam model diperlakukan sebagai variabel sedangkan pada metode klasik parameter dianggap sebagai konstan. Sehingga jika terjadi suatu kasus yaitu pada situasi dan tempat pengamatan yang berbeda menyebabkan parameter berubah-ubah maka dengan prinsip Bayes akan dapat diatasi permasalahan tersebut. Dalam tulisan ini akan diselidiki hubungan antara estimator Bayes dengan estimator klasik pada distribusi peluang diskret yang khusus. Estimator klasik yang digunakan adalah Maximum Likelihood Estimator (MLE).Distribusi peluang diskret yang khusus meliputi distribusi seragam, Bernoulli, Binomial, Binomial Negatif, Geometrik, Hipergeometrik, dan Poisson. Dari ketujuh distribusi tersebut yang memiliki parameter adalah distribusi Bernoulli, Binomial, Binomial Negatif, Geometrik dan Poisson. DEFINiSI.DEFINISI Berikut ini diberikan beberapa definisi yang akan digunakan untuk menyelidiki hubungan antara estimator Bayes dengan estimator klasik pada distribusi peluang diskret yang khusus. Definisi 1 (Bain & Engelhardt, 1992) Misalkan Xl X2,...,X, sampel acak dengan fungsi peluang f$ i,0), i = 1, 2, ..., n. Apabila L yaitu fungsi peluang bersama dari x1X2,...,X, dipandang sebagaifungsi dari ddan X,l,Xt,...,Xe sebagai bitangan tertentu maka L(a) =fff!,,e) disebut i=1 sebagai fungsi likelihood. 1 Makalah ini disampaikan dalam Seminar Nasional IV padatanggal27 September 2003 yang diselenggarakan oleh Jurusan Matematika FMIPA Universitas Negeri Semarang

Upload: phamtuong

Post on 09-Dec-2016

268 views

Category:

Documents


4 download

TRANSCRIPT

Page 1: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

TELAH DIPRT:tINIqSLi. l,]l pdDA SEI'IHj. I i,iJURUSA[,] f,-i,,1;tEt]:.rr j !,(A Fi.,iipA UNNES

TANGGAL 27 5:F] LI48IR ZCO3l(!, i'uA FAi;it'iA

1r ^ (| /j---<-

DRA. KUsiJi, t4.SiNIP. 130515748

HUBUNGAN ANTARA ESTIMATOR BAYES DENGAN EST}MATOR KLASIKPADA DISTRIBUSI PELUANG DISKRETYANG KHUSUS-}

Kismiantini & Himmawati puji LestariJurusan Pendidikan Matematika FMIPA UNy

Abstrak

Maximum Likelihood Estimator {MLE) adatah satah satumetode klasik yang sering digunakan untuk menentukan estimatorparameter. Pada metode klasik parameter dianggap sebagai konstan,sedangkan pada metode Bayes semua parameter yang terdapatdalam model diperlakukan sebagai variabel. Dalam tulisan ini akandibahas mengenai hubungan antara estimator bayes denganestimator klasik pada distribusi peluang diskret yang khusus.

Kata kunci : estimator klasik, estimator Bayes.

PENDAHULUAN

Metode yang biasa digunakan dalam menentukan estimator parameter adalahmetode klasik. Metode klasik adalah suatu metode yang mendasarkan estimasinyapada Maximum Likelihood Estimator (MLE), Uniformly Minimum Variance UnbiasedEstimator {UMVU4, Minimum Mean Square Error Estimator, Method of MomentsEstimator (MMq dan lain-lain. Salah satu metode yang juga dapat digunakan datammenentukan estimator parameter adalah metode Bayes. Pada metode Bayes, semuaparameter dalam model diperlakukan sebagai variabel sedangkan pada metode klasikparameter dianggap sebagai konstan. Sehingga jika terjadi suatu kasus yaitu padasituasi dan tempat pengamatan yang berbeda menyebabkan parameter berubah-ubahmaka dengan prinsip Bayes akan dapat diatasi permasalahan tersebut.

Dalam tulisan ini akan diselidiki hubungan antara estimator Bayes denganestimator klasik pada distribusi peluang diskret yang khusus. Estimator klasik yangdigunakan adalah Maximum Likelihood Estimator (MLE).Distribusi peluang diskret yangkhusus meliputi distribusi seragam, Bernoulli, Binomial, Binomial Negatif, Geometrik,Hipergeometrik, dan Poisson. Dari ketujuh distribusi tersebut yang memiliki parameteradalah distribusi Bernoulli, Binomial, Binomial Negatif, Geometrik dan Poisson.

DEFINiSI.DEFINISI

Berikut ini diberikan beberapa definisi yang akan digunakan untuk menyelidikihubungan antara estimator Bayes dengan estimator klasik pada distribusi peluang diskretyang khusus.

Definisi 1 (Bain & Engelhardt, 1992)Misalkan Xl X2,...,X, sampel acak dengan fungsi peluang f$ i,0), i = 1, 2, ..., n.

Apabila L yaitu fungsi peluang bersama dari x1X2,...,X, dipandang sebagaifungsi

dari ddan X,l,Xt,...,Xe sebagai bitangan tertentu maka L(a) =fff!,,e) disebuti=1

sebagai fungsi likelihood.

1 Makalah ini disampaikan dalam Seminar Nasional IV padatanggal27 September 2003 yangdiselenggarakan oleh Jurusan Matematika FMIPA Universitas Negeri Semarang

Page 2: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

Definisi2 (Bain & Engelhardt, 1992)Misalkan XI,X2,...,Xn sampel acak dengan fungsi peluang fhi,g) dan fungsi

likelihood z(d). setiap nitai w = h(y,x2,...,xn) yang memaksimumkan L(a) yaknif(r)> l(a) Oinamakan Maximum Liketihaod Estimator(MLfl.

Pada definisi 2, seringkali akan lebih mudah tidak memaksimalkan (a) melainkantn(a). Hal ini dapat dilakukan karena r-(a) oan tnr-(a) mencapai maksimum pada 0yang sama.

Definisi 3 (Elfessi& Reineke, 2OO1)Estimator Bayes dari ddidefinisikan sebagai berikut :

_ t e t {e; x1, x2,..., x nY o

ESTIMATOR KLASIK

1. Distribusi BernoulliMisal X1, X2,...,X,7 sampel acak dengan Xi * Atll(,p), i= 1,2, ..., n.

Xi - BtN(,p) o t6i,p)= p'i (- pl-^i, i = 1, 2, ..., n

Berdasarkan definisi 'l maka fungsi likelihood :

nn9,r, n

r-(p)= IIf8r, p)=fIpr' (t- p)',r, = pi=1 (- p),-Zi,i=l i=1

Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimatar WLq.n(n\

tnt-(p)= Ixi tnp+l n-Z*i ltn(t-p)i=1 [ r=t )n' ( n )Tx, ln-)'x, I

atnr(p)_7=,''' I e')dp p 1-p

Persamaan likelihood :

n(n\Ir, ir-Ir, I

i=1 _\ i=1 /_nb - 1-b -"

t*,^;aA p- J=!-

n

1,,Dengan menggunakan MLE maka diperoleh estimator klasik untuk p ddah +

Page 3: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

2. Distribusi BinomialMisal X1,X2,...,Xn sampel acakdengan X; - Blru(n,p), i = 1, 2, ..., n.

xi - BtN(n,p) o f8,,ol=[i ]0.,

(- pY-'', i = 1, 2, ..., n

Berdasarkan definisi 1 maka fungsi likelihood :

r(p)= rr(,,, o>y{x,Jr,, ( - py -r = [g[x,)],

2.', t oy' - po.,

Dengan menggunakan definisi 2 akan dieari Maximum Likelihood Estimator WLq

,nl(p) = "[l[;, )] * 2,,

m o *(n2-,r,.,1,*, - r,

n

I,,' <) b=!=+

n-

n (^ n )Fx, lr'-1,*ildrnl(p)_7=,r'( E',1

dp p 1-p

Persamaan likelihood :

i-i, _[" --t',)

=.b 1-b

2,,Dengan menggunakan MLE maka diperoleh estimator klasik untuk p adalah

T3. Distribusi'Binomial NegatifMisal X1,X2,...,X11sampel acak dengan Xi - Bff(r,p), i= 1,2, .-., n.

x, -eNQ,p)er(x;,r)=[X:;'j p,(-p)*i-, ,i=1,2, . ,n

Berdasarkan definisi 1 makafungsi likelihood :

r(p) = II r(,,, r1 = g[X,-',,)r. {, _ py, _,

= LU(::;,]]r,,

u _ ilf,.,

_*

Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimator (MLA

rnr(p)=,,[g[X,-;')].,,,,,. [,t,,

- -)n6 - oy

' ($*, -rr), W=r-tfio'_-

)

Page 4: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

Persamaan likelihood :

(n )lTx, -nr Il'Lt l Inr [i=t ) ^:--=tJp 1-p

^nre p=-i--Z*'i=1

Dengan menggunak an MLE maka diperoleh estimator klasik untuk p arf,sl;tn -!I-Zr'i=1

4. Distribusi GeometrikMisal X1,X2,...,X11 sampel acak dengan Xi - GeO(p), i= 1,2, ..., n.

X 1 - GEo(p) o fQi, d= p( - p)ri -1, i = 1, 2, ..., n

Berdasarkan definisi 1 maka fungsi likelihood :

nnnr_(p) = fi r(xi, p) = fJ p(1 - p)*, -, = p, ( - p)

i\_1* i - n

i=1 i=1

Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimator (MLq.(n \

lnt(p)= nlnp+i Ir, -n itn(t-p)ti=t )(n )lIx, -n I

dtnL(p) n l7:' )dp p 1-p

Persamaan likelihood :

(n )lIx,-nltu | -ln \i=t .) ^:--=L,p 1- p

^ne p=-i-\'-.4li=1

Dengan menggunakan MLE maka diperoleh estimator klaslk untuk p adalahn

n\- -.i=l

5. Distribusi PoissonMisal X1,X2,...,Xp sampel acak dengan Xi - POt(x\, i = 1, 2, ..., n

Xi- PotQ")er(x,,s")={+, i= 1,2, ..., n' xil

4

Page 5: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

Berdasarkan definisi 1 maka fungsi likelihood :

9r,n n e-llxi "-nllj=1r(;)=flr$i,t)=fl+=+

i:1 i=1 nt, Il*,ti=1

Dengan menggunakan definisi 2 akan dicari Maximum Likelihood Estimator (MLE).nn

tnt-(z) = -il, +lx i ln2 - lnf[x; !

i=l i=1nIx,

atnl(z) =_n*7=,til" )"

Persamaan likelihood:

Zr'_ n+i=1, =O

)"nI,,

a i= i=tn

i,*,Dengan menggunakan MLE maka diperoleh estimator klasik untuk 2 adalah i:1

n

ESTIMATOR BAYES

Pada estimator Bayes, fungsi peluang f(*i,e) dinyatakan dengan fungsi peluang

bersyarat yaitu (x;la).

1. Distribusi BernoulliSehingga untuk X1,X2,...,X4 sampel acak dari populasi yang berdistribusi Bernoulli

dengan parameter p dapat dituliskan sebagai berikut :

Xi - BtN(,p)., r(rilp)= p^i (- pl-*i, i = 1, 2, ..., n.

Distribusi Prior untuk Xi -BtN(,p), i = t,2, ..., n adalah p*BETA{a,B). Senlnggafungsi peluang dari distribusi priornya adalah sebagai berikut:

,(p)=ffi*-t(- pf-t, o < p <1

Fungsi likelihood'. n

n.Zxrnr(x1,x2,...,rrld=flpr'( - p)1-*i = pi=1 (t- p)n-z_r\

i=1

Page 6: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

Fungsi peluang bersama dari X1XZ,...,Xn dan p adalah :

f {o; x 1, x 2,..., x, ) = o{p\(x t, x 2,..., x, lp), maka

r(p;x1,xz,...*,) = #i#o**for'-' 1o - oy*o-I*,t

Berdasarkan definisi 3 maka estimator Bayes untuk p adalah sebagai berikut :

1 -t a\ o*fri -l n

^ [0ffi60 i-=1' (- of+f-zxi-t6o

'n1 -t ^\ a+l.xi -1 n

[##, n (-pY.P-7=i'-'ap

1o*!r1*t-1 n

Ip i=1 (- oY*t- ,z=r*i-1dp

1 o*!ri-t n

Ip i:1 (- pY-P-7__i,-tap0

na +\x;

_ i=1

n+a+ fi o*i*,

Jadi estimator Bayes untuk p adalah '=' = .' n+a+B

2. Distribusi BinomialMisal X1,X2,...,Xn sampel acak dari populasi yang berdistribusi Binomial denganpararneler p dapat dituliskan sebagai berikut :

X; - BtN(n,p)o r(,,|p)= (:,)n' (- pY-'i , i= 1,2, . , n

Distribusi Prior untuk Xi -BlN(n,p), i= t,2, ..., n adatah p-BETA(a,B). Sehinggafungsi peluang dari distribusi priornya adalah sebagai berikut :

o(p)=ffint(-pY', o<p<1

Fungsi likelihood :

f(x1x2,,x,lr)=I[;,)r.,( py-*i=[g[],)], E,r' u- py'-i'ri

Fungsi peluang bersama dari X1X2,..., Xn dan p adalah :

t (p; ^

t, x 2,..., x n) = "bY k r, X 2,..., X 11 lR), rrt,

Page 7: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

r (p; r t, x 2, x n) =tr#di t[ [;, ;] r".,:,

r' -' ( - ovz

* p - ! r i - t

Berdasarkan definisi 3 maka estimator Bayes untuk p adalah sebagai berikut :

n

u -!' i#Blz(:,)lfl zr' -'

r -

"' . o - zt' " o o

i#fi[u[;';P .

E'' -'

u - oY'. o - f;'' oo

1 ,* !xi+l-t ^ n

! o i"=t' ( - pY'* B-,2=rr, -' dp_0

1 a+\xi-l ^ n

! o i'='t' (1- PY'* P- ,Z=,,r'

-'dP0

na +lx1

- i=ln2 +a+ p

o *!^,Jadi estimator Bayes untuk p adalah u '='n' +a + B

3. Distribusi Binomial NegatifMisal X1,X2,.".,Xn sampel acak dari populasi yang berdistribusi Binomial Negatifdengan parameter p dapat dituliskan sebagai berikut :

x1 - BN(, p)o r(,,1p)= (i' :r')n l- pyi-', i = 1, 2,, n

Distribusi Prior untuk X' -eN|,p), i = 1,2, ..., n adalah p-BETA(a,B). Seninggafungsi peluang dari distribusi priornya adalah sebagai berikut:

nb)=ffir*'(- pY-', o.p<1

Fungsi likelihood :

r(x1, x2,, x, tr)= fi [X,--r,)r, o

_ p)*i -,

7

= [g[X:;')]"'

( - o)L-r' - *

Fungsi peluang bersama dari X1, Xz,...,X, dan p adalah :

t (p', x 1, x 2,..., x r) = "bY 6,t, X 2,..., X s1 lp), rrt,

r (14 x 1 x 2, x ) = ##lI(:,-;')] onr + a -1 ( - oy

* ! *i - * -t

Page 8: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

berikut:

1nI pnr +u-t (, - p)9*,f x i - nr -1 6o

0nr+a

no+B+ fx;

i=1

Jadi estimator Bayes untukp adalah nr +1

a+B+lx1i ='l

4. Distribusi GeometrikMisal X,1,X2,...,Xn sampel acak dari populasi yang berdistribusi Geometri dengan

parameter p dapat dltuliskan sebagai berikut :

X i'- GEo(pl<> f(x,lp)= p(- pYi -1, i = 1, 2, ..., n.

Distribusi Prior untuk Xi*GEO{p), i= t,2, ..., n adalah p-BETA(u,B). Seningga

fungsi peluang dari distribusi priomya adalah sebagai berikut:

u(p)=ffix-'(- pY-', o<p<1

Fungsi likelihood :

f(<1 x2,..., x, lp)= flp(r - p)*, -r = p, ( - rf;' -,i=1

Fungsi peluang bersama dari X1X2,...,Xn dan p adalah .

f (p', x 1, x2,..., x, ) = "(pYQ t, x 2,..., x, lp), maka

r(p; x 1 x2,...x,) = #;#on +a'1 (1 - oy

+ L xi - n -t

Page 9: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

Berdasarkan definisi 3 maka estimator Bayes untuk p adalah sebagai berikut :

b= lrffion +u -1 ( - rY + f,-xi - n -t 6o

i#fr, n+.,-1 ( - pY * i xi -n -t 6o

1on*.,*1-1(r _ oy. lf -n-1 dp

n

1'n *" -r ( - oY.,2=;i - n -1 dP

0

_ n+an

a+B+lx1i=1

Jadi estimator Bayes untuk p adalah

o* p*!^1i=1

5. Distribusi PoissonMisal X1,X2,...,Xs1 sampel acak dari populasi yang berdistribusi Poisson dengan

parameter L dapat dituliskan sebagai berikut :

xi * Pot(x)er(x,lt)=+, i= 1,2, ..., n.

Distribusi Prior untuk Xi -PO\A), i= 1,2, ..-, n adalah 1-Gamma(",8) Sehingga

fungsi peluang dari distribusi priornya addlah sebagai berikut :

o(A\=fi1^f t"-*, )">a

Fungsi likelihood :

9,*,e_nA )j =1

f[,,1i=1

..,Xn dan 1adalah:

n+d

r(71,x2,..,x,l^)-E+=

Fungsi peluang bersama dari X1, X2,.

f (2', x 1, x 2,. . ., ^ r) =

"@Y 6 1, x 2,.. ., x nl,t ), mata

a*9x,-t' i"='t' "-a(n+a)

f(A;x1,x2,...xr1= #^

Page 10: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

Berdasarkan definisi 3 maka estimator Bayes untuk 2 adalah sebagai berikut :

"-e{n*o)6X.T^ "l f.Ei'-'o r(P)f[x,t

^ I=l

n" s P*!xi-t1 o' .1, ,-=t'

"-t(n+a)6trJno r(P)f{x;t

i=1

* p+\xi+1-1

J t' i=1

"-t"{n+o)67=! n

a 0+T.xi-'l

I i F:' "-s'(n+a)620

F *L*i= ----.1=1-n+a

n

F +ZxiJadi estimator Bayes untuk 2 adalah -;#

Tabel. Hubungan antara estimator Bayes dengan estimator klasik pada distribusi peluang' diskret yang khusus

Nama Distribusi Estimator Bayes a BEstimator Klasik

dari MLE

Bernoulli

n

a +lxin+a+ B

0 0

n

Z*ii=1

n

Binomial

na +lx;

;1

7.".80 0 Z*'

i=1

n2

Binomial Negatif

nr+an

a+ B+lxii_1

0 0

nrn

I,,i=1

Geometrik

n+a

a+ B +|,xi;_1

0 0

nn

2,,i=1

Poisson

n

F *Zx;i=1

n+a0 0

nI,,i=1

n

10

Page 11: 2003 Hubungan antara Estimator Bayes dengan Estimator Klasik

SIMPULAN

Estimator Bayes pada distribusi peluang diskret yang khusus mempunyaihubungan dengan estimator klasik dari Maximum Likelihood Estimator (MLE) bila c = 0

dan P=0.

DAFTAR PUSTAKA

Bain, L. J. & Engelhardt, M. (1992). lntroduction to Probability and MathematicalSfafisfrbs. Belmont Duxburry Press.

Berger, J. O. (1985)" Sfafisfibal Decision Theory and Bayesian Analysis- New York:Springer-Verlag.

Elfessi, A. & Reineke, D. M. (2001). "A Bayesian Look at Classical Estimation TheExponentialDistribution," Journalof Sfafisfics Education, [Online],9(1).(http ://www, amstat. orq/publ ications/ise-/vg-n :l lelfeqsi. htFl )

Hogg, R. V. & Tanis, E. A. (2001). Probability and Statistical lnference. Upper SaddleRiver, NJ: Prentice Hall.

lriawan, N. (2003). ModulWorkshop Pemodelan Data dengan Markov Chain Monte Carlo

{MCMC) menggunakan WINSBUG 1.2. $urabaya: Jurusan Statistika FMIPA lTS.

11