problem procjene parametara u weibullovom modeludarija/papers/teza.pdf · 2011-03-22 · osnovne...

Sveuciliste u Zagrebu

Prirodoslovno - matematicki fakultet

Matematicki odjel

mr. sc. Darija Markovic

Problem procjene parametara u Weibullovommodelu

Disertacija

Voditelj: prof. dr. sc. Dragan Jukic

Suvoditelj: prof. dr. sc.Miljenko Marusic

Zagreb, 2009.

Sadrzaj

1 Uvod 1

2 Weibullovi modeli 4

2.1 Weibullov 3-parametarski model . . . . . . . . . . . . . . . . . . . . . . 4

2.2 Osnovni pojmovi teorije pouzdanosti . . . . . . . . . . . . . . . . . . . 6

2.3 Klasifikacija Weibullovih modela . . . . . . . . . . . . . . . . . . . . . . 12

3 Klasicne metode za procjenu parametara u Weibullovom modelu 16

3.1 Graficke metode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

3.1.1 Weibullov crtez vjerojatnosti . . . . . . . . . . . . . . . . . . . . 17

3.1.2 Crtez rizika . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

3.2 Analiticke metode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

3.2.1 Metoda momenata . . . . . . . . . . . . . . . . . . . . . . . . . 27

3.2.2 Metoda maksimalne vjerodostojnosti . . . . . . . . . . . . . . . 32

4 Problem najmanjih kvadrata 38

4.1 Opca formulacija problema najmanjih kvadrata s generalizacijom u p−normi 38

4.2 Problem najmanjih kvadrata u regresijskoj analizi . . . . . . . . . . . . 40

4.2.1 Problem najmanjih obicnih kvadrata . . . . . . . . . . . . . . . 40

4.2.2 Problem najmanjih potpunih kvadrata . . . . . . . . . . . . . . 44

i

4.2.3 Metoda najmanjih obicnih kvadrata za transformirani Weibullov

model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46

4.3 Nelinearni problem najmanjih kvadrata za 3-parametarski Weibullov

model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55

4.3.1 OLS i TLS problem za funkciju distribucije vjerojatnosti . . . . 55

4.3.2 OLS i TLS problem za funkciju gustoce vjerojatnosti . . . . . . 56

5 Teoremi o egzistenciji optimalnih parametara u Weibullovom modelu 59

5.1 Egzistencija OLS procjenitelja za Weibullovu 3-parametarsku distribuciju 59

5.2 Egzistencija TLS procjenitelja za Weibullovu 3-parametarsku distribuciju 71

5.3 Egzistencija OLS procjenitelja za Weibullovu 3-parametarsku gustocu . 86

5.4 Egzistencija TLS procjenitelja za Weibullovu 3-parametarsku gustocu . 95

Literatura . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111

Sazetak . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119

Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120

Zivotopis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121

ii

Poglavlje 1

Uvod

U primijenjenim istrazivanjima matematicki modeli obicno sadrze nepoznate parame-

tre koje treba procijeniti na osnovi eksperimentalnih ili empirijskih podataka (wi, ti, yi),

i = 1, . . . , n, gdje su ti vrijednosti nezavisne varijable (opcenito vektor), yi odgovarajuce

vrijednosti zavisne varijable, a wi > 0 je tezina i−tog podatka. Taj problem u litera-

turi je poznat pod nazivom Problem procjene parametara (engl. Parameter Estimation

Problem). U literaturi postoji vise metoda za procjenu parametara u modelu opisanom

diferencijalnim jednadzbama, kao sto su npr.metoda konacnih razlika (engl. Finite Di-

fferences Method), metoda integracije podataka (engl. Integration of Data), metoda

izgladivanja podataka (engl. Smooth the Data Method), itd. Pri tome treba razliko-

vati slucaj kada se rjesenje sustava diferencijalnih jednadzbi moze prikazati pomocu

elementarnih funkcija od slucaja kada to nije moguce. U slucaju kada je poznata

funkcija-model, metode za procjenu parametara najcesce se baziraju na upotrebi lp

norme (1 ≤ p < ∞), tako da se minimizira p-norma odgovarajuceg vektora reziduala.

Ako je p = 2, radi se o metodi najmanjih kvadrata (LS metoda, od engl. Least Squares

Method). Osim LS metode (l2 norme) cesto se koriste l1 i l∞ norma. Kod LS metode

treba razlikovati dva pristupa: metodu najmanjih obicnih kvadrata (OLS metoda, od

engl.Ordinary Least Squares) i metodu najmanjih potpunih kvadrata (TLS metoda,

od engl. Total Least Squares). Ukratko, ako su pogreske u nezavisnim varijablama

zanemarive, a pogreske u mjerenju zavisne varijable nezavisne i normalno distribuirane

slucajne varijable s ocekivanjem 0 (nula), onda se nepoznati parametri najcesce procje-

njuju u smislu metode najmanjih obicnih kvadrata (OLS metode) tako da se na skupu

dopustivih parametara minimizira funkcional koji predstavlja tezinsku suma kvadrata

odstupanja izmjerenih od modelom predvidenih vrijednosti. Statisticki gledano, OLS

funkcional predstavlja tezinsku sumu kvadrata pogresaka sadrzanih u zavisnoj vari-

jabli. Tocka u kojoj funkcional postize minimum zove se LS procjenitelj. Za optimalnu

vrijednost vektora nepoznatih parametara uzima se LS procjenitelj, ako on postoji.

1

Uvod 2

Ako je odgovarajuci minimizirajuci funkcional linearan u svim svojim parametrima,

radi se o dobro izucenom linearnom OLS problemu koji uvijek ima rjesenje i za koji

postoje dobro razvijene numericke metode. Za rjesavanje nelinearnih OLS problema

razvijene su posebne numericke metode. Medutim, prije same minimizacije postavljaju

se teska pitanja vezana uz egzistenciju i jedinstvenost LS procjenitelja te nesto laksi

problem odredivanja dobre pocetne aproksimacije. U najopcenitijem slucaju pogreske

se mogu javiti u mjerenjima svih varijabli (i zavisnih i nezavisnih). U takvoj situaciji

razumno je vektor nepoznatih parametara potraziti u smislu metode najmanjih pot-

punih kvadrata (TLS metode). Kod TLS metode vektor nepoznatih parametara trazi

se minimizacijom funkcionala koji predstavlja tezinsku sumu kvadrata svih pogresaka.

Geometrijski gledano, ovaj funkcional predstavlja tezinsku sumu kvadrata udaljenosti

tocaka (ti, yi) do neke tocke na grafu funkcije modela. U statistickoj literaturi TLS

metoda je na engleskom jeziku poznata pod nazivima Errors in Variables Regression

i Orthogonal Distance Regression. U numerickoj analizi TLS pristup prvi su izucavali

G.H.Golub i C. F.Van Loan [24]. U literaturi je dobro izucen jedino linearni TLS pro-

blem. U odnosu na OLS problem, kod nelinearnog TLS problema javljaju se puno tezi

problemi vezani za egzistenciju, jedinstvenost i efikasno nalazenja TLS procjenitelja.

Glavni razlog za to je sto TLS funkcional ima puno vise nezavisnih varijabli nego li

odgovarajuci OLS funkcional. Naime, svaki podatak ,,donosi” jednu novu varijablu,

a kako je broj podataka obicno velik, radi se o problemu minimizacije funkcionala s

puno nezavisnih varijabli. Upravo zbog tog razloga razvijene su specijalne numericke

metode za nalazenje TLS procjenitelja (P.T. Boggs, R.H. Byrd, R.B. Schnabel [9], H.

Schwetlick, V. Tiller [83], D. Jukic, R. Scitovski, H. Spath, [45]).

Glavni problem koji se razmatra u ovom radu je problem egzistencije optimalnih

parametara za 3-parametarski Weibullov model. U drugom poglavlju opisan je 3-

parametarski Weibullov model, te su navedene neke od njegovih generalizacija. Takoder,

istaknute su neke od brojnih primjena ovog modela. Ukratko su navedeni osnovni prob-

lemi empirijskog modeliranja. Navedeni su ilustrativni primjeri koji ce se koristiti u

ostatku rada.

U trecem poglavlju razmatraju se neke klasicne metode za procjenu nepoznatih

parametara u 2-parametarskom i 3-parametarskom Weibullovom modelu. Opisane su

dvije graficke metode: Weibullov crtez vjerojatnosti i crtez rizika. Dodatno su navedeni

neki procjenitelji za vrijednost empirijske funkcije distribucije. Od analitickih metoda u

radu su opisane metoda momenata i metoda maksimalne vjerodostojnosti, koje se stan-

dardno koriste za procjenu nepoznatih parametara u statistickim modelima. Navedeni

su problemi koji se javljaju pri procjeni parametara u ovim statistickim metodama.

U cetvrtom poglavlju opisan je problem najmanjih kvadrata s posebnim naglaskom

Uvod 3

na OLS i TLS pristup u regresijskoj analizi. Osim toga u ovom poglavlju detaljnije je

razradena OLS metoda za transformiranu Weibullovu distribuciju.

U petom poglavlju nalazi se glavni doprinos ove disertacije, a to su teoremi o egzis-

tenciji optimalnih parametara, kako u smislu najmanjih obicnih kvadrata tako i u

smislu najmanjih potpunih kvadrata za 3-parametarski Weibullov model. Pri tome

se od podataka zahtjeva da ispunjavaju samo vrlo prirodne uvjete, kao sto su pozi-

tivnost, rast i ogranicenost zavisne varijable. Takoder dokazana je egzistencija opti-

malnih parametara za Weibullovu 3-parametarsku gustocu u smislu najmanjih obicnih

i najmanjih potpunih kvadrata. Svi ti teoremi o egzistenciji optimalnih parametara

generalizirani su i u p normi (1 ≤ p < ∞). Neki od tih rezultata vec su objavljeni,

prihvaceni za objavljivanje ili se nalaze na recenziji (D. Markovic, D. Jukic i M. Bensic

[57], D. Jukic i D. Markovic [36] i D.Markovic i D. Jukic [56]).

Poglavlje 2

Weibullovi modeli

Weibullov model (distribucija) jedan je od najcesce koristenih statistickih modela u

teoriji pouzdanosti i teoriji zivotnog vijeka (vidi npr. [4, 5, 12, 32, 48, 60, 64]). Model je

nazvan po svedskom fizicaru Waloddi Weibullu (1887.-1979.) koji ga prvi puta spominje

u radu [94]. Prije Weibulla slican model koristili su Rosin i Rammler u radu [79] za

opisivanje distribucije velicine cestica, te se isti model cesto naziva Rosin–Rammlerova

distribucija. Najraniji poznati rad u kojem se javlja Weibullova distribucija je rad

Fishera i Tippeta [20] iz 1928. u kojem je distribucija dobivena kao granicna distribucija

malih ekstrema u uzorku. U literaturi iz podrucja farmakologije Weibullova distribucija

se pojavljuje pod nazivom Rosin-Rammler-Sperling-Bennet-Weibullova distribucija ili

kratko RRSBW distribucija, iako se ponekad izostavlja Weibullovo ime.

2.1 Weibullov 3-parametarski model

U ovoj disertaciji najveca paznja je posvecena problemu procjene parametara u 3-

parametarskom Weibullovu modelu (distribuciji). Taj model je zadan izrazom

F (t; α, β, η) =

{1− e−( t−α

η )β

, t > α0, t ≤ α

(2.1)

gdje su α ≥ 0 parametar polozaja (engl. the location parameter), η > 0 parametar

skaliranja (engl. the scale parameter) i β > 0 parametar oblika (engl. the shape param-

eter) (vidi npr. [1, 18, 60, 95]). Na funkciju F mozemo gledati kao na kumulativnu

funkciju distribucije vjerojatnosti (CDF; kratica od engl. cumulative distribution fun-

ction). Odgovarajuca funkcija gustoce vjerojatnosti (PDF; kratica od engl. probability

4

Weibullovi modeli 5

density function) glasi:

f(t; α, β, η) =

{βη

(t−αη

)β−1

e−( t−αη )

β

t > α

0, t ≤ α.(2.2)

Za α = 0, dobiva se 2-parametarska Weibullova distribucija koja se cesto u literaturi

naziva standardnim Weibullovim modelom.

Tipican izgled Weibullove 3-parametarske distribucije prikazan je na slici 2.1.

t

F (t; α, β, η)

6

-

1

α

Slika 2.1. Graf 3-parametarske Weibullove distribucije

Za nenegativnu slucajnu varijablu T kazemo da je 3-parametarska Weibullova slu-

cajna varijabla i pisemo T ∼ W (α, β, η) ako su njezina kumulativna funkcija distribu-

cije vjerojatnosti i funkcija gustoce vjerojatnosti zadane s (2.1) i (2.2).

Weibullova 3-parametarska distribucija je vrlo fleksibilna. Dobrim izborom para-

metara oblika β mogu se dobiti razliciti oblici funkcije gustoce vjerojatnosti (slika 2.2).

Na taj je nacin moguce dobiti aproksimacije drugih distribucija. Za vrijednost parame-

tra 0 < β ≤ 1 funkcija gustoce je padajuca. U slucaju β = 1, Weibullova distribu-

cija se svodi na 2-parametarsku eksponencijalnu distribuciju, a za β = 0.5 ona dobro

aproksimira gamma distribuciju. Ako je β > 1, funkcija gustoce je zvonolika i uni-

modalna s maksimumom u tocki α + η(1 − 1/β)1/β. Kada je β = 2 i α = 0 ona je

jednaka Rayleigh-evoj distribuciji. Za β = 2.5 aproksimira lognormalu distribuciju.

Dobra aproksimacija normalne distribucije dobiva se za β = 3.4. Upravo fleksibi-

lnost Weibullove 3-parametarske distribucije je jedan od glavnih razloga njene siroke

upotrebe u statistickim istrazivanjima, a narocito u teoriji pouzdanosti i teoriji zivotnog

vijeka. Weibullova distribucija ima siroku primjenu i u elektrotehnici ([21, 59]), biologiji

Weibullovi modeli 6

([33, 88]), kemiji ([61, 71]), medicini ([82, 98]), meteorologiji ([54, 91]), sumarstvu

([27, 28]) i inzenjerskim istrazivanjima ([1, 48, 60, 64]). Osim toga, u mnogim primije-

njenim istrazivanjima Weibullovi modeli se koriste i kao trend krivulje ([3, 80, 84]).

t

f(t; α, β, η) 6

-

β=0.5

�

β=1

?

β=2.5�

β=2�

β=3.4�

β=9

�

Slika 2.2: Graf Weibullove 3-parametarske funkcije gustoce za razlicite vrijednostiparametra oblika β

U primijenjenim istrazivanjima nepoznate parametre α, β i η 3-parametarskog Wei-

bullova modela treba procijeniti na osnovi uzorka t1, . . . , tn koji se sastoji od n opazanja

slucajne varijable T ∼ W (α, β, η). U tu svrhu razvijene su mnoge statisticke metode.

U ovoj disertaciji naglasak ce biti na metodi najmanjih kvadrata.

2.2 Osnovni pojmovi teorije pouzdanosti

U svrhu boljeg razumijevanja mogucnosti primjene Weibullova modela korisno je navesti

osnovne stvari iz teorije pouzdanosti. Najjednostavnije receno pouzdanost nekog su-

stava je vjerojatnost da ce taj sustav uspjesno, bez otkaza, obaviti zadacu koja mu

je namijenjena. Preciznije, neka je T slucajna varijabla koja oznacava vrijeme pojave

otkaza, s funkcijom gustoce vjerojatnosti f i odgovarajucom kumulativnom funkcijom

distribucije vjerojatnosti F . U teoriji pouzdanosti funkcija F se zove funkcija distribucije

Weibullovi modeli 7

otkaza (engl. failure distribution ili life distribution). Dakle, u teoriji pouzdanosti

F (t) = P (T ≤ t)

predstavlja vjerojatnost da ce sustav otkazati do trenutka t.

Funkcija pouzdanosti (engl. reliability function ili survivor function) R(t) definira se

kao vjerojatnost bezotkaznog rada do vremenskog trenutka t, odnosno vjerojatnost da

ce odredeni element ili uredaj nadzivjeti trenutak t. Dakle,

R(t) = 1− F (t) = P (T > t).

Za funkciju pouzdanosti koriste se i nazivi funkcija prezivljavanja i funkcija opstanka.

Uocimo da za Weibullovu 3-parametarsku distribuciju funkcija pouzdanosti glasi:

R(t; α, β, η) = 1− F (t; α, β, η) = e−( t−αη )

β

, t > α.

t

R(t;α, β, η) 6

-

1

α

Slika 2.3. Graf Weibullove funkcija pouzdanosti za α = 1, β = 2 i η = 1.2

Funkcija hazarda (engl. hazard function ili instantaneous failure rate) h(t) definira

se formulom

h(t) = lim∆t→0

P (t < T ≤ t + ∆t|T > t)

∆t,

gdje P (t < T ≤ t + ∆t|T > t) oznacava uvjetnu vjerojatnost, tj. vjerojatnost da

slucajna varijabla T poprimi vrijednost iz intervala (t, t + ∆t] ako je njezina vrijednost

veca od t. Kako je

P (t < T ≤ t + ∆t|T > t) =P (t < T ≤ t + ∆t)

P (T > t)=

F (t + ∆t)− F (t)

R(t),

Weibullovi modeli 8

dobiva se

h(t) =f(t)

R(t)=

f(t)

1− F (t).

Za funkciju hazarda koriste se i nazivi funkcija rizika i funkcija intenziteta otkaza.

Prema tome, h(t) mozemo interpretirati kao vjerojatnosti otkaza u sljedecoj jedinici

vremena ukoliko je sistem dozivio trenutak t. Za Weibullovu distribuciju funkcija rizika

dana je izrazom:

h(t; α, β, η) =f(t; α, β, η)

1− F (t; α, β, η)=

β

η

(t− α

η

)β−1

, t > α.

Funkcija rizika Weibullove 3-parametarske distribucije je monotono rastuca za β > 1,

padajuca za 0 < β < 1 i konstantna za β = 1 (slika 2.4).

β1 = 0.5 β2 = 1 β3 = 1.5

6

-

6

-

6

-

Slika 2.4: Funkcija rizika Weibullove 3-parametarske distribucije za α = 1, η = 1.2 ineke vrijednosti parametra β

Primjedba 2.1 Za mnoge distribucije funkcija rizika ima oblik ,,kade”, kao na slici 2.5.

Na pocetku faze pocetnih kvarova (engl. infant mortality region) intenzitet kvarova je

vrlo velik, ali s vremenom brzo opada. U fazi rada (engl. constant failure rate region)

intenzitet kvarova je gotovo konstantan. U posljednjoj trecoj tzv. fazi istrosenosti (engl.

wear-out region) na pocetku intenzitet kvarova je vrlo mali, ali s vremenom pocinje brzo

rasti. Razni Weibullovi modeli nabrojani u tocki 2.3 koriste se za modeliranje krivulja

,,kade”. Vise o tome moze se pronaci u [47].

Weibullovi modeli 9

Faza pocetnih kvarova Faza rada Faza istrosenosti

t

h(t)

t1 t2

6

-

Slika 2.5. Krivulja ,,kade”

Kumulativna funkcija rizika (engl. cumulative hazard rate) H(t) definirana je izrazom

H(t) =

∫ t

0

h(x)dx.

Lako je provjeriti da za Weibullovu 3-parametarsku distribuciju kumulativna funkcija

rizika glasi

H(t; α, β, η) =

(t− α

η

)β

.

Srednje vrijeme otkaza TSR definira se kao matematicko ocekivanje slucajne vari-

jable T :

TSR = E[T ] =

∫ ∞

0

tf(t)dt.

Sada cemo navesti nekoliko ilustrativnih primjera na koje cemo se nadalje cesto

pozivati. Na tim primjerima u poglavlju 3 ilustrirat cemo primjenu raznih metoda za

procjenu parametara.

Primjer 2.1 U tablici 2.1 navedeni su stvarni podatci preuzeti iz [60], koji predstavlja-

ju otkazivanje jednog dijela fotokopirnog stroja, valjka za ciscenje tonera (engl. clea-

ning web). Stupac ,,Brojac” predstavlja broj kopija napravljenih do trenutka zamijene

Weibullovi modeli 10

valjka, a stupac ,,Dani” predstavlja odgovarajuci broj dana (mjerenih od trenutka kada

se fotokopirni stroj poceo koristiti).

Tablica 2.1. Otkazi valjka za ciscenje

Brojac Dani Brojac Dani60 152 29 900 362 1356

132 079 128 933 785 1412365 075 397 938 100 1448427 056 563 994 597 1514501 550 722 1 045 893 1583597 739 916 1 068 124 1609675 841 1016 1 077 537 1640716 636 1111

Neka ti predstavlja i−to vrijeme otkaza. Razlike dviju uzastopnih vrijednosti iz

stupca ,,Dani” daju uocena vremena otkaza ti. Ta vremena zajedno s odgovarajucom

uredenom statistikom prikazan su u tablici 2.2:

Tablica 2.2. Vrijeme otkaza ti i uredena statistika t(i) u odnosu na broj dana

i 1 2 3 4 5 6 7 8 9 10 11 12 13 14ti 99 269 166 159 194 100 95 245 56 36 66 69 26 31t(i) 26 31 36 56 66 69 95 99 100 159 166 194 245 269

Vrijeme otkaza takoder mozemo promatrati ovisno o broju napravljenih kopija. U

tom slucaju imamo sljedeci skup podataka:


Tablica 2.3. Vrijeme otkaza ti i uredena statistika t(i) u odnosu na broj kopija

i 1 2 3 4 5 6 7ti 71 927 232 996 61 981 74 494 96 189 78 102 40 795t(i) 4 315 9 413 22 231 33 423 40 795 51 296 56 497

i 8 9 10 11 12 13 14ti 183 726 33 423 4 315 56 497 51 296 22 231 9 413t(i) 61 981 71 927 74 494 78 102 96 189 183 726 232 996

U inzenjerskim modeliranjima cesto se pretpostavlja da je vrijeme otkaza T Weibu-

llova 3-parametarska slucajna varijabla s kumulativnom funkcije distribucije vjerojat-

nosti (2.1).

Sljedeca propozicija daje nam vrlo jednostavan nacin generiranja 3-parametarske

Weibullove distribucije.

Propozicija 2.1 Neka su zadani realni brojevi α ≥ 0 i β, η > 0. Ako je U uniformno

(jednoliko) distribuirana slucajna varijabla nad intervalom (0, 1), onda je

T = α + η(− ln U)1β ∼ W (α, β, η).

Dokaz. Zaista,

P (T ≤ t) = P (α + η(− ln U)1β ≤ t) = P

(− ln U ≤

(t− α

η

)β)

= P(U ≥ e−( t−α

η)β

)= 1− e−( t−α

η)β

.

¥

Primjer 2.2 Sljedeci Mathematica program generira slucajne vrijednosti 3-parametar-

ske Weibullove varijable s parametrima α = 15, β = 2.5 i η = 30.

Needs["Statistics‘ContinuousDistributions‘"];

udist = UniformDistribution[0, 1];

alfa = 15;

eta = 30;

beta = 2.5;

data = Sort[alfa + eta*(-Log[RandomArray[udist, 20]])^(1/beta)]


Podaci navedeni u tablici 2.4 dobiveni su koristenjem gore navedenog programa.

Tablica 2.4. Generirane vrijednosti Weibullove varijable

22.9098 39.737124.3443 41.835224.8049 45.008929.4160 45.859429.7389 46.251832.8856 46.461035.8976 53.265936.6185 56.026736.7394 66.515236.7917 73.5136

2.3 Klasifikacija Weibullovih modela

Iako Weibull nije bio prvi koji je upotrijebio model (2.1), sam model vjerovatno ne

bi postigao toliku popularnost bez njegovog zalaganja. U radu [95] on navodi sedam

studija kod kojih su koristeni 2-parametarski i 3-parametarski Weibullov model, a u

radu [96] napravio je iscrpan popis referenci u kojima su se do 1977. godine koristila ta

dva modela. Taj popis sadrzi 1019 radova, od cega je 38 napisao sam Weibull, kao i

klasifikaciju radova po podrucjima primjene. Iscrpan popis referenci koje sadrze i novije

primjena tih modela (kao sto su modeliranje cvrstoce materija, velicine Antarktickog

ledenjaka, napuknuca u betonu, ucestalost poplava i potresa, distribuciju brzine vjetra,

velicinu kapljica i slicno) moze se pronaci u [60] i [77]. Popularnost ta dva modela

dovela je do njihovih raznih modifikacija i generalizacija, koje se s obzirom na vezu

sa standardnim Weibullovim modelom mogu podijeliti u 7 razlicitih grupa (vidi npr.

[60]). Navedimo ukratko te grupe modela kao i neke specijalne modele unutar njih:

• Modeli tipa I: Ovi modeli se dobivaju transformacijom standardne Weibullove

slucajne varijable T . Ta transformacija moze biti linearna i nelinearna.

Lako je provjeriti da se linearnom transformacijom Z = T + α dobiva 3-parame-

tarski Weibullov model. Nadalje, nelinearnom tranformacijom

Z =η2

T


kao rezultat se dobiva inverzni Weibullov model (engl. inverse (or reverse) Weibull

model) cija funkcija distribucije glasi:

G(t; β, η) = e−( ηt )

β

, t > 0.

Odgovararajuca 3-parametarska generalizacija

G(t; α, β, η) = e−( ηt−α)

β

, t > α

dobiva se transformacijom

Z = α +η2

T − α.

Napomenimo da je problem egzistencije optimalnih parametara za 3-parametarsku

inverznu Weibullovu distribuciju razmatran u radu Markovic i Jukic [55].

• Modeli tipa II su razne generalizacije modela tipa I. Ovoj grupi pripadaju ekspo-

nencirana Weibullova distribucija (engl. exponentiated Weibull distribution)

G(t; α, β, η, ν) =

[1− e−( t−α

η )β]ν

, t > α, α ≥ 0; β, η, ν > 0,

4 - parametarski Weibullov model

G(t; a, b, β, λ) = 1− e−λ( t−ab−t )

β

, 0 ≤ a ≤ t ≤ b < ∞, λ, β > 0

i 5 - parametarski Weibullov model

G(t; a, b, β1, β2, λ) = 1− e−λ(

(t−a)β1

(b−t)β2 , 0 ≤ a ≤ t ≤ b < ∞, λ, β1, β2 > 0.

• Modeli tipa III: modeli jedne varijable izvedeni iz jedne ili vise distribucija od

kojih je jedna standardna Weibullova distribucija.

• Modeli tipa IV: modeli kod kojih su parametri promjenjive varijable.


• Modeli tipa V: diskretni modeli, odnosno modeli kod kojih slucajna varijabla

prima samo nenegativne cjelobrojne vrijednosti.

• Modeli tipa VI: modele s vise varijabli.

• Modeli tipa VII: stohasticki modeli.

Weibullovi modeli cesto se koriste u svrhu empirijskog modeliranja. Za razliku od

teorijskog modeliranja, u ovom slucaju nije poznata teorija koja je povezana s pro-

blemom koji se modelira. Ova vrsta modela naziva se modeli ovisni o podacima ili

,,black-box” modeli. Efektivno empirijsko modeliranje zahtjeva: dobro poznavanje

metodologije za izgradnju modela, dobro poznavanje svojstva razlicitih modela, alate

i tehnike za procjenu koliko je odredeni model pogodan za modeliranje danog skupa

podataka. Sam proces empirijskog modeliranja ukljucuje sljedece korake: prikupljanje

podataka, analiza podataka odabir modela, procjenu parametara i utvrdivanje pogo-

dnosti (vrednovanje) modela. Napomenimo da izbor modela nije uvijek jasan i cesto

se svodi na metodu pokusaja i promasaja. Za procjenu pogodnosti odredenog tipa

modela (odnosi se za modele tipa I-III) ponekad se koristi Weibullov crtez vjero-

jatnostni (engl. Weibull probability plot). Vise o crtezu vjerojatnosti bit ce rijeci u

sljedecem poglavlju, gdje ce biti opisane i neke druge metode za procjenu parametara

u 3-parametarskom Weibullovom modelu.

Kako smo napomenuli, Weibullovi modeli koriste se za modeliranje podataka o

zivotnom vijeku (engl. life data) koji su specificni iz razloga sto je potrebno poznavanje

,,starosti” dijelova. Postoje dvije vrste ovakvih podataka:

1. standardni podaci o vijeku, kod kojih je poznata tocna starost dijelova koji su

otkazali i onih koji nisu otkazali, i

2. grupirani (intervalni) podaci o vijeku, kod kojih je tocna starost nepoznata, te

su podaci grupirani u vremenske intervale

Pod starosti mozemo podrazumijevati vrijeme rada nekog uredaja, broj njegovih star-

tova i zaustavljanja, prijedenu kilometrazu, vrijeme pod visokim opterecenjem ili vi-

sokom temperaturom i mnoge druge parametre. Prigodni parametar starosti obicno

je jednoznacno odreden samim modelom, no ponekad sam model ili nedovoljno poz-

navanje istog daje nekoliko mogucih izbora parametra. Ukoliko se kao model koristi

standardni Weibullov model, tada je najbolji izbor parametra starosti moguce odrediti

koristeci Weibullov crtez vjerojatnosti.


Primjer 2.3 Promatramo li problem modeliranja ,,starenja” kompresora klima uredaja,

najbolji parametri bi vjerovatno bili ili ukupno vrijeme koje je klima uredaj bio u funkciji

ili tocan broj paljenja i gasenja uredaja. Medutim, ukoliko podatake koje zelimo modeli-

rati dobijemo od servisera klima uredaja, dostupni ce nam biti jedino podaci o vremenu

koje je proslo izmedu dva servisiranja, te cemo ih bez obzira sto oni nisu ,,najbolji”

parametri starenja iskoristiti za modeliranje.

Primjer 2.4 Kod problema modeliranja otkaza lopatica turbine elektrane, kao parame-

tri starenja mogu se koristiti ukupno vrijeme rada turbine, vrijeme pod utjecajem vi-

soke temperature ili broj toplo–hladnih ciklusa. U ovom slucaju, iskustva inzenjera koji

odrzavaju turbine mogla bi pomoci pri izboru izmedu potencijalnih parametara starenja.

Kako i sami podaci u sebi mogu nositi velike pogreske (posebno u slucaju grupiranih

podataka), samo utvrdivanje pogodnosti modela treba odrediti da li su odstupanja

nastala zbog loseg izbora modela ili su uzrokovana greskama u samim podacima.

Poglavlje 3

Klasicne metode za procjenuparametara u Weibullovom modelu

Metoda maksimalne vjerodostojnosti (krace ML) smatra se najboljom opcom statistic-

kom metodom za nalazenje dobrih procjenitelja nepoznatih parametara. Procjenitelji

dobiveni ovom metodom imaju dobra i lako odredljiva asimptotska svojstva, te su stoga

posebno dobri za procjenjivanje na osnovi velikih uzoraka. Nazalost ML-procjenitelj

ne mora uvijek postojati, a nije ni jedinstven. Dokaz egzistencije i jedinstvenosti

ML-procjenitelja za 2-parametarski Weibullov model moze se naci u radovima [10]

i [73]. U ovoj radnji teziste je na problemu procjene parametara u 3-parametatrskom

Weibullovom modelu. Kao sto se moze pokazati, kod 3-parametarskog Weibullova

modela standardni ML-procjenitelj ne postoji (vidi npr. [43] i [48]). U postojecoj li-

teraturi puno paznje posveceno je tom problemu nepostojanja ML-procjenitelja (vidi

npr. [11, 48, 60, 64, 86]).

U ovom poglavlju predstavit cemo samo nekoliko metoda koje se u primijenjenim

istrazivanjima standardno koriste za procjenu parametara u Weibullovom 2-parametar-

skom i 3-parametarskom modelu. Te metode se najcesce dijele u dvije grupe: graficke

i analiticke. Zbog svoje jednostavnosti i brzine graficke metode su popularne u inze-

njerskim istrazivanjima. Nasuprot njima, analiticke metode su matematicki egzaktnije

i pomocu njih se u pravilu dobiva kvalitetniji procjenitelj nepoznatih parametara, ali

nazalost, u slucaju malog uzorka podataka dobivena procjena obicno nije zadovoljava-

juca (vidi npr. [48, 60, 64]). Upravo zbog toga u posljednje vrijeme metoda najmanjih

kvadrata postaje sve popularnija numericka metoda za procjenu parametara.

16

Klasicne metode za procjenu parametara u Weibullovom modelu 17

3.1 Graficke metode

Predstavit cemo dvije graficke metode: Weibullov crtez vjerojatnostni i crtez rizika.

Obje metode primjenjuju se za procjenu parametara u standardnom (2-parametarskom)

Weibullovom modelu. Uz male modifikacije te se metode mogu primijeniti i za procjenu

parametara u 3-parametarskom Weibullovom modelu.

3.1.1 Weibullov crtez vjerojatnosti

Weibullov crtez vjerojatnosti (WPP; kratica od engl. Weibull probability plot) je prva

metoda koja je povijesno koristena za procjenu parametara Weibullovog modela, a i

danas se koriste modernizirane varijante ove metode. Detaljno je opisana u radu [94].

Metoda se temelji na takozvanoj Weibullovoj transformaciji.

WPP metoda za 2-parametarski Weibullov model. Zapisemo li standardnu

Weibullovu distribuciju

F (t; β, η) = 1− e−( tη )

β

, t ≥ 0

u obliku

e−( tη )

β

= 1− F (t; β, η),

a zatim logaritmiramo, dobivamo

−(

t

η

)β

= ln [1− F (t; β, η)] .

Nakon mnozenja gornjeg izraza s −1 i ponovnog logaritmiranja imamo

β · ln t

η= ln [− ln [1− F (t; β, η)]] ,

odnosno

ln [− ln [1− F (t; β, η)]] = β ln t− β ln η.


Ukoliko uvedemo oznake

y := ln [− ln [1− F (t; β, η)]] ,

x := ln t,

a := β,

b := −β ln η

posljednju jednakost mozemo zapisati u lineariziranom obliku

y = ax + b (3.1)

koji je kljucan za razumijevanje Weibullovog crteza vjerojatnosti.

Neka su

t1, t2, . . . , tn

opazanja nenegativne Weibullove slucajne varijable T . WPP postupak je sljedeci:

1. Posloziti podatke u rastucem poretku

t(1) ≤ t(2) ≤ · · · ≤ t(n).

Tako poredane podatke zovemo uredena statistika;

2. Izracunati vrijednosti empirijske funkcije distribucije F (t(i)), i = 1, . . . , n;

3. Izracunati yi = ln[− ln[1− F (t(i))]

], i = 1, . . . , n;

4. Izracunati xi = ln t(i), i = 1, . . . , n;

5. Nacrtati tocke Ti = (xi, yi) u koordinatnom sustavu;

6. Nekom metodom odrediti pravac y = βx + b koji najbolje aproksimira zadane

podatke;

7. Za procjenu parametra oblika β uzeti koeficijent smjera β tog pravca;

8. Procjena parametra skaliranja η dana je s η = exp (−b/β).

U drugom koraku potrebno je izracunati vrijednosti empirijske funkcije distribucije.

U tu svrhu najcesce su koriste procjene sljedeceg oblika (vidi [1, 48, 60, 64, 100])

F (t(i)) =i− c

n + 1− 2c, 0 ≤ c < 1, (3.2)


odakle specijalno dobivamo:

- procjenitelj prosjecnog ranga (engl. mean rank estimator) za c = 0

F (t(i)) =i

n + 1,

- procjenitelj medijan ranga (engl. median rank estimator) za c = 0.5

F (t(i)) =i− 0.5

n,

- procjenitelj Benardovog medijan ranga (eng. Benard’s median rank estimator)

za c = 0.3

F (t(i)) =i− 0.3

n + 0.4.

U sestom koraku nekom metodom potrebno je odrediti pravac koji najbolje aprok-

simira dobivene podatke. Ponekad se predlaze da se taj pravac odredi jednostavnim

crtanjem pravca koji je vizualno najblizi podacima, te nakon toga procijeni njegov

koeficijent smjera β i odsjecak b na osi ordinata, no najcesce se u tu svrhu koristi

metoda najmanjih kvadrata koja je opisana u tocki 4.2.3.

WPP metoda za 3-parametarski Weibullov model. Uz male modifikacije WPP

metoda za standardni Weibullov model moze se koristiti i za procjenu parametara

Weibulove 3-parametarske distribucije, koja zbog dodatnog parametra α ima vecu flek-

sibilnost. U knjizi [1] navedena su cetiri kriterija koja trebaju biti zadovoljena prije

upotrebe 3-parametarskog Weibullovog modela u primijenjenim istrazivanjima:

1. Weibullov crtez treba pokazivati zakrivljenost;

2. Treba postojati fizikalno objasnjenje zbog cega slucajna varijabla T (npr. vrijeme

otkaza) ne moze primiti vrijednost manju od α. Ponekad se zbog toga parametar

α naziva i parametrom garancije;

3. Treba imati veci uzorak podataka na raspolaganju (barem 21). Ukoliko je od

prije poznato da je treci parametar α potreban, tada je i manji uzorak podataka

(8-10 podataka) prihvatljiv;


4. Koeficijent korelacije trebao bi se znacajno povecati u odnosu na 2-parametarski

model.

Konkavne ,,slike podataka” se javljaju puno cesce od konveksnih. Konveksnost

sugerira negativnu vrijednost parametra α sto je teze fizikalno argumentirati. U tom

slucaju mozemo na primjer smatrati da su neki dijelovi otkazali prije instalacije.

U [18] se napominje da velika vrijednost parametra oblika (β > 6) takoder ukazuje

da je parametar polozaja α razlicit od nule.

Za 3-parametarsku Weibullovu distribuciju odgovarajuca Weibullova transformacija

glasi

ln [− ln [1− F (t; α, β, η)]] = β ln(t− α)− β ln η.

Uocimo da je uvodenjem novog parametra α izgubljena linearna veza. Kako bi se

rijesio ovaj problem, prvo se na neki nacin procijeni parametar polozaja α, te se nakon

toga podaci ti prvo transformiraju u nove podatke τi := ti − α, a zatim se parametar

oblika β i parametar skaliranja η procjenjuju na prije opisan nacin WPP metodom za

2-parametarski Weibullov model.

Najjednostavniji nacin procjene parametra α je dan s α = t(1). U radu [60] obraz-

lozeno je zasto je α = t(1) − 1n

bolji procjenitelj.

Primjedba 3.1 U inzenjerskim primjenama neki autori sugeriraju da se izbor parame-

tra α napravi na sljedeci heuristicki nacin: Proizvoljno odrediti procjenu α1 (u slucaju

konkavnih podataka pocetni izbor treba biti pozitivan broj, a u slucaju konveksnih negati-

van), a zatim nacrtati podatke τi := ti−α. Ukoliko novi podaci ne pokazuju zakrivljenost

prihvatiti odabrani parametar kao dobru procjenu, u suprotnom u ovisnosti o novoj slici

ponovno pokusati pogoditi dobru procjenu parametra polozaja. U slucaju ako je slika

iz konveksne postala konkavna procjenjeni parametar trebamo povecati, a ako je slika

iz konkavne postala konveksna parametar trebamo smanjiti. Ukoliko je slika zadrzala

konveksni oblik, parametar smanjujemo, a ako je zadrzala konkavni oblik parametar

povecavamo.

U radovima [51, 66, 77] predlaze se da se u slucaju konkavnih podataka za vrijednost

parametra polozaja α uzme

α = t(2) −(t(3) − t(2))(t(2) − t(1))

(t(3) − t(2))− (t(2) − t(1)), (3.3)


a u slucaju konveksnih podataka vrijednost

α =(t(3) − t(2))(t(2) − t(1))

(t(3) − t(2))− (t(2) − t(1))− t(2). (3.4)

Za procjenu parametra oblika α standardno se koristi i metoda crtez vjerojatnosti

crteza koeficijenata korelacije (engl. Probability Plot Correlation Coefficient Plot). Za

niz vrijednosti parametra polozaja izracuna se koeficijent korelacije crteza vjerojatnosti

pridruzenog toj vrijednosti koeficijenta polozaja, te se tako dobiveni podaci prikazu

graficki. Vrijednost parametra α kojoj je pridruzen maksimalni koeficijent korelacije

uzima se za optimalnu aproksimaciju parametra lokacije α. Vrijednost koeficijenta

korelacije mozemo aproksimirati pomocu izraza

ρ =

∑ni=1(xi − x)(yi − y)√∑n

i=1(xi − x)2 ·∑ni=1(yi − y)2

Vise o Weibullovu crtezu vjerojatnosti moze se pronaci u [1, 48, 60, 64, 70].

Primjer 3.1 Ilustrirajmo WPP metodu na podacima ti iz primjera 2.1. Nakon odabira

empirijske funkcije distribucije F , u koordinatnom sustavu treba nacrtati transformi-

rane podatke (xi, yi), i = 1, . . . , n, gdje je

xi = ln t(i), yi = ln[− ln

[1− F (t(i))

]],

Za podatke iz tablice 2.2 i za empirijsku funkciju distribucije racunatu metodom pro-

sjecnog ranga ti su podaci prikazani na slici 3.1.

Za ove podatke sada je potrebno odrediti pravac koji ih najbolje aproksimira. U

tu svrhu, za ove podatke kao i za one iz tablice 2.3 mi cemo koristiti metodu najma-

njih kvadrata koja je opisana u tocki 4.2.3. Koristenjem razlicitih empirijskih funkcija

distribucije dobiveni su sljedeci procjenitelji parametara β i η, koje prikazujemo u

tablici 3.1. Pri tome SS oznacava sumu kvadrata svih rezidula.


3.5 4.0 4.5 5.0 5.5

-2.5

-2.0

-1.5

-1.0

-0.5

0.5

1.0

x

y 6

-

Slika 3.1. Transformirani podaci iz tablice 2.2

Empirijska distribucijaProsjecni rang Medijan rang Benardov rang

β = 1.36284 β = 1.58497 β = 1.48146Podaci iz tablice 2.2 η = 131.097 η = 128.183 η = 129.357

SS = 0.0242357 SS = 0.0379534 SS = 0.0308529

β = 0.966233 β = 1.1445 β = 1.06025Podaci iz tablice 2.3 η = 81961.2 η = 78691.8 η = 80049.2

SS = 0.0507265 SS = 0.0457589 SS = 0.048644

Tablica 3.1: Procjenjeni parametri za standardni Weibullov model na osnovu otkazacistaca valjka s obzirom na broj dana i broj kopija

Primjetimo da je u slucaju aproksimacije s obzirom na broj dana (podaci iz tab-

lice 2.2) najbolja aproksimacija (SS je najmanji) dobivena koristenjem procjenitelja

prosjecnog ranga, dok je kod aproksimacije s obzirom na broj kopija (podaci iz tablice 2.3)

najbolja aproksimacija postignuta koristenjem procjenitelja medijan ranga empirijske

funkcije distribucije. Na slici 3.2 prikazani su originalni podaci iz tablice 2.2 i graf

2-parametarske Weibullove distribucije t 7→ F (t; β, η) ciji su parametri dobiveni koris-


tenjem procjenitelja prosjecnog ranga.

50 100 150 200 250 300

0.2

0.4

0.6

0.8

t

F (t; β, η) 6

-

Slika 3.2: Originalni podaci i 2-parametarska aproksimacija s obzirom na broj dana iprosjecni rang

Ukoliko podatke zelimo aproksimirati 3-parametarskim Weibullovim modelom po-

trebno je prvo procijeniti vrijednost parametra polozaja α. U tu svrhu koristit cemo

formulu (3.3) (alternativni pristup) i metodu temeljenu na koeficijentima korelacije.

U slucaju druge metode procjenjena vrijednost koeficijenta korelacije u ovom primjeru

izracunata je za vrijednosti parametara αi =t(1)100

(i − 1), i = 1, . . . , 100. Dobiveni

procjenitelji parametara prikazani su u tablici 3.2.

Na slici 3.3 prikazani su originalni podaci iz tablice 2.2 i graf 3-parametarske

Weibullove distribucije t 7→ F (t; α, β, η), gdje je α izracunat prema (3.3), a parametri

β i η su dobiveni koristenjem procjenitelja prosjecnog ranga za empirijsku funkciju

distribucije.


Empirijska distribucijaProsjecni rang Medijan rang Benardov rangα = 24.75 α = 25.1667 α = 24.75

Podaci iz tablice 2.2 β = 0.684935 β = 0.764788 β = 0.752056(alternativni pristup) η = 100.972 η = 95.4095 η = 97.6209

SS = 0.0397861 SS = 0.0403428 SS = 0.0363251α = 18.72 α = 22.62 α = 21.06

Podaci iz tablice 2.2 β = 0.950657 β = 0.9561 β = 0.955168(koeficijenti korelacije) η = 106.931 η = 97.5073 η = 101.434

SS = 0.016313 SS = 0.0219809 SS = 0.019184α = 2940.76 α = 3326.2 α = 2940.76

Podaci iz tablice 2.3 β = 0.763538 β = 0.859474 β = 0.841251(alternativni pristup) η = 80757.7 η = 76547.7 η = 78178.0

SS = 0.0786588 SS = 0.0796322 SS = 0.0748265α = 0 α = 0 α = 0

Podaci iz tablice 2.3 β = 0.966233 β = 1.1445 β = 1.06025(koeficijenti korelacije) η = 81961.2 η = 78691.8 η = 80049.2

SS = 0.0534441 SS = 0.0457589 SS = 0.048644

Tablica 3.2: Procjenjeni parametri za 3-parametarski Weibullov model na osnovuotkaza cistaca valjka s obzirom na broj dana i broj kopija

50 100 150 200 250 300

0.2

0.4

0.6

0.8

t

F (t; α, β, η) 6

-

Slika 3.3: Originalni podaci i 3-parametarska aproksimacija s obzirom na broj dana iprosjecni rang


3.1.2 Crtez rizika

Kumulativna funkcija rizika H(t) standardnog Weibullovog modela dana je izrazom

H(t) =

(t

η

)β

,

i ona je nelinearna funkcija od t. Logaritmiranjem se dobiva

ln[H(t)] = β ln t− β ln η,

odakle se vidi da se pomocu supstitucija y = ln[H(t)] i x = ln t dobiva linearna zavisnost

y = βx− β ln η.

Procjena parametara provodi se na slican nacin kao kod Weibullovog crteza vjerojat-

nosti. Postupak se sastoji od sljedecih koraka:

1. Posloziti podatke u rastucem poretku:

t(1) ≤ t(2) ≤ · · · ≤ t(n);

2. Za svaki od tako poslozenih podataka t(i) treba odrediti obrnuti rang koji se

definira kao

ki := n− i + 1,

gdje je s i oznacen rang podatka t(i);

3. Za svaki podatak t(i) izracunati vrijednost rizika kao 100ki

;

4. Za svaki podatak t(i) izracunati kumulativni rizik zbrajanjem svih prethodnih

vrijednosti rizika, tj. po formuli

H(t(i)) =i∑

j=1

100

kj

;

5. Izracunati xi = ln t(i), i = 1, . . . , n;

6. U kordinatnom sustavu nacrtati tocke (xi, yi), gdje je yi = ln H(t(i));


7. Nekom metodom odrediti pravac y = βx + b koji najbolje aproksimira zadane

podatke. U praksi to se najcesce radi metodom najmanjih kvadrata;

8. Za procjenu parametra oblika β uzeti koeficijent smjera β tog pravca;

9. Za procjena parametra skaliranja η uzeti vrijednost η = exp (−b/β).

Metoda se moze koristiti i za procjenu parametara u 3-parametarskom Weibullovom

modelu, s time da se kao i kod Weibullovog crteza prvo treba odrediti procjena α

koeficijenta polozaja, i tada provesti gore opisani postupak za nove podatke τi = ti− α,

i = 1, . . . , n. Vise o crtezu rizika moze se vidjeti u [18, 48, 60, 64].

Primjer 3.2 Za podatke zadane u tablicama 2.2 i 2.3 koristeci crtez rizika procijenit

cemo nepoznate parametre za standardni i 3-parametarski Weibullov model. Procjenje-

ne vrijednosti parametara navedene su u tablici 3.3.

Podaci iz tablice 2.2 Podaci iz tablice 2.3

β = 1.4042 β = 0.993844Standardni Weibullov model η = 4.6636 η = 736.032

SS = 3628.42 SS = 5449.89α = 24.75 α = 2940.76

3-parametarski Weibullov model β = 0.702012 β = 0.783732(alternativni pristup) η = 0.128175 η = 205.29

SS = 18580.1 SS = 13008.0α = 17.16 α = 0

3-parametarski Weibullov model β = 1.02307 β = 0.993844(koeficijenti korelacije) η = 1.12039 η = 736.032

SS = 6093.72 SS = 5449.89

Tablica 3.3: Procjenjeni parametri za standardni i 3-parametarski Weibullov model naosnovu otkaza cistaca valjka s obzirom na broj dana i broj kopija

Na slici 3.4 prikazani su originalni podaci iz tablice 2.2 i graf funkcije t 7→ H(t; β, η).


50 100 150 200 250 300

50

100

150

200

250

300

350

t

H(t; β, η) 6

-

Slika 3.4. podaci iz tablice 2.2 i graf funkcije t 7→ H(t; β, η)

3.2 Analiticke metode

Opisat cemo dvije statisticke metode koje se standardno koriste za problem procjene

parametara u statistickim modelima: metodu momenata i metodu maksimalne vjero-

dostojnosti. Iako se statisticke metode cesto koriste kod rjesavanja problema procjene

parametara, rezultati dobiveni koristenjem ovih metoda nisu pouzdani u slucaju malog

uzorka podataka, te se ne preporucuju za koristenje u takvim situacijama.

3.2.1 Metoda momenata

Metoda momenata jedna je od cesto koristenih i najvjerojatnije najstarija statisticka

metoda za procjenu parametara nekog modela. Sam koncept statistickih momenata

uveo je K. Pearson (1857.-1936.). Metoda momenata se temelji na pretpostavci da

su vrijednosti statistickih momenata izracunatih na danom uzorku t1, . . . , tn bliske

vrijednostima teorijskih momenata vjerojatnosne distribucije koja je pretpostavljena

u teorijskom modelu (vidi npr. [48, 64, 68]). Ta pretpostavka omogucava formiranje

sustava jednadzbi u kojima je na jednoj strani doticni teorijski moment, a na drugoj

strani vrijednost odgovarajuceg uzorackog momenta. Nedostatak metode momenata

u odnosu na neke druge metode (npr. ML metodu ili metodu najmanjih kvadrata) je

to sto se ona moze primjeniti samo na necenzurirane podatke i sto uzorak mora biti


dovoljno velik.

Metoda momenata za standardnu Weibullovu slucajnu varijablu T . Za

slucajnu varijablu T ∼ W (β, η) ishodisni (pomocni) moment k-tog reda glasi (vidi

npr. [60, 77]):

Mk := E[T k] = ηkΓ

(1 +

k

β

), (3.5)

gdje je Γ tzv. gama funkcija definirana formulom

Γ(u) =

∫ ∞

0

tu−1e−tdt.

Osnovna svojstva te funkcije su:

(i) Γ(1) = 1, Γ(u) = (u − 1)Γ(u − 1) za u > 1, odakle slijedi Γ(n) = (n − 1)! za

prirodan broj n;

(ii) Za svaki prirodan broj n je Γ

(n +

1

2

)=

1 · 3 · 5 · 7 · · · (2n− 1)

2n

√π.

Specijalno, za k = 1 iz (3.5) dobivamo da je matematicko ocekivanje standardne

Weibulllove slucajne varijable T zadano s

µ = E(T ) = ηΓ

(1 +

1

β

). (3.6)

Nadalje, centralni (glavni) moment k-tog reda standardne Weibulllove slucajne va-

rijable T glasi:

µk = ηk

k∑i=0

(−1)i

(k

i

)Γ

(1 +

k − i

β

) [Γ

(1 +

1

β

)]i

. (3.7)

Specijalno, varijanca σ2 i treci centralni moment µ3 su zadani formulama:


σ2 = η2

[Γ

(1 +

2

β

)−

[Γ

(1 +

1

β

)]2 ](3.8)

µ3 = η3

{Γ

(1 +

3

β

)− 3Γ

(1 +

1

β

)Γ

(1 +

2

β

)+ 2

[Γ

(1 +

1

β

)]3}

. (3.9)

Buduci standardni Weibullov model ima dva parametra, procjenitelji parametara

modela mogu biti odredeni koristeci ocekivanje uzorka t i varijancu uzorka s2. Oni su

zadani sljedecim formulama

t =n∑

i=1

tin

(3.10)

i

s2 =n∑

i=1

(ti − t)2

n− 1. (3.11)

Kako bi se dobila nepristranost procjenitelja varijance uzorka, u nazivnik od (3.11)

stavlja se n− 1, a ne n.

Koristeci (3.6) i (3.8), procjenu β parametra oblika β dobivamo kao rjesenje jed-

nadzbe

s2

t2=

Γ(1 + 2

β)

Γ2(1 + 1

β)− 1, (3.12)

a za procjenu parametra skaliranja η uzima se

η =t

Γ(1 + 1

β). (3.13)

Zbog prisustva slozene Γ funkcije jednadzbu (3.12) treba rijesiti nekom numerickom

metodom.


Metoda momenata za 3-parametarsku Weibullovu slucajnu varijablu T . U

ovom slucaju matematicko ocekivanje slucajne varijable T ∼ W (α, β, η) je dano for-

mulom

µ = E(T ) = α + ηΓ

(1 +

1

β

), (3.14)

a varijanca i centralni momenti zadani su istim formulama (3.8) i (3.9) kao i kod

standardnog modela.

Nepoznate parametre α, β i η dobivaju se rjesavanjem sljedeceg sustava jednadzbi

koji se dobiva izjednacavanjem uzorackih momenata s odgovarajucom teorijskim mo-

mentima:

t = α + ηΓ

(1 +

1

β

)

s2 = η2

[Γ

(1 +

2

β

)−

[Γ

(1 +

1

β

)]2 ]

µ3 = η3

{Γ

(1 +

3

β

)− 3Γ

(1 +

1

β

)Γ

(1 +

2

β

)+ 2

[Γ

(1 +

1

β

)]3}

,

gdje je µ3 centralni moment uzorka definiran formulom:

µ3 =n∑

i=1

(ti − t)3

n.

Ovaj sustav izuzetno je zahtjevan za rjesavanje, a osim toga ne daje dobre rezultate u

slucaju malog uzorka. Neke modifikacije metode momenata mogu se pronaci u [60].

Primjer 3.3 Primjenom metode momenata za standardni Weibullov model i podatke

iz tablica 2.2 i 2.3 dobivaju se sljedece vrijednosti za nepoznate parametre:



β = 1.47857 β = 1.13819η = 127.24 η = 76125.6

Tablica 3.4: Procjenjeni parametri metodom momenata za standardni Weibullov modelna osnovu otkaza cistaca valjka s obzirom na broj dana i broj kopija

Prilikom procjene parametara za 3-parametarski Weibullov model metodom mome-

nata u oba slucaja se za parametar polozaja α dobije negativan broj, te ove rezultate

ne navodimo. Razlog negativnosti procjenjenog parametra je velicina uzorka. Poznato

je da vecina statistickih metoda u slucaju malog uzorka daje lose procjene parametara,

te se iz tog razloga preporucuje upotreba drugih metoda kao sto je na primjer metoda

najmanjih kvadrata.

Promotrimo i sljedeci primjer.

Primjer 3.4 U tablici 3.5 prikazane su vrijednosti procjenjenih parametara dobivene

primjenom metodom momenata na generirane podatke navedene u primjeru 2.2:

Standardni model β = 3.37273, η = 45.9139

3-parametarski model α = 16.9743, β = 1.86718, η = 27.3194

Tablica 3.5: Procjenjeni parametri metodom momenata za standardni i 3-parametarskiWeibullov model na osnovu generiranih podataka

Na sljedecoj slici prikazani su originalni podaci (ti, F (ti; 15, 2.5, 30)) i aproksimacije

odgovarajucom Weibullovom distribucijom ciji su parametri procijenjeni metodom mo-

menata.


20 40 60 80

0.2

0.4

0.6

0.8

1.0

t

F (t; β, η) 6

-20 40 60 80

0.2

0.4

0.6

0.8

1.0

t

F (t; α, β, η) 6

-

Slika 3.5: Originalni podaci i aproksimacija standardnom i 3-parametarskomWeibullovom distribucijom

3.2.2 Metoda maksimalne vjerodostojnosti

Metoda maksimalne vjerodostojnosti ili metoda najvece vjerojatnosti (ML-metoda;

kratica od engl. Maximum Likekihood Method) jedna je od najpopularnijih statistickih

metoda iz razloga sto se moze primjeniti na vecinu teorijskih distribucija, te na razne

uzorke cenzuriranih podataka (vidi npr. [64, 68]). Osim toga, uz odredene uvjete,

ova metoda ima dobra statisticka svojstva kao sto su invarijantnost, konzistentnost i

asimptotska nepristranost. Otkrice ML-metode pripisuje se R.A. Fisheru (1890.-1962.),

premda se korijeni te metode mogu naci jos puno ranije u radovima J. H. Lamberta

(1728.-1777.), D. Bernoullija (1708.-1782.) i J. L. Lagrangea (1736.-1813.). Fisher je

uveo ovu metodu kao alternativu za metodu momenata i metodu najmanjih kvadrata.

Vise o povijesnom razvoju ML-metode moze se nacu u [19].

Neka su t1, . . . , tn nezavisna opazanja slucajne kontinuirane varijable T > 0 s funkci-

jom gustoce p(t; θ). Bez smanjenja opcenitosti mozemo pretpostaviti da je

0 < t1 < t2 < . . . < tn.

To je stoga sto vjerojatnost da kontinuirana slucajna varijabla dvaput primi istu vri-

jednost iznosi nula. Odgovarajuca funkcija vjerodostojnosti definira se kao

L(θ) =n∏

i=1

p(ti; θ). (3.15)

Procjenitelj maksimalne vjerodostojnosti (ili krace ML-procjenitelj) je parametar θ koji

maksimizira (3.15) na skupu svih mogucih vrijednosti vektora parametara θ. Buduci

da je logaritamska funkcija strogo rastuca, problem maksimizacije funkcije L(θ) ekvi-

valentan je problemu maksimizacije funkcije ln L(θ).


Za standardni Weibullov model funkcija vjerodostojnosti zadana je s

L2(β, η) =n∏

i=1

(βtβ−1

i

ηβ

)e−( ti

η )β

,

a njezin prirodni logaritam glasi

LL2(β, η) := ln L2(β, η) = n ln β − nβ ln η + (β − 1)n∑

i=1

ln ti − 1

ηβ

n∑i=1

tβi . (3.16)

Parcijalnim deriviranjem (3.16) po β i η, i izjednacavanjem s 0 dobivamo:

∂LL2

∂β=

n

β− n ln η +

n∑i=1

ln ti +ln η

ηβ

n∑i=1

tβi −1

ηβ

n∑i=1

tβi ln ti = 0, (3.17)

∂LL2

∂η= −nβ

η+

β

ηβ+1

n∑i=1

tβi = 0. (3.18)

Supstitucijom (3.18) u (3.17) i sredivanjem izraza, jednadzba koju treba zadovoljavati

ML-procjenitelj β glasi

n

β+

n∑i=1

ln ti − n∑n

i=1 tβi ln ti∑ni=1 tβi

= 0. (3.19)

Uvrstavanjem tog rjesenja u (3.18) lako se dobiva ML-procjenitelj η za parametar

η

η =

(∑ni=1 tβin

) 1

β

. (3.20)


Jednadzbu (3.19) najcesce rjesavamo nekom od standardnih numerickih metoda,

no neki autori [2, 18] spominju i graficko rjesavanje.

Iako grafickim metodama opcenito nije moguce postici veliku tocnost rjesenja, ova

je metoda inspirirala jednostavan dokaz jedinstvenosti i egzistencije procjenitelja mak-

simalne vjerodostojnosti za standardni Weibullov model (vidi [2]). Kako bi to pokazali

zapisimo izraz (3.19) u sljedecem obliku

1

β=

∑ni=1 tβi ln ti∑n

i=1 tβi− 1

n

n∑i=1

ln ti. (3.21)

Kako je lijeva strana izraza (3.21) strogo padajuca funkcija od β i kako vrijedi

limβ→∞ 1β

= 0, za dokaz jedinstvenosti i egzistencije rjesenja bilo bi dovoljno pokazati

da je desna strana izraza rastuca funkcija od β s konacnim pozitivnim limesom u

beskonacnosti. Naime tada ce se graf funkcije s lijeve strane od (3.21) sjeci samo u

jednoj tocki s grafom funkcije s desne strane od (3.21). Kako bi to pokazali, oznacimo

s H(β; t) izraz na desnoj strani i promotrimo njegovu derivaciju po β:

∂H(β; t)

∂β=

H∗(β; t)(∑ni=1 tβi

)2 , (3.22)

gdje je

H∗(β; t) =n∑

i=1

tβi

n∑i=1

tβi (ln ti)2 −

(n∑

i=1

tβi ln ti

)2

(3.23)

Kako bi pokazali da je H(β; t) rastuca dovoljno je vidjeti da je H∗(β; t) ≥ 0. Zaista,

uvrstavajuci ai = tβ2i i bi = t

β2i ln ti u Cauchy-Schwarzovu nejednakost

n∑i=1

a2i

n∑i=1

b2i ≥

(n∑

i=1

aibi

)2

,

slijedi da je H∗(β; t) ≥ 0. Preostaje pokazati da je limβ→∞ H(β; t) konacan i pozitivan.


Zaista,

limβ→∞

H(β; t) = limβ→∞

(∑ni=1 tβi ln ti∑n

i=1 tβi− 1

n

n∑i=1

ln ti

)= ln t(n) − 1

n

n∑i=1

ln ti

=1

n

n−1∑i=1

ln

(t(n)

t(i)

)> 0.

Time je dokazana egzistencija i jedinstvenost ML-procjenitelja (β, η).

Za 3-parametarski Weibullov model funkcija vjerodostojnosti zadana je s

L3(α, β, η) =n∏

i=1

f(ti; α, β, η) =βn

ηβn

[n∏

i=1

(ti − α)β−1

]e− 1

ηβ

∑ni=1(ti−α)β

. (3.24)

Za razliku od standardnog Weibullovog modela gdje procjenitelj maksimalne vjero-

dostojnosti uvijek postoji i jedinstven je, za 3-parametarski Weibullov model lako se

dokaze sljedeca propozicija:

Propozicija 3.1 Za bilo koja opazanja

0 < t1 < t2 < . . . < tn

3-parametarske Weibullove slucajne varijable T standardni ML-procjenitelj ne postoji.

Dokaz. Fiksirajmo β ∈ (0, 1) i η ∈ (0,∞). Tada

f(t1; α, β, η) =β

η

(t1 − α

η

)β−1

e−( t1−αη )

β

→∞

kada α → t1 slijeva, dok

f(ti; α, β, η) =β

η

(ti − α

η

)β−1

e−( ti−α

η )β

→ β

η

(ti − t1

η

)β−1

e−( ti−t1η )

β

> 0


za svaki i = 2, . . . , n. Zbog toga je

limα→t−1

L3(α, β, η) = ∞,

sto nam govori da standardni ML- procjenitelj ne postoji. ¥Ova cinjenica motivira proucavanje drugih metoda za procjenu nepoznatih parame-

tara 3-parametarskog Weibullova modela. Metoda percentila, metoda profilne vjero-

dostojnosti, Bayesianova metoda ili hibridne metode neke su od statistickih metoda

koje se takoder koriste za procjenu parametara modela (vidi npr. [60, 67]). Medutim,

vecina statistickih metoda daju relativno lose procjene u slucaju malog uzorka. Jedna

od popularnih i cesto koristenih metoda za rjesavanje problema procjene parametara je

metoda najmanjih kvadrata. U nastavku rada posebna paznja bit ce posvecena upravo

ovoj metodi.

Primjedba 3.2 Unatoc nepostojanju standardnog ML-procjenitelja za 3-parametarsku

Weibullovu slucajnu varijablu, u statistickoj literaturi se razmatra problem procjene

parametara preko sustava jednadzbi koji se dobije izjednacavanjem parcijalnih derivacija

od (3.24) s nulom:

ηβ − 1

n

n∑i=1

(ti − α)β = 0, (3.25)

∑ni=1(ti − α)β ln(ti − α)∑n

i=1(ti − α)β− 1

β− 1

n

n∑i=1

ln(ti − α) = 0, (3.26)

(β − 1)n∑

i=1

(ti − α)−1 − βη−β

n∑i=1

(ti − α)β−1 = 0 (3.27)

i rjesavanjem uz uvjet da je α ≤ t1. Ove jednadzbe nazivaju se jednadzbe vjerodosto-

jnosti.

Pitanje egzistencije rjesenja gore navedenog sustava privuklo je veliku paznju, buduci

sustav moze imati vise od jednog rjesenja ili niti jedno (vidi npr. [60, 67, 99]), ili do-

biveno rjesenje predstavlja tocku lokalnog maksimuma ili lokalnog minimuma s obzirom

na α (vidi npr. [26]). Zbog toga se u literaturi razmatraju i razvijaju razne modifikacije

ML-metode za 3-parametarski Weibullov model [26, 60, 67].


Primjer 3.5 Koristeci ML-metodu za standardni Weibullov model procijenit cemo

nepoznate parametre za podatke zadane u tablicama 2.2 i 2.3. Dobivene vrijednosti

prikazane su u sljedecoj tablici:


β = 1.57486 β = 1.20534η = 128.785 η = 77428.4

Tablica 3.6: Procjenjeni parametri ML-metodom za standardni Weibullov model naosnovu otkaza cistaca valjka s obzirom na broj dana i broj kopija

Prilikom rjesavanja jednadzbe (3.19) numerickim metodama, potrebno je odrediti

dobru pocetnu aproksimaciju. U tu svrhu koristene su vrijednosti parametara dobivene

metodom momenata.

Kao i kod metode momenata, u sljedecem primjeru cemo razmotriti podatke nave-

dene u primjeru 2.2.

Primjer 3.6 ML-metodu za standardni Weibullov model i podatke iz primjera 2.2 daje

procjene β = 3.29088 i η = 45.947. Na sljedecoj slici prikazani su originalni podaci i

odgovarajuca standardna Weibullova distribucija t 7→ F (t; β, η).

20 40 60 80

0.2

0.4

0.6

0.8

1.0

t

F (t; β, η) 6

-

Slika 3.6. Originalni podaci i standardna Weibullova distribucija t 7→ F (t; β, η)

Poglavlje 4

Problem najmanjih kvadrata

Glavni problem koji se razmatra u ovom radu je problem egzistencije optimalnih

parametara u smislu najmanjih kvadrata za Weibullov 2-parametarski i 3-parametarski

model. U regresijskoj analizi kod metode najmanjih kvadrata treba razlikovati dva

pristupa: metodu najmanjih obicnih kvadrata i metodu najmanjih potpunih kvadrata.

Novi doprinosi ove disertacije sadrzani su u teoremima i korolarima koji govore o egzis-

tenciji optimalnih parametara Weibullova modela u smislu metode najmanjih obicnih

kvadrata i metode najmanjih potpunih kvadrata. Ti rezultati nalaze se u poglavlju 5.

Osim toga, za sve te nove rezultate navedene su i odgovarajuce generalizacije u p-normi

(1 ≤ p < ∞).

U ovom poglavlju prvo cemo objasniti opcu formulaciju problema najmanjih kva-

drata, kao i njegovu odgovarajucu generalizaciju u p-normi (1 ≤ p < ∞). Zatim

cemo objasniti na koji se nacin problemi najmanjih kvadrata javljaju u regresijskoj

analizi. Nakon toga razmatrat cemo linearni problem najmanjih obicnih kvadrata za

transformirani Weibullov model. Poglavlje cemo zavrsiti s formulacijama problema

najmanjih obicnih i problema najmanjih potpunih kvadrata za Weibullov model.

4.1 Opca formulacija problema najmanjih kvadrata

s generalizacijom u p−normi

U svojoj najopcenitijoj formulaciji problem najmanjih kvadrata (LS problem; kratica

od engl. Least Squares Problem) definira se kao problem minimizacije sume kvadrata

nekih n realnih funkcija

Ri : P → Rn, i = 1, . . . , n

38

Problem najmanjih kvadrata 39

definiranih na skupu P ⊆ Rm. Te funkcije Ri zovu se reziduali. Preciznije, neka je θ

vektor varijabli reziduala Ri, a

F (θ) :=n∑

i=1

R2i (θ).

Tada LS problem glasi:

Da li postoji tocka θ? ∈ P takva da je F (θ?) = infθ∈P

F (θ)?

Ako postoji tocka θ? ∈ P takva da je F (θ?) = infθ∈P F (θ), zovemo je najbolji LS

procjenitelj.

Uocimo da F (θ) predstavlja kvadrat l2 norme vektora reziduala, tj. da je F (θ) =

‖(R1(θ), . . . , Rn(θ))‖2. Umjesto minimizacije u l2 normi, nepoznati parameteri se mogu

potraziti minimizacijom u bilo kojoj drugoj lp normi (1 ≤ p < ∞), tako da se na skupu

P minimizira funkcional

Fp(θ) =n∑

i=1

|Ri(θ)|p.

Drugim rijecima, kod minimizacije u lp normi treba pronaci tocku θ? ∈ P za koju ce

vrijediti da je

Fp(θ?) = inf

θ∈PFp(θ).

Ako takva tocka θ? ∈ P postoji, zvat cemo je najbolji lp procjenitelj.

Kod svakog problema minimizacije u lp normi postavljaju se sljedeca pitanja: Da

li najbolji lp procjenitelj postoji? Je li najbolji lp procjenitelj jedinstven? Kojim

numerickim metodama treba traziti najbolji lp procjenitelj? Vise o tim problemima

bit ce rijeci u sljedecim tockama.

Sada cemo objasniti kako se u regresijskoj analizi odgovarajucim odabirom rezi-

duala dolazi do problema najmanjih obicnih kvadrata i problema najmanjih potpunih

kvadrata. U ovoj radnji teziste je na egzistenciji najboljeg procjenitelja za Weibullov

model u smislu metode najmanjih obicnih kvadrata i metode najmanjih potpunih

kvadrata, o cemu ce vise rijeci biti u poglavlju 5.


4.2 Problem najmanjih kvadrata u regresijskoj ana-

lizi

Neka je zadana realna model-funkcija

t 7→ f(t; θ), θ ∈ P , P ⊆ Rm,

gdje je θ vektor nepoznatih parametara. Nepoznate parametre treba procijeniti na

osnovi eksperimentalno ili empirijski dobivenih podataka

(wi, ti, yi), i = 1, . . . , n,

gdje su t1 < t2 < . . . < tn apscise, a y1, . . . , yn odgovarajuce ordinate podataka. Broj

wi > 0 je tezina i-tog podatka. Obicno je n À m, tj. obicno je broj podataka puno

veci od broja nepoznatih parametara.

4.2.1 Problem najmanjih obicnih kvadrata

Kod metode najmanjih obicnih kvadrata (OLS metoda; kratica od engl. Ordinary Least

Squares) vektor optimalnih parametara θ? ∈ P treba odrediti tako da graf funkcije

t 7→ f(t; θ?)

prolazi sto blize pored svih tocaka (ti, yi), i = 1, . . . , n, i to u smislu da tezinska suma

kvadrata svih reziduala Ri(θ) = f(ti; θ)− yi bude minimalna, tj. da vrijedi

S2(θ?) = inf

θ∈PS2(θ),

gdje je

S2(θ) =n∑

i=1

wi[f(ti; θ)− yi]2. (4.1)

Ako postoji tocka θ? ∈ P takva da je S2(θ?) = infθ∈P S2(θ), zovemo je najbolji OLS-

procjenitelj ili najbolji l2 procjenitelj (vidi npr. [8, 15, 23, 49, 80, 84]).

Geometrijski gledano, funkcional S2 predstavlja tezinsku sumu kvadrata odstupanja

izmjerenih vrijednosti yi od modelom predvidenih vrijednosti f(ti; θ) (slika 4.1.a).


a) OLS pristup b) TLS pristup

(ti, yi)

εi

b

b

b

t

y 6

-

(ti, F (ti; α, β, η))

(ti, yi)

εi di

δi b

b

b

t

y 6

-

(ti+δi, F (ti+δi; α, β, η))

Slika 4.1. OLS i TLS pristup u procjeni parametara

Princip OLS metode ima lijepu statisticku interpretaciju. Ako pretpostavimo da

samo izmjerene vrijednosti yi zavisne varijable sadrze nepoznate aditivne pogreske εi,

onda je

yi = f(ti; θ) + εi, i = 1, . . . , n,

odakle zakljucujemo da minimizacija funkcionala (4.1) predstavlja minimizaciju tezinske

sume kvadrata svih pogresaka.

Kako odabrati tezine wi kod minimizirajuceg funkcionala (4.1)? Iz definicione for-

mule (4.1) lako je uociti da ce graf trazene funkcije t 7→ f(t; θ?) na neki nacin prolaziti

blize onim tockama kojima su pridruzene vece tezine. Stoga je najjednostavnije ne

preferirati ni jedan podatak te uzeti da je wi = 1, i = 1, . . . , n.

Sada cemo objasniti zasto se u slucaju kada su aditivne pogreske εi normalano

distribuirane s ocekivanjem 0 i varijancom σ2i u statistickoj literaturi preporucava tezine

uzeti na sljedeci nacin

wi :=1

σ2i

, i = 1, . . . , n.

Uz navedene pretpostavke odgovarajuca funkcija vjerodostojnosti glasi

L(θ; y,σ) =n∏

i=1

1√2πσ2

i

e− ε2i

2σ2i =

n∏i=1

1√2πσ2

i

e− [f(ti;θ)−yi]

2

2σ2i .


Zelimo li vektor nepoznatih parametara odrediti metodom maksimalne vjerodostoj-

nosti, onda treba maksimizirati funkcional L(θ; y,σ). Taj problem maksimizacije ek-

vivalentan je problemu maksimizacije njegova logaritma

ln L(θ; y,σ) = −n∑

i=1

1

2σ2i

[f(ti; θ)− yi]2 − 1

2

n∑i=1

ln(2πσ2i ).

Buduci se maksimizira po vektoru parametara θ, izraz ln L(θ; y,σ) bit ce maksimalan

kada je suma

n∑i=1

1

2σ2i

[f(ti; θ)− yi]2

minimalna. Dakle, ako su aditivne pogreske εi normalno distribuirane s ocekivanjem

0 i varijancom σ2i , onda je problem procjene parametara metodom maksimalne vjero-

dostojnosti ekvivalentan tezinskom OLS problemu pri cemu za tezinu i−tog podatka

treba uzeti wi = 1/σ2i . Ovaj rezultat je dobro poznat u statistickoj literaturi (vidi npr.

[65]).

Ako je model-funkcija linearna u parametrima, odnosno ima oblik

f(t; θ) = θ1φ1(t) + · · ·+ θmφm(t), θ = (θ1, . . . , θm)T ,

pri cemu su φ1, . . . , φm poznate realne funkcije, funkcional S2 moze se zapisati u obliku

S2(θ) = ‖Xθ − y‖22

gdje su

X :=

φ1(t1) φ2(t1) · · · φm(t1)φ1(t2) φ2(t2) · · · φm(t2)

......

......

φ1(tn) φ2(tn) · · · φm(tn)

te y := (y1, . . . , yn)T .

U ovom slucaju radi se o linearnom OLS problemu koji je dobro izucen u literaturi.

Primjedba 4.1 Umjsto OLS metodom (l2 norma), vektor nepoznatih parametara θ

moze se potraziti u bilo kojoj drugoj lp normi, 1 ≤ p < ∞, tako da se na prostoru


parametara P minimizira funkcional

Sp(θ) =n∑

i=1

wi|f(ti; θ)− yi|p. (4.2)

Ovakav pristup u procjeni parametara naziva se obicni lp pristup (vidi npr. [15, 25, 58,

72]). Ako postoji tocka θ? ∈ P takva da je Sp(θ?) = infθ∈P Sp(θ), nazivamo je najbolji

obicni lp procjenitelj.

Kod problema minimizacije u p−normi javlja se vise problema, od kojih su sljedeci

najvazniji: (a) problem egzistencije rjesenja, (b) problem jedinstvenosti rjesenja i (c)

problem efikasnog nalazenja rjesenja nekom numerickom metodom. Ako je model-

funkcija linearna u parametrima, problem egzistencije parametara za slucaj p = 2 je u

potpunosti razrjesen na opcoj razini ([8, 89, 90]). Za 1 ≤ p < ∞ u linearnom slucaju

takoder u literaturi postoje neki rezultati [58, 75]. Ako je model-funkcija nelinearna

u parametrima, pitanje egzistencije najboljeg obicnog lp procjenitelja izrazito je tesko

te se ne moze razmatrati na opcenitoj razini. Za neke specijalne matematicke modele

ovo pitanje je posebno razmatrano. Primjerice u radu [43] dani su dovoljni uvjeti za

egzistenciju najboljeg lp procjenitelja (1 ≤ p < ∞) za 3-parametarski Weibullov model.

U radu [29] dani su dovoljni uvjeti koji garantiraju egzistenciju najboljeg procjenitelja

u smislu najmanjih kvadrata za Michaelis-Mentenovu model-funkciju f(x; a, b) = axb+x

,

a, b > 0, dok je u [81] analiziran problem egzistencije najboljeg lp procjenitelja za isti

model. Nadalje, u radovima [16, 34, 40] promatra se problem egzistencije najboljeg

OLS procjenitelja za 3-parametarski eksponencijalni model f(x; a, b, c) = a + becx, a ∈R, b, c 6= 0. Nuzni i dovoljni uvjeti koji garantiraju egzistenciju optimalnih parametara

logisticke model-funkcije f(x; A, β, γ) = A1+eβ−γx , (A, β, γ) ∈ R3, A, γ > 0 izvedeni su

u radu [42]. U radovima [35] i [38] analizirani su problemi egzistencije parametara za

Gomperzovu model-funkciju f(x; a, b, c) = ea−be−cx, b, c > 0, a ∈ R, odnosno Hubbertov

model f(x; α, β, γ) = αeβ−γx

(1+eβ−γx)2, α, γ > 0, β ∈ R.

Buduci funkcional Sp(θ) (1 ≤ p < ∞) opcenito nije derivabilan, za njegovu je mini-

mizaciju potrebno koristiti specijalne metode za visedimenzionalnu minimizaciju koje

su opisane u [14, 46, 63, 65, 74]. Za minimizaciju funkcionala S2 u nelinearnom slucaju

standardno se koristi Gauss–Newtonova metoda s regularnim korakom, te Levenberg-

Marquardtova metoda ([17, 23, 65]).


4.2.2 Problem najmanjih potpunih kvadrata

OLS metoda temelji se na pretpostavci da samo mjerenja yi zavisne varijable sadrzi

nepoznatu aditivnu pogresku. Ova pretpostavka cesto je nerealna u praksi. Pogreske

uzorka, pogreske modela, ljudske pogreske, te pogreske mjernih instrumenata mogu

dovesti do toga da i mjerenja nezavisne varijable sadrze aditivne pogreske. Uz takvu

pretpostavku dolazimo do modela

yi = f(ti + δi; θ) + εi, i = 1, . . . , n,

gdje su δi i εi nepoznate aditivne pogreske. U ovom slucaju razumno je vektor nepoz-

natih parametara θ ∈ P procijeniti minimizacijom tezinske sume kvadrata svih pogre-

saka, tj. minimizacijom funkcionala

T2(θ, δ) =n∑

i=1

wi[f(ti + δi; θ)− yi]2 +

n∑i=1

wiδ2i ,

na skupu P ×∆ ⊆ Rm × Rn, gdje je

∆ ={δ = (δ1, . . . , δn) ∈ Rn : ti + δi ∈ Df , i = 1, . . . , n

}.

Ovaj pristup u literaturi je poznat poznat nazivom metoda najmanjih potpunih kvadrata

(TLS metoda; kratica od engl. Total Least Squares) (vidi npr. [8, 24, 30]). Za tocku

θ? ∈ P kazemo da je najbolji TLS procjenitelj, ako postoji δ? ∈ ∆ takav da je

T2(θ?, δ?) = inf

(θ,δ)∈P×∆T2(θ, δ).

U statistickoj literaturi TLS metoda poznata je pod nazivima errors in variables re-

gression i orthogonal distance regression ([9, 22]). U numerickoj analizi TLS pristup

prvi su promatrali G.H.Golub i C. F.Van Loan u radu [24] iz 1980.

Geometrijski gledano, minimizacija funkcionala T2 predstavlja minimizaciju tezinske

sume kvadrata udaljenosti podataka do grafa funkcije t 7→ f(t; θ) (vidi sliku 4.1.b). Ra-

zlika izmedu OLS i TLS pristupa prikazana je na slici 4.1.

Opcenitije, ponekad se umjesto funkcionala T2 minimizira funkcional

G2(θ, δ) =n∑

i=1

wi [f(ti + δi; θ)− yi]2 +

n∑i=1

piδ2i ,

gdje su wi, pi neke unaprijed zadane tezine.


Primjedba 4.2 Sa statistickog stajalista, minimizacija funkcionala G2 ima vise smisla.

Naime, uz pretpostavke da su pogreske εi normalno distribuirane s ocekivanjem 0 i vari-

jancom 1/w2i , a pogreske δi normalno distribuirane s ocekivanjem 0 i varijancom 1/p2

i ,

slicno kao kod OLS problema, moze se pokazati da je problem minimizacija funkcionala

G2 ekvivalentna problemu pronalazenju parametara metodom maksimalne vjerodosto-

jnosti. Pri tome se procjenitelj maksimalne vjerodostojnosti podudara s TLS procje-

niteljem.

Umjesto TLS metodom koja koristi l2 normu, vektor nepoznatih parametara θ

moze se potraziti u bilo kojoj drugoj lp normi, 1 ≤ p < ∞, tako da se na skupu P ×∆

minimizira funkcional

Gp(θ, δ) =n∑

i=1

wi

∣∣f(ti + δi; θ)− yi

∣∣p +n∑

i=1

pi|δi|p, (4.3)

gdje su wi, pi neke unaprijed zadane tezine. Ovakav pristup nazivamo potpuni lp pristup

procjene parametara (vidi npr. [78, 87, 93]). Ako pri tome postoji tocka θ? ∈ P takva

da je

Gp(θ?, δ?) = inf

(θ,δ)∈P×∆Gp(θ, δ),

nazivamo je najbolji potpuni lp procjenitelj.

Slicno kao i u slucaju obicnog pristupa i ovdje se postavlja pitanje egzistencije naj-

boljeg potpunog lp procjenitelja. U linearnom slucaju za p = 2 uvjeti koji garantiraju

egzistenciju najboljeg potpunog l2 procjenitelja (tj. TLS procjenitelja) mogu se naci u

[8] i [30]. U svim ostalim slucajevima problem egzistencije je vrlo slozen te ga je nuzno

razmatrati za svaku model funkciju posebno. Problemi procjene parametara za neke

model-funkcije analizirani su u radovima [37, 39, 41, 44, 45].

S numerickog stajalista minimizacija funkcionala (4.3) predstavlja vrlo zahtjevan

problem. Broj varijabli po kojima treba minimizirati funkcional ovisi o broju tocaka

podataka, kojih u primjenama obicno ima velik broj, znatno vise od broja parametara.

U linearnom slucaju za p = 2 odgovarajuce numericke metode za rjesavanje TLS prob-

lema opisane su u [30]. U nelinearnom slucaju za p = 2 razvijene su specijalne metode

koje se mogu naci u [9] i [83].


4.2.3 Metoda najmanjih obicnih kvadrata za transformiraniWeibullov model

Iako su i standardni i 3-parametarski Weibullov model nelinearni u parametrima, prim-

jenom ranije opisanih transformacija standardni Weibullov model mozemo linearizirati,

i u tom slucaju imamo eksplicitne formule za najbolji OLS procjenitelj. Pri tome treba

voditi racuna da linearizirani problem uvijek ima rjesenje, dok odgovarajuci polazni

nelinearni problem ne mora imati rjesenje. Osim toga, ako oba problema (linearizirani

i polazni) imaju rjesenja, ta rjesenja su opcenito razlicita.

Prisjetimo se, nakon dvostrukog logaritmiranja Weibullovog standardnog modela

dobivamo

ln [− ln [1− F (t; β, η)]] = β ln t− β ln η.

Uvodenjem oznaka

y := ln [− ln [1− F (t; β, η)]] , x := ln t, a := β, b := −β ln η

imamo

y = ax + b,

odnosno na ovaj nacin postignuta je linearna zavisnost izmedu transformirane nezavisne

varijable x i transformirane zavisne varijable y. Sada nepoznate parametre mozemo

procijeniti OLS metodom. Pri tome za podatke treba uzeti (xi, yi), i = 1, . . . , n, gdje

su

xi = ln ti, yi = ln[− ln

[1− F (ti)

]],

a F (ti) je vrijednost empirijske funkcije distribucije. Prvo cemo razmotriti takozvanu

regresiju od y u odnosu na x, a zatim regresiju od x u odnosu na y.

Regresija od y u odnosu na x. Kod ove regresije (vidi npr. [51, 68]) nepoznate

parametre treba odrediti minimizacijom funkcionala

Sxy2 (a, b) =

n∑i=1

wi [yi − (axi + b)]2 ,

gdje su wi > 0 zadane tezine. Napomenimo da je kod procjene parametara Weibullovim

crtezom vjerojatnosti uobicajeno uzeti wi = 1, i = 1, . . . , n.


Dobro je poznato da odgovarajuci najbolji OLS procjenitelj glasi:

a =

∑ni=1 wi(xi − x)(yi − y)∑n

i=1 wi(xi − x)2

b = y − ax,

gdje je

x :=

∑ni=1 wixi∑ni=1 wi

, y :=

∑ni=1 wiyi∑ni=1 wi

.

Sada pomocu polaznih supstitucija a = β i b = −β ln η dobivamo

β =

∑ni=1 wi(xi − x)(yi − y)∑n

i=1 wi(xi − x)2

η = exp

(−

(y

β− x

)),

Za tezine podataka, ukoliko one nisu unaprijed zadane, uobicajeno je uzeti re-

ciprocnu vrijednost varijance, wi = 1/σ2i . No, buduci su vrijednosti nezavisne varijable

procjenjene, varijanca je nepoznata. Iz tog razloga, potrebno je odrediti aproksimaciju

tezina. U radu [6], predlozena je sljedeca formula za izracun tezina

wi =[(1− F (ti)) ln(1− F (ti))

]2

. (4.4)

Slicna procjena dobivena je u radu [31] i ona glasi

wi =

[(1− F (ti)) ln(1− F (ti))

]2

∑nj=1

[(1− F (tj)) ln(1− F (tj))

]2 .

Buduci je∑n

j=1[(1− F (tj)) ln(1− F (tj))]2 konstantno, ove dvije procjene tezina daju

jednake rezultate pri procjeni parametara. Tezine je moguce procijeniti i bez racunanja


vrijednosti empirijske funkcije distribucije, kao sto je predlozeno u radu [52]. Formula

za tezine zadana je s

wi =

[∑ij=1

1n−i+j

]2

∑ij=1

1(n−i+j)2

. (4.5)

Osim navedenih, postoje i drugi nacini procjene tezina, o cemu se vise moze procitati

u [70].

Regresija od x u odnosu na y. Kod regresije od y u odnosu na x minimizira se

tezinska suma kvadrata ,,vertikalnih udaljenosti” podataka do grafa model-funkcije.

Nepoznate parametre moguce je odrediti i tako da se minimizira tezinska suma kva-

drata ,,horizontalnih udaljenosti” podataka do grafa model-funkcije. Tada bi umjesto

funkcionala Sxy2 promatrali funkcional Syx

2 , (vidi npr. [51, 68])

Syx2 (a0, b0) =

n∑i=1

[xi − (a0yi + b0)]2 ,

gdje je a0 = 1β

i b0 = ln η. Minimizacija funkcionala Syx2 za procjenitelje daje:

β0 =

∑ni=1 wi(yi − y)2

∑ni=1 wi(xi − x)(yi − y)

η0 = exp

(x− y

β

).

Vise o svojstvima ovih procjenitelja moze se procitati u [100].

Primjer 4.1 U primjeru 3.1 nepoznati parametri su procjenjeni koristenjem regresije

od y u odnosu na x uz vrijednosti tezina wi = 1, i = 1, . . . , 14. Sada cemo koristeci

istu regresiju navesti tezinske OLS procjenitelje uz izbor tezina (4.4) i (4.5). S WSS

oznacili smo tezinsku sumu kvadrata reziduala.


Empirijska distribucijaProsjecni rang Medijan rang Benardov rangβ = 1.2077 β = 1.29989 β = 1.26269

Podaci iz tablice 2.2 η = 130.502 η = 127.579 η = 128.721(tezine (4.4)) SS = 0.0198168 SS = 0.0258365 SS = 0.0230643

WSS = 0.00172158 WSS = 0.00194404 WSS = 0.0018547β = 1.25447 β = 1.41439 β = 1.3422


WSS = 0.12709 WSS = 0.169152 WSS = 0.148644β = 1.1012 β = 1.28658 β = 1.20446


WSS = 0.0036589 WSS = 0.00310754 WSS = 0.00336991β = 1.02145 β = 1.16771 β = 1.10067


WSS = 0.325669 WSS = 0.322422 WSS = 0.327264

Tablica 4.1: Regresijom od y u odnosu na x procjenjeni parametri za standardniWeibullov model na osnovu otkaza cistaca valjka s obzirom na broj dana i broj kopija

Primjetimo da je najbolja aproksimacija (SS je najmanji) dobivena koristenjem

procjenitelja prosjecnog ranga uz odabir tezina (4.5). Na slici 4.2 prikazani su origi-

nalni podaci iz tablice 2.2 i graf 2-parametarske Weibullove distribucije t 7→ F (t; β, η)

ciji su parametri dobiveni koristenjem procjenitelja prosjecnog ranga i i tezina (4.5).

50 100 150 200 250 300

0.2

0.4

0.6

0.8

t

F (t; β, η) 6

-

Slika 4.2: Podaci iz tablice 2.2 i aproksimacija 2-parametarskim Weibullovim modeloms obzirom na broj dana, prosjecni rang i tezine (4.5)


Primjer 4.2 U ovom primjeru nepoznate parametre standardnog Weibullova modela

procjenjujemo pomocu podataka iz primjera 2.2. Koristit cemo regresiju od y u odnosu

na x uz izbor tezina wi = 1, i = 1, . . . , 20, i tezina zadanih s izrazima (4.4) i (4.5).

Podaci za OLS procjenu u ovom primjeru dani su s (wi, ti, yi), gdje su yi izracunati

koristenjem procjenitelja empirijske funkcije distribucije (procjenitelj prosjecnog ranga,

procjenitelj medijan ranga i Benardov procjenitelj) i vrijednostima 3-parametarske Wei-

bullove distribucije F (t; 15, 2.5, 30) u tim podacima.

wi = 1 tezine (4.4) tezine (4.5)

F (t; 15, 2.5, 30) β = 4.24573 β = 3.9938 β = 3.94805η = 45.9452 η = 45.1813 η = 45.7346SS = 0.0147315 SS = 0.0040705 SS = 0.00677854

WSS = 0.000097686 WSS = 0.0531589

Prosjecni rang β = 3.31835 β = 3.0662 β = 2.95649η = 45.982 η = 44.8302 η = 45.4277SS = 0.0496898 SS = 0.0363783 SS = 0.0420738

WSS = 0.00255174 WSS = 0.365197

Medijan rang β = 3.74463 β = 3.34034 β = 3.24233η = 45.6445 η = 44.3566 η = 45.0864SS = 0.0585072 SS = 0.0360287 SS = 0.0422204

WSS = 0.00236381 WSS = 0.368346

Benardov rang β = 3.54831 β = 3.22429 β = 3.11503η = 45.7831 η = 44.5465 η = 45.2261SS = 0.0539617 SS = 0.0361259 SS = 0.0422992

WSS = 0.00243424 WSS = 0.36755

Tablica 4.2: Procjenjeni parametri za standardni Weibullov model na osnovu generi-ranih podataka

Najbolja procjena dobivena je koristenjem vrijednosti 3-parametarske distribucije

F (t; 15, 2.5, 30) i tezina (4.4). No, kako u primjenama ne mozemo ocekivati poznavanje

stvarne distribucije, ova nam procjena vise sluzi za provjeru same metode, nego u svrhu

modeliranja. Zbog te cinjenice, gledamo i najbolju procjenu dobivenu koristenjem em-

pirijskih vrijednosti funkcije distribucije, koja je u ovom primjeru postignuta koristenjem

medijan ranga i tezina (4.4). Na slici 4.3.a prikazani su podaci (ti, F (ti; 15, 2.5, 30)),

gdje su ti podaci iz tablice 2.4, i graf 2-parametarske Weibullove distribucije t 7→F (t; β, η) ciji su parametri dobiveni koristenjem stvarnih podatka i tezina (4.4), dok

su na slici 4.3.b prikazani podaci (ti, F (ti)) i graf 2-parametarske Weibullove distribu-

cije t 7→ F (t; β, η), gdje je F (ti) vrijednost empirijske funkcije distribucije izracunata


koristenjem procjenitelja medijan ranga, ciji su parametri dobiveni koristenjem proc-

jenitelja medijan ranga i tezina (4.4).

a) podaci (ti, F (ti; 15, 2.5, 30)) b) podaci (ti, F (ti))

10 20 30 40 50 60 70

0.2

0.4

0.6

0.8

1.0

t

F (t; β, η) 6

-10 20 30 40 50 60 70

0.2

0.4

0.6

0.8

1.0

t

F (t; β, η) 6

-

Slika 4.3: Podaci i aproksimacije 2-parametarskim modelom s obzirom stvarne podatkes tezinama (4.4) i s obzirom na medijan rang i tezine (4.4)

Analognim transformacijama 3-parametarski model prelazi u

ln [− ln [1− F (t; α, β, η)]] = β ln(t− α)− β ln η.

Zbog novog parametra α transformirana funkcija nije direktno svedena na linearnu.

Kako bi se rijesio ovaj problem, prvo se na neki nacin procijeni parametar polozaja α

(kao sto je opisano u tocki 3.1.1), te se uz supstitucije

y := ln [− ln [1− F (t; α, β, η)]] , x = ln(t− α), a := β, b = −β ln η

dobiva linearizirani oblik

y = ax + b.

Nepoznati parametri a i b odreduju se metodom najmanjih kvadrata, pri cemu su

odgovarajuci podaci (xi, yi), i = 1, . . . , n, gdje je

xi = ln(ti − α), a yi = ln[− ln

[1− F (ti)

]].

Tada se procjena parametara oblika i skaliranja provodi na prije opisan nacin.

Primjer 4.3 U primjeru 3.1 nepoznati parametri su procjenjeni koristenjem OLS me-

tode (i to regresiju od y u odnosu na x) uz vrijednosti tezina wi = 1, i = 1, . . . , 14.

Sada cemo navesti tezinske OLS procjenitelje dobivene regresijom od y u odnosu na x,

i to uz izbor tezina (4.4) i (4.5). Za yi uzet cemo vrijednosti empirijskih distribucija u

tockama ti iz tablice 2.2.


Empirijska distribucijaProsjecni rang Medijan rang Benardov rangα = 24.75 α = 25.1667 α = 24.75β = 0.790379 β = 0.872917 β = 0.847207

alternativni pristup η = 102.271 η = 99.1788 η = 100.606(tezine (4.4)) SS = 0.0246591 SS = 0.0251124 SS = 0.02402

WSS = 0.00179531 WSS = 0.0017787 WSS = 0.00175436α = 24.75 α = 25.1667 α = 24.75β = 0.771078 β = 0.848825 β = 0.82953

alternativni pristup η = 98.2764 η = 93.6794 η = 96.0193(tezine (4.5)) SS = 0.0276856 SS = 0.0295914 SS = 0.027125


koeficijenti korelacije η = 109.052 η = 101.98 η = 104.742(tezine (4.4)) SS = 0.0161999 SS = 0.0208776 SS = 0.0186946


koeficijenti korelacije η = 107.232 η = 98.1233 η = 77519.2(tezine (4.5)) SS = 0.0162112 SS = 0.021174 SS = 0.018806

WSS = 0.109945 WSS = 0.141085 WSS = 0.126209

Tablica 4.3: Procjenjeni parametri za 3-parametarski Weibullov model na osnovuotkaza cistaca valjka s obzirom na broj dana


Weibullove distribucije t 7→ F (t; α, β, η), gdje je α procjenjen metodom crteza koefi-

cijenata korelacije, a parametri β i η su dobiveni koristenjem procjenitelja prosjecnog

ranga za empirijsku funkciju distribucije.

Primjer 4.4 U ovom primjeru procjenjujemo nepoznate parametre za 3-parametarski

Weibullov model. Podaci ti, i = 1, . . . , 20, su iz primjera 2.2. Koristit cemo OLS

metodu regresije od y u odnosu na x, uz izbor tezina wi = 1, i = 1, . . . , 20, i tezina

zadanih s izrazima (4.4) i (4.5). Pri tome cemo uz uobicajene procjenitelje empiri-

jske distribucije koristiti i stvarne vrijednosti 3-parametarsku Weibullove distribuciju

F (t; 15, 2.5, 30) u tockama ti iz tablice 2.4.

Kao i u primjeru 4.2, najbolja procjena dobivena je koristenjem stvarnih vrijednosti

distribucije, pri cmu je parametar polozaja procjenjem metodom crteza koeficijenata

korelacije i uz tezine (4.4). Zbog prije navedenih razloga, gledamo i najbolju proc-

jenu koristenjem empirijske funkcije distribucije, koja je u ovom primjeru postignuta


50 100 150 200 250 300

0.2

0.4

0.6

0.8

t

F (t; α, β, η) 6

-

Slika 4.4: Podaci iz tablice 2.2 i aproksimacija 3-parametarskim modelom s obziromna prosjecni rang i tezine (4.4)

koristenjem procjenitelja prosjecnog ranga i tezina (4.4), uz procjenu parametra polozaja

metodom crteza koeficijenata korelacije. Na slici 4.5 prikazani su originalni podaci

iz tablice 2.4 i grafovi gore navedenih 3-parametarskih Weibullovih distribucija t 7→F (t; α, β, η).

10 20 30 40 50 60 70

0.2

0.4

0.6

0.8

1.0

t

F (t; α, β, η) 6

-10 20 30 40 50 60 70

0.2

0.4

0.6

0.8

t

F (t; α, β, η) 6

-

Slika 4.5: Podaci iz tablice 2.4 i aproksimacije 3-parametarskim modelom s obziromstvarnu distribuciju i procjenitelja prosjecnog ranga i tezina (4.4), uz procjenu parame-tra polozaja metodom crteza koeficijenata korelacije


wi = 1 tezine (4.4) tezine (4.5)α = 15.7509 α = 15.7509 α = 15.7509

F (t; 15, 2.5, 30) β = 2.39916 β = 2.4207 β = 2.4182alternativni η = 29.1812 η = 29.2379 η = 29.1888pristup SS = 0.000139381 SS = 0.0000317255 SS = 0.0000576556

WSS = 8.83961× 10−7 WSS = 0.000478069α = 14.8914 α = 14.8914 α = 14.8914

F (t; 15, 2.5, 30) β = 2.51438 β = 2.5114 β = 2.51168koeficijenti η = 30.1183 η = 30.1103 η = 30.117korelacije SS = 2.60384× 10−6 SS = 6.08237× 10−7 SS = 1.08615× 10−6

WSS = 6.08237× 10−7 WSS = 8.96734× 10−6

α = 22.344 α = 22.344 α = 22.344Prosjecni rang β = 0.948979 β = 1.20417 β = 1.12126alternativni η = 22.3163 η = 21.7628 η = 21.3713pristup SS = 0.0872079 SS = 0.0411507 SS = 0.0533164

WSS = 0.0030144 WSS = 0.418555α = 18.5569 α = 18.5569 α = 18.5569

Prosjecni rang β = 1.57701 β = 1.63194 β = 1.58384koeficijenti η = 26.0379 η = 25.6766 η = 25.7676korelacije SS = 0.0267873 SS = 0.024785 SS = 0.0263062

WSS = 0.00210317 WSS = 0.240478α = 22.3902 α = 22.3902 α = 22.3902

Medijan rang β = 1.07719 β = 1.33446 β = 1.22926alternativni η = 21.4927 η = 21.3349 η = 20.8793pristup SS = 0.0749843 SS = 0.03605 SS = 0.0498954

WSS = 0.00265091 WSS = 0.399429α = 20.3897 α = 20.3897 α = 20.3897

Medijan rang β = 1.52036 β = 1.58684 β = 1.54026koeficijenti η = 23.4843 η = 23.3875 η = 23.3104korelacije SS = 0.0292786 SS = 0.0264917 SS = 0.0286163

WSS = 0.00214665 WSS = 0.248938α = 22.344 α = 22.344 α = 22.344

Benardov rang β = 1.02585 β = 1.28454 β = 1.18671alternativni η = 21.8533 η = 21.5293 η = 21.1153pristup SS = 0.0794065 SS = 0.0377116 SS = 0.0508948

WSS = 0.00276914 WSS = 0.405045α = 19.4733 α = 19.4733 α = 19.4733

Benardov rang β = 1.56929 β = 1.62624 β = 1.57823koeficijenti η = 24.7356 η = 24.4894 η = 24.5179korelacije SS = 0.0272848 SS = 0.0253055 SS = 0.0269868

WSS = 0.00210224 WSS = 0.241565

Tablica 4.4: Procjenjeni parametri za 3-parametarski Weibullov model na osnovu ge-neriranih podataka


4.3 Nelinearni problem najmanjih kvadrata za 3-

parametarski Weibullov model

Sada cemo formulirati nelinearne OLS i TLS probleme za Weibullovu 3-parametarsku

funkciju distribucije vjerojatnosti, kao i za funkciju gustoce vjerojatnosti.

4.3.1 OLS i TLS problem za funkciju distribucije vjerojatnosti

Nepoznate parametre Weibullove 3-parametarske funkcije distribucije treba procijeniti

na osnovi podataka (ti, yi), i = 1, . . . , n, gdje su ti opazene vrijednosti Weibulove

slucajne varijable T ∼ W (α, β, η), a yi odgovarajuce vrijednosti empirijske funkcije

distribucije. Kako je T > 0, te kako je vjerojatnost da kontinuirana slucajna varijabla

dvaput primi istu vrijednost jednaka nuli, prirodno je pretpostaviti da je

0 < t1 < t2 < . . . < tn. (4.6)

Nadalje, kako brojevi yi predstavljaju vrijednosti empirijske funkcije distribucije, pri-

rodna je i sljedeca pretpostavka

0 < y1 < y2 < . . . < yn. (4.7)

OLS problem. Neka su zadane tezine wi > 0, i = 1, . . . , n. Nepoznate parametre

α, β i η Weibullove 3-parametarske funkcije distribucije F (t; α, β, η) treba procijeniti

minimizacijom nelinearnog funkcionala:

S(α, β, η) =n∑

i=1

wi [F (ti; α, β, η)− yi]2

=n∑

i=1ti<α

wiy2i +

n∑i=1ti≥α

wi

[1− e−( ti−α

η )β

−yi

]2

na skupu

P :={(α, β, η) ∈ R3 : α ≥ 0; β, η > 0

}.

Dakle, OLS problem za Weibullovu 3-parametarsku distribuciju glasi:

Postoji li tocka (α?, β?, η?) ∈ P takva da je

S(α?, β?, η?) = inf(α,β,η)∈P

S(α, β, η)?


Prije minimizacije postavlja se pitanje egzistencije najboljeg OLS procjenitelja.

TLS problem. Neka su zadane tezine wi, pi > 0, i = 1, . . . , n. Nepoznate parametre

α, β i η Weibullove 3-parametarske funkcije distribucije F (t; α, β, η) treba procijeniti

minimizacijom tezinske sume kvadrata svih pogresaka, tj. minimizacijom nelinearnog

funkcionala

T (α, β, η, δ) =n∑

i=1

wi [F (ti + δi; α, β, η)− yi]2 +

n∑i=1

piδ2i .

na skupu P × Rn, gdje je

P ={(α, β, η) ∈ R3 : α ≥ 0; β, η > 0

}.

Kao i kod OLS pristupa, i ovdje se prije minimizacije postavlja pitanje egzistencije

najboljeg TLS procjenitelja. Drugim rijecima, treba znati odgovor na sljedece pitanje:

Postoji li tocka (α?, β?, η?, δ?) ∈ P × Rn takva da je

T (α?, β?, η?, δ?) = inf(α,β,η,δ)∈P×Rn

T (α, β, η, δ)?

U sljedecem poglavlju pokazano je da ce uz navedene prirodne uvjete (4.6) i (4.7)

na podatke najbolji OLS i najbolji TLS procjenitelj za 3-parametarsku Weibullovu

distribuciju postojati. U dokazu tih tvrdnji koristit cemo rezultate iz radova [43] i [36].

4.3.2 OLS i TLS problem za funkciju gustoce vjerojatnosti

Neka su zadana opazanja

0 < t1 < t2 < . . . < tn

3-parametarske Weibullove slucajne varijable. Nadalje, neka je f neka neparametarska

procjena funkcije gustoce konstruirana pomocu tog uzorka. U literaturi postoji vise

nacina za neparametarsku procjenu funkcije gustoce vjerojatnosti, od kojih se najcesce

koriste metoda histograma, procjenitelj jezgre (engl. kernel estimator), procjenitelj

najblizih susjeda (engl. nearest neighbor estimator) i procjenitelj ortogonalnih nizova

(engl. orthogonal series estimator) (vidi npr. [85, 92]).

Nepoznate parametre Weibullove 3-parametarske gustoce treba procijeniti na osnovi

podataka

(ti, yi), i = 1, . . . , n,


gdje je yi := f(ti). Uocimo da je yi > 0, i = 1, . . . , n.

OLS problem. Neka su zadane tezine wi > 0, i = 1, . . . , n. Nepoznate parametre α,

β i η Weibullove 3-parametarske gustoce f(t; α, β, η) treba procijeniti minimizacijom

nelinearnog funkcionala:

S(α, β, η) =n∑

i=1

wi [f(ti; α, β, η)− yi]2

=n∑

i=1ti<α

wiy2i +

n∑i=1ti≥α

wi

[β

η

(ti − α

η

)β−1

e−( ti−α

η )β

−yi

]2

na skupu

P :={(α, β, η) ∈ R3 : α ≥ 0; β, η > 0

}.

Drugim rijecima, OLS problem za Weibullovu 3-parametarsku funkciju gustoce

glasi:

Postoji li tocka (α?, β?, η?) ∈ P takva da je

S(α?, β?, η?) = inf(α,β,η)∈P

S(α, β, η)?

TLS problem. Neka su zadane tezine wi, pi > 0, i = 1, . . . , n. Nepoznate parametre

α, β i η Weibullove 3-parametarske gustoce f(t; α, β, η) treba procijeniti minimizacijom

nelinearnog funkcionala

T (α, β, η, δ) =n∑

i=1

wi [f(ti + δi; α, β, η)− yi]2 +

n∑i=1

piδ2i .


P ={(α, β, η) ∈ R3 : α ≥ 0; β, η > 0

}.

Dakle, odgovarajuci TLS problem glasi:

Postoji li tocka (α?, β?, η?, δ?) ∈ P × Rn takva da je


T (α, β, η, δ)?


Kod oba pristupa (OLS i TLS), prije minimizacije odgovarajuceg funkcionala pos-

tavlja se pitanje egzistencije najboljeg procjenitelja. U sljedecem poglavlju bit ce

pokazano da uz navedene pretpostavke postoje oba procjenitelja (OLS i TLS). U dokazu

tih tvrdnji koristit cemo rezultate iz radova [55] i [56].

Poglavlje 5

Teoremi o egzistenciji optimalnihparametara u Weibullovom modelu

Glavni rezultati disertacije nalaze se u ovom poglavlju u kome su navedeni teoremi

o egzistenciji OLS i TLS procjenitelja za Weibulovu 3-parametarsku distribuciju i

Weibulovu 3-parametarsku gustocu. Osim toga, navedene su i odgovarajuce gene-

ralizacije u p normi. Pri tome od podataka se zahtijeva da ispunjavaju samo prirodne

uvjete (vidi tocku 4.3).

5.1 Egzistencija OLS procjenitelja za Weibullovu 3-

parametarsku distribuciju

Ponovimo ukratko OLS problem za 3-parametarsku Weibullovu distribuciju koji je

formuliran u tocki 4.3. Neka su zadani podaci (wi, ti, yi), i = 1, . . . , n, gdje su

0 < t1 < t2 < . . . < tn (5.1)

vrijednosti nezavisne varijable (opazene vrijednosti Weibullove slucajne varijable T ∼W (α, β, η)),

0 < y1 < y2 < . . . < yn < 1 (5.2)

odgovarajuce vrijednosti empirijske funkcije distribucije, a wi > 0 tezine.

Nepoznate parametre α, β i η Weibullove 3-parametarske distribucije F (t; α, β, η)

59

Teoremi o egzistenciji optimalnih parametara u Weibullovom modelu 60

treba procijeniti minimizacijom nelinearnog funkcionala:

S(α, β, η) =n∑

i=1

wi [F (ti; α, β, η)− yi]2

=n∑

i=1ti<α

wiy2i +

n∑i=1ti≥α

wi

[1− e−( ti−α

η )β

−yi

]2

na skupu P :={(α, β, η) ∈ R3 : α ≥ 0; β, η > 0

}. Ako postoji tocka (α?, β?, η?) ∈ P

takva da je S(α?, β?, η?) = inf(α,β,η)∈P S(α, β, η), zovemo je OLS procjenitelj.

U teoremu 5.1 dokazat cemo da je za egzistenciju OLS procjenitelja dovoljno da po-

daci zadovoljavaju samo prirodne pretpostavke (5.1) i (5.2). Za dokaz teorema potrebna

nam je sljedeca lema.

Lema 5.1 Pretpostavimo da su dani podaci (wi, ti, yi), i = 1, . . . , n, n > 3, takvi da je

0 < t1 < t2 < . . . < tn, 0 < y1 < y2 < . . . < yn < 1

i wi > 0, i = 1, . . . , n. Nadalje, za bilo koji realni broj θ ≥ 0 neka je

yθ :=

∑ti>θ

wiyi

∑ti>θ

wi

i

Σθ :=∑

ti<θ

wiy2i +

∑

ti>θ

wi(yi − yθ)2.

Tada vrijedi:

(i) Ako je θ = tn−1, onda postoji tocka u P u kojoj funkcional S postize vrijednost

jednaku Σtn−1 =∑n−2

i=1 wiy2i .

(ii) Ako je θ 6= tn−1, onda postoji tocka u P u kojoj funkcional S postize vrijednost

manju od Σθ.


Oznaka sumacije∑ti>θ

(ili∑ti<θ

) koristi se kao skraceni zapis sljedeceg: Suma svih po-

dataka s indeksom i ≤ n za koje je ti > θ (ili ti < θ). Ako takav podatak ti ne postoji,

suma je prazna; i po definiciji je jednaka nula.

Dokaz. Na pocetku pretpostavimo da je 0 < θ ≤ tn−1. Neka je k ∈ {1, . . . , n}takav da je

θ ∈ (tk−1, tk], (5.3)

gdje je t0 = 0 po definiciji. Uvedimo oznake

ytk :=

∑ti>tk

wiyi

∑ti>tk

wi

i l := min{i : yi ≥ ytk}.

Buduci je niz {yi}ni=1 strogo rastuci i yn < 1, lako je pokazati da je yk < ytk < 1 i k < l.

Sada s τl oznacimo

τl :=

{tl, ako je yl = ytk

tl−1+tl2

, ako je yl > ytk .

Primjetimo da je tk < τl, buduci je k < l.

Sada cemo konstruirati familiju Weibullovih distribucija ciji ce graf sadrzavati tocke

(tk, yk) i (τl, ytk) i koja ce u tockama t1, . . . , tk−1 imati vrijednost nula. U tu svrhu, prvo

definirajmo funkciju K : (0,∞) → (0,∞) formulom

K(β) :=

(ln(1−yk)ln(1−ytk

)

)1/β

1−(

ln(1−yk)ln(1−ytk

)

)1/β.

Kako je tk > 0 i

limβ→0

K(β) = 0, (5.4)

postoji dovoljno mali β0 > 0 takav da je

tk −K(β)(τl − tk) > tk−1 ≥ 0, β ∈ (0, β0), .


Zato je

(α(β), β, η(β)) :=

(tk −K(β)(τl − tk), β,

τl − tk + K(β)(τl − tk)(ln

(1

1−ytk

))1/β

)∈ P

za sve β ∈ (0, β0). Sada cemo svakom realnom broju β ∈ (0, β0) pridruziti Weibullovu

distribuciju

F (t; α(β), β, η(β)) =

{1− e

− ln

(1

1−ytk

)(t−tk+K(β)(τl−tk)

τl−tk+K(β)(τl−tk)

)β

, t > tk −K(β)(τl − tk)0, t ≤ tk −K(β)(τl − tk).

Nije tesko pokazati da vrijedi

F (tk; α(β), β, η(β)) = yk,

F (τl; α(β), β, η(β)) = ytk , (5.5)

F (ti; α(β), β, η(β)) = 0, i = 1, . . . , k − 1

i

limβ→0

F (t; α(β), β, η(β)) = ytk , t > tk. (5.6)

(i) Ako je θ = tn−1, onda k = n− 1, ytk = yn, l = n i τl = tn. Zato iz (5.5) slijedi

S(α(β), β, η(β)) =n∑

i=1

wi [F (ti; α(β), β, η(β))− yi]2 =

n−2∑i=1

wiy2i = Σtn−1

za sve β ∈ (0, β0), odnosno vrijedi tvrdnja (i).

Sada cemo dokazati tvrdnju (ii). Ako je θ ∈ (0, tn−2], onda zbog pretpostavke (5.3)

imamo

Σθ =∑

ti<θ

wiy2i +

∑

ti>θ

wi(yi − yθ)2 ≥

k−1∑i=1

wiy2i +

n∑

i=k+1

wi(yi − yθ)2


gdje jednakost vrijedi samo ako je θ = tk. Iz toga i cinjnice da kvadratna funkcija

x 7→p∑

i=1

wi(xi−x)2 postize svoj minimump∑

i=1

wi(xi−x)2 u tocki x =∑p

i=1 wixi/∑p

i=1 wi,

imamo

Σθ ≥k−1∑i=1

wiy2i +

n∑

i=k+1

wi(yi − ytk)2. (5.7)

Funkcija t 7→ F (t; α(β), β, η(β)), β ∈ (0, β0), je strogo rastuca na intervalu (tk −K(β)(τl− tk),∞). Zbog toga, (5.4) i (5.6) mozemo pretpostaviti da je β0 > 0 dovoljno

mali, tako da za sve β ∈ (0, β0) vrijedi

yi < F (ti; α(β), β, η(β)) < ytk , ako je tk < ti < τl

yi = F (ti; α(β), β, η(β)) = ytk , ako je ti = τl (5.8)

ytk < F (ti; α(β), β, η(β)) < yi, ako je τl < ti ≤ tm.

Kako je k ≤ n − 2, postoje barem dva indeksa i za koje je ti > tk. Nadalje, zbog

strogog rasta niza {yi}ni=1, jednakost yi = ytk moze vrijediti za najvise jedan indeks i.

Dakle, za svaki β ∈ (0, β0), iz (5.8) slijedi da je

∑ti>tk

wi [F (ti; α(β), β, η(β))− yi]2 <

n∑

i=k+1

wi(yi − ytk)2.

Za svaki takav β imamo

S(α(β), β, η(β)) =n∑

i=1

wi [F (ti; α(β), β, η(β))− yi]2

=∑ti<tk

wi [F (ti; α(β), β, η(β))− yi]2 +

∑ti>tk

wi [F (ti; α(β), β, η(β))− yi]2

<

k−1∑i=1

wiy2i +

n∑

i=k+1

wi(yi − ytk)2. (5.9)

Iz (5.7) i (5.9) slijedi S(α(β), β, η(β)) < Σθ. Ako je θ = 0, onda Σ0 > Σt1/2.


Ako je θ ∈ (tn−2, tn−1) ∪ (tn−1,∞), onda je Σθ >∑n−2

i=1 wiy2i = Σtn−1 . Kao sto je

pokazano u dokazu tvrdnje (i), postoji tocka u P u kojoj funkcional S postize vrijednost

Σtn−1 . S ovim je dokazana tvrdnja (ii). ¥Sada cemo koristeci Lemu 5.1 dokazati da uz prirodne pretpostavke na podatke

(5.1) i (5.2) OLS procjenitelj za Weibullovu 3-parametarsku distribuciju postoji.

Teorem 5.1 Neka su (wi, ti, yi), i = 1, . . . , n, n > 3, podaci takvi da je

0 < t1 < t2 < . . . < tn, 0 < y1 < y2 < . . . < yn < 1

i wi > 0, i = 1, . . . , n. Tada OLS procjenitelj za Weibullovu 3-parametarsku distribuciju

postoji.

Dokaz. Buduci je funkcional S nenegativan, postoji

S? := inf(α,β,η)∈P

S(α, β, η).

Treba pokazati da postoji tocka (α?, β?, η?) ∈ P takva da je S(α?, β?, η?) = S?.

Prvo uocimo da prema tvrdnji (i) Leme 5.1 postoji tocka (α0, β0, η0) ∈ P takva da

je S(α0, β0, η0) =∑n−2

i=1 wiy2i . Zato je S? ≤ ∑n−2

i=1 wiy2i . Ako je S? =

∑n−2i=1 wiy

2i , onda

je za (α?, β?, η?) dovoljno uzeti (α0, β0, η0), s cime je tvrdnja teorema u ovom slucaju

dokazana. Dakle, nadalje mozemo pretpostaviti da je

S? <

n−2∑i=1

wiy2i . (5.10)

Neka je (αk, βk, ηk) niz iz P , takav da je

S? = limk→∞

S(αk, βk, ηk) = limk→∞

n∑i=1

wi [F (ti; αk, βk, ηk)− yi]2

= limk→∞

[ ∑ti<αk

wiy2i +

∑ti≥αk

wi

(1− e

−(

ti−αkηk

)βk

− yi

)2]

. (5.11)

Bez smanjenja opcenitosti, u daljnjem razmatranju mozemo pretpostaviti da su ni-

zovi (αk), (βk) i (ηk) monotoni. Ovo je moguce zbog toga sto niz (αk, βk, ηk) ima podniz


(αlk , βlk , ηlk), takav da su svi njegovi koordinatni nizovi (αlk), (βlk) i (ηlk) monotoni; i

zbog toga sto je limk→∞ S(αlk , βlk , ηlk) = limk→∞ S(αk, βk, ηk) = S?.

Kako svaki monoton niz realnih brojeva konvergira u prosirenom skupu realnih

brojeva R, uvedimo oznake

α? := limk→∞

αk, β? := limk→∞

βk, η? := limk→∞

ηk.

Primjetimo da je 0 ≤ α?, β?, η? ≤ ∞, buduci je (αk, βk, ηk) ∈ P za svaki k ∈ N.

Za zavrsetak dokaza dovoljno je pokazati da je (α?, β?, η?) ∈ P , odnosno da je

0 ≤ α? < ∞ i β?, η? ∈ (0,∞). Neprekidnost funkcionala S onda povlaci da je S? =

limk→∞ S(αk, βk, ηk) = S(α?, β?, η?).

Ostaje pokazati da je (α?, β?, η?) ∈ P . Dokaz se provodi u pet koraka. U koraku

1 bit ce pokazano da je α? ≤ tn−2. U koraku 2 pokazat cemo da je η? 6= ∞. Dokaz

tvrdnje da je η? 6= 0 bit ce napravljen u koraku 3. U koraku 4 dokazat cemo da je

β? 6= ∞. Na kraju, u koraku 5 bit ce pokazano da je β? 6= 0.

Korak 1. Ako je α? > tn−2, onda iz (5.11) slijedi S? ≥ ∑n−2i=1 wiy

2i , sto je u kon-

tradikciji s pretpostavkom (5.10). Dakle, dokazali smo da je α? ≤ tn−2.

Ukoliko je potrebno, uzimajuci odgovarajuci podniz od (αk, βk, ηk) mozemo pret-

postaviti da ako je ti < α?, da je onda ti < αk za svaki k ∈ N. Slicno, ako je ti > α?,

mozemo pretpostaviti da je ti > αk za svaki k ∈ N. Uzimajuci to u obzir, lako je

pokazati da iz (5.11) slijedi

S? ≥∑ti<α?

wiy2i + lim

k→∞

[ ∑ti>α?

wi

(1− e

−(

ti−αkηk

)βk

− yi

)2]

. (5.12)

Korak 2. Sada pokazimo da je η? 6= ∞. Dokaz se provodi kontradikcijom. Pret-

postavimo suprotno, odnosno da je η? = ∞. Mogu su javiti samo sljedeca dva slucaja:

(i) η? = ∞ i β? > 0 ili (ii) η? = ∞ i β? = 0. Sada cemo pokazati da funkcional S ne

moze postici svoj infimum niti u jednom od ova dva slucaja, cime ce biti dokazano da

je η? 6= ∞.

Slucaj (i): η? = ∞ i β? > 0. Buduci je α? ≤ tn−2 < tn, u ovom slucaju bi imali

limk→∞

F (ti; αk, βk, ηk) = limk→∞

(1− e

−(

ti−αkηk

)βk)

= 0, ti > α?


pa bi zato iz (5.11) slijedilo

S? = limk→∞

S(αk, βk, ηk) =n∑

i=1

wiy2i >

n−2∑i=1

wiy2i

sto je u kontradikciji s pretpostavkom (5.10).

Slucaj (ii): η? = ∞ i β? = 0. Kako ηk → ∞, za svaki dovoljno velik k ∈ N

je 0 <(

1ηk

)βk

< 1, odnosno niz(

1ηk

)βk

je ogranicen. Mozemo pretpostaviti da je

konvergentan. Neka(

1ηk

)βk → L ∈ [0, 1]. Buduci da u ovom slucaju imamo

limk→∞


(1− e

−(

1ηk

)βk(ti−αk)βk

)= 1− e−L, ti > α?

te kako kvadratna funkcija x 7→ ∑ti>α?

wi(x−yi)2 postize svoj minimum

∑ti>α?

wi(yα?−yi)2

u tocki yα? =∑

ti>α?

wiyi/∑

ti>α?

wi, koristeci (5.12) dobivamo

S? ≥∑ti<α?

wiy2i +

∑ti>α?

wi

(1− e−L − yi

)2

≥∑ti<α?

wiy2i +

∑ti>α?

wi(yα? − yi)2 = Σα? .

Kako je α? ≤ tn−2 < tn−1, prema Lemi 5.1(ii) postoji tocka u P u kojoj funkcional S

postize vrijednost manju od Σα? . To znaci da u ovom slucaju funkcional S ne moze

postici svoj infimum.

Korak 3. Sada cemo pokazati da je η? 6= 0. Dokaz provodimo kontradikcijom.

Pretpostavimo da je η? = 0. Tada bez smanjenja opcenitosti mozemo pretpostaviti da

je 1/ηk > 1 za sve k ∈ N. Kako je (1/ηk)βk ≥ 1, moze se javiti samo jedan od sljedeca

dva slucaja: (i) η? = 0 i (1/ηk)βk →∞ ili (2) η? = 0 i (1/ηk)

βk → L ∈ [1,∞). Pokazimo

da funkcional S ne moze postici svoj infimum niti u jednom od ova dva slucaja, cime

ce biti dokazano da je η? 6= 0.


Slucaj (i): η? = 0 i (1/ηk)βk →∞. U ovom slucaju imamo

limk→∞

(ti − αk

ηk

)βk

= ∞, ti > α?

i zato je

limk→∞


(1− e

−(

t−αkηk

)βk)

= 1, ti > α?.

Zaista, ako je ti > α? i β? = 0, onda je

limk→∞

(ti − αk

ηk

)βk

= limk→∞

(1

ηk

)βk

(ti − αk)βk = ∞ · 1 = ∞.

Ako je ti > α? i β? > 0, onda je ocito

limk→∞

(ti − αk

ηk

)βk

= ∞.

Slucaj (ii): η? = 0 i (1/ηk)βk → L ∈ [1,∞). U ovom slucaju niz (βk) mora

konvergirati ka 0, buduci ηk → 0 po pretpostavci. Zato je

limk→∞


(1− e

−(

1ηk

)βk(ti−αk)βk

)= 1− e−L, ti > α?.

Uz objasnjenja slicna onima u slucaju (ii) koraka 2, u oba slucaja dobiva se

S? ≥∑ti<α?

wiy2i +

∑ti>α?

wi(yα? − yi)2 = Σα? .

Kako smo vec pokazali da postoji tocka u P u kojoj funkcional S postize vrijednost

manju od Σα? , to znaci da u ovom slucaju (η? = 0) funkcional S ne moze postici svoj

infimum.


Do sada smo pokazli da je 0 ≤ α? ≤ tn−2 i 0 < η? < ∞. Koristeci se time, u

slijedeca dva koraka pokazat cemo da je 0 < β? < ∞.

Korak 4. Pokazimo β? 6= ∞. Pretpostavimo suprotno, odnosno da je β? = ∞.

Tada je

limk→∞

F (t; αk, βk, ηk) = limk→∞

(1− e

−(

t−αkηk

)βk)

=

{0, ako je α? ≤ t < α? + η?

1, ako je t > α? + η?

pa iz (5.12) slijedi

S? ≥ limk→∞

[ ∑ti<α?

wiy2i +

∑α?<ti<α?+η?

wi

(1− e

−(

ti−αkηk

)βk

− yi

)2

+∑

ti>α?+η?

wi

(1− e

−(

ti−αkηk

)βk

− yi

)2]

=∑

ti<α?+η?

wiy2i +

∑ti>α?+η?

wi(1− yi)2.

Argumentirajuci slicno kao u slucaju (ii) Koraka 2 moze se pokazati da je

S? ≥∑

ti<α?+η?

wiy2i +

∑ti>α?+η?

wi(yi − yα?+η?)2 = Σα?+η? ,

gdje je

yα?+η? =∑

ti>α?+η?

wiyi/∑

ti>α?+η?

wi.

Zbog pretpostavke (5.10) je α? + η? 6= tn−1. Zato prema Lemi 5.1(ii) postoji tocka u

P u kojoj funkcional S postize vrijednost manju od Σα?+η? , sto znaci da niti u ovom

slucaju (β? = ∞) funkcional S ne moze postici svoj infimum. Dakle, ovim je dokazano

da je β? < ∞.

Korak 5. Ostaje pookazati da je β? 6= 0. Ako je βk → 0, onda bi koristeci (5.12)


dobili

S? ≥ limk→∞

[ ∑ti<α?

wiy2i +

∑α?<ti

wi

(1− e

−(

ti−αkηk

)βk

− yi

)2]

=∑ti<α?

wiy2i +

∑ti>α?

wi(1− e−1 − yi)2

≥∑ti<α?

wiy2i +

∑ti>α?

wi(yi − yα?)2 = Σα? .

Prema Lemi 5.1(ii) u ovom slucaju funkcional S ne moze postici svoj infmum. Time

je pokazano da je β? > 0, odnosno dokazana je tvrdnja teorema. ¥

Primjedba 5.1 Neka je za 1 ≤ p < ∞ i

Sp(α, β, η) =n∑

i=1

wi

∣∣F (ti; α, β, η)− yi

∣∣p.

Postupajuci slicno kao u dokazu Leme 5.1 i Teorema 5.1 moze se lako pokazati da

postoji tocka (α?p, β

?p , η

?p) ∈ P takva da je Sp(α

?p, β

?p , η

?p) = inf

(α,β,η)∈PSp(α, β, η).


tode za linearizirani problem (i to regresiju od y u odnosu na x) uz vrijednosti tezina

wi = 1, i = 1, . . . , 14. Sada cemo navesti OLS procjenitelje dobivene minimizacijom

funkcionala S uz tezina wi = 1, i = 1, . . . , 14. Numericke metode za minimizaciju

nelinearnog funkcionala zahtjevaju pocetnu aproksimaciju (α0, β0, η0) ∈ P, koja treba

biti sto je moguce bolja. Moguci odabir pocetne aproksimacije je procjena dobivena

rjesavanjem lineariziranog problema, koju smo mi koristili u primjerima.


Weibullove distribucije t 7→ F (t; α, β, η), gdje su parametri α, β i η dobiveni koristenjem

procjenitelja prosjecnog ranga za empirijsku funkciju distribucije.


Empirijska distribucijaProsjecni rang Medijan rang Benardov rangα = 15.2343 α = 17.8873 α = 16.7602β = 1.01333 β = 1.06864 β = 1.04618η = 112.975 η = 106.844 η = 109.367SS = 0.0154301 SS = 0.0186005 SS = 0.0171906

Tablica 5.1: OLS procjenitelji za 3-parametarsku Weibullovu distribuciju na osnovuotkaza cistaca valjka s obzirom na broj dana

50 100 150 200 250 300

0.2

0.4

0.6

0.8

1

t

F (t; α, β, η) 6

-

Slika 5.1: Podaci iz tablice 2.2 i aproksimacija 3-parametarskim modelom s obziromna prosjecni rang

Primjer 5.2 U ovom primjeru procjenjujemo nepoznate parametre 3-parametarskog

Weibullovog modela pomocu podataka ti, i = 1, . . . , 20, iz primjera 2.2. OLS proc-

jenitelj odredit cemo minimizacijom funkcionala S. Uz uobicajene procjenitelje em-

pirijske distribucije koristiti cemo i vrijednosti F (ti; 15, 2.5, 30) + εi, gdje su ti podaci

iz tablice 2.4, a εi, i = 1, . . . , 20, normalno distribuirane pogreske s ocekivanjem 0 i

varijancom σ = 0.005.

Najbolja procjena dobivena je koristenjem stvarnih vrijednosti distribucije ,,pokva-

renih” s normalno distribuiranim greskama. Zbog prije navedenih razloga, gledamo i

najbolju procjenu koristenjem empirijske funkcije distribucije, koja je u ovom primjeru

postignuta koristenjem procjenitelja medijan ranga. Na slici 5.2 prikazani su originalni

podaci iz tablice 2.4 i grafovi gore navedenih 3-parametarskih Weibullovih distribucija


t 7→ F (t; α, β, η).

Empirijska distribucijaF (ti; 15, 2.5, 30) + εi Prosjecni rang Medijan rang Benardov rangα = 14.9297 α = 16.4056 α = 17.0016 α = 16.725β = 2.50796 β = 1.89653 β = 2.00433 β = 1.96334η = 30.0761 η = 27.8079 η = 26.8297 η = 27.2571SS = 0.000263462 SS = 0.0233055 SS = 0.023058 SS = 0.0231023

Tablica 5.2: OLS procjenitelji za 3-parametarski Weibullov model na osnovu generira-nih podataka

a) podaci (ti, F (ti; 15, 2.5, 30) + εi) b) podaci (ti, F (ti))

20 40 60 80

0.2

0.4

0.6

0.8

1

t

F (t; α, β, η) 6

-20 40 60 80

0.2

0.4

0.6

0.8

1

t

F (t; α, β, η) 6

-

Slika 5.2: Podaci iz tablice 2.4 i aproksimacije 3-parametarskim modelom s obziromstvarnu distribuciju i procjenitelja medijan ranga

5.2 Egzistencija TLS procjenitelja za Weibullovu 3-

parametarsku distribuciju

Kao i kod OLS pristupa, za egzistenciju TLS procjenitelja dovoljno je zahtijevati da

podaci (ti, yi), i = 1, . . . , n, ispunjavaju samo sljedeca dva prirodna uvjeta:

0 < t1 < t2 < . . . < tn

i

0 < y1 < y2 < . . . < yn < 1.

TLS procjenitelje cemo traziti minimizacijom sljedeca dva funkcionala:

T (α, β, η, δ) =n∑

i=1

wi

{[F (ti + δi; α, β, η)− yi]

2 + δ2i

},


gdje su wi > 0 tezine i

G(α, β, η, δ) =n∑

i=1

wi [F (ti + δi; α, β, η)− yi]2 +

n∑i=1

piδ2i ,

gdje su wi, pi > 0 tezine Prisjetimo se, minimiziramo li primjerice funkcional T , tocka

(α?, β?, η?) je TLS procjenitelj ako postoji δ? ∈ Rn takav da je


T (α, β, η, δ).

Prvo cemo minimizirati funkcional T . Prije dokaza teorema o egzistenciji TLS

procjenitelja potreban nam je jedan pomocni rezultat. U svrhu preciznog formuliranja

tog rezultata i radi pojednostavljivanja racuna u daljnjim razmatranjima, uvodimo

sljedece oznake: Za bilo koja dva realna broja θ ≥ 0 i A > 0, neka Aθ, Bθ,A i Cθ,A

predstavljaju dijelove ravnine (vidi sliku Sl. 5.3) definirane na sljedeci nacin:

Aθ :={(t, y) ∈ R2 : 0 < t < θ, 0 < y < θ − t

},

Bθ,A :={(t, y) ∈ R2 : 0 < t < θ, y ≥ θ − t

}⋃ {

(t, y) ∈ R2 : t > θ, A− y ≥ t− θ}, (5.13)

Cθ,A :={(t, y) ∈ R2 : t > θ, y < A, t− θ > A− y

},⋃ {

(t, y) ∈ R2 : t > θ, y ≥ A}.

Primjetimo da su skupovi Aθ, Bθ,A i Cθ,A u parovima disjunktni.


0 < t1 < t2 < . . . < tn, 0 < y1 < y2 < . . . < yn < 1 i wi > 0, i = 1, . . . , n. Za bilo koja

dva realna broja θ ≥ 0 i A ≥ 0, neka je

Σθ,A :=∑

(ti,yi)∈Aθ

wiy2i +

∑

(ti,yi)∈Bθ,A

wi(ti − θ)2 +∑

(ti,yi)∈Cθ,A

wi(A− yi)2,

gdje su Aθ, Bθ,A i Cθ,A podrucja u ravnini definirana s (5.13).

Tada postoji tocka u P ×Rn u kojoj funkcional T postize vrijednost manju od Σθ,A.

Oznaka sumacije∑

(ti,yi)∈Aθ

predstavlja sljedece: Suma po svim indeksima i ≤ n

za koje je (ti, yi) ∈ Aθ. Ako takve tocke (ti, yi) ne postoje, suma je prazna; i po


-

6

0 θ θ + A t

y

A

(ti1 , yi1)r

(ti2 , yi2)r

(ti3 , yi3)

r

(ti4 , yi4)

r

(ti5 , yi5)r

Aθ

Bθ,A

Cθ,A

Slika 5.3. (ti1 , yi1) ∈ Aθ, (ti2 , yi2), (ti3 , yi3) ∈ Bθ,A, (ti4 , yi4), (ti5 , yi5) ∈ Cθ,A

uobicajenom dogovoru, definiramo da je jednaka nula. Sumacije∑

(ti,yi)∈Bθ,A

i∑

(ti,yi)∈Cθ,A

definiraju se na analogan nacin.

Dokaz. Po definiciji od Σθ,A lako je pokazati da je Σ0,A > Σt1,A za svaki A ≥ 0 i

da je Σθ,A ≥ Σθ,yn > Σtn−1,yn za sve θ > tn−1, A ≥ 0. Radi toga, dovoljno je razmatrati

slucaj gdje je θ ∈ [t1, tn−1]. Neka je D := {(t1, y1), . . . , (tn, yn)}.Pretpostavimo da je θ ∈ [t1, tn−1]. Neka je k ∈ {1, . . . , n− 1} takav da

θ ∈ (tk−1, tk],

gdje je t0 = 0 po definiciji. Sada definirajmo

ξ0 :=

{yk, ako je θ = tk

12(yk−1 + yk), ako je θ 6= tk.

Nadalje, neka je tocka (τ1, ξ1) definirana na sljedeci nacin:

• Ako je Cθ,A∩D = ∅, neka je (τ1, ξ1) bilo koja tocka za koju je θ < τ1 i yn < ξ1 < 1.

• Ako je Cθ,A ∩ D 6= ∅, oznacimo s

ξ1 :=

∑(ti,yi)∈Cθ,A

wiyi

∑(ti,yi)∈Cθ,A

wi

i l := min{i : (ti, yi) ∈ Cθ,A ∩ D i yi ≥ ξ1}


i zatim definirajmo

τ1 :=

{tl, ako je yl = ξ1

tl−1+tl2

, ako je yl > ξ1

Buduci su nizovi {ti}ni=1 i {yi}n

i=1 strogo rastuci, lako je pokazati da ako je (ti, yi) ∈Aθ ∪ Bθ,A i (tj, yj) ∈ Cθ,A, onda je yi < yj. Ovo povlaci da je θ < τ1 i ξ0 < ξ1.

Sada cemo konstruirati familiju Weibullovih 3-parametarskih distribucija ciji ce graf

sadrzavati tocke (θ, ξ0) i (τ1, ξ1). U tu svrhu, prvo definiramo funkciju K : (0,∞) →(0,∞) formulom

K(β) :=

(ln(1−ξ0)ln(1−ξ1)

)1/β

1−(

ln(1−ξ0)ln(1−ξ1)

)1/β. (5.14)

Funkcija K je strogo rastuca na R, limβ→0 K(β) = 0 i limβ→∞ K(β) = ∞. Kako je

τ1 > θ > 0, postoji B > 0 takva da je θ − K(B)(τ1 − θ) = 0, pa je onda za sve

β ∈ (0, B), θ −K(β)(τ1 − θ) > 0. Primjetimo da je

(α(β), β, η(β)) :=

(θ −K(β)(τ1 − θ), β,

τ1 − θ + K(β)(τ1 − θ)(ln

(1

1−ξ1

))1/β

)∈ P (5.15)

za sve β ∈ (0, B). Sada svakom realnom broju β ∈ (0, B) pridruzimo Weibullovu

distribuciju

F (t; α(β), β, η(β)) =

{1− e

− ln(

11−ξ1

)(t−θ+K(β)(τ1−θ)

τ1−θ+K(β)(τ1−θ)

)β

, t > θ −K(β)(τ1 − θ)0, t ≤ θ −K(β)(τ1 − θ).

(5.16)

Nije tesko pokazati da vrijedi

F (θ; α(β), β, η(β)) = ξ0, F (τ1; α(β), β, η(β)) = ξ1 (5.17)

i

limβ→0

F (t; α(β), β, η(β)) = ξ1, t > θ. (5.18)


Primjetimo da se mogu pojaviti samo sljedeca dva slucaja:

(i) Bθ,A ∩ D 6= ∅ ili |Cθ,A ∩ D| ≥ 2, ili (ii) Bθ,A ∩ D = ∅ i |Cθ,A ∩ D| ≤ 1.

Slucaj (i): Bθ,A ∩ D 6= ∅ ili |Cθ,A ∩ D| ≥ 2. Neka je β0 proizvoljna, ali fiksna tocka

iz (0, B) takva da je

θ −K(β)(τ1 − θ) > tk−1 ≥ 0.

Buduci je θ > tk−1 ≥ 0 i limβ→0 K(β) = 0, takav β0 postoji. Tada za sve β ∈ (0, β0)

imamo

F (ti; α(β), β, η(β)) = 0, ti < θ. (5.19)

Nadalje, definirajmo funkcije δi : (0, β0) → R, i = 1, . . . , n, formulama

δi(β) =

{η(β)

(ln

(1

1−yi

))1/β

+ α(β)− ti, ako je(ti, yi) ∈ Bθ,A

0, ako je (ti, yi) ∈ Aθ ∪ Cθ,A.

Lako je provjeriti da je

F (ti + δi(β); α(β), β, η(β)) = yi, (ti, yi) ∈ Bθ,A. (5.20)

Funkcija t 7→ F (t; α(β), β, η(β)), β ∈ (0, β0), je strogo rastuca na otvorenom intervalu

(θ −K(β)(τ1 − θ),∞). Zbog te cinjenice i (5.18), mozemo pretpostaviti da je β0 > 0

dovoljno malen, tako da za sve β ∈ (0, β0) vrijedi

yi < F (ti; α(β), β, η(β)) < ξ1, ako je (ti, yi) ∈ Cθ,A i ti < τ1

yi = F (ti; α(β), β, η(β)) = ξ1, ako je (ti, yi) ∈ Cθ,A i ti = τ1 (5.21)

ξ1 < F (ti; α(β), β, η(β)) < yi, ako je (ti, yi) ∈ Cθ,A i ti > τ1.

Sada cemo pokazati da dodatno mozemo pretpostaviti da je β0 > 0 dovoljno mal,

tako da za sve β ∈ (0, β0) vrijedi

ti < ti + δi(β) < θ, ako je (ti, yi) ∈ Bθ,A i ti < θ

θ < ti + δi(β) < ti, ako je (ti, yi) ∈ Bθ,A i ti > θ. (5.22)

U tu svrhu, prvo zapisimo δi(β) na slijedeci nacin

δi(β) =(τ1 − θ)

(ln(1−yi)ln(1−ξ1)

)1/β

1−(

ln(1−ξ0)ln(1−ξ1)

)1/β

[1−

(ln(1− ξ0)

ln(1− yi)

)1/β ]+ θ − ti.


Kako je 0 < ξ0 < ξ1 < 1, vrijedi ln(1−ξ1) < ln(1−ξ0) < 0, iz cega slijedi da je nazivnik

koji se pojavljuje u gornjem izrazu veci od nule. Ako je ti > θ, onda je 0 < ξ0 < yi < 1,

pa je gornji izraz u uglatoj zagradi takoder veci od nule. Ovaj izraz ce biti manji od

nule ako je ti < θ buduci je 0 < yi < ξ0 < 1. Na ovaj nacin smo pokazali da ukoliko je

ti < θ, onda je ti + δi(β) < θ, a ako je ti > θ, onda je ti + δi(β) > θ. Kako bi pokazali

nejednakost (5.22), zapisimo δi(β) kao

δi(β) =(τ1 − θ)

1−(

ln(1−ξ0)ln(1−ξ1)

)1/β

[(ln(1− yi)

ln(1− ξ1)

)1/β

−(

ln(1− ξ0)

ln(1− ξ1)

)1/β]+ θ − ti.

Kako je 0 < yi < ξ1 < 1 i 0 < ξ0 < ξ1 < 1, oba izraza u uglatim zagradama teze ka

nuli kada β → 0, i zbog toga limβ→0(δi(β) + ti) = θ za sve (ti, yi) ∈ Bθ,A. Iz ovoga

zakljucujemo kako mozemo pretpostaviti da je β0 > 0 dovoljno mali tako da je za sve

β ∈ (0, β0), ti < ti + δi(β) ako je ti < θ, i dodatno da je ti + δi(β) < ti ako je ti > θ.

Buduci je Bθ,A ∩ D 6= ∅ ili |Cθ,A ∩ D| ≥ 2, iz (5.19), (5.20), (5.21) i (5.22) za svaki

β ∈ (0, β0) imamo

T (α(β), β, η(β), δ(β))

=∑

(ti,yi)∈Aθ

wi [F (ti; α(β), β, η(β))− yi]2

+∑

(ti,yi)∈Bθ,A

wiδ2i (β) +

∑

(ti,yi)∈Cθ,A

wi [F (ti; α(β), β, η(β))− yi]2

<∑

(ti,yi)∈Aθ

wiy2i +

∑

(ti,yi)∈Bθ,A

wi(ti − θ)2 +∑

(ti,yi)∈Cθ,A

wi(yi − ξ1)2

≤∑

(ti,yi)∈Aθ

wiy2i +

∑

(ti,yi)∈Bθ,A

wi(ti − θ)2 +∑

(ti,yi)∈Cθ,A

wi(yi − A)2

= Σθ,A.

Posljednja nejednakost slijedi izravno iz dobro poznate cinejenice da kvadratna funkcija

x 7→ ∑(ti,yi)∈Cθ,A

wi(yi − x)2 postize svoj minimum∑

(ti,yi)∈Cθ,Awi(yi − ξ1)

2 u tocki

ξ1 =∑

(ti,yi)∈Cθ,Awiyi/

∑(ti,yi)∈Cθ,A

wi.

Slucaj (ii): Bθ,A ∩ D = ∅ i |Cθ,A ∩ D| ≤ 1. Prvo primjetimo da u ovom slucaju

mora vrijediti da je θ = tn−1. Naime, inace bi bilo θ < tn−1, pa bi zbog pretpostavke


Bθ,A ∩ D = ∅, imali (tn−1, yn−1), (tn, yn) ∈ Cθ,A, sto je u kontradikciji s pretpostavkom

|Cθ,A ∩ D| ≤ 1. Nadalje, kako je θ = tn−1 i Btn−1,A ∩ D = ∅, u ovom slucaju je

(t1, y1), . . . , (tn−2, yn−2) ∈ Atn−1 , (tn, yn) ∈ Ctn−1,A i ξ1 = yn.

Dakle Σtn−1,A =∑n−2

i=1 wiy2i .

Kako bi zavrsili dokaz ostaje pokazati da postoji tocka u P ×Rn u kojoj funkcional

T postize vrijednost manju od∑n−2

i=1 wiy2i . U tu svrhu, pretpostavimo da je θ = tn−1 i

A = yn. Sada cemo za θ i A izabrane na ovaj nacin, razmatrati familiju Weibullovih

distribucija definiranih s (5.16). Kako je θ = tn−1 i Ctn−1,yn ∩D = (tn, yn), vrijedi da je

k = n− 1, ξ0 = yn−1, l = n i (τ1, ξ1) = (tn, yn). Tada (5.16) postaje

F (t;α(β), β, η(β)) =

{1− e

− ln( 11−yn

)(

t−tn−1+K(β)(tn−tn−1)

tn−tn−1+K(β)(tn−tn−1)

)β

, t > tn−1−K(β)(tn− tn−1)0, t ≤ tn−1−K(β)(tn− tn−1).

Neka je β1 tocka iz (0, B) takva da je tn−1−K(β1)(tn− tn−1) = tn−2. Tada, buduci

je K strogo rastuca funkcija, za svaki β ∈ (β1, B) imamo da je tn−1−K(β)(tn− tn−1) <

tn−2. Dakle

F (tn−2; α(β), β, η(β)) = 1− e− ln( 1

1−yn)(

tn−2−tn−1+K(β)(tn−tn−1)

tn−tn−1+K(β)(tn−tn−1)

)β

, β ∈ (β1, B),

iz cega slijedi da F (tn−2; α(β), β, η(β)) → 0 kada β → β1 zdesna. Tada po definiciji

limesa postoji tocka β ∈ (β1, B) takva da je

0 < F (tn−2; α(β), β, η(β)) < yn−2. (5.23)

Bez smanjenja opcenitosti mozemo pretpostaviti da je β dovoljno blizu β1, tako da je

0 ≤ tn−3 < tn−1 −K(β)(tn − tn−1) < tn−2. Tada je

F(ti; α(β), β, η(β)

)= 0, i = 1, . . . , n− 3. (5.24)

Kao sto je prije pokazano (vidi (5.17)), dodatno vrijedi

F(tn−1; α(β), β, η(β)

)= yn−1 i F

(tn; α(β), β, η(β)

)= yn. (5.25)

Iz (5.23), (5.24) i (5.25) slijedi da je T (α(β), β, η(β),0) <∑n−1

i=1 wiy2i . Ovim je

dokaz leme zavrsen. ¥Sada mozemo dokazati teorem o egzistenciji TLS procjenitelja.


Teorem 5.2 Neka su (wi, ti, yi), i = 1, . . . , n, n > 3, podaci takvi da je 0 < t1 < t2 <

. . . < tn, 0 < y1 < y2 < . . . < yn < 1 i wi > 0, i = 1, . . . , n. Tada postoji tocka

(α?, β?, η?, δ?) ∈ P × Rn takva da je


T (α, β, η, δ)

Dokaz. Buduci je funkcional T nenegativan, postoji

T ? := inf(α,β,η,δ)∈P×Rn

T (α, β, η, δ).

Treba pokazati da postoji tocka (α?, β?, η?, δ?) ∈ P×Rn takva da je T (α?, β?, η?, δ?) =

T ?.

Neka je (αk, βk, ηk, δk) niz u P × Rn, takav da je

T ? = limk→∞

T (αk, βk, ηk, δk) = lim

k→∞

n∑i=1

wi

{ [F (ti + δk

i ; αk, βk, ηk)− yi

]2+(δk

i )2}. (5.26)

Bez smanjenja opcenitosti, u daljnjem razmatranju mozemo pretpostaviti da su

nizovi (αk), (βk), (ηk), (δk1), . . . , (δ

kn) monotoni. Uocimo da je ovo moguce zbog toga

sto niz (αk, βk, ηk, δk1 , . . . , δ

kn) ima podniz (αlk , βlk , ηlk , δ

lk1 , . . . , δlk

n ), takav da su svi nje-

govi koordinatni nizovi (αlk), (βlk), (ηlk), (δlk1 ), . . . , (δlk

n ) monotoni; i zbog toga sto je

limk→∞ T (αlk , βlk , ηlk , δlk) = limk→∞ T (αk, βk, ηk, δ

k) = T ?.


brojeva R, uvedimo oznake

α? := limk→∞



ηk, δ? := limk→∞

δk = (δ?1, . . . , δ

?n).

Primjetimo da je 0 ≤ α?, β?, η? ≤ ∞, buduci je (αk, βk, ηk) ∈ P . Takoder primjetimo

da je δ?i ∈ R za svaki i = 1, . . . , n. Doista, ako je |δ?

i | = ∞ za neki i, onda bi iz (5.26)

slijedilo da je T ? = ∞, sto nije moguce.

Kako bi dovrsili dokaz dovoljno je pokazati da je (α?, β?, η?) ∈ P , odnosno da

je 0 ≤ α? < ∞ i β?, η? ∈ (0,∞). Neprekidnost funkcionala T tada povlaci da je

T ? = limk→∞ T (αk, βk, ηk, δk) = T (α?, β?, η?, δ?).

Ostaje pokazati da je (α?, β?, η?) ∈ P . Dokaz se provodi u pet koraka. U koraku 1

pokazat cemo da je α? 6= ∞. U koraku 2 bit ce pokazano da je η? 6= ∞. Dokaz tvrdnje


η? 6= 0 bit ce napravljen u koraku 3. U koraku 4 pokazujemo da je β? 6= ∞. Na kraju,

u koraku 5 pokazujemo da je β? 6= 0.

Korak 1. Ako je α? = ∞, onda je F (ti + δki ; αk, βk, ηk) = 0 za svaki dovoljno veliki

k ∈ N, pa iz (5.26) slijedi T ? ≥ ∑ni=1 wiy

2i . Buduci je

∑ni=1 wiy

2i > Σtn−1,yn i kako

prema Lemi 5.2 postoji tocka iz P ×Rn u kojoj funkcional T postize vrijednost manju

od Σtn−1,yn , to znaci da u ovom slucaju (α? = ∞) funkcional T ne moze postici svoj

infimum. S time smo pokazali da je α? 6= ∞.

Korak 2. Pokazimo da je η? 6= ∞. Tvrdnju cemo pokazati kontradikcijom. Pret-

postavimo suprotno, odnosno da je η? = ∞. Mogu se pojaviti samo sljedeca dva

slucaja: (i) η? = ∞ i β? = 0 ili (ii) η? = ∞ i β? > 0. Sada cemo pokazati da funkcional

T ne moze postici svoj infimum niti u jednom od ova dva slucaja, s cime cemo dokazati

da je η? 6= ∞.

Slucaj (i): η? = ∞ i β? = 0. Kako ηk → ∞, za svaki dovoljno veliki k ∈ N je

0 < (1/ηk)βk < 1. To znaci da je niz (1/ηk)

βk omeden. Mozemo pretpostaviti da je

konvergentan. Neka je (1/ηk)βk → L ∈ [0, 1]. Buduci je

limk→∞

(t− αk

ηk

)βk

= limk→∞

(1

ηk

)βk

(t− αk)βk = L, t > α?,

u ovom slucaju imamo

limk→∞

F (t; αk, βk, ηk) =

{0, ako je t < α?

A, ako je t > α? (5.27)

gdje je A := 1− e−L.

Lako je pokazati da vrijedi

T (αk, βk, ηk, δk) =

n∑i=1

wi

{ [F (ti + δk

i ; αk, βk, ηk, δk)− yi

]2+ (δk

i )2}

≥∑

(ti,yi)∈Aα?∪Bα?,A∪Cα?,A

wi

{ [F (ti + δk


]2+ (δk

i )2}

.

Kako je T ? = limk→∞ T (αk, βk, ηk, δk), dobivamo

T ? ≥ limk→∞

∑

(ti,yi)∈Aα?∪Bα?,A∪Cα?,A

wi

{ [F (ti + δk


]2+ (δk

i )2}

, (5.28)


gdje su Aα? , Bα?,A i Cα?,A podrucja u ravnini definirana s (5.13).

Buduci prema Lemi 5.2 postoji tocka iz P×Rn u kojoj funkcional T postize vrijed-

nost manju od Σα?,A, za dokazivanje tvrdnje da u ovom slucaju funkcional T ne moze

postici svoj infimum dovoljno je pokazati da je desna strana u izrazu (5.28) veca od

Σα?,A. Da bi to pokazali, dovoljno je dokazati sljedece nejednakosti:

limk→∞

{[F (ti + δk

i ; αk, βk, ηk, δk)− yi]

2 + (δki )2

} ≥ y2i , ako je (ti, yi) ∈ Aα? (5.29)

limk→∞

{[F (ti + δk

i ; αk, βk, ηk, δk)−yi]

2+(δki )2

} ≥ (α?− ti)2, ako je (ti, yi) ∈ Bα?,A (5.30)

limk→∞

{[F (ti + δk

i ; αk, βk, ηk, δk)−yi]

2+(δki )2

} ≥ (A−yi)2, ako je (ti, yi) ∈ Cα?,A. (5.31)

Pretpostavimo da je (ti, yi) ∈ Aα? . Tada je ti < α? i 0 < yi < α? − ti. Ako je

ti + δ?i ≥ α?, onda je δ?2

i ≥ (α? − ti)2 > y2

i . Nadalje, ako je ti + δ?i < α?, onda je

limk→∞ F (ti + δki ; αk, βk, ηk) = 0 i zato je limk→∞[F (ti + δk

i ; αk, βk, ηk) − yi]2 = y2

i . U

oba slucaja (ti + δ?i ≥ α? i ti + δ?

i < α?) dobivamo trazenu nejednakost (5.29).

Sada cemo pokazati (5.30). Pretpostavimo da je (ti, yi) ∈ Bα?,A. Po definiciji

podrucja Bα?,A, moze se pojaviti samo jedan od sljedeca dva slucaja: (i) 0 < α?−ti ≤ yi

ili (ii) 0 < ti − α? ≤ A − yi. Slucaj (i): Ako je ti + δ?i ≥ α?, onda je δ?2

i ≥ (α? − ti)2.

Ovo daje trazenu nejednakost (5.30). Nadalje, ako je ti + δ?i < α?, onda je ocito

limk→∞ F (ti + δki ; αk, βk, ηk) = 0 i posljedicno limk→∞[F (ti + δk

i ; αk, βk, ηk) − yi]2 =

y2i ≥ (α? − ti)

2, sto ponovno daje trazenu nejednakost (5.30). Slucaj (ii): Ako je

ti + δ?i ≤ α?, onda je −δ?

i ≥ ti − α? > 0, iz cega slijedi (5.30). Ako je ti + δ?i > α?,

onda je koristeci (5.27) lako pokazati da je limk→∞ F (ti + δki ; αk, βk, ηk) = A. Dakle

limk→∞[F (ti + δki ; αk, βk, ηk)− yi]

2 = (A− yi)2 ≥ (α? − ti)

2, odakle slijedi (5.30).

Kako bi pokazali (5.31), pretpostavimo da je (ti, yi) ∈ Cα?,A. Po definiciji podrucja

Cα?,A, mogu se pojaviti samo sljedeca dva slucaja: (i) ti − α? > A − yi > 0 ili (ii)

ti > α? i yi ≥ A. Slucaj (i): Ako je ti + δ?i ≤ α?, onda je −δ?

i ≥ ti − α? > A− yi > 0,

odakle vidimo da u (5.31) vrijedi stroga nejednakost. Ako je ti + δ?i > α?, koristeci

(5.27) lako je pokazati da je limk→∞ F (ti + δki ; αk, βk, ηk) = A pa zbog dobivamo da je

limk→∞[F (ti + δki ; αk, βk, ηk)− yi]

2 = (A− yi)2, iz cega slijedi (5.31). Slucaj (ii): Ako je

ti +δ?i < α? onda je limk→∞[F (ti +δk

i ; αk, βk, ηk)−yi]2 = y2

i ≥ (A−yi)2, odnosno ako je

ti + δ?i > α? onda je limk→∞[F (ti + δk

i ; αk, βk, ηk)− yi]2 = (A− yi)

2. Ostaje promotriti

slucaj kada je ti +δ?i = α?. Buduci je funkcija t 7→ F (t; αk, βk, ηk) monotono rastuca , u

ovom slucaju imamo 0 ≤ F (ti + δki ; αk, βk, ηk) < F (ti; αk, βk, ηk) kada god je k dovoljno


velik. Pustajuci k →∞ i koristeci (5.27), dobivamo 0 ≤ limk→∞ F (ti +δki ; αk, βk, ηk) ≤

A. Dakle, buduci je A ≤ yi, slijedi da je limk→∞[F (ti + δki ; αk, βk, ηk)−yi]

2 ≥ (A−yi)2.

Iz (5.28), (5.29), (5.30) i (5.31) slijedi da je T ? ≥ Σα?,A. Prema Lemi 5.2, postoji

tocka iz P × Rn u kojoj funkcional T postize vrijednost manju od Σα?,A. To znaci da

u ovom slucaju funkcional T ne moze postici svoj infimum.

Slucaj (ii): η? = ∞ i β? > 0. U ovom slucaju bi imali

limk→∞

(t− αk

ηk

)βk

= ∞, t ≥ α?

i zbog toga limk→∞ F (t; αk, βk, ηk) = 0.

Argumentirajuci slicno kao u slucaju (i), moze se pokazati da je T ? ≥ Σα?,0.

Ponovno, prema Lemi 5.2, zakljucujemo da u ovom slucaju funkcional T ne moze

postici svoj infimum. Time smo pokazali smo da je η? 6= ∞.

Korak 3. Sada cemo pokazati da je η? 6= 0. Dokaz tvrdnje provodimo kontradik-

cijom. Pretpostavimo da je η? = 0. Tada, bez smanjenja opcenitosti mozemo pret-

postavimit da je 1/ηk > 1 za sve k ∈ N. Kako je u ovom slucaju (1/ηk)βk ≥ 1, moze se

pojaviti samo jedan od sljedeca dva slucaja: (i) η? = 0 i (1/ηk)βk →∞ ili (ii) η? = 0 i

(1/ηk)βk → L ∈ [1,∞). Pokazimo da funkcional T ne moze postici svoj infimum niti u

jednom od ova dva slucaja, s cime cemo dokazati da je η? 6= 0.

Slucaj (i): η? = 0 i (1/ηk)βk →∞. U ovom slucaju imamo

limk→∞

(t− αk

ηk

)βk

= ∞, t > α?

i zbog toga je

limk→∞


{0, ako je t < α?

1, ako je t > α?.

Zaista, ako je t > α? i β? = 0, onda je

limk→∞

(t− αk

ηk

)βk

= limk→∞

(1

ηk

)βk

(t− αk)βk = ∞ · 1 = ∞.

Ako je t > α? i β? > 0, onda je ocito limk→∞(

t−αk

ηk

)βk

= ∞.


Slucaj (ii): η? = 0 i (1/ηk)βk → L ∈ [1,∞). U ovom slucaju niz (βk) mora

konvergirati ka 0, buduci po pretpostavci ηk → 0. Zbog toga je

limk→∞


{0, ako je t < α?

1− e−L, ako je t > α?.

Argumentirajuci slicno kao u slucaju (i) koraka 2, u oba slucaja se moze pokazati

da u ovom slucaju (η? = 0) funkcional T ne moze postici svoj infimum.

Do sada smo pokazali da je 0 ≤ α? < ∞ i 0 < η? < ∞. Koristeci se time, u slijedeca

dva koraka cemo dokazati da je 0 < β? < ∞.

Korak 4. Pokazimo da je β? 6= ∞. Kako bi to dokazali, pretpostavimo suprotno,

odnosno da je β? = ∞. Tada je

limk→∞

(t− αk

ηk

)βk

=

{0, ako je α? ≤ t < α? + η?

∞, ako je t > α? + η?

i zbog toga

limk→∞


{0, ako je t < α? + η?

1, ako je t > α? + η?.

Argumentirajuci slicno kao u slucaju (i) koraka 2, moze se pokazati da je T ? ≥ Σα?+η?,1.

Po Lemi 5.2, postoji tocka iz P u kojoj funkcional T postize vrijednost manju od

Σα?+η?,1. Zbog toga, u ovom slucaju (β? = ∞) funkcional T ne moze postici svoj

infimum. S ovim smo pokazali da je β? < ∞.

Korak 5. Ostaje pokazati da je β? 6= 0. Ako βk → 0, onda je

limk→∞

(t− αk

ηk

)βk

= 1, t > α?

i zbog toga je

limk→∞


{0, ako je t < α?

1− e−1, ako je t > α?.


Argumentirajuci slicno kao u slucaju (i) koraka 2, moze se pokazati da je T ? ≥Σα?,1−e−1 . Prema Lemi 5.2, u ovom slucaju funkcional T ne moze postici svoj infi-

mum. Dakle, β? > 0 i s time je kompletiran dokaz tvrdnje teorema. ¥

Primjedba 5.2 Neka je 1 ≤ p < ∞ i

Tp(α, β, η, δ) =n∑

i=1

wi

{∣∣F (ti + δi; α, β, η)− yi

∣∣p + |δi|p}.

Postupajuci slicno kao u dokazu Leme 5.2 i Teorema 5.2, lako se moze pokazati da

postoji tocka (α?p, β

?p , η

?p, δ

?p) ∈ P × Rn takva da je

Tp(α?p, β

?p , η

?p, δ

?p) = inf

(α,β,η,δ)∈P×RnTp(α, β, η, δ).

Za dokaz teorema o egzistenciji TLS procjenitelja koji se dobiva minimizacijom

funkconala G treba nam sljedeca lema:

Lema 5.3 Pretpostavimo da su dani podaci (ti, yi), i = 1, . . . , n, n > 3, takvi da je

0 < t1 < t2 < . . . < tn i 0 < y1 < y2 < . . . < yn < 1. Neka su wi, pi > 0, i = 1, . . . , n,

zadane tezine. Za bilo koja dva realna broja θ ≥ 0 i A ≥ 0, neka je

Aθ :={(ti, yi) : 0 < ti < θ, 0 <

√wiyi <

√pi(θ − ti)

},

Bθ,A :={(ti, yi) : 0 < ti < θ,

√wiyi ≥ √

pi(θ − ti)}

⋃ {(ti, yi) : ti > θ,

√wi(A− yi) ≥ √

pi(ti − θ)},

Cθ,A :={(ti, yi) : ti > θ, yi < A,

√pi(ti − θ) >

√wi(A− yi)

},⋃ {

(ti, yi) : ti > θ, yi ≥ A}

i

Σθ,A :=∑

(ti,yi)∈Aθ

wiy2i +

∑

(ti,yi)∈Bθ,A

pi(ti − θ)2 +∑

(ti,yi)∈Cθ,A

wi(A− yi)2,

Tada postoji tocka iz P × Rn u kojoj funkcional G postize vrijednost manju od Σθ,A.

Dokaz ove leme slican je dokazu Leme 5.2, te je zbog toga ispusten. Dovoljno je

zamijeniti funkcional F funkcionalom G i zamijeniti Aθ ∩D, Bθ,A∩D i Bθ,A∩D redom

sa Aθ, Bθ,A i Cθ,A. Svi preostali dijelovi dokaza su isti.


Teorem 5.3 Pretpostavimo da su dani podaci (ti, yi), i = 1, . . . , n, n > 3, takvi da je

0 < t1 < t2 < . . . < tn i 0 < y1 < y2 < . . . < yn < 1. Nadalje, neka su wi, pi > 0,

i = 1, . . . , n, tezine. Tada postoji tocka iz (α?, β?, η?, δ?) ∈ P × Rn takva da je

G(α?, β?, η?, δ?) = inf(α,β,η,δ)∈P×Rn

G(α, β, η, δ).

Dokaz Teorema 5.3 je identican dokazu Teorema 5.2; samo se umjesto Leme 5.2

koristi Lema 5.3. Sada cemo navesti njegovu generalizaciju u p normi.

Primjedba 5.3 Neka je 1 ≤ p < ∞ i

Gp(α, β, η, δ) =n∑

i=1

wi

∣∣F (ti + δi; α, β, η)− yi

∣∣p +n∑

i=1

pi|δi|p.

Argumentirajuci slicno kao u dokazu Leme 5.3 i Teorema 5.3, moze se lako pokazati

da postoji tocka (α?p, β

?p , η

?p, δ

?p) ∈ P × Rn takva da je

Gp(α?p, β

?p , η

?p, δ

?p) = inf

(α,β,η,δ)∈P×RnGp(α, β, η, δ).


tode za nelinearni problem. U tablici 5.3 navedeni su TLS procjenitelji dobiveni min-

imizacijom funkcionala T , uz tezine wi = 1. Pocetna aproksimacija (α0, β0, η0) ∈ Podabrana je kao u primjeru 5.1.

Empirijska distribucijaProsjecni rang Medijan rang Benardov rangα = 15.2349 α = 17.8874 α = 16.7604β = 1.01332 β = 1.06864 β = 1.04618η = 112.974 η = 106.844 η = 109.367SS = 0.0154298 SS = 0.0186 SS = 0.0171902

Tablica 5.3: TLS procjenitelji za 3-parametarski Weibullov model na osnovu otkazacistaca valjka s obzirom na broj dana


Weibullove distribucije t 7→ F (t; α, β, η), gdje su parametri α, β i η dobiveni koristenjem

procjenitelja prosjecnog ranga za empirijsku funkciju distribucije.


50 100 150 200 250 300

0.2

0.4

0.6

0.8

1

t

F (t; α, β, η) 6

-

Slika 5.4: Podaci iz tablice 2.2 i aproksimacija 3-parametarskim modelom s obziromna prosjecni rang


Weibullov model za podatke ti, i = 1, . . . , 20, iz primjera 2.2. Uz uobicajene procjen-

itelje empirijske distribucije koristiti cemo i vrijednosti F (ti; 15, 2.5, 30) + εi, gdje su ti

podaci iz tablice 2.4, a εi, i = 1, . . . , 20 normalno distribuirane pogreske s ocekivanjem

0 i varijancom σ = 0.005. U sljedecoj tablici navedeni su TLS procjenitelji dobiveni

minimizacijom funkcionala T uz tezine wi = 1, i = 1, . . . , 20.

Empirijska distribucijaF (ti; 15, 2.5, 30) + εi Prosjecni rang Medijan rang Benardov rangα = 14.9296 α = 16.407 α = 17.0027 α = 16.7263β = 2.50797 β = 1.8964 β = 2.00422 β = 1.96321η = 30.0762 η = 27.8065 η = 26.8285 η = 27.2558SS = 0.00026329 SS = 0.0232915 SS = 0.0230417 SS = 0.023087

Tablica 5.4: TLS procjenitelji za 3-parametarski Weibullov model na osnovu generira-nih podataka

Najbolja procjena dobivena je koristenjem stvarnih vrijednosti distribucije ,,pokva-

renih” s normalno distribuiranim greskama. Zbog prije navedenih razloga, gledamo i

najbolju procjenu koristenjem empirijske funkcije distribucije, koja je u ovom primjeru

postignuta koristenjem procjenitelja medijan ranga. Na slici 5.5 prikazani su originalni


podaci iz tablice 2.4 i grafovi gore navedenih 3-parametarskih Weibullovih distribucija

t 7→ F (t; α, β, η).

a) podaci (ti, F (ti; 15, 2.5, 30) + εi) b) podaci (ti, F (ti))

20 40 60 80

0.2

0.4

0.6

0.8

1

t

F (t; α, β, η) 6

-20 40 60 80

0.2

0.4

0.6

0.8

1

t

F (t; α, β, η) 6

-

Slika 5.5: Podaci iz tablice 2.4 i aproksimacije 3-parametarskim modelom s obziromstvarnu distribuciju i procjenitelja medijan ranga

5.3 Egzistencija OLS procjenitelja za Weibullovu 3-

parametarsku gustocu

Neka su zadana opazanja

0 < t1 < t2 < . . . < tn

3-parametarske Weibullove slucajne varijable. Nadalje, neka je f neka neparametarska

procjena funkcije gustoce konstruirana pomocu tog uzorka. Nepoznate parametre

Weibullove 3-parametarske gustoce treba procijeniti na osnovi podataka

(ti, yi), i = 1, . . . , n,

gdje je yi := f(ti), i to tako da se na skupu P :={(α, β, η) ∈ R3 : α ≥ 0; β, η > 0

}

minimizira funkcional

S(α, β, η) =n∑

i=1

wi [f(ti; α, β, η)− yi]2

=n∑

i=1ti<α

wiy2i +

n∑i=1ti≥α

wi

[β

η

(ti − α

η

)β−1

e−( ti−α

η )β

−yi

]2

.

Ako postoji tocka (α?, β?, η?) ∈ P takva da je S(α?, β?, η?) = inf(α,β,η)∈P S(α, β, η),

zovemo je OLS procjenitelj.


Za dokaz teorema 5.4 u kome je data egzistencija OLS procjenitelja potrebna nam

je sljedeca lema.


0 < t1 < t2 < . . . < tn i wi, yi > 0, i = 1, . . . , n. Neka je (wr, tr, yr) podatak za koji je

wry2r najvece, odnosno wry

2r = max

i=1,...,nwiy

2i . Tada postoji tocka iz P u kojoj funkcional

S postize vrijednost manju od

Sr :=n∑

i=1i6=r

wiy2i .

Dokaz. Promotrimo sljedecu familiju 3-parametarskih Weibullovih gustoca

f(t; 0, β(b), η(b)) =

{β(b)

t

(t

η(b)

)β(b)

e−( tη(b))

β(b)

t > 0

0, t ≤ 0(5.32)

gdje je

β(b) := tryreb

b, η(b) :=

trb1/β(b)

, b > 0.

Lako je pokazati da vrijedi

f(tr; 0, β(b), η(b)) = yr, (5.33)

limb→∞

β(b) = ∞, (5.34)

limb→∞

η(b) = tr (5.35)

i

limb→∞

β(b)

(t

η(b)

)β(b)

=

{0, ako je t < tr∞, ako je t > tr.

(5.36)

Sada cemo pokazati da je

limb→∞

f(t; 0, β(b), η(b)) = 0, t 6= tr. (5.37)


Ako je t < tr, onda koristeci (5.35) dobivamo limb→∞(t/η(b)) = t/tr < 1 te zato iz

(5.34) slijedi limb→∞ e−( tη(b)

)β(b)

= 1. Sada iz (5.32) i (5.36) slijedi

limb→∞

f(t; 0, β(b), η(b)) = limb→∞

[β(b)

t

(t

η(b)

)β(b)

e−( tη(b))

β(b)

]= 0.

Ako je t > tr, onda je

limb→∞

(t

η(b)

)=

t

tr> 1.

Lako je pokazati da postoji dovoljno veliki k0 ∈ N takav da je

e <

(t

η(b)

)k0

za svaki dovljno veliki b > 0. Sada koristeci nejednakost x < ex (x ≥ 0) dobivamo

β(b) < eβ(b) <

(t

η(b)

)k0β(b)

, b À 0,

i zbog toga za svaki b À 0 imamo

0 < f(t; 0, β(b), η(b)) =β(b)

t

(t

η(b)

)β(b)

e−( tη(b))

β(b)

<1

t

(t

η(b)

)(k0+1)β(b)

e−( tη(b))

β(b)

.

Kako je

limb→∞

(t

η(b)

)(k0+1)β(b)

e−( tη(b))

β(b)

= 0,

iz gornjih nejednakosti slijedi

limb→∞

f(t; 0, β(b), η(b)) = 0, t > tr.


S ovim smo dokazali limes (5.37).

Neka je b > 0 dovoljno velik, tako da je

0 < f(ti; 0, β(b), η(b)) ≤ yi,

pri cemu jednakost vrijedi samo ako je ti = tr. Prema (5.37) i (5.33), takav b postoji.

Tada je

S(0, β(b), η(b)) =n∑

i=1

wi [f(ti; 0, β(b), η(b))− yi]2 <

n∑

i6=r

wiy2i = Sr.

Time smo kompletirali dokaz leme. ¥Sada mozemo dokazati glavni rezultat ove tocke.

Teorem 5.4 Neka su dani podaci (wi, ti, yi), i = 1, . . . , m, m > 3, takvi da je 0 <

t1 < t2 < . . . < tm i wi, yi > 0, i = 1, . . . , m. Tada OLS procjenitelj za Weibullovu

3-parametarsku gustocu postoji.

Dokaz. Buduci je funkcional S nenegativan, postoji

S? := inf(α,β,η)∈P

S(α, β, η).

Treba pokazati da postoji tocka (α?, β?, η?) ∈ P takva da je S(α?, β?, η?) = S?.

Neka je (αk, βk, ηk) niz iz P , takav da je

S? = limk→∞

S(αk, βk, ηk) = limk→∞

n∑i=1

wi[f(ti; αk, βk, ηk)− yi]2

= limk→∞

{ ∑ti≤αk

wiy2i +

∑ti>αk

wi

[βk

ηk

(ti − αk

ηk

)βk−1

e−

(ti−αk

ηk

)βk

− yi

]2 }. (5.38)

Bez smanjenja opcnitosti, nadalje mozemo pretpostaviti da su nizovi (αk), (βk) i

(ηk) monotoni. Ovo je moguce zbog toga sto niz (αk, βk, ηk) ima podniz (αlk , βlk , ηlk),

takav da su svi njegovi koordinatni nizovi (αlk), (βlk) i (ηlk) monotoni; i zbog toga sto

je limk→∞ S(αlk , βlk , ηlk) = limk→∞ S(αk, βk, ηk) = S?.



brojeva R, definirajmo

α? := limk→∞



ηk.

Primjetimo da vrijedi 0 ≤ α?, β?, η? ≤ ∞, zato sto je (αk, βk, ηk) ∈ P .

Za dovrsenje dokaza dovoljno je pokazati da je (α?, β?, η?) ∈ P , odnosno da je

0 ≤ α? < ∞ i β?, η? ∈ (0,∞). Zbog neprekidnosti funkcionala S tada ce biti S? =

limk→∞ S(αk, βk, ηk) = S(α?, β?, η?).


pokazat cemo da je α? < tn. U koraku 2 dokazuje se da je β? 6= 0. Dokaz tvrdnje da

je η? 6= 0 napravljen je u koraku 3. U koraku 4 dokazujemo da je η? 6= ∞. Na kraju,

u koraku 5 pokazujemo da je β? 6= ∞. Prije nastavka dokaza, primjetimo da Lema 5.4

implicira da je

S? <

n∑i=1i6=r

wiy2i =: Sr (5.39)

pri cemu je r onaj indeks za koji je wry2r = max

i=1,...,nwiy

2i .

Korak 1. Ako je α? ≥ tn, onda iz (5.38) slijedi S? =∑n

i=1 wiy2i > Sr, sto je u

kontradikciji s (5.39). Dakle, pokazano je da je α? < tn.

Uzimajuci odgovarajuci podniz od (αk, βk, ηk), ukoliko je potrebno, mozemo pret-

postaviti da ako je ti < α?, onda ti < αk za svaki k ∈ N. Slicno, ako je ti > α?,

mozemo pretpostaviti da je ti > αk za svaki k ∈ N. Zbog toga, sada je lako pokazati

da iz (5.38) slijedi

S? ≥∑ti<α?

wiy2i + lim

k→∞

∑ti>α?

wi

[βk

ηk

(ti − αk

ηk

)βk−1

e−

(ti−αk

ηk

)βk

− yi

]2 . (5.40)

Korak 2. Ako je β? = 0, tada koristeci nejednakost x < ex (x ≥ 0) dobivamo

0 <βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

<βk

ti − αk

, ti > α?,


iz cega slijedi

limk→∞

[βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

]= 0, ti > α?.

Sada iz (5.40), slijedi da S? ≥ ∑ti 6=α? wiy

2i ≥ Sr. Ovo je u kontradikciji s (5.39). Ovim

je pokazano da vrijedi β? 6= 0.

Korak 3. Pokazimo da je η? 6= 0. Dokaz provodimo kontradikcijom. Pretpostavimo

suprotno, odnosno da je η? = 0. Onda bez smanjenja opcenitosti mozemo pretpostaviti

da ako je ti > α?, onda je e < ti−αk

ηkza sve k ∈ N. Sada iz nejednakosti x < ex (x ≥ 0)

slijedi da ako je ti > α?, onda je

βk < eβk <

(ti − αk

ηk

)βk

, k ∈ N.

Dakle, ako je ti > α?, onda je

0 <βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

<1

ti − αk

(ti − αk

ηk

)2βk

e−

(ti−αk

ηk

)βk

. (5.41)

Nadalje, kako je limk→∞(

ti−αk

ηk

)= ∞ i β? 6= 0, imamo limk→∞

(ti−αk

ηk

)βk

= ∞ i zato

je limk→∞(

ti−αk

ηk

)2βk

e−

(ti−αk

ηk

)βk

= 0 pa iz (5.41) slijedi

limk→∞

[βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

]= 0, ti > α?.

Uvrstavajuci gornje limese u (5.40), odmah dobivamo S? ≥ ∑ti 6=α? wiy

2i ≥ Sr, sto je u

kontradikciji s (5.39). Time smo pokazali da je η? > 0.

Za sada smo pokazali da je α? < tn, β? 6= 0 i η? 6= 0. Koristeci dokazane tvrdnje, u

sljedecem koraku cemo pokazati da je η? 6= ∞.

Korak 4. Pokazimo da je η? 6= ∞. Kako bi to dokazali, pretpostavimo suprotno,

odnosno da je η? = ∞. Moze se pojaviti samo jedan od slijedeca dva slucaja: (i)


η? = ∞ i β? ∈ (0,∞) ili (ii) η? = ∞ i β? = ∞. Sada cemo pokazati da funkcional S ne

moze postici svoj infimum niti u jednom od ova dva slucaja, s cime ce biti dokazano

da je η? 6= ∞.

Slucaj (i): η? = ∞ i β? ∈ (0,∞). U ovom slucaju bi bilo

limk→∞

βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

= 0, ti > α?

i onda bi iz (5.40) slijedilo

S? ≥∑

ti 6=α?

wiy2i ≥ Sr

sto je u suprotnosti s pretpostavkom (5.39).

Slucaj (ii): η? = ∞ i β? = ∞. Kako je ηk → ∞, postoji realna broj q > 1 i

dovoljno veliki k0 ∈ N takav da ako je ti > α? i k > k0, onda je (ti−αk)/ηk < 1/q. Bez

smanjenja opcenitosti mozemo pretpostaviti da je k0 = 1. Dakle, ako je ti > α?, onda

0 <βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

<1

ti − αk

(βk

qβk

)e−

(ti−αk

ηk

)βk

. (5.42)

Nadalje, kako je

limk→∞

(βk

qβk

)= 0 i lim

k→∞e−

(ti−αk

ηk

)βk

= 1,

iz (5.42) slijedi

limk→∞

[βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

]= 0, ti > α?.

Na kraju iz (5.40) dobivamo S? ≥ ∑ti 6=α? wiy

2i ≥ Sr, sto je u suprotnosti s pret-

postavkom (5.39). To znaci da u ovom slucaju funkcional S ne moze postici svoj

infimum. Ovim smo pokazali da je η? 6= ∞.


Korak 5. Ostaje pokazati da je β? 6= ∞. Dokaz provodimo kontradikcijom. Pret-

postavimo da je β? = ∞.

Argumentirajuci slicno kao u koraku 4 moze se pokazati da je

limk→∞

[βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

]= 0, 0 <

ti − α?

η?< 1. (5.43)

Ako je ti−α?

η? > 1, onda postoji dovoljno veliki k0 ∈ N takav da je e <(

ti−αk

ηk

)k0

. Sada

koristeci nejednakost x < ex (x ≥ 0) dobivamo

βk < eβk <

(ti − αk

ηk

)k0βk

, k ∈ N,

i zato je

0 <βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

<1

ti − αk

(ti − αk

ηk

)(k0+1)βk

e−

(ti−αk

ηk

)βk

. (5.44)

Kako je limk→∞(

ti−αk

ηk

)βk

= ∞, imamo limk→∞(

ti−αk

ηk

)(k0+1)βk

e−

(ti−αk

ηk

)βk

= 0 i zbog

toga iz (5.44) slijedi

limk→∞

[βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

]= 0,

ti − α?

η?> 1. (5.45)

Iz (5.40), (5.43) i (5.45) dobili bi da je S? ≥ ∑ti 6=α? wiy

2i ≥ Sr, sto je u kontradikciji s

(5.39). Ovim smo pokazali da je β? 6= ∞ i zavrsili dokaz. ¥

Primjedba 5.4 Neka je 1 ≤ p < ∞. Definirajmo

Sp(α, β, η) :=n∑

i=1

wi|f(ti; α, β, η)− yi

∣∣p.

Argumentirajuci slicno kao u dokazu Leme 5.4 i Teorema 5.4, moze se lako pokazati

da postoji tocka (α?p, β

?p , η

?p) ∈ P Takva da je Sp(α

?p, β

?p , η

?p) = inf(α,β,η)∈P Sp(α, β, η).


Primjer 5.5 U ovom primjeru procjenjujemo nepoznate parametre za 3-parametarsku

Weibullovu gustocu na osnovu podataka ti, i = 1, . . . , 500, Weibullove slucajne va-

rijable T generirane pomocu programa iz primjera 2.2. Vrijednosti funkcije gustoce

procjenjujemo koristeci dvije neparametarske metode, procjenitelja simetricne jezgre

i procjenitelja adaptirane jezgre kao u radu [57]. Velicina uzorka je relativno velika

(n = 500), buduci ne mozemo ocekivati dobru aproksimaciju gustoce pomocu nepara-

metarske metode na manjem uzorku. Za OLS procjenu koristili smo skupove podataka

(ti, fski ), (ti, f

aki ) i (ti, f(ti; 15, 2.5, 30) + εi), i = 1, . . . , 25, gdje je ti = t20i, f sk

i vri-

jednost gustoce procjenjena pomocu metode simetricne jezgre za podatak ti, faki vrijed-

nost gustoce procjenjena pomocu metode adaptirane jezgre za podatak ti, εi normalno

distribuirane pogreske s ocekivanjem 0 i varijancom σ = 0.002. U tablici 5.5 nave-

dene su dobivene procjene parametara Weibullovom 3-parametarskom gustocom, suma

kvadrata odstupanje (SS) i suma kvadrata odstupanja procjenjenih vrijednosti gustoce

od stvarnih vrijednosti gustoce (RSS =∑25

i=1

(f(ti; 15, 2.5, 30)− f(ti; α, β, η)

)2

).

(ti, f ski ) (ti, fak

i ) (ti, f(ti; 15, 2.5, 30) + εi)α = 12.7091 α = 14.0869 α = 14.5559β = 2.51931 β = 2.45439 β = 2.56904η = 32.4883 η = 31.1173 η = 30.6025SS = 1.87724× 10−6 SS = 5.00598× 10−6 SS = 0.0000807167RSS = 0.0000605834 RSS = 0.0000300717 RSS = 2.99817× 10−6

Tablica 5.5: OLS procjenitelji za Weibullovu 3-parametarsku gustocu na osnovu gene-riranih podataka

Na slici 5.6 prikazani su podaci (ti, f(ti; 15, 2.5, 30) + εi), i = 1, . . . , 25, i graf 3-

parametarske Weibullove gustoce t 7→ f(t; α, β, η) pri cemu su parametri dobiveni na

osnovu procjene tih podataka.


0 20 40 60 80 100

0.01

0.02

0.03

0.04

t

f(t; α, β, η) 6

-

Slika 5.6: Generirani podaci i aproksimacija Weibullovom 3-parametarskom gustocom

5.4 Egzistencija TLS procjenitelja za Weibullovu 3-

parametarsku gustocu

Neka su zadani podaci (ti, yi) i tezine wi, pi > 0, i = 1, . . . , n, pri cemu ti predstavljaju

opazene vrijednosti 3-parametarske Weibullove varijable. Buduci postoji mogucnost

pogresaka u mjerenjima slucajne varijable, nepoznate parametre α, β i η Weibullove

3-parametarske gustoce f(t; α, β, η) prirodno je procijeniti minimizacijom nelinearnog

funkcionala

T (α, β, η, δ) =n∑

i=1

wi [f(ti + δi; α, β, η)− yi]2 +

n∑i=1

piδ2i .


P ={(α, β, η) ∈ R3 : α ≥ 0; β, η > 0

}.

Postavlja se pitanje uz koje uvjete na podatke (ti, yi) postoji TLS procjenitelj, tj. tocka

(α?, β?, η?, δ?) ∈ P × Rn takva da je


T (α, β, η, δ)?


Prije dokaza teorema o egzistenciji optimalnih parametara za Weibullovu 3-para-

metarsku gustocu u TLS smislu, trebamo dokazati sljedecu tvrdnju.

Lema 5.5 Pretpostavimo da su dane tocke (ti, yi), i ∈ I = {1, . . . , n}, n ≥ 3, takve da

je 0 < t1 < t2 < . . . < tn i yi > 0, i ∈ I i neka su pi, wi ≥ 0 neke tezine. Neka je I?

bilo koji podskup od I.

(i) Ako je I? = ∅, onda postoji tocka iz P u kojoj funkcional T postize vrijednost

manju od

Tr :=n∑

i=1i6=r

wiy2i ,

gdje je (tr, yr) tocka za koju je wry2r = maxi∈I wiy

2i .

(ii) Ako je I? 6= ∅, definirajmo

TI? =∑

i∈I\I?

wiy2i +

∑i∈I?

pi(ti − tI?)2, gdje je tI? =

∑i∈I? piti∑i∈I? pi

.

Tada postoji tocka iz P u kojoj funkcional T postize vrijednost manju od TI?.

Dokaz. Neka su t0, y0 > 0 bilo koji realni brojevi. Definirajmo

β(b) := t0y0eb

b, η(b) :=

t0b1/β(b)

, b > 0.

Lako je pokazati da vrijedi:

limb→∞

β(b) = ∞, (5.46)

limb→∞

η(b) = t0 (5.47)

limb→∞

(1

b

)1/β(b)

= 1


i

limb→∞

β(b)

(t

η(b)

)β(b)

=

{0, ako je t < t0∞, ako je t > t0.

(5.48)

Tvrdnja(i). Pretpostavimo da je I? = ∅. Neka je t0 := tr, y0 := yr gdje je r onaj

indeks za koji je wry2r = maxi∈I wiy

2i i promatrajmo sljedecu familiju 3-parametarskih

Weibullovih gustoca (slika 5.7)

f(t; 0, β(b), η(b)) =

{β(b)

t

(t

η(b)

)β(b)

e−( tη(b))

β(b)

t > 0

0, t ≤ 0.(5.49)

U ovom slucaju postupama kao u dokazu Leme 5.4, te ovaj dio dokaza ispustamo.

t

f(t) 6

-

Slika 5.7. Familija 3-parametarskih Weibullovih gustoca t 7→ f(t; 0, β(b), η(b))

Tvrdnja(ii). Pretpostavimo da je I? 6= ∅. Tada se moze pojaviti samo jedan od sljedeca

dva slucaja:

(a) |I?| = 1 ili (b) |I?| ≥ 2.

Slucaj (a): |I?| = 1, I? = {k}. Definiramo t0 := tk, y0 := yk i postupamo kao u dokazu

tvrdnje (i).

Slucaj (b): |I?| ≥ 2. U ovom slucaju moze se pojaviti jedan od sljedeca dva podslucaja:

(b1) tI? 6= ti,∀i ∈ I? ili (b2) tI? = tq, q ∈ I?.


(b1): definirajmo t0 := tI? , y0 = A, gdje je A > maxi∈I yi. Za β(b) > 1 funkcija

f(t; 0, β(b), η(b)) je rastuca za t < tmax i padajuca za t > tmax, gdje je tmax tocka u

kojoj funkcija f(t; 0, β(b), η(b)) postize globalni maksimum. Zbog toga za svaki y <

f(tmax; 0, β(b), η(b)) postoje tL i tR (slika 5.8) takvi da je:

f(tL; 0, β(b), η(b)) = f(tR; 0, β(b), η(b)) = y.

δ2

t2 t2L t2R t

f(t) 6

-

−δ7

t7L t7R t7 t

f(t) 6

-

Slika 5.8. Prikaz tocaka tL i tR za slucajeve kada je t < tmax i t > tmax

Oznacimo s t onu od ove dvije tocke za koju je d(t, t) = min{d(t, tL), d(t, tR)}.Koristeci gore navedeno, definirajmo:

δi(b) =

ti − ti, i ∈ I?

ti − ti, i ∈ I \ I? & t0 = ti0, inace.

(5.50)

Za dovoljno veliki b je

0 < f(ti, 0, β(b), η(b)) < yi, ∀i ∈ I \ {I? ∪ {j}}, (5.51)

0 < |δi| < |ti − tI?|, ∀i ∈ I?, (5.52)

wjy2j > pjδ

2j . (5.53)


Sada iz (5.51), (5.52) i (5.53) imamo

T (0, β(b), η(b), δ(b)) =n∑

i=1

wi[f(ti + δi(b); 0, β(b), η(b))− yi]2 +

n∑i=1

piδi(b)2 =

=∑

i∈I\{I?∪{j}}wi[f(ti + δi(b); 0, β(b), η(b))− yi]

2 +∑

i∈I?∪{j}piδi(b)

2

<∑

i∈I\I?

wiy2i +

∑i∈I?

pi(ti − tI?)2.

(b2): definirajmo t0 := tI? = tq, y0 := yq, gdje je q ∈ I?. Neka je α(b) definiran na

sljedeci nacin

tq = 2α(b) + η(b)

(1− 1

β(b)

)1/β(b)

. (5.54)

Primjetimo da je

tq = 2α(b) + tq

(1

b

)1/β(b) (1− 1

β(b)

)1/β(b)

α(b) =1

2tq

(1−

(1

b

)1/β(b) (1− 1

β(b)

)1/β(b))

(5.55)

limb→∞

α(b) =1

2tq lim

b→∞

(1−

(1

b

)1/β(b) (1− 1

β(b)

)1/β(b))

= 0.

Kako za b À 0 vrijedi

1

b< 1 &

(1− 1

β(b)

)< 1

iz toga i (5.55) dobivamo da je α(b) > 0.


Razmotrimo sljedecu familiju 3-parametarskih Weibullovih gustoca

f(t; α(b), β(b), η(b)) =

{β(b)

t−α(b)

(t−α(b)η(b)

)β(b)

e−( t−α(b)η(b) )

β(b)

t > α(b)

0, t ≤ α(b).(5.56)

Lako je pokazati da je

f(tq + α(b); α(b), β(b), η(b)) = yq.

Globalni maksimum postize se u tocki

tmax = α(b) + η(b)

(1− 1

β(b)

)1/β(b)

.

Iz (5.55) slijedi

tmax = tq − α(b).

Pokazimo da je

limb→∞

f(tq; α(b), β(b), η(b)) = ∞. (5.57)

Iz (5.54) i definicije η(b) dobivamo

tq − α(b)

η(b)=

1

η(b)

tq −

tq − η(b)(1− 1

β(b)

) 1β(b)

2

=

tq + η(b)(1− 1

β(b)

) 1β(b)

2η(b)

=b

1β(b) +

(1− 1

β(b)

) 1β(b)

2

i zato je

(tq − α(b)

η(b)

)β(b)

=

b1

β(b) +(1− 1

β(b)

) 1β(b)

2

β(b)

. (5.58)


Kako je aritmeticka sredina veca ili jednaka geometrijskoj sredini, iz (5.58) dobivamo

da

(tq − α(b)

η(b)

)β(b)

≥ b12

(1− 1

β(b)

) 12

→∞. (5.59)

kada b → ∞. Nadalje, za dovoljno veliki b je β(b) > 1, te je funkcija x 7→ xβ(b)

konveksna za x > 0. Zbog toga iz (5.58) dobivamo

(tq − α(b)

η(b)

)β(b)

=

b1

β(b) +(1− 1

β(b)

) 1β(b)

2

β(b)

≤b +

(1− 1

β(b)

)

2<

b

2+ 1.

Zbog toga je

e−

(tq−α(b)

η(b)

)β(b)

> e−( b2+1)

pa stoga vrijedi

β(b)e−

(tq−α(b)

η(b)

)β(b)

> β(b)e−( b2+1) = tqyq

eb

be−( b

2+1) =

tqyqeb2

eb→∞. (5.60)

Konacno, iz (5.59) i (5.60) dobivamo

limb→∞

f(tq; α(b), β(b), η(b)) = limb→∞

1

tq − α(b)

(tq − α(b)

η(b)

)β(b)

β(b)e−

(tq−α(b)

η(b)

)β(b)

= ∞.

Sada cemo pokazati da je

limb→∞

f(t; α(b), β(b), η(b)) = 0, t 6= tq. (5.61)

Prvo primjetimo da je

limb→∞

β(b)

(t− α(b)

η(b)

)β(b)

=

{0, ako je t < tq∞, ako je t > tq.

(5.62)


Ako je t < tq, onda koristeci (5.47) dobivamo limb→∞t−α(b)η(b)

= t/tq < 1 te zato iz (5.46)

slijedi limb→∞ e−(t−α(b)

η(b))β(b)

= 1. Sada iz (5.56) i (5.62) slijedi

limb→∞

f(t; α(b), β(b), η(b)) = limb→∞

[β(b)

t− α(b)

(t− α(b)

η(b)

)β(b)

e−( t−α(b)η(b) )

β(b)

]= 0.

Ako je t > tq, onda je

limb→∞

(t− α(b)

η(b)

)=

t

tq> 1.

Lako je pokazati da postoji dovoljno veliki k0 ∈ N takav da je

e <

(t− α(b)

η(b)

)k0

za svaki dovoljno veliki b > 0. Sada koristeci nejednakost x < ex (x ≥ 0) dobivamo

β(b) < eβ(b) <

(t− α(b)

η(b)

)k0β(b)

, b À 0,

i zbog toga za svaki b À 0 imamo

0 < f(t; α(b), β(b), η(b)) =β(b)

t− α(b)

(t− α(b)

η(b)

)β(b)

e−( t−α(b)η(b) )

β(b)

<1

t− α(b)

(t− α(b)

η(b)

)(k0+1)β(b)

e−( t−α(b)η(b) )

β(b)

.

Kako je

limb→∞

(t− α(b)

η(b)

)(k0+1)β(b)

e−( t−α(b)η(b) )

β(b)

= 0,


iz gornjih nejednakosti slijedi

limb→∞

f(t; α(b), β(b), η(b)) = 0, t > tq.

S ovim smo dokazali limes (5.61).

Definirajmo

δi(b) =

{ti − ti, i ∈ I?

0, inace(5.63)

gdje je t definiran kao u (b1) podslucaju dokaza (vidi i sliku 5.9).

t

f(t) 6

-tq−α(b) tq tq+α(b)

c

s

s

(tj , yj)(tj , yj)cs

s c

(ti, yi) (ti, yi)

s

Slika 5.9: i, j ∈ I?, ti < tq, tj > tq; 0 < δi(b) = ti − ti < tq − α(b) − ti < tq − ti;tq − tj < tj − tj = δj(b) < 0

Zbog (5.61) mozemo pretpostaviti da je b dovoljno velik tako da je

0 ≤ f(ti; α(b), β(b), η(b)) < yi, i ∈ I \ I?. (5.64)

Tada je ∑

i∈I\I?

wi(f(ti + 0; α(b), β(b), η(b))− yi)2 ≤

∑

i∈I\I?

wiy2i . (5.65)

Zbog (5.57) mozemo pretpostaviti da je b dovoljno velik tako da je yq > yi za svaki

i ∈ I?, te zbog toga vrijedi

δi(b) < |ti − tq|, ∀i ∈ I? \ {q}. (5.66)


Nadalje neka je s ∈ I? takav da je

ts < tq.

Tada je

psδs(b)2 + pqδq(b)

2 = psδs(b)2 + pqα(b)2 < ps((tq − ts)− α(b))2 + pqα(b)2

< ps(tq − ts)2 (5.67)

za svaki α(b) < 2ps(tq−ts)

ps+pq. Sada iz (5.64), (5.65), (5.66) i (5.67) imamo

T (α(b), β(b), η(b), δ(b)) =n∑

i=1

[wi(f(ti + δi(b); α(b), β(b), η(b))− yi)

2 + piδi(b)2]

=∑

i∈I\I?

wi(f(ti + δi(b); α(b), β(b), η(b))− yi)2 +

∑

i∈I?\{s,q}piδi(b)

2 + psδs(b)2 + pqδq(b)

2

<∑

i∈I\I?

wiy2i +

∑

i∈I?\{s,q}pi(tq − ti)

2 + ps(tq − ts)2 =

∑

i∈I\I?

wiy2i +

∑i∈I?

pi(tq − ti)2

s cime je dokazana tvrdnja leme. ¥Sada cemo dokazati teorem o egzistenciji optimalnih parametara za Weibullovu

3-parametarsku gustocu u TLS smislu.

Teorem 5.5 Neka su zadani podaci (wi, pi, ti, yi), i = 1, . . . , n, n > 3, takvi da je

0 < t1 < t2 < . . . < tm i wi, pi, yi > 0, i = 1, . . . , n. Tada TLS procjenitelj za

Weibullovu 3-parametarsku gustocu postoji.

Dokaz. Buduci je funkcional T nenegativan, postoji

T ? := inf(α,β,η,δ)∈P×Rn

T (α, β, η, δ).

Treba pokazati da postoji tocka (α?, β?, η?, δ?) ∈ P×Rn takva da je T (α?, β?, η?, δ?) =

T ?.


Neka je (αk, βk, ηk, δk) niz iz P × Rn, takav da je

T ?= limk→∞

T (αk, βk, ηk, δk) = lim

k→∞

n∑

i=1

[wi(f(ti + δk

i ; αk, βk, ηk)− yi)2 + pi(δki )2

](5.68)

= limk→∞

∑

ti+δki ≤αk

wiy2i +

∑

ti+δki >αk

wi

βk

ηk

(ti + δk

i − αk

ηk

)βk−1

e−

(ti+δk

i −αkηk

)βk

− yi

2

+n∑

i=1

pi(δki )2

.

Bez smanjenja opcnitosti, nadalje mozemo pretpostaviti da su nizovi (αk), (βk),

(ηk), (δk1), . . . , (δ

kn) monotoni. Ovo je moguce zbog toga sto niz (αk, βk, ηk, δ

k1 , . . . , δ

kn)

ima podniz (αlk , βlk , ηlk , δlk1 , . . . , δlk

n ), takav da si svi njegovi koordinatni nizovi (αlk),

(βlk), (ηlk), (δlk1 ), . . . , (δlk

n ) monotoni; i zbog toga sto je limk→∞ T (αlk , βlk , ηlk , δlk) =

limk→∞ T (αk, βk, ηk, δk) = T ?.


brojeva R, definirajmo

α? := limk→∞



ηk, δ? := limk→∞

δk = (δ?1, . . . , δ

?n).

Primjetimo da je 0 ≤ α?, β?, η? ≤ ∞, buduci je (αk, βk, ηk) ∈ P . Takoder primjetimo

da je δ?i ∈ R za svaki i = 1, . . . , n. Doista, ako je |δ?

i | = ∞ za neki i, onda bi iz (5.68)

slijedilo da je T ? = ∞, sto nije moguce.

Za dovrsenje dokaza dovoljno je pokazati da je (α?, β?, η?) ∈ P , odnosno da je

0 ≤ α? < ∞ i β?, η? ∈ (0,∞). Zbog neprekidnosti funkcionala T tada ce biti T ? =

limk→∞ T (αk, βk, ηk, δk) = T (α?, β?, η?, δ?).


pokazat cemo da je α? < tn. U koraku 2 dokazuje se da je β? 6= 0. Dokaz tvrdnje da

je η? 6= 0 napravljen je u koraku 3. U koraku 4 dokazujemo da je η? 6= ∞. Na kraju,

u koraku 5 pokazujemo da je β? 6= ∞.

Korak 1. Ako je α? = ∞, onda iz (5.68) slijedi T ? ≥ ∑ni=1 wiy

2i . Buduci je∑n

i=1 wiy2i > Tr, gdje je indeks r odabran tako da je wry

2r = maxi∈I wiy

2i , i kako po

Lemi 5.5 postoji tocka iz P ×Rn u kojoj funkcional T postize vrijednost manju od Tr,

to znaci da u ovom slucaju (α? = ∞) funkcional T ne moze postici svoj infimum. S

time smo pokazali da je α? 6= ∞.

Uzimajuci odgovarajuci podniz od (αk, βk, ηk), ukoliko je potrebno, mozemo pret-

postaviti da ako je ti + δ?i < α?, onda ti + δk

i < αk za svaki k ∈ N. Slicno, ako


je ti + δ?i > α?, mozemo pretpostaviti da je ti + δk

i > αk za svaki k ∈ N. Neka je

I? = {i ∈ {1, . . . , n} | ti + δ?i = α?}. Sada je lako pokazati da iz (5.68) slijedi

T ? ≥∑

ti+δ?i <α?

wiy2i + lim

k→∞

∑

ti+δ?i >α?

wi

[βk

ηk

(ti + δk

i − αk

ηk

)βk−1

e−

(ti+δk

i −αkηk

)βk

− yi

]2

+∑i∈I?

pi(δki )2. (5.69)

Korak 2. Ako je β? = 0, tada koristeci nejednakost x < ex (x ≥ 0) dobivamo

0 <βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk

<βk

ti + δki − αk

, ti + δ?i > α?,

iz cega slijedi

limk→∞

[βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk]

= 0, ti + δ?i > α?.

Sada iz (5.69), slijedi da

T ? ≥∑

i∈I\I?

wiy2i +

∑i∈I?

pi(ti − α?)2 ≥∑

i∈I\I?

wiy2i +

∑i∈I?

pi(ti − tI?)2 = TI? ,

gdje je tI? =∑

i∈I? piti∑i∈I? pi

. Prema lemi 5.5 postoji tocka iz P × Rn u kojoj funkcional T

postize vrijednost manju od TI? . Dakle, pokazali smo da je β? 6= 0.

Korak 3. Pokazimo da je η? 6= 0. Dokaz provodimo kontradikcijom. Pretpostavimo

suprotno, odnosno da je η? = 0. Onda bez smanjenja opcenitosti mozemo pretpostaviti

da ako je ti + δ?i > α?, da je e <

ti+δki −αk

ηkza sve k ∈ N. Onda iz nejednakosti x < ex

(x ≥ 0) slijedi da ako je ti + δ?i > α?, onda je

βk < eβk <

(ti + δk

i − αk

ηk

)βk

, k ∈ N.


Dakle, ako je ti + δ?i > α?, onda je

0 <βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk

<1

ti + δki − αk

(ti + δk

i − αk

ηk

)2βk

e−

(ti+δk

i −αkηk

)βk

. (5.70)

Nadalje, kako je limk→∞(

ti+δki −αk

ηk

)= ∞ i β? 6= 0, imamo limk→∞

(ti+δk

i −αk

ηk

)βk

= ∞ i

zato je limk→∞(

ti+δki −αk

ηk

)2βk

e−

(ti+δk

i −αkηk

)βk

= 0 pa iz (5.70) slijedi

limk→∞

[βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk]

= 0, ti + δ?i > α?.

Uvrstavajuci gornje limese u (5.69), uz prijasnje oznake, dobivamo kao i u koraku 2.

dokaza da je

T ? ≥∑

i∈I\I?

wiy2i +

∑i∈I?

pi(ti − α?)2 ≥∑

i∈I\I?

wiy2i +

∑i∈I?

pi(ti − tI?)2 = TI? ,

sto je u kontradikciji s tvrdnjom Leme 5.5. Dakle, pokazali smo da je η? > 0.

Za sada smo pokazali da je α? < ∞, β? 6= 0 i η? 6= 0. Koristeci to, u sljedecem

koraku cemo pokazati da je η? 6= ∞.

Korak 4. Pokazimo da je η? 6= ∞. Kako bi to dokazali, pretpostavimo suprotno,

odnosno da je η? = ∞. Moze se pojaviti samo jedan od slijedeca dva slucaja: (i)

η? = ∞ i β? ∈ (0,∞) ili (ii) η? = ∞ i β? = ∞. Sada cemo pokazati da funkcional T ne

moze postici svoj infimum niti u jednom od ova dva slucaja, s cime ce biti dokazano

da je η? 6= ∞.

Slucaj (i): η? = ∞ i β? ∈ (0,∞). U ovom slucaju bi bilo

limk→∞

βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk

= 0, ti + δ?i > α?


i onda bi iz (5.69) slijedilo

T ? ≥∑

i∈I\I?

wiy2i +

∑i∈I?

pi(ti − tI?)2 = TI? ,

sto je u suprotnosti s tvrdnjom leme 5.5.

Slucaj (ii): η? = ∞ i β? = ∞. Kako je ηk →∞, postoji realna broj q > 1 i dovoljno

veliki k0 ∈ N takav da ako je ti + δ?i > α? i k > k0, onda je (ti + δk

i −αk)/ηk < 1/q. Bez

smanjenja opcenitosti mozemo pretpostaviti da je k0 = 1. Dakle, ako je ti + δ?i > α?,

onda je

0 <βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk

<1

ti + δki − αk

(βk

qβk

)e−

(ti+δk

i −αkηk

)βk

. (5.71)

Nadalje, kako je

limk→∞

(βk

qβk

)= 0 i lim

k→∞e−

(ti+δk

i −αkηk

)βk

= 1,

iz (5.71) slijedi

limk→∞

[βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk]

= 0, ti + δ?i > α?.

Na kraju, iz (5.69) dobivamo T ? ≥ ∑i∈I\I? wiy

2i +

∑i∈I? pi(ti − tI?)2 = TI? , sto je u

suprotnosti s tvrdnjom Leme 5.5. To znaci da u ovom slucaju funkcional T ne moze

postici svoj infimum.

Ovim smo pokazali da je η? 6= ∞.

Korak 5. Ostaje pokazati da je β? 6= ∞. Dokaz provodimo kontradikcijom. Pret-

postavimo da je β? = ∞.


Argumentirajuci slicno kao u koraku 4 moze se pokazati da je

limk→∞

[βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk]

= 0, 0 <ti + δ?

i − α?

η?< 1.

(5.72)

Ako jeti+δ?

i−α?

η? > 1, onda postoji dovoljno veliki k0 ∈ N takav da je e <(

ti+δki −αk

ηk

)k0

.

Sada koristeci nejednakost x < ex (x ≥ 0) dobivamo

βk < eβk <

(ti + δk

i − αk

ηk

)k0βk

, k ∈ N,

i zato je

0 <βk

ti + δki − αk

(ti + δk

i − αk

ηk

)βk

e−

(ti+δk

i −αkηk

)βk

<1

ti + δki − αk

(ti + δk

i − αk

ηk

)(k0+1)βk

e−

(ti+δk

i −αkηk

)βk

. (5.73)

Kako je limk→∞(

ti+δki −αk

ηk

)βk

= ∞, imamo limk→∞(

ti+δki −αk

ηk

)(k0+1)βk

e−

(ti+δk

i −αkηk

)βk

=

0 i zbog toga iz (5.73) slijedi

limk→∞

[βk

ti − αk

(ti − αk

ηk

)βk

e−

(ti−αk

ηk

)βk

]= 0,

ti − α?

η?> 1. (5.74)

Iz (5.69), (5.72) i (5.74) dobili bi da je T ? ≥ ∑i∈I\I? wiy

2i +

∑i∈I? pi(ti − tI?)2 = TI? ,

sto je u kontradikciji s tvrdnjom Leme 5.5. Ovim smo pokazali da je β? 6= ∞ i zavrsili

dokaz. ¥


Weibullov model na osnovu istih podataka kao u primjeru 5.5. Neparametarske proc-

jene gustoce i ovdje su napravljene koristenjem procjenitelja simetricne jezgre i proc-

jenitelja adaptirane jezgre. Za TLS procjenu koristili smo skupove podataka (ti, fski ),


(ti, faki ) i (ti, f(ti; 15, 2.5, 30) + εi), i = 1, . . . , 25, gdje je ti = t20i, f sk

i vrijednost

gustoce procjenjena pomocu metode simetricne jezgre za podatak ti, faki vrijednost

gustoce procjenjena pomocu metode adaptirane jezgre za podatak ti, εi normalno dis-

tribuirane pogreske s ocekivanjem 0 i varijancom σ = 0.002. U tablici 5.6 navedeni

su dobiveni TLS procjenitelji, odgovarajuca suma kvadrata odstupanje (SS) i suma

kvadrata odstupanja procjenjenih vrijednosti gustoce od stvarnih vrijednosti gustoce

(RSS =∑25

i=1

(f(ti; 15, 2.5, 30)− f(ti; α, β, η)

)2

).

(ti, f ski ) (ti, fak

i ) (ti, f(ti; 15, 2.5, 30) + εi)α = 12.7091 α = 14.0877 α = 14.5573β = 2.51931 β = 2.45432 β = 2.569η = 32.4883 η = 31.1166 η = 30.6018SS = 1.87724× 10−6 SS = 5.00597× 10−6 SS = 0.0000807166RSS = 0.0000605834 RSS = 0.0000300746 RSS = 3.01286× 10−6

Tablica 5.6: TLS procjenitelji za Weibullovu 3-parametarsku gustocu na osnovu gene-riranih podataka

Literatura

[1] Abernethy, R.B., The New Weibull Handbook, Robert B.Abernethy, North

Palm Beach, Florida, 2006.

[2] Balakrishnan, N., Kateri, M., On the maximum likelihood estimation of

parameters of Weibull distribution based on complete and censored data, Statist.

Probab. Lett. 78(2008), 2971 – 2975

[3] Banks, R.B., Growth and Diffusion Phenomena: Mathematical Frameworks and

Applications, Springer Verlag, Berlin, 1994.

[4] Barlow,R.E., Engineering Reliability, SIAM, Philadelphia, 1998.

[5] Barlow,R.E., Proschan, F. Mathematical Theory of Reliability, SIAM,

Philadelphia, 1996.

[6] Bergman, B., Estimation of Weibull parameters using a weight function, J.

Mater. Sci. Lett. 5(1986), 611 – 614

[7] Birolini, A., Reliability Engineering. Theory and Practice, Springer Verlag,

Berlin, 2007.

[8] Bjorck, A., Numerical Methods for Least Squares Problems, SIAM, Philadelphia,

1996.

[9] Boggs, P.T., Byrd, R.H., Schnabel, R.B., A stable and efficient algorithm

for nonlinear orthogonal distance regression, SIAM J. Sci. Stat. Comput. 8(1987),

1052 – 1078

[10] Burridge, J., A note on maximum likelihood estimation for regression models

using grouped data J. R. Stat. Soc. Ser. B 43(1981), 41 – 45

[11] Cheng, R.C.H., Iles, T.C., Embedded models in three-parameter distributions

and their estimation, J. R. Stat. Soc. Ser. B 52(1990), 135 – 149

111

Literatura 112

[12] Cohen, A.C., Whitten, B. J., Parameter Estimation in Reliability and Life

Span Models, Marcel Dekker Inc., New York and Basel, 1988.

[13] D. Collett, Modelling Survival Data in Medical Research, Chapman & Hall,

London, 1994.

[14] Dasgupta, D., Michalewicz, Z., Evolutionary Algorithms in Engineering and

Applications, Springer Verlag, Berlin, 1997.

[15] Demidenko, E. Z., Optimization and Regression, Nauka, Moskva, 1989., in Rus-

sian

[16] Demidenko, E. Z., On the existence of the least squares estimate in nonlin-

ear growth curve models of exponential type, Comm. Statist. Theory Methods

25(1996), 159 – 182

[17] Dennis, J.E., Schnabel, R.B., Numerical Methods for Unconstrained Opti-

mization and Nonlinear Equations, SIAM, Philadelphia, 1996.

[18] Dodson, B., The Weibull Analysis Handbook, American Society for Quality, Mil-

waukee, 2006.

[19] Edwards, A.W.F., Likelihood, Cambridge University Press, Cambridge, 1972.

[20] Fisher, R.A., Tippett, L.H.C., Limiting forms of the frequency distribution of

the largest and smallest members of a sample, Proc. Camb. Philos. Soc. 24(1928),

180 – 190

[21] Fok, S.L., Mitchell, B.G., Smart, J., Marsden, B.J., A numerical study

on the application of the Weibull theory to brittle materials, Eng. Fract. Mech.

68(2001), 1171 – 1179

[22] Fuller, W.A., Measurement Error Models, Wiley, New York, 2006.

[23] Gill, P.E., Murray, W., Wright, M.H., Practical Optimization, Academic

Press, London, 1981.

[24] Golub, G.H., Van Loan, C.F., An analysis of the total least squares problem,

SIAM J. Numer. Anal. 17(1980), 883 – 893

[25] Gonin, C.T., Money, A.H., Nonlinear Lp Norm Estimation, Marcel Dekker,

New York, 1989.

Literatura 113

[26] Gourdin, E., Hansen, P., Jaumard, B., Finding maximum likelihood estima-

tors for the three-parameter Weibull distribution, J. Global Optim. 5(1994), 373 –

397

[27] Gove, J.H., Moment and maximum likelihood estimators for Weibull distribu-

tions under length- and area-biased sampling, Environ. Ecol. Stat. 10 (2003), 455

– 467

[28] Green, E.J., Roesch, F.A. JR., Smith, A.F.M., Strawderman, W.E.,

Bayesian estimating for the three-parameter Weibull distribution with tree diame-

ter data, Biometrics 50(1993), 254 – 269

[29] Hadeler K.P., Jukic, D., Sabo, K., Least squares problems for Michaelis

Menten kinetics, Math. Methods Appl. Sci. 30(2007), 1231 – 1241

[30] Van Huffel, S., Zha, H., The Total Least Squares Problem, Elsevier, North–

Holland, Amsterdam, 1993.

[31] Hung, W.-L., Weighted least-squares estimation of the shape parameter of the

Weibull distribution, Qual. Reliab. Eng. Int. 17(2001), 467 – 469

[32] Ibrahim, J.G., Chen, M.-H., Sinha, D., Bayesian Survival Analysis, New

York, Springer Verlag, 2001.

[33] Juckett, D.A., Rosenberg, B., Comparison of the Gompertz and Weibull

functions as descriptors for human mortality distributions and their intersections,

Mech. Aging Dev. 69(1993), 1 – 31

[34] Jukic, D., A necessary and sufficient criteria for the existence of the least squares

estimate for a 3-parametric exponential function, Appl. Math. Comput. 147(2004),

1 – 17

[35] Jukic D., Kralik G., Scitovski R., Least squares fitting Gompertz curve, J.

Comput. Appl. Math. 169(2004), 359 – 375

[36] Jukic D., Markovic, D., On nonlinear weighted errors-in-variables parameter

estimation problem in the three-parameter Weibull model, Appl. Math. Comput.,

na recenziji

[37] Jukic, D., Marosevic, T., Scitovski, R., Discrete total lp-norm approxi-

mation problem for exponential function, Appl. Math. Comput. 94(1998), 137 –

143

Literatura 114

[38] Jukic, D., Sabo, K., Bokun, G., Least squares problem for the Hubbert func-

tion, Proc. 9th Int.Conf.Oper. Res. KOI2002, T. Hunjak, K. Soric and R. Scitovski,

Eds., Trogir, October 2-4, 2002, 37 – 46

[39] Jukic, D., Sabo, K., Scitovski, R., Total least squares fitting Michaelis-

Menten enzyme kinetic model function, J. Comput. Appl. Math. 201(2007), 230

– 246

[40] Jukic, D., Scitovski, R., Existence of optimal solution for exponential model

by least squares, J. Comput. Appl. Math. 78(1997), 317 – 328

[41] Jukic, D., Scitovski, R., Existence results for special nonlinear total least

squares problem, J. Math. Anal. Appl. 226(1998), 348 – 363

[42] Jukic, D., Scitovski, R., Solution of the least squares problem for logistic

function, J. Comput. Appl. Math. 156(2003), 159 – 177

[43] Jukic D., Scitovski R., Bensic M., On the existence of the nonlinear weighted

least squares estimate for a three-parameter Weibull distribution, Comput. Statist.

Data Anal. 52(2008), 4502 – 4511

[44] Jukic,D., Scitovski, R., Sabo, K., Total least squares problem for the Hubbert

function, Conference on Applied Mathematics and Scientific Computing (Brijuni,

June 23 - 27, 2003), Z. Drmac, M. Marusic and Z. Tutek, Eds, Springer, Dordrecht,

2005, 217 – 234

[45] Jukic, D., Scitovski, R., Spath, H., Partial linearization of one class of the

nonlinear total least squares problem by using the inverse model function, Com-

puting 62(1999), 163 – 178

[46] Kelley, C. T., Iterative Methods For Optimization, SIAM, Philadelphia, 1999.

[47] Lai, C.-D., Xie, M., Stochastic Ageing and Dependence for Reliability, Springer,

New York, 2006.

[48] Lawless, J.F., Statistical Models and Methods for Lifetime Data, Wiley, New

York, 1982.

[49] Lawson, C.L., Hanson, R.J., Solving Least Squares Problems, SIAM, Philadel-

phia, 1995.

[50] Lewis, E. E., Introduction to Reliability Engineering, John Wiley & Sons, 1994.

Literatura 115

[51] Liu, C.-C., A comparison between the Weibull and lognormal models used to

analyse reliability data, disertacija, Nottingham, 1997.

[52] Lu, H.-L., Chen, C.-H., Wu, J.-W., A Note on weighted least-squares esti-

mation of the shape parameter of the Weibull distribution, Qual. Reliab. Eng. Int.

20(2004), 579 – 586

[53] Luko, S., A review of Weibull distributions and selected engineering applications,

SAE Trans. 108(1999), 398 – 412

[54] Lun, I.Y.F., Lam, J.C., A study of Weibull parameters using longterm wind

observations, Renewable Energy 20(2000), 145 – 153

[55] Markovic, D., Jukic, D., On nonlinear weighted least squares fitting of the

three-parameter inverse Weibull distribution, Math. Commun., 2009, prihvaceno

za objavljivanje

[56] Markovic, D., Jukic, D., On nonlinear weighted total least squares parameter

estimation problem for the three-parameter Weibull density, Appl.Math. Model.,

na rezenziji

[57] Markovic, D., Jukic, D., Bensic, M, Nonlinear weighted least squares estima-

tion of a three-parameter Weibull density with a nonparametric start, J. Comput.

Appl. Math., 228(2009), 304 – 312

[58] Marosevic, T., Problem diskretne Lp aproksimacije u nekim specijalnim

matematickim modelima, disertacija, Zagreb, 1998.

[59] Mu, F.C., Tan, C.H., Xu, M.Z., Proportional difference estimate method

of determining the characteristic parameters of monomodal and multimodal

Weibull distributions of time dependent dielectric breakdown, Solid-State Electron.

44(2000), 1419 – 1424

[60] Murthy, D.N.P., Xie, M., Jiang, R., Weibull Models, Wiley, New York, 2004.

[61] Na, K.-H., Pyun, S.-I., Effect of sulphate and molybdate ions on pitting corro-

sion of aluminium by using electrochemical noise analysis, J. Electroanal. Chem.

596(2006), 7 - 12

[62] Nakagawa, T., Advanced Reliability Models and Maintenance Policies, Springer

Verlag, London, 2008.

Literatura 116

[63] Nelder, J. A., Mead, R., A simplex method for function minimization, Comp.

J. 7(1965), 308 – 313

[64] Nelson, W., Applied Life Data Analysis, Wiley, New York, 1982.

[65] Nocedal, J., Wright, S. J., Numerical Optimization, Springer Verlag, New

York, 1999.

[66] O’Connor, D.T. P., Practical Reliability Engineering, Heyden & Son, London,

1995.

[67] Pal, N., Jin, C., Lim, W.-K., Handbook of Exponential and Related Distribu-

tions for Engineers and Scientists, Chapman & Hall, Boca Raton, 2006.

[68] Pause, Z., Uvod u matematicku statistiku, Skolska knjiga, Zagreb, 1993.

[69] Pham, H., Reliability Modeling, Analysis and Optimization, World Scientific, Sin-

gapore, 2006.

[70] Pham, H., Recent Advances in Reliability and Quality Design, London, Springer,

2008.

[71] Phani, K.K., De, A.K., Evaluation of concurrent flaw populations in silicon

carbide in terms of a modified Weibull distribution function, J. Am. Ceram. Soc.

71(2005), 196 – 197

[72] Powel, M.J.D., Approximation Theory and Methods, Cambridge University

Press, Cambridge, 1992.

[73] Pratt, J.W., Concavity of the log likelihood, J. Amer. Statist. Assoc. 76(1981),

103 – 106

[74] Press, W.,Flannery, B., Teukolsky, S., Vetterling, W., Numerical

Recipes in C, Cambridge University Press, Cambridge, England, 1992.

[75] Rice, J.R., The Approximation of Functions, Vol. I-Linear Theory, Addison-

Wesley, Reading, MA, 1964.

[76] Rice, J.R., The Approximation of Functions, Vol. II-Nonlinear and Multivariate

Theory, Addison-Wesley, Reading, MA, 1969.

[77] Rinne, H., The Weibull Distribution. A Handbook, Taylor & Francis Group, 2009.

Literatura 117

[78] Rosen, J.B., Park, H., Glick, J., Total least norm formulation and solution

for structured problems, E SIAM J. Matrix Anal. Appl., 17(1996), 110 – 126

[79] Rosin, P., Rammler, E., The laws governing the fineness of powdered coal, J.

Inst. Fuel 7(1933), 29 – 36

[80] Ross, G.J.S., Nonlinear Estimation, Springer, New York, 1990.

[81] Sabo, K., Problem procjene parametara u nekim modelima kemijske kinetike,

disertacija, Zagreb, 2007.

[82] Samaa, W., Dietzb, K., Smitha, T., Distribution of survival times of deliber-

ate Plasmodium falciparum infections in tertiary syphilis patients, Trans. R. Soc.

Trop. Med. Hyg. 100(2006), 811 – 816

[83] Schwetlick, H., Tiller, V., Numerical methods for estimating parameters in

nonlinear models with errors in the variables, Technometrics 27(1985), 17 – 24

[84] Seber, G.A.F., Wild, C.J., Nonlinear Regression, Wiley, New York, 1989.

[85] Silverman, B.W., Density estimation for Statistics and Data Analysis, Chap-

man & Hall/CRC, Boca Raton, 2000.

[86] Smith, R. L., Naylor, J. C., A comparison of maximum likelihood and Bayesian

estimators for the three-parameter Weibull distribution, Biometrika 73(1987), 67

– 90

[87] Spath, H., On discrete linear orthogonal Lp approximation, ZAMM 62(1982),

354 – 355

[88] Stallard, N., Whitehead, A., Modified Weibull multistate models for the

analysis of animal carciogenicity, Environ. Ecol. Stat. 7(2000), 117 – 133

[89] Stewart, G.W., Sun, J., Matrix Perturbation Theory, Academic Press, New

York, 1990.

[90] Stoer, J., Bulirsch, R., Introduction to Numerical Analysis, Springer Verlag,

Berlin, 1993.

[91] Talkner, P., Weber, R.O., Power spectrum and detrended fluctuation analy-

sis: Application to daily temperatures, Phys. Rev. E 62(2000), 150 – 160

Literatura 118

[92] Tapia, R.A., Thompson, J. R., Nonparametric Probability Density Estimation,

Johns Hopkins University Press, Baltimore, 1978.

[93] Watson,G.A., The numerical solution of total lp approximation problems, in:

Numerical Analysis (D. F.Griffiths Ed.), Lecture Notes in Mathematics 1066, 221

– 238, Springer Verlag, Berlin 1984.

[94] Weibull, W., A statistical theory of the strength of material, Proc. Roy. Swedish

Inst. Eng. Res. 151(1939), 1 – 45

[95] Weibull, W., A statistical distribution function of wide applicability, J. Appl.

Mech. 18(1951), 293 – 296

[96] Weibull, W., References on the Weibull distribution, Forsvarets Teletekniska

Laboratorium, FTL A-report, 1977.

[97] Yang, G., Life Cycle Reliability Engineering, John Wiley & Sons, 2007.

[98] Ying, G., Heitjan, D. F., Weibull prediction of event times in clinical trials,

Pharm. Stat. 7(2007), 107 – 120

[99] Zanakis, S. H., Kyparisis, J., A review of maximum likelihood estimation

methods for the three-parameter Weibull distribution, J. Stat. Comput. Simul. 25

(1986), 53 – 73

[100] Zhang, L.F., Xie, M., Tang, L.C., A study of two estimation approaches

for parameters of Weibull distribution based on WPP, Reliab. Eng. Syst. Saf. 92

(2007), 360 – 368

[101] Zio, E., An Introduction to the Basics of Reliability and Risk Analysis, World

Scientific, New Jersey, 2007.

119

Sazetak

U disertaciji se razmatra problem egzistencije optimalnih parametara u Weibullovom

modelu, jednom od najcesce koristenih statistickih modela u teoriji pouzdanosti i teoriji

zivotnog vijeka. Posebna paznja posvecena je 3-parametarskom Weibullovom modelu.

U radu su navedene neke od brojnih primjena ovoga modela.

Opisane su neke od klasicnih metoda za procjenu parametara Weibullovog modela i

to dvije graficke metode (Weibullov crtez vjerojatnosti i crtez rizika), te dvije analiticke

metode (metoda momenata i metoda maksimalne vjerodostojnosti). Istaknuti su neki

od problema koji se javljaju prilikom koristenja ovih metoda. Za svaku od tih metoda

napravljeni su ilustrativni numericki primjeri.

Osim klasicnih metoda za procjenu nepoznatih parametara, razmatrana je i metoda

najmanjih kvadrata. Kod metode najmanjih kvadrata treba razlikovati dva pristupa:

metodu najmanjih obicnih kvadrata i metodu najmanjih potpunih kvadrata. U radu

je detaljno razradena i numerickim primjerima ilustrirana metoda najmanjih obicnih

kvadrata za transformiranu Weibullovu distribuciju.

Glavni doprinosi ove disertacije sadrzani su u teoremima o egzistenciji optimalnih

parametara za 3-parametarsku Weibullovu funkciju distribucije i funkciju gustoce, i to

u smislu najmanjih obicnih kao i u smislu najmanjih potpunih kvadrata. Pri tome se od

podataka zahtijeva da ispunjavaju samo prirodne uvjete. Napravljeni su odgovarajuci

ilustrativni numericki primjeri. Svi ti teoremi o egzistenciji optimalnih parametara

generalizirani su i u p normi (1 ≤ p < ∞).

120

Summary

In this dissertation we consider the problem of existence of best parameters in the

Weibull model, one of the most widely used statistical models in reliability theory and

life data theory. Particular attention is given to a 3-parameter Weibull model. We

have listed some of the many applications of this model.

We have described some of the classical methods for estimating parameters of the

Weibull model, two graphical methods (Weibull probability plot and hazard plot), and

two analytical methods (method of moments and the maximum likelihood method).

We have highlighted some of the problems that occur when using these methods. For

each of these methods illustrative numerical examples are given.

In addition to classical methods of estimating the unknown parameters, we have

discussed the least squares method. By the least squares method one should distinguish

two approaches: the ordinary least squares method and the total least squares method.

We have elaborated in detail and illustrated with numerical examples the ordinary least

squares method for a transformed Weibull distribution.

The main contributions of this dissertation are contained in the theorems about

the existence of best parameters for the 3-parameter Weibull distribution function and

the density function in terms of both ordinary least squares and total least squares.

Thereby the data should satisfy natural conditions. Illustrative numerical examples are

provided. All these theorems about the existence of best parameters are generalized in

p norm (1 ≤ p < ∞) as well.

121

Zivotopis

Rodena sam 7. srpnja 1976. u u Osijeku, gdje sam zavrsila osnovnu i srednju skolu.

Na Pedagoski fakultet u Osijeku, smjer matematika-informatika, upisala sam se 1995.

Diplomirala sam 21. srpnja 2000. na Odjelu za matematiku Sveucilista u Osijeku s

diplomskim radom Aproksimacija krivuljama 2. reda pod voditeljstvom prof. dr. sc. Ru-

dolfa Scitovskog. Tijekom studija dobila sam rektorovu nagradu za akademsku godinu

1999./2000. i nagradu Lions Cluba 1998., te primala stipendiju grada Osijeka od druge

godine studija. Poslijediplomski studij matematike na Matematickom odjelu PMF-a

u Zagrebu upisala sam 9. rujna 2000. Magistrirala sam 25. travnja 2005. s magistarskim

radom Primjene i konstrukcija tezinskog ν−splajna, voditelj prof. dr. sc.Mladen Rogina.

Od 1. rujna 2000. do 30. rujna 2008. bila sam zaposlena kao asistent na Odjelu za

matematiku Sveucilista u Osijeku, a od 1. listopada 2008. zaposlena sam u nastavnom

zvanju predavaca.

Do 2006. bila sam suradnica na znanstvenom projektu ,,Procjena parametara u ma-

tematickim modelima” glavnog istrazivaca prof. dr. sc. Rudolfa Scitovskog. Od 2006.

suradnica sam na znanstvenom projektu ,,Pasivna kontrola mehanickih modela (235-

2352818-1042)”, glavni istrazivac prof. dr. sc. Ninoslav Truhar.

Clan sam seminara za numericku matematiku i racunarstvo koji se odrzava na

Matematickom odjelu PMF-a u Zagrebu, kao i seminara za optimizaciju u Osijeku. Re-

dovito sudjelujem u radu Matematickog kolokvija na Odjelu za matematiku Sveucilista

u Osijeku. Clan sam Udruge matematicara Osijek i bila sam clan organizacijskog od-

bora 4. Hrvatskog Matematickog kongresa koji se odrzao u Osijeku od 17.-20. lipnja

2008.

Do sada sam sudjelovala na sljedecim konferencijama i znanstvenim skupovima:

12th International Conference on Operational Research, Pula 2008., 4th Croatian Con-

gress of Mathematics, Osijek 2008., Conference on Applied Mathematics and Scien-

tific Computing, Brijuni 2005., PrimMath[2003], Zagreb 2003., Conference on Applied

Mathematics and Scientific Computing, Brijuni 2003., 9th International Conference on

Operational Research, Trogir 2002., PrimMath[2001], Zagreb 2001., 8th International

122

Conference on Operational Research, Rovinj 2000. i 2nd Croatian Congress of Mathe-

matics, Zagreb 2000.

problem procjene parametara u weibullovom modeludarija/papers/teza.pdf · 2011-03-22 · osnovne...

Documents