m etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/aula_tri_intro_mi685_2s_2017… ·...

114
etodos de estima¸c˜ ao: m´ aximaverossimilhan¸ca e marginal-perfilados frequentistas Prof. Caio Azevedo Prof. Caio Azevedo etodos de estima¸ ao: m´ axima verossimilhan¸ca e marginal-perfilados frequentistas

Upload: others

Post on 07-Aug-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Metodos de estimacao: maxima verossimilhanca

e marginal-perfilados frequentistas

Prof. Caio Azevedo

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 2: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Aspectos Gerais

Elevado numero de parametros.

Falta de identificabilidade.

Dificuldades na estimacao dos parametros.

Dificuldades na verificacao do ajuste dos modelos.

Ausencia de metodologias apropriadas para a selecao de modelos nao

encaixados.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 3: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Os tracos latentes sao variaveis aleatorias: θji.i.d.∼ N(0, 1)

(identificabilidade)

Suposicoes (inferencia) :

O tempo para se responder o teste e necessario.

As informacoes necessarias para se modelar a probabilidade de

resposta sao: o traco latente do indivıduo e os parametros do item.

Apenas uma dimensao do traco latente e necessaria para se modelar

tal probabilidade (unidimensionalidade).

Dados omissos sao oriundos de mecanismos de nao resposta nao

informativos.

As probabilidades de selecao de cada indivıduo que compoe a

amostra sao as mesmas.

Condicionadas as informacoes citadas anteriormente, as

probabilidades de resposta sao independentes.Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 4: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Historico da estimacao na TRI

Caracterısticas.

Numero elevados de parametros para estimar.

A verificacao das propriedades dos estimadores e muito complicada.

Falta de identificabilidade.

Necessidade de utilizacao de metodos numericos.

Espacos parametricos restritos.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 5: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Historico da estimacao na TRI

Maxima Verossimilhanca Marginal, MVM, (Bock and Lieberman, 1970).

MVM via pseudo algoritmo EM (Bock and Aitkin, 1981).

Moda marginal a posteriori via pseudo algoritmo EM (Mislevy, 1986).

MCMC via dados aumentados (Albert, 1992).

MCMC via algoritmo de MH (Patz and Junker, 1999).

Algoritmo EM via expansao parametrica (Rubin and Thomas, 2000).

Algoritmo EM estocastico (SEM), (Fox, 2000).

Algoritmo Robbins-Monro de Metropolis-Hastings (MHRM), Cai

(2010).

Algoritmo CADEM (contidional augmented data EM) (Azevedo and

Andrade (2013)).Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 6: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Metodo de Maxima Verossimilhanca

Metodo de Maxima Verossimilhanca

Consiste em maximizar a verossimilhanca com relacao aos

parametros (de interesse).

A verossimilhanca, basicamente, e a funcao conjunta da amostra

vista como funcao dos parametros.

Modelo Logıstico de 1 parametro

Pij = P(Yij = 1|θj , bi ) =1

1 + e−(θj−bi )

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 7: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Contexto Geral

Considere que n indivıduos respondem a um teste composto por I

itens.

Verossimilhanca : pela independencia entre as respostas dos

diferentes indivıduos e pela independencia condicional temos,

L(θ,b) =I∏

i=1

n∏j=1

Pyijij Q

1−yijij ,

em que Qij = 1− Pij , θ = (θ1, . . . , θn)′ e b = (b1, . . . , bI )′.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 8: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Quantidades necessariaslogverossimilhanca

l(θ, b) =n∑

j=1

I∑i=1

{yij lnPij + (1− yij) lnQij} ,

Suponha que temos um conjunto de n=1000 indivıduos submetidos a um

teste de I = 30 itens.

Considere que os itens que compoem o instrumento de medida sao

oriundos de uma banco de itens e, portanto, seus parametros sao

conhecidos.

A verossimilhanca passa a ser

l(θ) =n∑

j=1

I∑i=1

{yij lnPij + (1− yij) lnQij} .

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 9: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Descricao dos itens do teste 1

Item Dificuldade (b) Item Dificuldade (b) Item Dificuldade (b)

1 -3,0 1 -0,6 1 1,4

2 -2,8 2 -0,4 2 1,8

3 -2,4 3 -0,2 3 2,0

4 -2,0 4 0,0 4 2,2

5 -1,8 5 0,2 5 2,4

6 -1,6 6 0,4 6 2,6

7 -1,4 7 0,6 7 2,8

8 -1,2 8 0,8 8 3,0

9 -1,0 9 1,0 9 -1,1

10 -0,8 10 1,2 10 1,1

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 10: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Representacao Grafica dos Itens - teste 1

Curvas Cararcteristicas dos 30 itens

traco latente

prob

. de

resp

osta

corre

ta

-4 -2 0 2 4

0.0

0.2

0.4

0.6

0.8

1.0

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 11: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das equacoes de estimacao

Funcao escore

S(θj ) =∂ ln L(θ)

∂θj=

∂θj

n∑j=1

I∑i=1

{yij lnPij +

(1− yij

)lnQij

}Desenvolvimento

∂ ln L(θ)

∂θj=

I∑i=1

{yij∂ lnPij

∂θj+ (1− yij )

∂ lnQij

∂θj

}

=I∑

i=1

{yij

1

Pij

(∂Pij

∂θj

)− (1− yij )

1

Qij

(∂Pij

∂θj

)}

=I∑

i=1

{yij

1

Pij− (1− yij )

1

Qij

}(∂Pij

∂θj

)

=I∑

i=1

{yij − Pij

PijQij

}(∂Pij

∂θj

)

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 12: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das equacoes de estimacao

Mas,

∂Pij

∂θj=

e−(θj−bi )

[1 + e−(θj−bi )]2=

{1

1 + e−(θj−bi )

}{e−(θj−bi )

1 + e−(θj−bi )

}= PijQij ,

dessa forma,

S(θj) =I∑

i=1

[yij − Pij ] .

A equacao acima nao possui solucao explıcita.

Alternativa : uso de algoritmos numericos (Newton-Raphson/Escore

de Fisher).

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 13: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Elementos dos Processos Iterativos

Para a utilizacao dos algoritmos anteriores e necessario o calculo da

funcao Hessiana / Informacao de Fisher.

Funcao Hessiana

H(θj) =∂S(θj)

∂θj= −

I∑i=1

∂Pij

∂θj= −

I∑i=1

PijQij .

Informacao de Fisher

Notando que a funcao Hessiana e nao-estocastica temos,

I (θj) =I∑

i=1

PijQij .

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 14: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Metodos Iterativos

Considere θ(t)j uma estimativa de θj na t-esima iteracao.

Newton-Raphson

θ(t+1)j = θ

(t)j −

[H(θ

(t)j

)]−1

S(θ

(t)j

).

Escore de Fisher

θ(t+1)j = θ

(t)j +

[I(θ

(t)j

)]−1

S(θ

(t)j

).

Estimativas iniciais : escores padronizados. Erros-padrao: inversa da

informacao de Fisher.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 15: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Tracos latentes verdadeiros

traços latentes verdadeiros

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 16: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

−3 −2 −1 0 1 2 3

−4−2

02

4

traços latentes

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 17: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

verdadeiro

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

estimativa

traço latente

dens

idad

e

−4 −2 0 2 4

0.00

0.05

0.10

0.15

0.20

0.25

0.30

0.35

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 18: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

verdadeiro estimativa

−4−2

02

4

traço latente

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 19: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Invariancia na estimacao das habilidades

As estimativas obtidas atraves da TRI possuem a propriedade da

invariancia, ou seja, uma vez obtidos os seus valores, estes sao

unicos.

Considere a estimacao das habilidades dos mesmos indivıduos

obtidas a traves de dois outros conjuntos de itens (provas).

O primeiro conjunto e constituıdo de itens, em geral, mais faceis que

o primeiro conjunto. Ja o segundo, e constituıdo de itens mais

difıceis.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 20: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Descricao dos itens do teste 2

Item Dificuldade (b) Item Dificuldade (b) Item Dificuldade (b)

1 -3,0 1 -0,6 1 -2,4

2 -2,8 2 -0,4 2 -1,8

3 -2,4 3 -0,2 3 -1,4

4 -2,0 4 0,0 4 -1,0

5 -1,8 5 0,2 5 -0,6

6 -1,6 6 0,4 6 -0,2

7 -1,4 7 0,6 7 0,2

8 -1,2 8 0,8 8 -2,6

9 -1,0 9 -1,1 9 -1,2

10 -0,8 10 -3,0 10 0,0

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 21: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Representacao Grafica dos Itens - teste 2

Curvas Cararcteristicas dos 30 itens

traco latente

prob

. de

resp

osta

corre

ta

-4 -2 0 2 4

0.0

0.2

0.4

0.6

0.8

1.0

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 22: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

−3 −2 −1 0 1 2 3

05

1015

2025

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 23: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

verdadeiro

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

estimativa

traço latente

dens

idad

e

−5 0 5 10 15 20 25

0.00

0.05

0.10

0.15

0.20

0.25

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 24: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

verdadeiro estimativa

05

1015

2025

traço latente

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 25: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Descricao dos itens do teste 3

Item Dificuldade (b) Item Dificuldade (b) Item Dificuldade (b)

1 1,0 1 1,1 1 0,2

2 1,2 2 1,0 2 0,4

3 1,4 3 1,4 3 0,6

4 1,8 4 2,0 4 0,8

5 2,0 5 2,4 5 0,2

6 2,2 6 2,8 6 0,6

7 2,4 7 3,0 7 0,0

8 2,6 8 2,6 8 -0,2

9 2,8 9 1,2 9 -0,2

10 3,0 10 0,0 10 -0,4

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 26: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Representacao Grafica dos Itens - teste 3

Curvas Cararcteristicas dos 30 itens

traco latente

prob

. de

resp

osta

corre

ta

-4 -2 0 2 4

0.0

0.2

0.4

0.6

0.8

1.0

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 27: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

−3 −2 −1 0 1 2 3

−25

−20

−15

−10

−50

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 28: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

verdadeiro

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

estimativa

traço latente

dens

idad

e

−25 −20 −15 −10 −5 0 5

0.00

0.05

0.10

0.15

0.20

0.25

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 29: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

verdadeiro estimativa

−25

−20

−15

−10

−50

traço latente

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 30: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos tracos latentes

−4 −2 0 2 4

05

1020

traços latentes

teste 1

test

e 2

−4 −2 0 2 4

−25

−15

−50

traços latentes

teste 1

test

e 3

0 5 10 15 20 25

−25

−15

−50

traços latentes

teste 2

test

e 3

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 31: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Habilidades conhec. - Parametros dos itens desc.

Logverossimilhanca

l(b) =n∑

j=1

I∑i=1

{yij lnPij +

(1− yij

)lnQij

}.

Equacoes de estimacao

∂l(b)

∂bi=

n∑j=1

{yij∂(lnPij

)∂bi

+(1− yij

) ∂ (lnQij

)∂bi

}

=n∑

j=1

{yij

1

Pij

(∂Pij

∂bi

)−(1− yij

) 1

Qij

(∂Pij

∂bi

)}

=n∑

j=1

{yij

1

Pij− (1− yij )

1

Qij

}(∂Pij

∂bi

)

=n∑

j=1

{yij − Pij

PijQij

}(∂Pij

∂bi

).

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 32: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das equacoes de estimacao

Mas,

∂Pij

∂bi=

−e−(θj−bi )

[1 + e−(θj−bi )]2=

{−1

1 + e−(θj−bi )

}{e−(θj−bi )

1 + e−(θj−bi )

}= −PijQij ,

dessa forma,

S(bi ) = −n∑

j=1

[yij − Pij ] .

A equacao acima nao possui solucao explıcita.

Alternativa : Uso de algoritmos numericos (Newton-Raphson/Escore

de Fisher).

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 33: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Elementos dos Processos Iterativos

Para a utilizacao dos algoritmos anteriores e necessario o calculo da

funcao Hessiana / Informacao de Fisher.

Funcao Hessiana

H(bi ) =∂S(bi )

∂bi= −

n∑j=1

∂Pij

∂bi= −

n∑i=j

PijQij .

Informacao de Fisher

Notando que a funcao Hessiana e nao-estocastica temos,

I (bi ) =n∑

j=1

PijQij .

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 34: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Metodos Iterativos

Considere b(t)i uma estimativa de θj na t-esima iteracao.

Newton-Raphson

b(t+1)i = b

(t)i −

[H(b

(t)i

)]−1

S(b

(t)i

).

Escore de Fisher

b(t+1)i = b

(t)i +

[I(b

(t)i

)]−1

S(b

(t)i

).

Estimativas iniciais : proporcao de erros padronizadas. Erros-padrao:

inversa da informacao de Fisher.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 35: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Usando o Teste 1 e 3 grupos de indivıduos

Considere tres grupos de n=1000 indivıduos, com as proficiencias

conhecidas, submetidos a uma prova com I = 30 itens (com os

parametros desconhecidos).

Foram simulados a partir de distribuicoes normais diferentes (veja os

codigos).

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 36: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Histogramas dos tracos latentes

grupo 1

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

grupo 2

traço latente

dens

idad

e

2 3 4 5 6 7

0.0

0.1

0.2

0.3

0.4

grupo 3

traço latente

dens

idad

e

−7 −6 −5 −4 −3 −2

0.0

0.1

0.2

0.3

0.4

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 37: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Boxplots dos tracos latentes

grupo 1 grupo 2 grupo 3

−6−4

−20

24

6

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 38: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G1

−3 −2 −1 0 1 2 3

−3−2

−10

12

3

parâmetro de dificuldade

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 39: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G1

verdadeiro

parâmetro de dificuldade

dens

idad

e

−3 −2 −1 0 1 2 3

0.00

0.05

0.10

0.15

0.20

estimativa

parâmetro de dificuldade

dens

idad

e

−3 −2 −1 0 1 2 3

0.00

0.05

0.10

0.15

0.20

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 40: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G1

verdadeiro estimativa

−3−2

−10

12

3

parâmetro de dificuldade

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 41: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G2

−3 −2 −1 0 1 2 3

−2−1

01

23

parâmetro de dificuldade

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 42: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G2

verdadeiro

parâmetro de dificuldade

dens

idad

e

−3 −2 −1 0 1 2 3

0.00

0.05

0.10

0.15

0.20

estimativa

parâmetro de dificuldade

dens

idad

e

−3 −2 −1 0 1 2 3 4

0.00

0.05

0.10

0.15

0.20

0.25

0.30

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 43: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G2

verdadeiro estimativa

−3−2

−10

12

3

parâmetro de dificuldade

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 44: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G3

−3 −2 −1 0 1 2 3

05

1015

20

parâmetro de dificuldade

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 45: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G3

verdadeiro

parâmetro de dificuldade

dens

idad

e

−3 −2 −1 0 1 2 3

0.00

0.05

0.10

0.15

0.20

estimativa

parâmetro de dificuldade

dens

idad

e

−5 0 5 10 15 20 25

0.00

0.02

0.04

0.06

0.08

0.10

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 46: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultados da estimacao dos parametros dos itens - G3

verdadeiro estimativa

05

1015

20

parâmetro de dificuldade

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 47: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Dispersao entre as estimativas dos parametros de dific.

−3 −2 −1 0 1 2 3

−2−1

01

23

parâmetro de dificuldade

grupo 1

grup

o 2

−3 −2 −1 0 1 2 3

05

1015

20

parâmetro de dificuldade

grupo 1

grup

o 3

−2 −1 0 1 2 3

05

1015

20

parâmetro de dificuldade

grupo 2

grup

o 3

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 48: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Comentarios

Os erros-padrao assintoticos podem ser calculados estamos atraves

de I (bi )−1 e I (θj)

−1.

Problemas com padroes de resposta escore nulo e escore perfeito

(item e indivıduo).

Pode-se obter estimativas enviesadas para os tracos latentes, via MV

quando a metrica de sua distribuicao se afasta de (0,1), veja

Azevedo and Andrade (2009).

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 49: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Estimacao dos dois conjuntos de parametros

Suponha que temos um conjunto de n=1000 indivıduos submetidos

a um teste de I = 30 itens,em que todos os parametros sao

desconhecidos.

Temos que estimar, neste caso, 1030 parametros.

Note que, agora, ha a necessidade de se estabelecer uma metrica em

que os parametros irao ser estimados.

Verossimilhanca

L(θ,b) =I∏

i=1

n∏j=1

Pyijij Q

1−yijij .

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 50: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Consideracoes do processo de estimacao - Maxima

VerossimilhancaNao identificabilidade

Pij =1

1 + e−D(θj−bi )=

1

1 + e−D((θj−d)−(bi−d))

=1

1 + e−D(θ∗j −b∗i )

Estimacao simultanea

Inversao de matrizes da ordem de n x I.

Comprometimento das propriedades assintoticas dos estimadores.

Alternativa : Estimacao por Maxima Verossimilhanca Marginal.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 51: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Estimacao por Maxima Verossimilhanca Marginal

Considera-se uma distribuicao de probabilidade para os tracos

latentes (nao necessariamente no sentido bayesiano).

Multiplica-se a verossimilhanca original por essa densidade porposta

e entao integra-se com respeito aos tracos latentes.

Maximiza-se, entao, essa verossimilhanca marginal, com relacao aos

parametros dos itens.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 52: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Construcao da Verossimilhanca Marginal

Probabilidade Marginal de Resposta

P(Y .j = y .j |b,η

)≡ P (Y .j |b,η) =

∫<P(Y .j = y .j |θ,b

)g (θ,η) dθ

=

∫<P(Y .j = y .j |θ,b

)g (θ,η) dθ

=

∫<P (Y .j |θ,b) g (θ,η) dθ ,

em que P (Y .j |θ,b) =∏I

i=1 Pyiji Q

1−yiji e η e chamado de vetor

de parametros populacionais.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 53: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Construcao da Verossimilhanca Marginal

Verossimilhanca marginal

L (b,η) =n∏

j=1

P (Y .j |b,η) =n∏

j=1

∫<P (Y .j |θ,b) g (θ,η) dθ

=n∏

j=1

∫<

I∏i=1

P (Y ij |θ, bi ) g (θ,η) dθ .

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 54: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das expressoes

logverossimilhanca

l (b,η) =n∑

j=1

ln

∫<

I∏i=1

P (Y ij |θ, bi ) g (θ,η) dθ . (1)

Estimadores de Maxima verossimilhanca (Marginal)

∂l (b,η)

∂bi=

∂bi

n∑

j=1

lnP (Y .j |b,η)

=

n∑j=1

1

P (Y .j |b,η)

∂P (Y .j |b,η)

∂bi.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 55: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das expressoes

Mas,

∂P (Y .j |b,η)

∂bi=

∂bi

∫<P (Y .j |θ,b) g (θ,η) dθ

=

∫<

(∂

∂biP (Y .j |θ,b)

)g (θ,η) dθ

=

∫<

(∂

∂bi

I∏h=1

P (Y hj |θ, bh)

)g (θ,η) dθ

=

∫<

I∏h 6=i

P (Y hj |θ, bh)

( ∂

∂biP (Y ij |θ, bi )

)g (θ,η) dθ

=

∫<

(∂P (Y ij |θ, bi ) /∂bi

P (Y ij |θ, bi )

)P (Y .j |θ,b) g (θ,η) dθ .

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 56: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das expressoes

Alem disso,∂P(Yij |bi , θ

)∂bi

=∂

∂bi

(P

yiji Q

1−yiji

)= yijP

yij−1

i

(∂Pi

∂bi

)Q

1−yiji + P

yiji

(1− yij

)Q−yiji

(−∂Pi

∂bi

)=

[yijP

yij−1

i Q1−yiji − P

yiji

(1− yij

)Q−yiji

](∂Pi

∂bi

).

Notemos que o termo entre colchetes vale 1 quando yij = 1 e -1 quando yij = 0,

portanto, podemos reescreve-lo como (−1)yij+1. Com isso,

∂P(Yij |bi , θ

)∂bi

= (−1)yij+1

(∂Pi

∂bi

).

Note agora que

(−1)yij+1PiQi

Pyiji Q

1−yiji

=

Qi , se yij = 1

−Pi , se yij = 0= [yij − Pij ].

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 57: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das expressoes

Dessa forma, temos que1

P(Y ij |θ, bi

) ∂

∂biP(Y ij |θ, bi

)=

(yij − Pi

)PiQi

(∂Pi

∂bi

),

Logo,

∂P(Y .j |b,η

)∂bi

=

∫<

[(yij − Pi

)PiQi

(∂Pi

∂bi

)]P(Y .j |θ, b

)g (θ,η) dθ

= −∫<

[(yij − Pi

)]P(Y .j |θ, b

)g (θ,η) dθ ,

portanto,

S(bi ) =n∑

j=1

1

P(Y .j |b,η

) ∂P (Y .j |b,η)

∂bi= −

n∑j=1

∫<

[yij − Pi

]g∗j (θ) dθ ,

em que,

g∗j (θ) ≡ g(θ|y .j , b,η

)=

P(Y .j |θ, b

)g (θ|η)

P(Y .j |b,η

) .

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 58: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento das expressoes

Forma de quadratura

S(bi ) = −n∑

j=1

q∑l=1

[(yij − Pil

)]g∗j

(θl

),

Equacao de Bock & Aitkin

S(bi ) = −q∑

l=1

[( n∑j=1

yijg∗j

(θl

)− Pil

n∑j=1

g∗j

(θl

))]

= −q∑

l=1

[(r il − f ilPil

)],

em que

r il =n∑

j=1

yijg∗j

(θl

), f il =

n∑j=1

g∗j

(θl

).

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 59: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Aplicacao de um (pseudo) Algoritmo EM

Calcula estimativas de maxima verossimilhanca na presenca de dados faltantes

(processo iterativo).

Aplicacao na TRI : considerar as proficiencias como os dados nao observados.

Implementacao do algoritmo EM

Seja L(b|Y ..,θ) a densidade conjunta do dados completos (verossimilhanca) .

Se b(t)

e uma estimativa de b na iteracao t, entao os passos EM para obtencao

de b(t+1)

sao

Passo E: Calcular E [ln L(b|Y ..,θ)|Y .., b(t)

]

Passo M: Obter b(t+1)

que maximiza a funcao do Passo E.

No passo M a mazimizacao pode ser feita utilizando o algoritmo

Newton-Raphson/Escore de Fisher.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 60: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento da verossimilhanca - Algoritmo EM

Considere uma populacao divididade em q categorias de proficiencia

e que dela se extrai uma amostra de tamanho n.

Suponha que as proporcoes no item anterior sao dadas por

π = (π1, . . . , πq)′.

Denote por f i=(fi1, · · · , fiq)′ a quantidade de indivıduos em cada

nıvel de habilidade e r i =(ri1, · · · , riq)′ a quantidade daqueles que

respondem corretamente ao item i com nıvel de habilidade l, ambos

observados na amostra. Alem disso r = (r 1, · · · , r I )′.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 61: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento da verossimilhanca - Algoritmo EM

A probabilidade conjunta que os fil indivıduos tenham habilidades θl ,

l = 1, · · · , q, e dada pela distribuicao multinomial:

P (F i = f i |π) ≡ P(f i |π) =n(i)!∏ql=1 fil !

q∏l=1

πfilj , i = 1, · · · , I ,

Dados fil e θl , a probabilidade de ocorrerem ril acertos ao item i dentre as fil

tentativas (respostas) por indivıduos com habilidade θl e

P(Ril = ril |fil , θl

)≡ P(ril |fil , θl ) =

fil

ril

Prilil Q

fil−rilil ,

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 62: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento da verossimilhanca - Algoritmo EM

A probabilidade conjunta de f e r , dados θ = (θ1, · · · , θq)′ e π, e

P(F = f ,R = r |θ, π

)≡ P(f , r |θ, π) = P(r |f ,θ, π)P(f |θ, π)

= P(r |f ,θ)P(f |π)

=

{I∏

i=1

q∏l=1

P(ril |fil , θl )}{

I∏i=1

P(f i |π)

}

Segue que a log-verossimilhanca para os dados completos e :

ln L(ζ) = lnP(f |π) +I∑

i=1

q∑l=1

lnP(ril |fil , θl )

= lnP(f |π) +I∑

i=1

q∑l=1

ln

fil

ril

+ ril lnPil + (fil − ril ) lnQil

= C +

q∑l=1

I∑i=1

{ril lnPil + (fil − ril ) lnQil} ,

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 63: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento da verossimilhanca - Algoritmo EM

Tomando a esperanca da log-verossimilhanca, condicionada a

(Y ′..,b′)′, para os dados completos, temos que

E [ln L(b)|(Y ′..,b′)′] = C +

I∑i=1

q∑l=1

{r il lnPil + (f il − r il) lnQil

},

em que

r il = E [ril |Y ..,b], f il = E [fil |Y ..,b] e C = E [C |Y ..,b].

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 64: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Desenvolvimento da verossimilhanca - Algoritmo EM

Dessa forma, os passos E e M sao :

Passo E

Usar os pontos de quadratura θl , os pesos Al , l = 1, · · · , q e

estimativas iniciais dos parametros dos itens, bi , i = 1, · · · , I , para

gerar g∗j (θl) e, posteriormente, r il e f il , i = 1, · · · , I e l = 1, · · · , q.

Passo M

Com r e f obtidos no Passo E, resolver as equacoes de estimacao

para ζ i , i = 1, · · · , I , usando o algoritmo de Newton-Raphson ou

Escore de Fisher.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 65: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Passo M

Passo M

b(t+1)i = b

(t)i + I (b

(t)i )−1S(b

(t)i )

em que

S(bi ) =

q∑l=1

[( n∑j=1

yijg∗j

(θl

)− Pil

n∑j=1

g∗j

(θl

))]

=

q∑l=1

[(r il − f ilPil

)],

I (bi ) =

q∑l=1

f ilPilQil

Erros-padrao: inversa da informacao de Fisher. Para outras opcoes veja o

manual do mirt.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 66: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Estimacao dos tracos latentes - Maxima Verossimilhanca

PerfiladaDe posse das estimativas dos parametros dos itens constroi-se uma

verossimilhanca perfilada para estimar as proficiencias

L(θ, b) =I∏

i=1

n∏j=1

Pyijij Q

1−yijij ,

Assim, utiliza-se a verossimilhanca acima, tal como no caso em que

os parametros dos itens eram conhecidos.

Considere um teste com n=1000 indivıduos e I=30 itens, com todos

os parametros desconhecidos.

Teste 1 e grupo 1. Mais resultados veja o arquivo: “Traco Latente e

par itens desconhecidos MI 685 2 S 2017.r”

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 67: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultado do processo de estimacao

−3 −2 −1 0 1 2 3

−3−2

−10

12

3

parâmetros de dificuldade

valor verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 68: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultado do processo de estimacao

−3 −2 −1 0 1 2 3

−4−2

02

4

traços latentes

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 69: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultado do processo de estimacao

verdadeiro

traço latente

dens

idad

e

−2 0 2 4

0.0

0.1

0.2

0.3

0.4

estimativa

traço latente

dens

idad

e

−4 −2 0 2 4

0.00

0.05

0.10

0.15

0.20

0.25

0.30

0.35

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 70: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Resultado do processo de estimacao

verdadeiro estimativa

−4−2

02

4

traço latente

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 71: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo de 2 parametros

Equacoes de verossimilhanca: Forma de quadratura

ai :n∑

j=1

q∑l=1

[(yij − Pil)

(θl − bi

)]g∗j(θl)

= 0

bi : −ain∑

j=1

q∑l=1

[(yij − Pil)] g∗j(θl)

= 0

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 72: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo de 2 parametros

Informacao de Fisher: Forma de quadratura

I (ζ i ) = E {−H (ζ i )}

=

q∑l=1

filP∗ilQ∗il hilh

il , (2)

hil = (PilQil)−1

(∂Pil

∂ζ i

)=

θl − bi

ai (1− ci )

(3)

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 73: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo de 3 parametros

Equacoes de verossimilhanca: Forma de quadratura

ai : (1− ci )n∑

j=1

q∑l=1

[(yij − Pil)

(θl − bi

)Wil

]g∗j(θl)

= 0

bi : −ai (1− ci )n∑

j=1

q∑l=1

[(yij − Pil)Wil ] g∗j

(θl)

= 0

ci :n∑

j=1

q∑l=1

[(yij − Pil)

Wil

P∗il

]g∗j(θl)

= 0

com Wij =P∗ij Q

∗ij

PijQij, P∗ij =

{1 + e−Dai (θj−bi )

}−1e Q∗ij = 1− P∗ij

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 74: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo de 3 parametros

Informacao de Fisher: Forma de quadratura

I (ζ i ) = E {−H (ζ i )}

=

q∑l=1

filP∗ilQ∗il hilh

il ,

em que

hil = (P∗ilQ∗il )−1

(∂Pil

∂ζ i

)=

(1− ci )

(θl − bi

)−ai (1− ci )

1

P∗il

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 75: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Comparacao de modelos

Seja l(ζ,η) a log-verossimilhanca marginal (Equacao (1)) e

p = (k1 + k2) numero de parametros, em que k1 e o numero de

parametros dos itens, k2 e o numero de parametros populacionais e

n e o numero de indivıduos.

AIC = −2l(ζ, η) + 2p.

BIC = −2l(ζ, η) + p ln(n).

AICc = AIC +2p(p + 1)

n − p − 1.

SABIC = −2l(ζ, η) + p ln

(n + 2

24

).

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 76: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Comparacao de modelos

Os modelos de 2 e 3 parametros tambem foram ajustados.

Nomenclatura: modelo 1 (1P), modelo 2 (2P), modelo 3 (3P).

Resultados (AIC/BIC/AICc/SABIC)

modelo AIC BIC AICc SABIC

1 28567,13 28714,36 28569,05 28619,08

2 28580,42 28874,88 28588,21 28684,32

3 28624,51 29066,21 28642,53 28780,36

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 77: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: parametro dos itens

0 5 10 15 20 25 30

−3−2

−10

12

3

item

true

valu

e/es

timat

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 78: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: parametro dos itens

−3 −2 −1 0 1 2 3

−3−2

−10

12

3

parâmetros de dificuldade

valor verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 79: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: tracos latentes

−3 −2 −1 0 1 2 3

−4−2

02

4

traços latentes

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 80: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: tracos latentes

verdadeiro

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

estimativa

traço latente

dens

idad

e

−4 −2 0 2 4

0.00

0.05

0.10

0.15

0.20

0.25

0.30

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 81: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: tracos latentes

verdadeiro estimativa

−4−2

02

4

traço latente

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 82: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: tracos latentes

−3 −2 −1 0 1 2 3

−4−2

02

4

quantil da N(0,1)

quan

til do

traç

o la

tent

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 83: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: tracos latentes

N(0,1) Estimado

−4−2

02

4

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 84: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 1: tracos latentes

valores

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

N(0,1)

Estimado

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 85: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: parametro dos itens

0 5 10 15 20 25 30

−4−2

02

4

item

true

valu

e/es

timat

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 86: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: parametro dos itens

0 5 10 15 20 25 30

0.5

1.0

1.5

2.0

item

true

valu

e/es

timat

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 87: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: tracos latentes

−3 −2 −1 0 1 2 3

−4−2

02

4

traços latentes

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 88: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: tracos latentes

verdadeiro

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

estimativa

traço latente

dens

idad

e

−4 −2 0 2 4

0.00

0.05

0.10

0.15

0.20

0.25

0.30

0.35

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 89: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: tracos latentes

verdadeiro estimativa

−4−2

02

4

traço latente

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 90: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: tracos latentes

−3 −2 −1 0 1 2 3

−4−2

02

4

quantil da N(0,1)

quan

til do

traç

o la

tent

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 91: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: tracos latentes

N(0,1) Estimado

−4−2

02

4

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 92: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 2: tracos latentes

valores

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

N(0,1)

Estimado

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 93: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: parametro dos itens

0 5 10 15 20 25 30

−4−2

02

4

item

true

valu

e/es

timat

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 94: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: parametro dos itens

0 5 10 15 20 25 30

0.5

1.0

1.5

2.0

2.5

item

true

valu

e/es

timat

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 95: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: parametro dos itens

0 5 10 15 20 25 30

0.0

0.2

0.4

0.6

0.8

1.0

item

true

valu

e/es

timat

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 96: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: tracos latentes

−3 −2 −1 0 1 2 3

−6−4

−20

24

traços latentes

verdadeiro

estim

ativa

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 97: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: tracos latentes

verdadeiro

traço latente

dens

idad

e

−3 −2 −1 0 1 2 3

0.0

0.1

0.2

0.3

0.4

estimativa

traço latente

dens

idad

e

−6 −4 −2 0 2 4

0.00

0.05

0.10

0.15

0.20

0.25

0.30

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 98: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: tracos latentes

verdadeiro estimativa

−6−4

−20

24

traço latente

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 99: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: tracos latentes

−3 −2 −1 0 1 2 3

−6−4

−20

24

quantil da N(0,1)

quan

til do

traç

o la

tent

e

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 100: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: tracos latentes

N(0,1) Estimado

−6−4

−20

24

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 101: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Modelo 3: tracos latentes

valores

dens

idad

e

−4 −2 0 2 4

0.0

0.1

0.2

0.3

N(0,1)

Estimado

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 102: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Estimacao da densidade dos tracos latentes: modelo 1

−3 −2.3 −1.7 −1 −0.3 0.3 1 1.7 2.3 3

quadrature points

dens

ity (q

uadr

atur

e we

ight

s)

0.0

0.1

0.2

0.3

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 103: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Grafico de ajuste (probabilidade): modelo 1

−6 −4 −2 0 2 4 6

0.2

0.4

0.6

0.8

1.0

Item:1

latent trait

prob

abilit

y of

cor

rect

resp

onse

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 104: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Escores observados: modelo 1

0 5 10 15 20 25 30

0.00

0.02

0.04

0.06

0.08

0.10

score

frequ

ency

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 105: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Proporcoes observadas de resposta correta: modelo 1

0 5 10 15 20 25 30

0.0

0.2

0.4

0.6

0.8

1.0

Item : 1

score

prop

ortio

n of

cor

rect

resp

onse

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 106: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Checagem preditiva 1

Ajusta-se algum modelo e armazena-se as estimativas dos

parametros ζ e θ.

Simula-se R amostras (Y (r), r = 1, 2, ...,R), a partir do modelo

ajustado e das estimativas ζ e θ.

Para cada um das amostras Y (r) calcula-se as quantidades de

interesse, e.g, distribuicao dos escores e proporcao de resposta

correta, para cada item, em funcao dos escores.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 107: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Checagem preditiva 1

Distribuicao preditiva dos escores:

Para cada Y (r), calcular a distribuicao dos escores, digamos e(r)f

(frequencia absoluta ou relativa dos indivıduos que apresentarem

nıvel de escore f , f = 0, 1, ..., I ).

Para cada f , ordena-se, de forma crescente, ao longo dos valores r,

os ef , gerando-se as estatısticas de ordem para cada valor do escore,

ou seja (ef (r)).

Calcula-se, para cada f , em funcao dos valores r , a mediana e os

quantis de interesse.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 108: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Checagem preditiva 1

Distribuicao preditiva das probabilidades de resposta correta:

Para cada Y (r), calcula-se a proporcao de resposta correta, por item

para cada valor do escore, digamos P(r)if (proporcao de respostas

corretas dos indivıduos que apresentaram nıvel de escore f ,

f = 0, 1, ..., I ).

Para cada f , ordena-se, de forma crescente, ao longo dos valores r,

para cada item i, os P(r)if , gerando-se as estatısticas de ordem para as

probabilidades para cada item e escore, ou seja Pif (r).

Calcula-se, para cada f e i , em funcao dos valores r , a mediana e os

quantis de interesse.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 109: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Escores observados e preditos: modelo 1

0 5 10 15 20 25 30

0.00

0.02

0.04

0.06

0.08

0.10

score

frequ

ency

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 110: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Proporcoes de respostas corretas obs. e pred.: modelo 1

5 10 15 20 25

0.0

0.2

0.4

0.6

0.8

1.0

Item : 1

score

prop

ortio

n of

cor

rect

resp

onse

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 111: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Checagem preditiva 2

Ajusta-se algum modelo e armazena-se as estimativas dos

parametros ζ e θ.

Simula-se R amostras (Y (r), r = 1, 2, ...,R), a partir do modelo

ajustado e das estimativas ζ e θ, para quais se ajustam, novamente,

o modelo acima, obtendo-se (ζ(r), θ

(r)), r = 1, 2, ...,R.

Para cada um das amostras Y (r) e estimativas (ζ(r), θ

(r)) calcula-se

as quantidades de interesse, e.g, proporcao de respostas correta, para

cada item, em funcao dos tracos latentes e resıduos apropriados.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 112: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Checagem preditiva 1

Distribuicao preditiva das probabilidades de resposta correta:

Para cada Y (r), calcula-se a proporcao de respostas corretas, por

item e para cada valor do ponto de quadratura, digamos P(r)if f ,

f = 0, 1, ..., q (proporcao de resposta correta dos indivıduos que

apresentaram traco latente em torno do valor θf , f = 0, 1, ..., q).

Para cada f , ordena-se, de forma crescente, ao longo dos valores r,

para cada item i, os P(r)if , gerando-se as estatısticas de ordem para as

probabilidades para cada item e ponto de quadratura, ou seja (Pif (r)).

Calcula-se, para cada f e i , em funcao dos valores r , a mediana e os

quantis de interesse.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 113: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Probabilidades de respostas corr. obs. e pred.: modelo 1

−6 −4 −2 0 2 4 6

0.2

0.4

0.6

0.8

1.0

Item:1

latent trait

prob

abilit

y of

cor

rect

resp

onse

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas

Page 114: M etodos de estima˘c~ao: m axima verossimilhan˘ca e ...cnaber/Aula_TRI_Intro_MI685_2S_2017… · Hist orico da estima˘c~ao na TRI M axima Verossimilhan˘ca Marginal, MVM, (Bock

Baker, F. and Kim, Seock-Ho (2004). Item response theory :

Parameter Estimation Techniques, Marcel Dekker, Inc.

Azevedo, C. L. N. (2003). Metodos de estimacao na Teoria da

Resposta ao Item. Dissertacao de mestrado, IME-USP.

Andrade, D.F, Tavares, H. R. e Valle, R. C. (2000). Teoria da

Resposta ao Item: conceitos e aplicacoes, 140SINAPE ,ABE .

Azevedo, C. L. N. and Andrade, D. F. (2010). An estimation method

for latent trait and population parameters in Nominal Response

Model. Brazilian Journal of Probability and Statistics, 24, 3.

Prof. Caio Azevedo

Metodos de estimacao: maxima verossimilhanca e marginal-perfilados frequentistas