Download - Modelos ARMA
ECONOMETRIA II:
ECONOMETRIA DE SERIES TEMPORALES
Modelos ARMA
• Definicion: Ruido blanco. Se dice que el proceso {εt} es ruidoblanco (”white noise”) si:
E (εt) = 0Var(εt) = E (ε2t ) = σ2
Para todo i 6= j : Cov(εiεj) = E (εiεj) = 0
• Notacion: εt ∼ WN
• Ruido blanco Gaussiano: Para todo t, εt ∼ N(0, σ2). Notacion:εt ∼ WN(0, σ2)
• Definicion: Modelo ARMA. Un modelo autoregresivo-mediamovil (”autoregressive moving average”—ARMA) tiene la forma:
yt = φ0 +
p∑i=1
φiyt−i +
q∑j=0
θjεt−j ,
donde el proceso {εt} es ruido blanco.
Este modelo se denota como ARMA(p, q), y normalmente senormaliza θ0 a 1.
Nota: Suponemos que todas las raıces caracterısticas estan dentrodel cırculo de unidad. Si una o varias raıces caracterısticas estanencima o fuera del circulo de unidad, el modelo se llamaautoregresivo-integrado-media movil (”autoregressive integratedmoving average”—ARIMA(p, d , q), donde d es el orden deintegracion)
Ejemplos de modelos ARMA:
ARMA(0,0): yt = φ0 + εt
ARMA(0,1): yt = φ0 + εt + θ1εt−1
ARMA(1,0): yt = φ0 + φ1yt−1 + εt
ARMA(1,0)(paseoaleatorio)
: yt = yt−1 + εt
ARMA(1,1): yt = φ0 + φ1yt−1 + εt + θ1εt−1
Ejemplos de modelos ARMA (cont.):
• Modelos ARMA(p,0) con θ0 = 1:
yt = φ0 +
p∑i=1
φiyt−i + εt
tambien se denotan modelos AR(p).
• Modelos ARMA(0,q):
yt = φ0 +
q∑j=0
θjεt−j
tambien se denotan modelos MA(q)
Modelos MA(q):
• MA(1): yt = φ0 + εt + θ1εt−1, donde {εt} es ruido blanco
⇒ µ = E (yt) = φ0
⇒ γ0 = Var(yt) = (1 + θ21)σ
2
⇒ γk = Cov(yt , yt−k) =
{θ1σ
2 para k = 10 para k > 1
• Es el modelo MA(1) estacionario? Si
• Que es Corr(yt , yt−k)?
→ ρk = Corr(yt , yt−k) = γkγ0
Modelos MA(q) (cont.):
• MA(q): yt = φ0 +∑q
j=0 θqεt−q, donde {εt} es ruido blanco ydonde θ0 = 1
⇒ µ = φ0
⇒ γ0 = (1 + θ21 + · · ·+ θ2
q)σ2
⇒ γk =
{(θk + θk+1θ1 + · · ·+ θqθq−1)σ
2 para k = 1, . . . , q0 para k > q
• Es el modelo MA(q) estacionario? Si
• Que es Corr(yt , yt−k)?
→ ρk = γkγ0
Modelos MA(q) (cont.):
• MA(∞): yt = φ0 +∑∞
j=0 ψjεt−j , donde {εt} es ruido blanco ydonde ψ0 = 1
• Notacion: MA(∞)
• Como podemos saber si MA(∞) es un proceso estacionario ybien definido? Una de las condiciones siguientes es suficiente:
a)∑∞
j=0 ψ2j <∞
⇑
b)∑∞
j=0 |ψj | <∞
Modelos MA(q) (cont.):
• Entonces, por el MA(∞) tenemos que:
⇒ µ = φ0
⇒ γ0 = limT→∞(ψ20 + ψ2
1 + · · ·+ ψ2T )σ2
⇒ γk = σ2(ψkψ0 + ψk+1ψ1 + ψk+2ψ2 + · · · )
Modelos AR(p):
• AR(1): yt = φ0 + φ1yt−1 + εt , donde {εt} es ruido blanco
• Es el modelo AR(1) estacionario (”estable”)?
→ Si |φ1| < 1 ⇒ si
→ Si |φ1| ≥ 1 ⇒ no
• Por que |φ1| < 1 ⇒ AR(1) estacionario?
Modelos AR(p) (cont.):
• Porque eso implica que el modelo AR(1) se puede escribir comoun modelo MA(∞):
yt = φ0 + φ1yt−1 + εt
= φ0 + φ1(φ0 + φ1yt−2 + εt−1) + εt
= φ0 + φ1[φ0 + φ1(φ0 + φ1yt−3 + εt−2)+εt−1] + εt
...= (φ0 + εt) + φ1(φ0 + εt−1) + φ2
1(φ0 + εt−2) + · · ·
= φ0 ·∑∞
i=0 φi1 + εt + φ1εt−1 + φ2
1εt−2 + φ31εt−3 + · · ·
= φ01−φ1
+ εt + φ1εt−1 + φ21εt−2 + φ3
1εt−3 + · · ·
= MA(∞)
Modelos AR(p) (cont.):
• Recuerda:∑∞
j=0 |ψj | <∞⇒ MA(q) estacionario, y en nuestrocaso (dado que |φ1| < 1) tenemos∑∞
j=0 |ψj | =∑∞
j=0 |φj1| <∞
• De todo esto se deduce (cuando |φ1| < 1):
µ = φ01−φ1
γ0 = σ2
(1−φ21)
γk =φk
1
1−φ21σ2
ρk = γkγ0
= φk1
Modelos AR(p) (cont.):
• El modelo AR(2) se define como:
yt = φ0 + φ1yt−1 + φ2yt−2 + εt (1)
• Aplicando el operador de retardo el AR(2) se puede escribir como
(1− φ1L− φ2L2)yt = φ0 + εt
y (1) es estacionario si las p raıces caracterısticas λ1 y λ2 estandentro del cırculo de unidad (es decir, |λ1|, |λ2| < 1)
• Como calculamos las 2 raıces caracterısticas λ1, λ2 de un AR(2)?
(1− φ1z − φ2z2) = 0 ⇔ (λ2 − φ1λ− φ2) = 0
donde λ = 1z
Modelos AR(p) (cont.):
• Nota: A veces se utiliza una terminologıa diferente que puedeconfundir:
raıces del polinomo 1− φ1z − φ2z2 esta fuera del cırculo de unidad
m
Las raıces caracterısticas estan dentro del circulo de unidad
• Si todas las raıces caracterısticas estan dentro del cırculo deunidad, entonces podemos escribir
ψ(L) = (1− φ1L− φ2L2)−1 = ψ0 + ψ1L + ψ2L
2 + · · · (2)
y finalmente
yt = ψ(L)φ0 + ψ(L)εt
= MA(∞)(3)
Modelos AR(p) (cont.):
• Suponiendo que las 2 raıces caracterısticas estan dentro delcırculo de unidad, entonces tenemos que:
µ = φ01−φ1−φ2
γ0 = φ1γ1 + φ2γ2 + σ2
γk = φ1γk−1 + φ2γk−2
ρk = γkγ0
Modelos AR(p) (cont.):
• El modelo AR(p) se define como:
yt = φ0 +
p∑i=1
φ1yt−i + εt
• Suponiendo que todas las raıces caracterısticas estan dentro delcırculo de unidad, entonces tenemos que:
µ = φ01−φ1−···−φp
γ0 = φ1γ1 + · · ·+ φpγp + σ2
γk = φkγk−1 + · · ·+ φpγk−p
ρk = γkγ0
Nota: Las p + 1 ecuaciones definidas por ρ0, . . . , ρp se llaman lasecuaciones de Yule-Walker
ARMA(p, q), representacion de media movil MA(∞):
Un modelo ARMA(p, q) estacionario/estable siempre tiene unarepresentacion de media movil MA(∞):
yt = φ0 +∑p
i=1 φiyt−i +∑q
j=0 θjεt−j
se puede escribir
(1− φ1L− · · · − φpLp)yt = φ0 + (1 + θ1L + · · ·+ θqL
q)εt ,
y si el ARMA(p, q) es estable entonces
yt = φ01−φ1−···−φp
+ ψ(L)εt
= MA(∞)
donde ψ(L) =1+θ1L+···+θqLq
1−φ1L−···−φpLp
Teorema de Wold (1938):
• Hemos visto que procesos ARMA(p, q) estacionarios se puedenescribir como un modelo MA(∞), es decir, comoyt = φ0 +
∑∞j=0 ψjεt−j donde ψ0 = 1, si
∑∞j=0 |ψj | <∞
• El teorema de Wold establece que esto es cierto para todoproceso estacionario
Teorema de Wold (1938) (cont.):
Teorema (Wold): Cualquier proceso estacionario {yt} con mediacero se puede representar de la forma
yt =∞∑j=0
ψjεt−j + κt (4)
donde ψ0 = 1 y∑∞
j=0 ψ2j <∞. El proceso {εt} es ruido blanco y
representa el error resultante de predecir yt con una funcion linealde los retardos de yt :
εt = yt − E (yt |yt−1, yt−2, . . . )
El valor de κt es incorrelado con εt−j para cualquier j , pero sepuede predecir κt arbitrariamente bien con una funcion lineal delos valores pasados de yt :
κt = E (κt |yt−1, yt−2, . . . )
Teorema de Wold (1938) (cont.):
• Nota 1: La parte∑∞
j=0 ψjεt−j se llama el componentelinealmente indeterminıstico
• Nota 2: La parte κt se llama el componente linealmentedeterminıstico
• Problema: Estimar la representacion de Wold de una serierequiere la estimacion de un numero infinito de parametros
• Tenemos solamente un numero finito de observaciones
• Solucion: Hacer supuestos adicionales sobre la naturaleza deψ1, ψ2, . . .
Teorema de Wold (1938) (cont.):
• Estrategia 1: Aproximar la suma infinita con una suma finita:
1 + θ1L + θ2L2 + · · ·+ θqL
q
1− φ1L− φ2L2 − · · · − φpLp=
∞∑j=0
ψjLj ≈
r∑j=0
ψjLj
• Entonces se obtiene (en general) una buena aproximacion conpocos parametros
• Estrategia 2: Hamilton (1994, capıtulo 6)
Invertibilidad de MA(q):
• Recordamos: Si un modelo AR(p) es estable, entonces podemosescribirlo como un MA(∞)
• Si un modelo MA(q) es invertible, entonces podemos escribirlocomo un AR(∞)
• Definicion: Invertibilidad de MA(q). Un modelo MA(q) sepuede escribir como yt − φ0 = (1 + θ1L + θ2L
2 + · · ·+ θqLq)εt . Si
el MA(q) se puede escribir como un modelo AR(∞) utilizando lainversa del (1 + θ1L + θ2L
2 + · · ·+ θqLq), entonces se dice que
MA(q) es invertible.
• Condicion suficiente para la invertibilidad: Que todas las raıcesdel polinomo (1 + θ1z + θ2z
2 + · · ·+ θqzq) = 0 estan fuera del
cırculo de unidad
Invertibilidad de MA(q) (cont.):
• MA(q): yt = φ0 +∑q
j=0 εt−j
⇒ yt − φ0 = (1 + θ1L + θ2L2 + · · ·+ θqL
q)εt
• Si todas las raıces estan fuera del circulo de unidad tenemos que
(1 + η1L + η2L2 + · · · ) = (1 + θ1L + θ2L
2 + · · ·+ θqLq)−1
y entonces
(1 + η1L + η2L2 + · · · )(yt − φ0) = εt
es un AR(∞) representacion del modelo MA(q).
Causalidad:
• Definicion: Causalidad. Un proceso {yt} es causal, o unafuncion causal de {εt}, si existen constantes ψj ası que
i)∑∞
j=0 |ψj | <∞
ii) yt =∑∞
j=0 ψjεt−j para todo t
• Ejemplos: Modelos AR(1) con |φ1| < 1:
→ yt = φ1yt−1 + εt
→ yt = φ0 + φ1yt−1 + εt
q-correlacion:
• Definicion: q-correlacion. Un proceso {yt} estacionario esq-correlacionado si Cov(yt , yt−k) = 0 para todo |k| > q, y siCov(yt , yt−k) 6= 0 para todo |k| ≤ q.
• Recuerda:
→ Cov(yt , yt−k) = 0 ⇔ Corr(yt , yt−k) = 0 y
→ Cov(yt , yt−k) 6= 0 ⇔ Corr(yt , yt−k) 6= 0
• Ejemplo: Modelos MA(q)
Referencias:
Hamilton, J. D. (1994). Time Series Analysis. Princeton, NewJersey: Princeton University Press.
Wold, H. (1938). A Study in the Analysis of Stationary TimeSeries. Uppsala, Sweden: Almqvist and Wiksell.