11

時系列分析2

1 変量時系列モデルとその性質

担当： 長倉 大輔

（ながくらだいすけ）

一変量時系列モデルとその性質

時系列モデル

時系列モデルとは時系列データを生み出すメカニズムとなるものである。

これは実際には未知である。私たちにできるのは観測された時系列データからその背後にある時系列モデルを推測、推定するだけである。

以下ではいくつかの代表的な時系列モデルを考察する。

2

一変量時系列モデルとその性質

自己回帰モデル(Autoregressive Model)

もっとも頻繁に使われる時系列モデルは自己回帰モデル（ARモデル）である。

p次のARモデル(これをAR(p)モデルという)は以下のように定義される。

ここで である。

3

tptpttt yyycy 2211

)(W.N.~ 2 t

一変量時系列モデルとその性質

AR(1)モデル

まず p = 1 の場合を考えよう。

これはAR(1)モデルと呼ばれる。

このモデルは の時に定常となる。以後は常に を仮定する。

このモデルの平均、自己共分散、自己相関はどのような形をとるだろうか？

4

ttt ycy 11

1|| 1 1|| 1

一変量時系列モデルとその性質

AR(1)モデルの期待値

定常性を仮定したので yt と yt–1の期待値は同じ。これを μ とおこう。

先ほどの両辺の期待をとって

よってAR(1)モデルの期待値は となる。

5

1

11

c

c

11

c

一変量時系列モデルとその性質

AR(1)モデルの分散

定常性を仮定したので yt と yt–1の分散は同じ。(分散は 0 次の共分散と等しいことに注意)。これを γ0 とおこう。

先ほどの両辺の分散をとって( yt–k , k > 0 と εt の共分散が 0 になることは後ほど示す)

よってAR(1)モデルの分散は となる。

6

2

1

2

0

2

0

2

101

2

1

2

1

一変量時系列モデルとその性質

AR(1)モデルの自己共分散

yt と yt – k の共分散は

となる。この漸化式を使えば より順に計算できる。

7

11

11 ),cov(

),cov(

k

kttt

kttk

yy

yy

2

1

2

01

一変量時系列モデルとその性質

AR(1)モデルの自己相関

yt と yt –k の自己相関は、先ほどの共分散の式の両辺をγ0で割って

を得るので、この漸化式を使えば より順に計算できる。

AR(1)の のコレログラムは次のようになる。

8

11 kk

10

k

k 1

3

13

2

1211 ,,,,

8.01

9

0

0.2

0.4

0.6

0.8

1

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

の時のAR(1)のコレログラム

-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

の時のAR(1)のコレログラム

8.01

8.01

一変量時系列モデルとその性質

AR(1)モデルの自己相関の特徴

(1) 自己相関は指数関数的に減少

(2) が負の時には振動しながら減少

(3) 自己相関のパターンが非常に単純

AR(1)モデルの自己相関の形状は制約的でより複雑な自己相関を表すためにはより一般的なモデルが必要

⇒ AR(p) モデル

10

1

一変量時系列モデルとその性質

AR(p)モデルの期待値

定常性を仮定したので yt , yt–1, yt–2, …, yt–p の期待値は同じ。これを μ とおこう。

AR(p) モデルの式の両辺の期待をとって

よってAR(p)モデルの期待値は となる。

11

p

p

c

c

21

21

1

p

c

11

一変量時系列モデルとその性質

AR(p)モデルの分散

AR(p) モデルの分散は

で与えられる。

12

pp

2211

2

01

宿題1 (提出する必要はありません)

AR(p) モデルの分散は

で与えられる事を示しなさい。

13

pp

2211

2

01

一変量時系列モデルとその性質

AR(p)モデルの自己共分散と自己相関

AR(p) モデルの自己共分散と自己相関は次の関係を満たす。

下の式は特にユール・ウォーカー方程式と呼ばれる。

14

1,2211 kpkpkkk

1,2211 kpkpkkk

一変量時系列モデルとその性質

AR(p)モデルの自己共分散の関係の確認

AR(p) モデル：

は を用いると

と書き直す事ができる。

15

,2211 tptpttt yyycy

p

c

211

,)()( 11 tptptt yyy

一変量時系列モデルとその性質

AR(p)モデルの自己共分散の関係の確認

この両辺に yt –k – μをかけて期待をとると

となる。自己相関の場合は自己共分散の関係を γ0

で割ればよい。

16

pkpkk

kttktptp

ktt

kttk

yEyyE

yyE

yyE

2211

11

)]([)])([(

)])([(

)])([(

一変量時系列モデルとその性質

例題 (AR (1) モデル)

AR(1) モデル:

において、 の時、yt が定常でない事を確認しなさい。

例題 (AR(2)モデル)

AR(2) モデル:

の 1 次と 2 次の自己相関、 と をユール・ウォーカー方程式を使って求めなさい。

17

1 2

).(N.W~,0, 2011 tttt yyy

).(N.W~, 2

2211 ttttt yyy

11

一変量時系列モデルとその性質

AR(p)モデルの定常性の条件

AR(1)モデルの定常性の条件は であった。AR(p)モデルの定常性の条件は以下のようになる。

「多項式: のすべての解の絶対値が 1 より大きい。」

AR(1) の場合は の解 の絶対値が1 より大きい

→

AR(2) の場合は次の図のようになる。

18

1|| 1

01 221 p

pzzz

01 1 z 1/1 z

1|| 1

19

1

2

1

1 2–1 –2

–2

一変量時系列モデルとその性質

移動平均モデル（Moving Average Model)

ARモデルと並んでよく使われる時系列モデルに移動平均モデル(MAモデル)がある。

q次のMAモデル(これをMA(q)モデルという)は以下のように定義される。

ここで である。

MA(q) モデルは θkの値にかかわらず常に定常である。

20

qtqtttt cy 2211

)(W.N.~ 2 t

一変量時系列モデルとその性質

MA(1)モデル

まず q = 1 の場合を考えよう。

これはMA(1)モデルと呼ばれる。

このモデルの期待値、自己共分散、自己相関は以下のようになる。

21

11 ttty

一変量時系列モデルとその性質

MA(1)モデルの期待値、

→ MA(1)モデルは単純に切片が期待値である。

22

)()()(

)()(

11

1

tt

ttt

EEE

EyE

一変量時系列モデルとその性質

MA(1)モデルの分散、自己共分散

23

1for0

1for

0for)1(

),cov(),cov(

),cov(),cov(

),cov(

),cov(

21

221

111111

11

1111

k

k

k

yy

kttktt

kttktt

ktkttt

kttk

一変量時系列モデルとその性質

MA(1)モデルの自己相関

自己共分散より

→ MA(1)モデルにおいて次数が 1 より大きい自己相関は 0

24

1for0

1for1 2

1

1

k

kk

-0.6

-0.5

-0.4

-0.3

-0.2

-0.1

0

0.1

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

の時のMA(1)のコレログラム

0

0.1

0.2

0.3

0.4

0.5

0.6

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

の時のMA(1)のコレログラム

25

8.01

8.01

一変量時系列モデルとその性質

MA(q)モデルの期待値

MA(q)モデルの自己共分散

26

)()( 11 qtqttt EyE

kq

qkσθθθθθθθ

kσθθθ

γ qkqkkk

q

k

for0

1for)(

0for)1(

22211

2222

21

一変量時系列モデルとその性質

MA(q)モデルの自己相関

→ MA(q)モデルにおいて次数が qより大きい自己相関は 0

MA(2)モデル: yt = εt + θ1εt–1 + θ2 εt–2 のコレログラムは以下のようになる。

27

qk

qkq

qkqkk

k

for0

1for1 22

1

11

28

0

0.1

0.2

0.3

0.4

0.5

0.6

1 2 3 4 5 6 7 8 9 10-0.7

-0.6

-0.5

-0.4

-0.3

-0.2

-0.1

0

0.1

0.2

1 2 3 4 5 6 7 8 9 10

-0.2

-0.1

0

0.1

0.2

0.3

0.4

0.5

1 2 3 4 5 6 7 8 9 10

-0.5

-0.4

-0.3

-0.2

-0.1

0

0.1

0.2

1 2 3 4 5 6 7 8 9 10

2.0,8.0 21 2.0,8.0 21

2.0,8.0 21 2.0,8.0 21

一変量時系列モデルとその性質

MA(q)モデルの問題点

q 次の自己相関をモデル化するために q +1個のパラメーターが必要となる。したがって、長期間の依存関係を表すためには多くのパラメーターが必要となる。

29

一変量時系列モデルとその性質

自己回帰移動平均(Autoregressive Moving Average)

モデル

ARモデルの特徴とMAモデルの特徴の両方を持つモデルである。ARMAモデルと呼ばれる。

ARMA(p, q)モデルは以下のように定義される

ここで εt ~ W.N. (σ2) である。

30

qtqttt

ptpttt yyycy

2211

2211

一変量時系列モデルとその性質

ARMAモデルの特徴

ARMAモデルは以下の特徴を持つ。

(1)

(2) q + 1 次以降の自己共分散と自己相関は以下の方程式(ユールウォーカー方程式)に従う。

(q次までの自己共分散、自己相関は一般的に表現するのが難しい)

31

p

c

211

1,2211 qkpkpkkk

1,2211 qkpkpkkk

一変量時系列モデルとその性質

ARMAモデルの特徴

(3) ARMAモデルの定常性の条件はARモデルと同じである。すなわち

「p次の多項式: のすべての解の絶対値が 1 より大きい。」

以下はARMA(1, 1) モデルのコレログラムである。

32

01 221 p

pzzz

33

5.0,2.0 11 8.0,5.0 11

5.0,9.0 11

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

1 2 3 4 5 6 7 8 9 10

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

1 2 3 4 5 6 7 8 9 10

0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

1 2 3 4 5 6 7 8 9 10

0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

1 2 3 4 5 6 7 8 9 10

8.0,9.0 11

演習問題

問題 1

AR(1) モデル:

をMA(∞)モデル:

で表した時の θiはどのようになるか？

34

ttt yy 11

1i ititty

演習問題

問題 2

次のモデルの中で定常なモデルを全て選べ

(a)

(b)

(c)

(d)

(e)

35

)(W.N.~,2 2 ttty

)(W.N.~, 21 tttty

)(W.N.~,3.0 21 tttty

)(W.N.~,5.0 21 tttt yy

)(W.N.~,4.03.1 221 ttttt yyy

宿題2 (提出する必要はありません)

ある時系列データの 1次の自己相関は 0.9、2次以上の自己相関は 0 であった。この時系列データをMA(1)モデルで表すことは可能か？もし可能であるならばその時のθ1 の値はいくつか？

また別の時系列データの 1次の自己相関は 0.4、2次以上の自己相関は 0 であった。この時系列データをMA(1)

モデルで表すことは可能か？もし可能であるならばその時の θ1 の値はいくつか？

36

宿題3 (提出する必要はありません)

MA(2) モデル:

について

(1) E(yt) を求めよ。(2) γ0 , γ1, γ2を求めよ。(3) k > 2 に対して γk = 0 となる事を確認せよ。

37

2211 tttty

宿題4 (提出する必要はありません)

ARMA(1, 1)過程

について以下の問いに答えよ。

(1) 定常性の条件を求めよ。(2) ytの期待値 μを求めよ。(3) γ0を求めよ(ヒント：cov(yt–1, εt) = 0, cov(yt–1, εt–1) = σ2)。(4) γ1を求めよ。 (5) ρ1を求めよ。(6) ユールウォーカー方程式を用いて k >1 において

ρkを求めよ。(7) として10次までのコレログラムを描け。

38

).(.~, 21111 NWycy ttttt

5.0,9.0 11

一変量時系列モデルとその性質

ラグ・オペレーターを用いた表現と応用

これまで示してきた AR, MA, ARMAモデルはラグ・オペレーターと呼ばれるものを使うと簡単に表現できる。

ラグ･オペレーター(これを L と書く)とは次のように時点を 1 つ前の時点に戻す操作を行う。

L yt = yt –1

これを k回行う、すなわち L を k回 “掛ける” と

Lk yt = yt–k

のように時点が k個前にもどる。また L0 = 1 とする。

39

一変量時系列モデルとその性質

AR(p)モデルのラグ・オペレーターを用いた表現

AR(p)モデル:

はラグ･オペレータを用いると

と表す事ができる。ここでという L の p次の多項式を表す。

40

).(N.W~, 211 ttptptt yycy

ttp

ttp

p

ttp

ptt

ttp

ptt

cyL

cyLL

cyLLyy

yLLycy

)(

)1( 1

1

1

ppp LLL 11)(

一変量時系列モデルとその性質

MA(q)モデルのラグ・オペレーターを用いた表現

同様に、MA(q)モデル:

はラグ･オペレータを用いると

と表す事ができる。ここで θq(L) = 1 + θ1L + … + θq Lq

という L の q次の多項式を表す。

41

).(N.W~, 211 tqtqttty

tqt

tq

qt

tq

qttt

Ly

LLy

LLy

)(

)1( 1

1

一変量時系列モデルとその性質

ARMA(p, q)モデルのラグ・オペレーターを用いた表現

同様に、ARMA(p, q)モデル:

はラグ･オペレータを用いると

と表す事ができる。ここで ,

および θq(L) = 1 + θ1L + … + θq Lq である。

42

).(N.W~, 211

11

tqtqt

tptptt yycy

tqtp LcyL )()(

ppp LLL 11)(