時系列解析（6）...時系列解析（6） −arモデルの推定− 概要 2...
TRANSCRIPT
東京⼤学 数理・情報教育研究センター北川 源四郎
時系列解析（６）− ARモデルの推定 −
概 要
2
１．ARモデルによる予測２．1変量ARモデルの推定
（１）Yule-Walker法（２）最尤法（３）最⼩⼆乗法（Householder法）（４）PARCOR法（５）数値例
２．多変量ARモデルの推定（１）Levinson-Durvin法（２）Householder法（３）変数選択例
３．関連する話題（１）最終予測誤差FPE（２）統計的最適制御
時系列のモデリング
3
モデル情報抽出・分析・予測・制御・意思決定
データ
評価
推定
⾃⼰回帰モデル（AR Model)
m
jnjnjn vyay
1
n
n
j
yvma
定常時系列正規⽩⾊雑⾳⾃⼰回帰の次数⾃⼰回帰係数
2~ (0, )[ ] 0[ ] 0 0
n
n k
n n j
v NE v v n kE v y j
4
ARスペクトル2
2 21
1 1
2 2( ) ,
1| |m ijfjj
p f fa e
5
dataLynxCanadian
次数によって結果は変わる（スペクトル）dataLynxCanadian Earthquake data
AIC best AIC best
Data Data
AutoCorrelation AutoCorrelationPARCOR PARCOR
AIC AIC
Periodogram (in log scale) Power Spectrum (in log scale) Periodogram (in log scale) Power Spectrum (in log scale)
次数
ARモデルと予測
1 1n n m n m ny a y a y v
過去の値（m個）予測値
観測値
予測誤差
6
| 1n ny
n
n-m n-1 n
ARモデルによる予測ARモデル
y a y a y vn n m n m n 1 1 1 1
現在までのデータで決まる部分
1| 1 1n n n m n my a y a y
1|111 nnnnn vyy
ノイズ
⼀期先予測誤差
1期先予測
7
⼀期先予測誤差の性質1 1
2 2 21 1
0n n
n n
E E vE E v
平均分散
yn+1|n：時刻 n までの情報に基づくyn+1の予測値
ARモデルによる⻑期予測
y a y a y a y vn n n m n m n 2 1 1 2 2 2
y a y a y a y vn n n n n n m n m n n n 2 1 1 2 2 2| | | | |
yn yn m 2 0
1121|1 mnmnnnn yayayay
8
y a y a y a yn n n n n m n m 2 1 1 2 2| |
3|12|21|3 mnmnnnnnn yayayay
⻑期予測の誤差
2112|111
2|22
)(
nnnnnn
nnnn
vavyya
yy
222112 nmnmnnn vyayayay y a y a y a yn n n n n m n m 2 1 1 2 2| |
11|11 nnnnn vyy
02112 nnn EvEaE 22
12
22112
121
22 )1(2 aEvvEaEaE nnnnn
222
21
21
23 )(1 aaaE n
9
⻑期予測の誤差の性質
|
| |0
1
|0 0
00 0n k
n k n
n k n j n k j n j n k jj j k
k
n k n k n k n j n k j j n k j j n k jj j k j
v kv
k
y g v g v
y y g v g v g v
10東京⼤学 北川源四郎
0 0,n j n j n k j n k j
j jy g v y g v
（例） 0
1 12
2 1 2
1gg a
g a a
⼀般論は状態空間モデルで
1
01 1
2 2 2 2 2
0 0
[ ] [ ] 0
[ ] [ ]
k
n k j n k jjk k
n k j n k j jj j
E g E v
E g E v g
11
⻑期予測 dataLynxCanadian
1m
5m
10m
m
jnjnjn vyay
1
次数によって結果は変わる（予測）
いずれも最適予測分布(平均、分散）
0 20 40 60 80 100
0 20 40 60 80 100
0 20 40 60 80 100
4
3
2
1
4
3
2
1
4
3
2
1
例： ⻑期予測 Blsfoodデータ
5m
10m
1m
12
15m
⾃⼰回帰モデル（AR Model)の推定
なぜ⼀般性のあるARMAモデルでなくARモデルの推定を考えるのか？
１．この時点でARMAモデルの推定（最尤法など）は困難（状態空間モデルが必要）
２．ARモデルの推定は簡単（最⼩⼆乗法など）３．ARモデルの実⽤性が⾼い４．ARMAモデルは⾃由度が⾼すぎ，やや不安定
13
パラメータ推定AR係数 と分散 の推定
次数 m の選択AR次数 m の決定
ARモデルの同定問題
),0(~, 2
1
Nvvyay n
m
injnjn
ja 2
14
多数の次数とパラメータを推定する必要がある
１．Yule-Walker法２．最尤法３．最⼩⼆乗法４．PARCOR法（3種類）
ARモデルのパラメータ推定の⽅法
15
a1,…,am, 2
C0, C1,…, Cm
（１）Yule-Walker法
Yule-Walker⽅程式
),2,1(1
2
10
kCaC
CaC
kj
m
jjk
j
m
jj
y a y vn j n j ni
m
1
16
0 1 1 11
21 0 2 2
1 2 0
ˆ ˆ ˆ ˆ
ˆ ˆ ˆ ˆ
ˆ ˆ ˆ ˆ
m
m
mm m m
C C C CaaC C C C
aC C C C
20
1
ˆ ˆˆ ˆm
j jj
C a C
係数に関する1次⽅程式
（Toeplitz matrix）
Yule-Walker⽅程式の導出（再掲）
y a y vn j n j ni
m
1
1
2
1
( ) ( ) ( )
0 0( )
0
( ) ( ) ( )
m
n k n j n k n j n k ni
n k n
m
n n k j n j n k n n ki
E v y a E v y E v v
kE v y
k
E y y a E y y E v y
20
1
1
, ( 1,2, )
m
j kjm
k j j kj
C a C
C a C k
17
Yule-Walker法は何をやっているか
18
Yule-Walker法では予測誤差分散の期待値を最⼩にするように係数 aj を決めている．
),0(~, 2
1
Nvvyay n
m
injnjn
2 2 2
1
01 1 1
2
1
[ ]
2
2 2 0, ( 1, , )
( )m
n n j n jj
m m m
j j j i i jj j i
m
j i i jj i
E v E y a y
C a C a a C
C a C j ma
19
Levinsonʼs Algorithm (Levinson-Durbin)
• m 元⼀次⽅程式の計算量 （Gauss消去法： m3/3＋O(m2)）• 次数は未知： １次〜M 次
3 3 2 2 4(1 2 ) / 3 ( 1) /12 /12M M M M
⼀連のYule-Walker⽅程式を単純に計算すると
Levinsonのアルゴリズムは⼀連のYule-Walker⽅程式を効率よく求める⽅法• 計算量は 2M 2 程度になる
2
4 2
100 2 24 24 0.0024
/12 10, 000
MM
M M
のとき
Levinsonʼs Algorithm
2
14 2 ( 1) 2
M
mm M M M
2. 1,...,m M について
11 2 1
11
1 1
2 2 21
2m
( ) ( )( )
( ) ( ) 1 ( )
ˆ( ) AIC (log 2 1) 2( 1)
mm mm m j m j m
jm m m mj j m m j
mm m m
m
a a C a C
b a a a ac ad N m
20
積除 和差
m m-1
m-1 m-1
2 1
2m+1 2m-1
計算量：
20 0
20 0
1. ˆAIC (log 2 1) 2
C
N
44a
221
2
11
)(1 mmmm
mjm
mm
mj
mj
a
aaaa
Levinsonʼs Algorithm
20
21 1
1a
22
23
22a2
1a
33a
24
PARCOR
21
43a4
2a
32a3
1a
41a
Levinson Algorithmの導出
22
Ck, (k=0,1,…)とm−1次のARモデルのYule-Wlaker推定値が与えられているとき，m次のARモデルのYule-Walker推定値を効率よく求める⽅法．
1 11 1ˆ ˆ, , Yule-Wal kerm m
ma a は ⽅程式をみたす．
11
1
ˆ , ( 1, , 1)m
mk j j k
jC a C k m
1
11 1
1
ˆ( ) 0, ( 1, , 1)][
mn
mm mn n k n j n j n k
j
v
E v y E y a y y k m
予測誤差 について
23
11 1
1
mm m
n j n j nj
y a y w
m－1次の後向きARモデル
C-k=Ck なので，後向きARモデルも同じYule−Walker⽅程式をみたす．1
1 1
1
ˆ( ) 0, ( 1, , 1)][m
m mn m n k n m j n m j n k
jE w y E y a y y k m
1 1
1 11 1
1 11
1 1
1
ˆ ˆ( )
ˆ ˆ( )
m mn n n k
m mm m
n j n j n m j n m jj j
mm m
n j m j n j n mj
z v w
y a y y a y
y a a y y
0, 1, , 1
0
n n k
n n m
E z y k m
E z y
については⾃動的になりたつのでが成りたつように を決めればよい．
Levinson Algorithmの導出（２）
24
1 11 1
1 1
1 11 1
01 1
ˆ ˆ( )
ˆ ˆ( ) 0
} ][{m m
m mn n m n j n j n m j n m j n m
j j
m mm m
m j m j j jj j
E z y E y a y y a y y
a C C a CC
1 1
1 1 10
1 1
12 1 1
11
ˆ ˆ
ˆ
( ) ( )
( ) ( )
m mm mj j m j m j
j j
mm
m m j m jj
C a C C a C
C a C
mma
1 1ˆ ˆ ˆ ˆ m m m mj j m m ja a a a
とおくと1 1
1 1
ˆ ˆ( ) 0, ( 1, , )][m m
m mn j n j n k k j k j
j jE y a y y C a C k m
1̂ ˆ, , Yule-Walkerm mma a m は 次の ⽅程式の解
Levinson Algorithmの導出（３）
25
12
01
11 1
01
1 11 1
01 1
12 1
11
ˆ ˆ
ˆ ˆ ˆ ˆ( )
ˆ ˆ ˆ( )
ˆ ˆ ˆ( )
mm
m j jj
mm m m mj m m j j m m
j
m mm m mj j m m m j j
j j
mm m
m m m m j jj
C a C
C a a a C a C
C a C a C a C
a C a C
1
1 21
1
ˆ ˆ ˆm
m mm m j j m m
jC a C a
2 2 2
1ˆ ˆ ˆ(1 ( ) )mm m ma
Levinson Algorithmの導出（４）
（２）最尤法：ARモデルの尤度
),0(~, 2
1
Nvvyay n
m
jnjnjn
1 0 1 1
2 1 0
1
1 1 0
00
, ,
0
N
N N
y C C Cy C C
y CC
y C C C
12 2 1
1
~ ( , )1( ) ( ,..., | ) (2 ) | | exp ( ) ( )2
N TN
y N C
L p y y C x C x
26
定義通りの⽅法
の数値的最適化により最尤推定値を求める( ) log ( )L
21( , ..., , )T
ma a
（２）最尤法：ARモデルの尤度
1
1 2 1
1 2 1 3 1 2
1 11
( ) ( , ..., | ),( | ) ( , ..., | , )( | ) ( | , ) ( , ..., | , , )
( | , ..., , )
N
N
N
N
n nn
L p y yp y p y y yp y p y y p y y y y
p y y y
2
1 1 2 12
1 1( | ,..., , ) exp22
mn n n j n jj
p y y y y a y
27
n < m のとき ？• 低次のAR係数を計算して，同様に条件付き分布を計算• (y1,…,ym)の部分だけ定義通りの⽅法で計算• 厳密な最尤法には状態空間モデルが便利
n m のとき
各時刻の条件付き分布に分解する⽅法
（３）最⼩⼆乗法：尤度の近似
n m
1 11
1 11
2 22
1 1
( ) log ( | , ..., )
log ( | , ..., )
1log(2 ) ( )2 2
N
n nn
N
n nn m
N m
n j n jn m j
p y y y
p y y y
N m y a y
28
2
21
2
1 1
11
2
1
2
( | ,..., , )
( | ,..., , ) expm
j n jj
n
n n
n n m n a yy
p y y y
p y y y
のとき
• 最初のm個 y1,...,ymの分布を無視（条件付けだけに使う）。• モデル⽐較のためには無視するデータ数を同じにする。
（３）最⼩⼆乗法によるARモデルの推定
2 2
2 2ˆ ˆ( , ) log(2 )j
N m N ma
2 2
1 1
1 ( )N m
n j n jn m jN m
y a y
2 2 2
1 1
ˆ ˆmax ( , ) min min ( )j jj
N m
j n j n ja aa n m ja y a y
2 2 22
1 12
1( , ) log(2 ) ( )2
N m
j n j n jn m j
N ma y a y
2
22
2 2 21 12
( , ) 1 ( ) 02( )
N mj
n j n jn m j
N may a y
近似最尤法 〜 最⼩⼆乗法
29
最⼩⼆乗法
1 1 1 1
1
, , , m m m
N N N m m N
y y y a vy Z a v
y y y a v
y Za v 2 2
1ˆ ( )T T
v y Zaa Z Z Z y
30
31
Householder 法
Householder法• 平⽅根アルゴリズム（フィルタリングでも使える）• 共分散⾏列を使わずデータ⾏列から直接推定
Householder法を使うメリット１．計算精度（2倍精度）２．トータルの計算量が少ない２．モデルの⾃由度（変数選択、次数選択）３．計算上の便利さ（モデル併合、データ逐次併合）
デメリット１．Householder法特有のデメリットはほぼない２．最⼩⼆乗法⾃体のデメリットは継承する
32
Householder 法
1 1 1
1 2 2
1 2
, m m m
m m m
N N N m N
y y y yy y y yZ y
y y y y
1 1 1
1 2 2
1 2
11 1 1, 1
, 1
1, 1
= | m m m
m m m
N N N m N
m m
mm m m
m m
y y y yy y y yX Z y
y y y y
s s s
s sSHX O s
O
m
N-m
33
1,
1,11111
mk
m
kkk
k
s
s
a
a
s
ss
12 2
, 11
2
1ˆ
ˆ( )(log 2 1) 2( 1)
m
k i mi k
k k
sN m
N m k
AIC
Householder 法（予測誤差分散とAIC)
Householder法（再掲）
:U 任意の直交変換2 2 2 2( )N N N N
y Za U y Za Uy UZa
22 minmin UZaUyaa
11 1 1, 1
, 1
1, 1
|
0
m m
mm m m
m m
s s s
X Z y UX S s s
s
1m
34
（ベクトルの⻑さを変えない）
N
最⼩⼆乗法（Householder法）
1, 1 11 11
1
2 21, 1 11
1, 1
1, 1 11 1 1
2 21, 1
, 1
|| ||
0 0
|| ||
m
NmN
mm
m m
m m m
m m mm m
s s s
a
Uy UZa s s
as
s s s a
s
s s a
35
最⼩⼆乗解
1,
1,11111
mm
m
mmm
m
s
s
a
a
s
ss
, 1
, 1 , 1 1 ,
21, 12
ˆ
ˆ ˆˆ 1, ,1
ˆ
m mm
mm
i m i i i i m mi
ii
m mm
sa
ss s a s a
a i ms
sn
36
AICによる次数選択
mk 1,...,for
37
2
2
ˆ ˆ( ) log 22 2
ˆ2 ( ) 2( )ˆ(log 2 1) 2( 1)
A IC
m
m
m
N N
N m
パ ラ メ ー タ 数
2 2 21, 1 1, 1
2
1ˆ
ˆ(log 2 1) 2( 1)AICk k m m m
k k
s sn
N k
11 1 1 1, 1
, 1
, 1
1, 1
0
k m m
kk km k m
mm m m
m m
s s s s
s s s
s s
s
11 1 1 1, 1
, 1
k m
kk k k m
s s a s
s a s
38
（４）PARCOR法によるARモデルの推定1 1ˆ ˆ ˆ ˆ ( 1, , 1)m m m m
j j m m ja a a a j m
12 1 1
11
ˆ ˆˆ ˆ ˆ( )m
m mm m m j m j
ja C a C
Levinsonʼs algorithm
をデータから直接推定する1
1 1
1
mm m
n j n j ni
y a y w
1 11 1
1 1
1
1 1
1 1
1
1
m mm m
m j m j n j n j n mj i
mn n m
m mn n m
Nm mn n m
n m
C a C E y a y y
E v y
E v w
v wN m
ˆ mma
39
12
1 11 1
01 1
1
21
21
1
2 21 1
1 1
2 21 1
1 1
1
1
12( )
m mm mj j n m j n m j n m
j i
mn m n m
mn m
Nmn m
n m
N Nm mn m n
n m n m
N Nm mn m n
n m n m
C a C E y a y y
E w y
E w
wN m
w vN m
w vN m
12
121 1 1
1 1
2 21 1 1 1
1 1 1
12 21 1 1 1
1 1 1
N Nm m mn n m n m
n m n m
N N Nm m m m mm n n m n m n
n m n m n m
N N Nm m m mn n m n m n
n m n m n m
v w w
a v w w v
v w w v
Partial Regression
PARCOR法
Burg法（MEM)
2 21 1m mn m nE w E v
40
推定法の特徴
定常性 数値精度 モデル精度 速度 ⾃由度Yule-Walker法 ○ △ △ ○ △最尤法 ◎ ○ ◎ × ○最⼩⼆乗法 × ◎ ○ ◎ ◎PARCOR法 △ ○ ◎ ◎ △
Yule-Walker法では実際は⾮定常な場合でも定常になる。Householder最⼩⼆乗法でYule-Walker法の計算もできる。
41
数値例 Candian Lynx data
# Package TSSS# AR model fitting for Candian Lynx data# method=1 (default) Yule-Walker method# method=2 Householder least squares method# method=3 Parcor method (Partial autoregrssion)# method=4 PARCOR# method=5 Burg's algorithm (MEM)#arfit(lynx,method=2)
1850
1900
1950
2000
2050
1 0.8 0.6 0.4 0.2 0
ARモデルのAIC'
Sunspot data（Box-Cox変換の選択）
42
2250
2300
2350
2400
1 0.8 0.6 0.4 0.2 0
正規モデルのAIC'
原データ Box-Cox(0.4)
43
Hakusan (ship）dataarfit(hakusan1)
44
Daily maximum temperature dataarfit(maxtemp)
45
BLSFOOD dataarfit(blsfood)
46
WHARD dataarfit(whard)
47
MYE1F earthquake dataarfit(mye1f) arfit(mye1f,lag=20)
48
多変量ARモデルの推定：Yule-Walker法
1, ~ (0, )
mm
n j n j n n mi
y A y v v N V
Tk n n kC E y y
01
1( 1, 2, )
m
j jim
k j k ji
C A C V
C A C k
0 1 1 1 1
1 0 2 2 2
1 2 0
m
m
m m m m
C C C A CC C C A C
C C C A C
49
多変量ARモデルの推定：Levinson‐(Durbin)法
前向きモデル
1,
~ (0, )
mm
n j n j ni
n m
y A y v
v N V
• 1変量ARモデルの場合，Levinsonアルゴリズムにより，Yule-Walker推定値を効率よく推定できる．
• アルゴリズムの導出には前向きモデルと後向きモデルを利⽤• 多変量の場合にも同様のアルゴリズムがある．ただし，前向き
モデルと後向きモデルが異なるため 2倍のパラメータが必要
後ろ向きモデル
1,
~ (0, )
mm
n j n j ni
n m
y B y u
u N U
推定するパラメータ
2
(( , ), 1, , ), , , 1, ,
( ( 1) 2)
{ }m mj j m mA B j m V U m M
M M
パラメータ数
50
多変量ARモデルの推定：Levinson‐(Durbin)法
0 0 0
0
0
( log 2 log | | ) ( 1)V U C
N k V k k k
次の モデル
0
1. MAR AIC
2. 1,..., m M について 1
1
11 1
1 11 1 1 1
0 01 1
2 2
( )
( ) ,( ) ,
( ) ,
ˆ( log 2 log | | ) ( 1) 2
mm
m m j m jj
m m Tm m m m m mm m m m m m m mj j m m j j j m m j
m mm T m
m j j m j jj j
m m
a W C A C
b A W U B W Vc A A A B B B B A
c V C A C U C B C
d N k V k k k k m
m
=
( ) AIC
51
最⼩⼆乗法による多変量ARモデルの推定
同時応答モデル1
, ~ (0, )m
n j n j n ni
y A y v v N V
01
, ~ (0, )m
n n j n j n ni
y B y B y w w N W
21
20 2
0
20 0
2,1
,1 , 1
0 0 0
( ) 0 0,
( ) ( ) 0 kk k k
O
bB W
b b O
1 10 0
1( ) ( ) ,
m
n j n j ni
y I B B y I B w
1
0
10 0
( )
( ) ( )j j
T
A I B B
V I B W I B
パラメータ数 mk2＋k(k+1)/2
MARモデルと1対1対応 Wは対⾓⾏列
11 1, 1,
1 1
1, 1,1 2 2
1,
1
= | ,
km k km kT T Tm m
T T Tkm k km km m
km kT T TN N m N
s s sy y y
s sy y yS
X Z y HXO
sy y y
O
k(m+1)
N-m
km k
52
W は対⾓⾏列 ⾏ごとに独⽴に推定できる
• モデリングが⾃由に⾏える。変数ごと（説明変数，⽬的変数）に異なる次数を決められる
• 計算量が減少する （mk2)3=m3k6 k(mk)3=mk4
4
3 6 2 2
1mkm k m k
2 2
1 15 10 2500
k=10, m=5のとき
Householder 法のメリット
11 1, 1, 11
, , 1
kj km
kj kj kj kj km
s s sc
s c s
53
11 1, 1, 1
, , 1
1, 1
km km
kmkm kmkm
km km
s s s
S s ss
km+1
km+1
1 11 1,1 1 1,( ) ( ) ( ) ( ) ( )
j j
n i n i i n i ni i
k ky b y b y w
12
12
2, 11
1 1
1ˆ ( )
ˆ( ) ( ) log(2 ( ) 1) 2( 1)
km
ji kj
j j
i kmN mN m kj
s
AIC
kj
第1成分のモデル推定
11 1, 1, 1, 1
, , , 1
, , 1
1, 1
kj km km
kj kj kj km kj km
km km km km
km km
s s s s
s s sS
s ss
54
Householder変換
： 変換前の⾏の⾼さ（⾮零成分）： 変換後の⾏の⾼さ（⾮零成分）
1
1
( ,..., )( ,..., )
L
L
ind ind indjnd jnd jnd
and s.t. ( ) ( )
( ) ( )H
ind jnd H H S ind S jnd
S ind S jnd
11 1, 1, 1 1, 21
21 2, 2 2, 2
1 1, 21,
kj km km
kj km
kj kj kmkj kj
s s s scs s c s
c ss
55
1 1(2) (2,1) (1) (2, ) ( )
j j
n i n i i n i ni i
y b y b k y k w
22
22
2, 22
2
1ˆ ( )
ˆ(2) ( ) log(2 ( ) 1) 2( 2)
km
ji kj
j j
i kmN mN m kj
s
AIC
第２成分のモデル推定11 1, 1, 1 1, 2 1,
21 2, 2, 2 2,
1, 1, 2 1,
2, 2 1,
,
km km km km k
km km km k
km km km km km km k
km km km km k
km k km k
s s s s ss s s s
s s sSs s
s
変数選択の⽅法
56
重回帰モデルの場合
多変量時系列の場合1
m
n j nj nj
y a x
1
i i
k
n j nj ni
y a x
a1 a2 a3 am
1,11 1
1,22 2
1
1,
(1,1) (1,2) (1, )(2,1) (2,2) (2, )
( ,1) ( ,2) ( , )
j j j nn n
mj j j nn n
j
j j j nn n
a a a yya a a yy
a a a yy
⽬的変数 ＝ 説明変数 変数を削除すると⽐較評価ができない ２つ以上のグループにわけて，AICの和を⽐較する
57
Y R P Ru AIC1 AIC2 AIC9400.82 9400.826443.16 3085.15 9528.31 6658.67 2945.51 9604.18 7929.95 1866.90 9796.86 7640.95 2209.20 9850.15 3734.66 5982.36 9717.03 4954.60 4834.74 9789.35 4667.95 5166.17 9834.12
船舶データ（Yaw,Roll,Pitch,Rudder)YawRate
Rolling
Pitching
Rudder
58
テストデータ（3ch: ⽩⾊雑⾳）
Y R W Ru AIC1 AIC2 AIC9533.72 9533.72 6608.60 3085.15 9430.06 6658.67 2821.46 8525.57 8032.19 1866.90 10241.39 7715.43 2209.20 9924.63 3734.66 5928.63 9663.29 5066.87 4834.74 9901.61 4734.23 5166.17 9900.40
YawRate
Rolling
White Noise
Rudder
59
Y R P Ru AIC1 AIC2 AIC7777.53 7777.53 4848.33 3085.15 7933.48 6658.67 1112.85 7771.52 6301.14 1866.90 8168.04 5971.24 2209.20 8180.44
3734.66 4213.76 7948.43 3337.37 4834.74 8172.11 2979.00 5166.17 8145.17
テストデータ（Pitchingを⼊れ替え）YawRate
Rolling
Pitchiing
Rudder
推定したモデルによる予測誤差＝ 真のモデルによる予測誤差
×モデルの推定誤差の影響
FPE（Final Prediction Error）
2FPE 1mmN
2 21 ˆ1
mmN
2 21
ˆ ˆFPE1
m m m
mNmN
N mN m
60
情報量規準（AIC）との関係
FPEとAICの関係
)1(2ˆlogAIC 2 mN mm
mm
m
m
mm
NNmN
NNmN
NmmN
mmNN
NNNN
AICˆlog2
ˆlog21log
ˆloglog
ˆlog)log(FPE
2
2
2
2
61