Download - シフト付きコレスキー LR 法における ２つの固有値近似法の収束性について
シフト付きコレスキー LR 法における
２つの固有値近似法の収束性について
東京大学大学院 情報理工学系研究科 数理情報学専攻
相島 健助 松尾 宇泰 室田 一雄 杉原 正顯
2008.11.26
2目次
はじめに（研究の背景） dqds 法について コレスキー LR の基本的収束性
本研究 コレスキー LR 法の２つの固有値近似法の収束速度
比較 まとめ
3特異値とその計算方法
A
特異値分解 TVUA
特異値
B の特異値 ),,(1 m
を計算
VU , : 直交行列
正方行列と考えてよい
長方形行列
m
1
00
0
0
例） dqds 法を用いる
1
2
TAA の固有値 22
1,,
m
上２重対角行列
直交変換 B
4対象とする上 2 重対角行列
m
m
a
b
a
ba
B1
2
11
0
0 0,0 kkba
仮定
特異値0
1
m
m
m
一般性を失わない！
5dqds 法のアルゴリズム
2)0(2)0( )(,)(kkkkbeaq
初期設定：
for ,1,0:n do
)()(
1
)1(
1: nnn sqd
for 1,,1: mk do
)()1()(
1
)1()1(
1
)1()(
1
)()1(
)()1()1(
/:
/:
:
nn
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
n
k
sqqdd
qqee
edq
反復計算：
end for
end for
)1()1( : n
m
n
mdq
0)( nsシフト量： の設定
)(
)(
1
)(
2
)(
1
)(
1
)(
n
m
n
m
n
nn
n
q
e
q
eq
B
m
m
a
b
a
ba
B1
2
11
IsBBBB nnnnn )(T)()()1(T)1( )()(
(Fernando-Parlett, 1994)
6dqds 法の収束定理
,2
0
)(
mn
ns
,0lim )( n
ke
n
0
)(2)(limn
n
k
n
ksq
n
2)(
min
)( )(0 nns
0
)(nB
IsBBBB nnnnn )(T)()()1(T)1( )()(
シフト量
)(
min
n ： の最小特異値
)(nB
( 相島，松尾，室田，杉原 , 2007)
7dqds 法の２つの特異値近似法
)(
)(
1
)(
2
)(
1
)(
1
)(
n
m
n
m
n
nn
n
q
e
q
eq
B
0)(
1
n
me で打ち切
る
1
0
)()(2n
l
ln
mmsq近似値
デフレーションを繰り返す
11,...,, mm の順に計算でき
る
1
0
)(2
1
1
0
)(2
)(
1
)1(
1 limlim n
l
l
m
n
l
l
m
n
m
n
m
s
s
e
e
01
0
)(2
n
l
l
ms
収束速度
となるようにシフト設定したい．このとき
n n
1
0
)(2n
l
l
ms
8（対角＋シフト総和）と（シフト総和）の収束性
0||
||lim 2)(
2)()(
m
n
m
nn
m
t
tq
n
)()( nn
mtq
)(nt
2
m0
シフト量：
：単調増加
：単調減少
2)(
min
)( )(0 nns
の最小固有値 ,)(
min
n
1
0
)()(n
l
ln stシフト総和
相島，松尾，室田，杉原， JSIAM 年会2008大域的収束の条件
)(nB
9dqds 法とコレスキー LR 法の関係dqds 法：Bの特異値 ),,(
1 m
TBBA ),,1(2
mkkk
A （既約三重対角正定値対称行
列）
の固有値は
を計算
に対しコレスキー LR 法を実行
に対し dqds 法を実行
B A
数学的に等価
コレスキー LR 法：正定値対称行列の固有値計算アルゴリズム
10dqds 法とコレスキー LR 法の歴史
コレスキー LR 法 ( Rutishauser, 1958 ) 正定値対称行列の固有値計算アルゴリズム 高速化のためシフトを導入 (Rutishauser, 1960)
dqds 法 ( Fernando – Parlett, 1994 )differential quotient difference with shifts 法 上二重対角行列の特異値計算アルゴリズム LAPACK のルーチン DLASQ 三重対角行列に対するコレスキー LR 法と数学的に等価
11シフト付きコレスキー LR 法 : 既約三重対角初期設定：
for ,1,0:n反復計算：
end for
)(nsシフト量： の設定)(T)()()( )( nnnn RRIsA
T)()()1( )( nnn RRA
：コレスキー分解
do
0)0( t
)()()1( nnn stt 0
)()( nn tA 0
m
1
相島，松尾，室田，杉原， 2007
対角行列に収束
AA )0( （三重対角正定値対称行列）
)0(A
)(nR
0
上二重
12対角とシフトの固有値への収束性
0||
||lim
)(
)()(
,
m
n
m
nn
mm
t
ta
n
)()(
,
nn
mmta
)(nt
m0
シフト量：
：単調増加
：単調減少
)(min
)(0 nns A
の最小固有値 ,)(
min
n
1
0
)()(n
l
ln stシフト総和
相島，松尾，室田，杉原， JSIAM 年会2008大域的収束の条件（ が既約三重対角の場合）
)(nA
13目次
はじめに（研究の背景） dqds 法について コレスキー LR の基本的収束性
本研究 コレスキー LR 法の２つの固有値近似法の収束速度
比較 まとめ
14対象とする正定値対称行列について
),,1( miuAuiii
正定値対称行列
固有値 )0(1
m
muu ,,
1固有値ベクト
ル
15シフト付きコレスキー LR 法初期設定：
for ,1,0:n反復計算：
end for
)(nsシフト量： の設定)(T)()()( )( nnnn RRIsA
T)()()1( )( nnn RRA
：コレスキー分解
AA )0( （正定値対称行列）
do
)(nR
0
上三角
0)0( t
)()()1( nnn stt
)()( nn tA
右下成分のみ収束ある種の例外を除き
0
0＊m
Rutishauser, 1960
16すべての固有値の計算法
)(
,
T)(
)(
)(
)(
*
n
mm
n
n
n
a
A
v
v
0)( nv で打ち切る )()(
,
nn
mmmta 近似値
デフレーションを繰り返す
11,...,, mm の順に計算でき
る
17
m
nn
mmta )(lim )()(
,
シフト付きコレスキー LR 法の収束定理
n
（ Rutishauser 1960 ）
0
ItA nn )()( 0＊m
0)(lim )(
,
)(
, n
im
n
miaa
n)1,,1( mi
シフト量 : )(min
)(0 nns )(nA の最小固有値 ,)(
min
n
1
0
)()(n
l
ln stシフト総和
ある種の例外を除き一般的に成立
大域的収束の条件
18の略証 (Rutishauser)
2
,
1
1)()2()1(
)()2()1(
2
,
1
1)()2()1(
)()2()1(
2
,
)()(
,
)()())(()())((
)(
)())(()())((
)()(
mm
m
jn
jjj
n
mmm
jm
m
jn
jjj
n
mmm
mjjm
m
nn
mm
utttttt
u
tttttt
u
ta
Am : 01 の固有値（相異なるとする）
mm
m
mm u
u
u
u
u
u
,
,1
2,
2,1
1,
1,1
:
: , ,......
:
: ,
:
:A : の固有ベクトル
（正規直交化されているとする）
m
nn
mmta )(lim )()(
,n
19
2
,
1
1)()2()1(
)()2()1(
2
,
1
1)()2()1(
)()2()1(
2
,
)()(
,
)()())(()())((
)(
)())(()())((
)()(
mm
m
jn
jjj
n
mmm
jm
m
jn
jjj
n
mmm
mjjm
m
nn
mm
utttttt
u
tttttt
u
ta
0)())((
)())(()()2()1(
)()2()1(
n
m
m
n
jjj
n
mmm
ttt
ttt
)1,,1( mjmj
固有値はすべて異なるので
m
nn
mmnta
)(lim )()(
,
ただし
の略証 (Rutishauser)m
nn
mmta )(lim )()(
,n
0,
mm
umm
u, は の最小固有値の固有ベクトルの第 成分A m
20目次
はじめに（研究の背景） dqds 法について コレスキー LR の基本的収束性
本研究 コレスキー LR 法の２つの固有値近似法の収束速度
比較 まとめ
21問題意識
（対角＋シフト総和）は単調減少するか？ （シフト総和＋対角）と（シフト総和）でど
っちの収束が速いか？
???||
||lim
)(
)()(
,
m
n
m
nn
mm
t
ta
n
)()(
,
nn
mmta
)(nt
m0
：単調増加
：単調減少？？？
一般の行列に対してコレスキー LR 法を実行すると
22
2
,
1
1)()2()1(
)()2()1(
2
,
1
1)()2()1(
)()2()1(
2
,
)()(
,
)()())(()())((
)(
)())(()())((
)()(
mm
m
jn
jjj
n
mmm
jm
m
jn
jjj
n
mmm
mjjm
m
nn
mm
utttttt
u
tttttt
u
ta
0)())((
)())(()()2()1(
)()2()1(
n
m
m
n
jjj
n
mmm
ttt
ttt
)1,,1( mjmj
固有値はすべて異なるので
m
nn
mmnta
)(lim )()(
,
ただし
の評価 (Rutishauser)m
nn
mmta )()(
,
0,
mm
u収束は示せる
単調性は？？？
mmu
, は の最小固有値の固有ベクトルの第 成分A m
23シフト付きコレスキー LR 法初期設定：
for ,1,0:n反復計算：
end for
)(nsシフト量： の設定)(T)()()( )( nnnn RRIsA
T)()()1( )( nnn RRA
：コレスキー分解
AA )0( （正定値対称行列）
do
)(nR
0
上三角
0)0( t
)()()1( nnn stt
24上三角行列を中心に考える)(T)()()( )( nnnn RRIsA
T)()()1( )( nnn RRA
)()()1( nnn stt
IsRRIsARR nnnnnnn )(T)1()1()()()(T)( )()(
)(nR
0
上三角
)1(
,
)(
)(
0 n
mm
n
n
a
Rr＊
25
IsRRRR nnnnn )(T)1()1()(T)( )()(
Is
aaaa
n
n
mm
nn
mm
n
n
mm
n
n
mm
n
)(
)(
,
T)1()(
,
)1(
)1(
,
)(
)1(
,
T)( )(
0
00)(
0
r
rr
r
)()(
,
2)()1(
,
nn
mm
nn
mmsaa r
1
0
)()(
,0
)(2)()1(
,
n
l
ln
mm
n
l
lnn
mmsasa r
)(0
)()1(
n
l
ln st2)()()(
,
)1()1(
,
nnn
mm
nn
mmtata r
単調減少
＊ ＊ ＊ ＊
)(nR
0
（右下の成分に関する等号）
の単調性の証明（本研究）)()(
,
nn
mmta
（両辺にシフト総和を足す）
26一般の行列における収束性（本研究）
0||
||lim
)(
)()(
,
m
n
m
nn
mm
t
ta
n
)()(
,
nn
mmta
)(nt
m0
シフト量 :
：単調増加
：単調減少
)(min
)(0 nns )(nA の最小固有値 ,)(
min
n
1
0
)()(n
l
ln stシフト総和
0,
mm
uかつ
mmu
, は の最小固有値の固有ベクトルの第 成分A m
大域的収束の条件
27の略証
)(
,
T)(
)()(
)(
)( n
mm
n
nn
n
a
UA
v
v)(T)()()( )( nnnn RRIsA
T)()()1( )( nnn RRA
)()()1( nnn stt
IsA nn )()( の固有値： )1(
1
)1(
1
)1( ,...,,
nn
m
n
mttt
)1(
1
)1(
)(
)1(
n
m
n
m
n
n
t
t
v
v
0||
||lim
)(
)()(
,
m
n
m
nn
mm
t
ta
n
28の略証
の固有値： )1(
1
)1(
1
)1( ,...,,
nn
m
n
mttt
)1(
1
)1(
)(
)1(
n
m
n
m
n
n
t
t
v
v
0||
||lim
)(
)()(
,
m
n
m
nn
mm
t
ta
n
)1( nA
)1( nU の最小固有値:)1(
min
n
一般化された Bauer-Fike の定理より2)1()1()1(
,
)1()1(
min|)(||)(| nn
m
n
mm
n
m
n tat v
)1(
,
T)1(
)1()1(
)1(
)( n
mm
n
nn
n
a
UA
v
v
29の略証
)1(
1
)1(
)(
)1(
n
m
n
m
n
n
t
t
v
v
0||
||lim
)(
)()(
,
m
n
m
nn
mm
t
ta
n
)1( nU の最小固有値:)1(
min
n
2)1()1()1(
,
)1()1(
min|)(||)(| nn
m
n
mm
n
m
n tat v
)1(
,
T)1(
)1()1(
)1(
)( n
mm
n
nn
n
a
UA
v
v
0|)(|lim1
)1()1(
min
mm
n
m
n
nt
)(|)(|||
||)1(
1
)1()1(
min
2)(
)1(
)1()1(
,
n
m
n
m
n
n
n
m
m
nn
mm
ttt
ta
v
30目次
はじめに（研究の背景） dqds 法について コレスキー LR の基本的収束性
本研究 コレスキー LR 法の２つの固有値近似法の収束速度
比較 まとめ
31まとめ シフト付きコレスキー LR 法の２つの近似法：
（対角＋シフト総和）と（シフト総和） を比較した
（対角＋シフト総和）は単調減少する 最終的には（シフト総和＋対角）の方が（シ
フト総和）より収束が速い
0||
||lim
)(
)()(
,
m
n
m
nn
mm
t
ta
n
)()(
,
nn
mmta
)(nt
m0
：単調増加
：単調減少
