若手研究者のための招待講演会

.

.

Cover 先生と私

.

.

準備

.

.

Cover 先生が提起した未解決問題

.

.

ユニバーサルな予測の一般化

.

.

まとめ

[招待講演] Cover先生の研究室で思い出に残っているテーマ～定常エルゴードな系列に対してのユニバーサルな予測～

鈴木譲

大阪大学

2012年 12月 11日SITA 2012 (別府)

.

.

.

.

1 / 30

.

[招待講演] Cover 先生の研究室で思い出に残っているテーマ, ～定常エルゴードな系列に対してのユニバーサルな予測～

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

Road Map

.

.. 1 Cover先生と私

.

..

2 準備

.

..

3 Cover先生が提起した未解決問題

.

..

4 ユニバーサルな予測の一般化

.

..

5 まとめ

.

.

.

.

2 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

予測とは?

.

xn := (x1, · · · , xn) ∈ {0, 1}nから、xn+1 ∈ {0, 1}を予測

.

.

.

. ..

.

.

xnのもとでの xn+1の確率の推定値Q(xn+1|xn)を構成

たとえば、

.

.

.

1 Q(xn+1|xn) = (1

2,1

2)

.

.

.

2 c を xn での xn+1 の頻度として、Q(xn+1|xn) = (n − c

n,c

n)

.

.

.

3 Q(xn+1|xn) = (n − c + 1

n + 2,c + 1

n + 2)

.

ねらい: 真の確率 P(xn+1|xn)に収束させたい

.

.

.

. ..

.

.

Q(xn+1|xn) −→ P(xn+1|xn) (n → ∞)

.

.

.

.

3 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

符号化・符号語・一意復号可能

A: 有限集合 (有限アルファベット)φ : An → {0, 1}∗ 符号化

.

l : An → N+が φの長さ

.

.

.

. ..

.

.

符号語 φ(xn) ∈ {0, 1}l(xn)となるときの、xn 7→ l(xn)の対応

　l が一意復号可能な符号化の長さ

⇐⇒ l が瞬時復号可能な符号化の長さ

⇐⇒∑xn∈An

2−l(xn) ≤ 1

(→ Elements of Information Theory)

.

.

.

.

4 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

エントロピー

Pn: xn ∈ Anの確率 (定常エルゴード)

H := limn→∞

1

n

∑xn

−P(xn) logP(xn) (エントロピー)

.

Shannon-McMillan-Breimanの定理

.

.

.

. ..

.

.

確率 1で、−1

nlogPn(xn) → H (n → ∞)

証明 (独立のときのみ): Pn(xn) = P(x1) · · ·P(xn)

−1

nlogPn(xn) =

1

n

n∑i=1

− logP(xi ) → E [− logP(X )] = H

(大数の強法則)

.

.

.

.

5 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

ユニバーサルデータ圧縮

例: l(xn) := ⌈− logPn(xn)⌉∑xn∈An

2−l(xn) ≤ 1

l(xn)

n→ H

は、確率 Pnが未知だと、長さ l を構成できない。

.

ユニバーサルデータ圧縮

.

.

.

. ..

.

.

Pnが未知でも、l(xn) := − logQn(xn)が上記 2条件を満足

.

.

.

.

6 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

例: Bayes符号

2進アルファベット A = {0, 1}、独立情報源、0 ≤ θ ≤ 1として

Qn(xn) =

∫w(θ)P(xn|θ)dθ

a, b > 0, c を xn ∈ Anにおける xi = 1の頻度として、

w(θ) =Γ(a+ b)

Γ(a)Γ(b)θa−1(1− θ)b−1 , P(xn|θ) = θc(1− θ)n−c

⇐⇒ Q(xn) =Γ(a+ b)

Γ(a)Γ(b)· Γ(c + a)Γ(n − c + b)

Γ(n + a+ b)

a = b = 1/2 (Krichevsky-Trofimov)と Stirlingの公式から、

−1

nlogQn(xn) → H

.

.

.

.

7 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

ユニバーサル性

−1

nlogPn(xn) → H

−1

nlogQn(xn) → H

.

QnがユニバーサルなBayes測度

.

.

.

. ..

.

.

すべての Pnについて、

1

nlog

Pn(xn)

Qn(xn)→ 0

有限アルファベット A = {0, 1, · · · ,m − 1}

情報源が定常エルゴード

.

.

.

.

8 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

1975年にモスクワで、Cover先生が提起した未解決問題

1ドル賭けて、勝てば 2ドル、負ければ戻ってこない　

A = {0, 1}, Pnは未知

.

..

1 1を、(Q(0|x0),Q(1|x0))で賭ける

.

.

.

2 x1 = 0

.

.

.

3 1 → 2Q(0|x0)を、(Q(0|x1),Q(1|x1))で賭ける

.

.

.

4 x2 = 1

.

.

.

5 2Q(0|x0) → 2Q(0|x0) · 2Q(1|x1)を、(Q(0|x2),Q(1|x2))で賭ける

.

.

.

6 · · ·

2Q(x1|x0) · 2Q(x2|x1) · · · 2Q(xn|xn−1) = 2nQn(xn)

Pn を知っている人は、2nPn(xn)

.

.

.

.

9 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

未解決問題 1

.

ユニバーサルな賭けの存在

.

.

.

. ..

.

.

どのような定常エルゴードな (未知の)Pnについても

1

nlog[2nQn(xn)] → 1

nlog[2nPn(xn)]

(n → ∞) となるような計算可能なQnは存在するか。

存在する:

Pnを知らなくても、Pnを知っている人と同程度に勝てる

(ユニバーサルデータ圧縮)

.

.

.

.

10 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

未解決問題 2

.

ユニバーサルな予測の存在 (その 1)

.

.

.

. ..

.

.

どのような定常エルゴードな (未知の)P についても、各 x0 ∈ {0, 1}について、

Q(x0|x−1−n ) → P(x0|x−1

−∞)

(n → ∞)となるようなQ は存在するか。

存在する:

Ornstein 1978 (有限アルファベット)

Algoet 1992 (一般)

.

.

.

.

11 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

証明: (Morvai, Yakowitz, Gyorfy, 1996)

0 = λ0 → τ1 → λ1 → τ2 → · · ·

· · ·X−λj−1−τj · · ·X−1−τj︸︷︷︸λj−1

X−τj · · ·

︸︷︷︸τj

X−λj−1· · ·X−1︸︷︷︸

λj−1

︸︷︷︸λj :=λj−1+τj

X0

1

k

k∑j=1

X−τj → Q(X0 = 1|X−1−∞)

.

.

.

.

12 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

未解決問題 2

.

ユニバーサルな予測の存在 (その 2)

.

.

.

. ..

.

.

どのような定常エルゴードな (未知の)P についても、各 xn+1 ∈ {0, 1}について、

Q(xn+1|xn) → P(xn+1|xn)

(n → ∞)となるようなQ は存在するか。

存在しない:

Shields, 1991 (Cutting and Stacking)

Algoet, 1997

.

.

.

.

13 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

証明

状態 s: · · · 1s︷︸︸︷

0 · · · 0︸︷︷︸xn

xn+1

　

q(s): 状態 s に初めて到達したときのQ(1|s)

P(1|s) :={

3/4 (q(s) ≤ 1/2)1/4 (q(s) > 1/2)

　

確率 1でどの状態 s も生じるので、

|P(xn+1|xn)− Q(xn+1|xn)| ≥ 1/4

が確率 1で無限回生じる。

.

.

.

.

14 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

未解決問題 3: ポートフォリオ (賭けの一般化)

(X0,X1): 非負の値をとる確率変数の組

bi = (b(0)i , b

(1)i ), b

(0)i + b

(1)i = 1

(bi ,Xi ) := b(0)i X

(0)i + b

(1)i X

(1)i

bi : xi−1に基づいて決めた戦略 =⇒ Sn :=

∏ni=1(bi ,Xi )

b∗i = bi : Xnの分布に基づいた最適な戦略 =⇒ S∗

n :=∏n

i=1(b∗i ,Xi )

.

問題 3: ユニバーサルなポートフォリオの存在

.

.

.

. ..

.

.

どのような定常エルゴードな (未知の)X nの分布についても、

1

nlog Sn → 1

nlog S∗

n

(n → ∞)となるような (b1, · · · , bn)は存在するか。

存在する (→ Elements of Information Theory)

.

.

.

.

15 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

ユニバーサルな予測のBayes的方法

(c0, c1) := (n − c , c) (xnでの (0, 1)の頻度)

Qn(xn) =Γ(a+ b)

Γ(a)Γ(b)· Γ(c + a)Γ(n − c + b)

Γ(n + a+ b)

Γ(x + 1) = xΓ(x), x > 0 より、a = b = 1/2のとき

(Q(0|xn),Q(1|xn)) = (n − c + a

n + a+ b,

c + a

n + a+ b) = (

c0 + 1/2

n + 1,c1 + 1/2

n + 1)

一般には、A = {0, 1, · · · ,m − 1}として、

(Q(0|xn), · · · ,Q(m − 1|xn)) = (c0 + 1/2

n +m/2, · · · , cm−1 + 1/2

n +m/2)

独立でなく、定常エルゴードの場合に拡張することは可能

.

.

.

.

16 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

ユニバーサルなBayes測度

確率変数が有限個の値をとる場合∑xn∈An

Qn(xn) ≤ 1

1

nlog

Pn(xn)

Qn(xn)→ 1

.

一般の確率変数の場合

.

.

.

. ..

.

.

ユニバーサルな Bayes測度は、どのようになるのか。

xnが連続の場合や、離散でも連続でもない場合は、どのようにして、xn+1を予測するのか

(簡単のため、独立な情報源のみを扱うが、拡張はいつでも可能)

.

.

.

.

17 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

X が確率密度関数 f をもつとき (Ryabkoの方法)

X : X の取りうる値xn = x1 · · · xn ∈ X n

.

f を複数のヒストグラム f1, f2, · · · でそれぞれ近似

.

.

.

. ..

.

.

各ヒストグラム Aj を、X を細分化した区間の集合で表現。f を近似した fj で、fj(x1) · · · fj(xn)を計算。

A0 := {X}

Aj+1 が Aj の細分

例 1: A0 = {[0, 1)}のとき、下記はこの条件を満足する:A1 = {[0, 1/2), [1/2, 1)}A2 = {[0, 1/4), [1/4, 1/2), [1/2, 3/4), [3/4, 1)}. . .

Aj = {[0, 2−(j−1)), [2−(j−1), 2 · 2−(j−1)), · · · , [(2j−1 − 1)2−(j−1), 1)}. . .

.

.

.

.

18 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

B: Rの Borel集合全体λ : B → R (Lebesgue測度, B ∋ a = [b, c) =⇒ λ(a) = c − b)　

ヒストグラム Aj で、

X n ∋ (x1, · · · , xn) ∈ (a1, · · · , an) ∈ Anj のとき、

f nj (xn) := fj(x1) · · · fj(xn) =

Pj(a1) · · ·Pj(an)

λ(a1) . . . λ(an)

gnj (x

n) :=Qn

j (a1, · · · , an)λ(a1) · · ·λ(an)

.

.

.

.

19 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

{ωj}∞j=1:∑

ωj = 1, ωj > 0,

gn(xn) :=∞∑j=1

ωjgnj (x

n)

{Aj}をどのような f についても、j → ∞で

h(f ) :=

∫−f (x) log f (x)dλ(x)

として、h(fj) → h(f ) となるように選ぶと、

1

nlog

f n(xn)

gn(xn)→ 0

B. Ryabko. IEEE Trans. on Inform. Theory, 55, 9, 2009.

.

.

.

.

20 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

確率変数 X に確率密度関数が存在するための必要十分条件

µ(D): D ∈ Bの確率

.

確率密度関数が存在する必要十分条件

.

.

.

. ..

.

.

以下は、同値 (µ ≪ λ)

各 D ∈ Bで、λ(D) = 0 =⇒ µ(D) = 0

µ(D) =

∫D

f (t)dλ(t)なる B可測な dµ

dλ:= f が存在

　

参考: f : R → Rが B可測⇐⇒各 D ∈ Bについて、{x ∈ R|f (x) ∈ D} ∈ B(Lebesgue積分を適用する条件)

.

.

.

.

21 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

一般化確率密度関数の推定

.

Radon-Nikodymの定理

.

.

.

. ..

.

.

以下は同値 (µ ≪ η):

各 D ∈ Bで、η(D) = 0 =⇒ µ(D) = 0

µ(D) =

∫D

f (t)dη(t)なる F 可測な dµ

dη:= f が存在

例 2: µ({k}) > 0, η({k}) := 1

k(k + 1), k ∈ Y := {1, 2, · · · }

µ(D) =∑k∈D

f (k)η({k}) , D ⊆ Y

µ ≪ η =⇒ dµ

dη(k) = f (k) =

µ({k})η({k})

= k(k + 1)µ({k})

.

.

.

.

22 / 30

.


.

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

B1 := {{1}, {2, 3, · · · }}B2 := {{1}, {2}, {3, 4, · · · }}. . .Bk := {{1}, {2}, · · · , {k}, {k + 1, k + 2, · · · }}. . .ヒストグラム Bk で、

Yn ∋ (y1, · · · , yn) ∈ (b1, · · · , bn) ∈ Bnk のとき、

f nk (yn) := fk(y1) · · · fk(yn) =

Pk(b1) · · ·Pk(bn)

η(b1) . . . η(bn)

gnk (y

n) :=Qn

k (b1, · · · , bn)λ(b1) · · ·λ(bn)

.

.

.

.

23 / 30

.

[招待講演] Cover 先生の研究室で思い出に残っているテーマ, ～定常エルゴードな系列に対してのユニバーサルな予測～ .

.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

{Bk}をどのような f についても、k → ∞で (fk) → h(f ) となるように選ぶと、

1

nlog

f n(yn)

gn(yn)→ 0

gn(yn)η({y1}) · · · η({yn})が、P(yn) = f n(yn)η({y1}) · · · η({yn}) の推定になる

.

.

.

.

24 / 30

.


.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

有限アルファベットの場合も特種ケースとして含まれる

例 3: Z := {0, 1, · · · ,m − 1}

C0 = {Z},C1 = C2 = · · · = {{0}, {1}, · · · , {m − 1}}

η({0}) = · · · η({m − 1}) = 1/m

とおけば、µ ≪ η

zn ∈ Cn ⇐⇒ cn ∈ Cn1 = Cn

2 = · · ·

=⇒

f n(zn) =

Pn(cn)

(1/m)n,

gn1 (z

n) = gn2 (z

n) = · · · = gn(zn) =∞∑l=1

ωlgnl (z

n) =Qn(cn)

(1/m)n

=⇒ 1

nlog

f n(zn)

gn(zn)=

1

nlog

Pn(cn)

Qn(cn)→ 0

.

.

.

.

25 / 30

.


.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

(X ,Y ) ∈ X × Y例 4: 例 1と例 2の {Aj}, {Bk}から、{Aj × Bk}を構成　

Qnjk : (Aj × Bk)

nの予測確率f nj ,k(x

n, yn) := fj ,k(x1, y1) · · · fj ,k(xn, yn)

=Pj ,k(a1, b1) · · ·Pj ,k(an, bn)

λ(a1) . . . λ(an)η(b1) . . . η(bn)

gnjk(x

n, yn) :=Qn

jk((a1, b1) · · · , (an, bn))λ(a1) · · ·λ(an)η(b1) · · · η(bn)∑

jk ωjk = 1, ωjk > 0,

gn(xn, yn) :=∞∑k=1

ωjkgnjk(x

n, yn)

1

nlog

f n(xn, yn)

gn(xn, yn)→ 0

.

.

.

.

26 / 30

.


.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

離散や連続を仮定しないユニバーサルな予測

.

Suzuki, 2011

.

.

.

. ..

.

.

µ ≪ ηのとき、ヒストグラムの列 {Aj}をもつ Bayes測度 g を構成すると、h(fj) → h(f )を満足する任意の f に対して、

1

nlog

f n(un)

gn(un)→ 0

.

一般化されたユニバーサルなBayes測度

.

.

.

. ..

.

.

g(xn+1|xn) =gn+1(xn+1)

gn(xn)→ f (xn+1|xn) =

f n+1(xn+1)

f n(xn)

各 D ∈ Bについて

ν(D|xn) =∫Dg(x |xn)dη(x)

.

.

.

.

27 / 30

.


.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

その他の応用例: Bayesianネットワークの構造推定

� ��Y � ��

Z-AAU

� ��X

� ��-

��

AAU

Y � ��Z

� ��X

� ��Y � ��

Z

� ��X

�AAK

� �� AAK

Y � ��Z

� ��X

� ��

��

Y � ��Z

� ��X

� ��Y � ��

Z

��

� ��X

� �� AAU

Y � ��Z

� ��X

� ��-

��

Y � ��Z

� ��X

� ��Y � ��

Z

� ��X

� ��-Y � ��

Z

� ��X

� ��AAK

Y � ��Z

� ��X(1) (2) (3)

(4) (5) (6)

(7) (8) (9)

(10) (11)

.

.

.

.

28 / 30

.


.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

(1)-(11)の構造の同定

p1, · · · , p11: 構造の事前確率

p1gn(xn)gn(yn)gn(zn),

p2gn(xn)gn(yn, zn), p3g

n(yn)gn(zn,X ), p4gn(zn)gn(xn, yn),

p5gn(xn, yn)gn(X , zn)

gn(xn), p6

gn(xn, yn)gn(yn, zn)

gn(yn), p7

gn(xn, zn)gn(yn, zn)

gn(zn),

p8gn(yn)gn(zn)gn(xn, yn, zn)

gn(yn, zn), p9

gn(zn)gn(xn)gn(xn, yn, zn)

gn(zn, xn),

p10gn(xn)gn(yn)gn(xn, yn, zn)

gn(xn, yn), p11g

n(xn, yn, zn)

.

.

.

.

29 / 30

.


.

.

Cover 先生と私

.

.

準備

.

.


.

.


.

.

まとめ

まとめ

.

ユニバーサルなBayes予測

.

.

.

. ..

.

.

ユニバーサルな予測

ベイジアンネットワークの構造推定

MDL基準の連続データへの適用

など、応用範囲が非常に広く、期待できる。

.

Cover先生が亡くなられたことについて

.

.

.

. ..

.

.

非常に残念ではあるが、元学生、ビジター、彼の論文を読んだ人

などに、学問に対する自由な精神は引き継がれていくはずだ。

.

.

.

.

30 / 30

.


若手研究者のための招待講演会

Documents