確率論講義ノート - 名古屋大学nakamako/resources/probability.pdf[15] 吉田伸生: a...

126
確率論講義ノート 中島 誠 ˚ 2019 年度版 ˚ [email protected] 理学部 A 453 1

Upload: others

Post on 04-Jan-2020

2 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

確率論講義ノート

中島誠 ˚

2019年度版

˚[email protected]理学部 A 棟 453

1

Page 2: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

目次

1 確率論の基礎 61.0 確率空間 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61.1 測度論と確率論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91.2 確率変数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

1.2.1 分布の例 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181.3 期待値 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

1.3.1 測度による積分 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211.3.2 期待値およびモーメント . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231.3.3 不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

1.4 *確率測度の構成 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301.5 :確率論の応用 I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331.6 問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34

2 独立性 372.1 確率変数の性質 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372.2 独立性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 382.3 :確率論の応用 II . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 442.4 問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45

3 大数の法則 473.1 確率変数の収束 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 473.2 大数の弱法則 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51

3.2.1 *コンプガチャ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 533.2.2 *一般化大数の弱法則 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55

3.3 大数の強法則 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 563.3.1 *大数の強法則 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 573.3.2 大数の強法則の応用例 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

3.4 問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61

4 中心極限定理 644.1 弱収束 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 644.2 特性関数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69

4.2.1 特性関数の例 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 694.2.2 特性関数と弱収束 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71

4.3 中心極限定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 754.4 *緊密性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 774.5 問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78

5 ランダムウォーク 795.1 ランダムウォークの性質 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 795.2 ランダムウォークと停止時刻 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85

6 離散時間マルチンゲール (準備中) 896.1 条件付き期待値 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 896.2 離散時間マルチンゲール . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92

2

Page 3: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

7 ブラウン運動 937.1 ブラウン運動 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93

7.1.1 レヴィの方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 947.1.2 ドンスカーの不変原理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96

7.2 微分不可能性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1007.3 ブラウン運動と偏微分方程式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101

A 測度論 102A.1 σ -加法族 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102A.2 測度 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103A.3 可測関数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104A.4 ルベーグ積分 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104A.5 収束定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105

B 測度の存在と一意性 109B.1 ディンキンの π-λ 定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109B.2 測度の正則性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111

C フビニの定理 113C.1 直積測度とフビニの定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113

D Lp-空間 115D.1 Lp-空間の定義と基本的性質 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115D.2 Lp-空間の完備性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116

E フーリエ変換 118E.1 フーリエ変換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118E.2 シュワルツ空間 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119

まずはじめに注意することとして,このノートは確率論の講義用に用意されたものであり入門的内容であるため確率論を専攻することを考える学生はこのノート以外に各自で教科書を購入または図書室で借り

て勉強する必要がある. 例えばこの講義ノートではマルコフ連鎖,確率積分などの内容は扱わない.確率を数学的に扱う試みは 16世紀のカルダーノや 17世紀のパスカルとフェルマーによって最初に行わ

れたとされている. カルダーノは数学を用いて効率的に賭け事で儲けるための研究を行い,またパスカルとフェルマーは賭博師メレによって与えられた賭け事の問題を解決するために手紙のやり取りを行ったこと

をきっかけとして確率論の研究を始めた. このように確率論の初期は賭博との密接な関係があったが,その後統計と合わせて生命保険の保険料設定や遺伝学等にも使われるようになった. 彼らの作った確率論は離散的な内容であったが,後にラプラスによって微積分を用いた確率論 (解析的確率論)が編み出された. これらの理論は現在では古典的確率論と呼ばれている.この講義ノートでは古典的確率論とは異なる測度論的確率論と呼ばれる内容について扱う. 測度論はル

ベーグによって構築された理論であるが,これにより “物事の大きさ”(長さ,面積,体積など)は σ -加法族上の非負値集合関数 (測度)を用いることで数学的に自然に定義されることがわかった. コルモゴロフはこの測度論に基づいて確率論の公理を構成した. この理論構築をきっかけに確率論の研究は広がり, 伊藤清によって導入された確率積分は現在では数学だけにとどまらず,数理ファイナンスなどの分野でも使われるほどになっている.この講義では確率空間,確率変数,独立性,大数の法則,中心極限定理を扱ったのち,時間が許せばランダムウォークとその再帰性,またはブラウン運動を扱う. ランダムウォークやブラウン運動は確率論において非常に重要な役割を担っている. この講義ノートではランダムウォークやブラウン運動の詳細は扱わない

3

Page 4: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

ので各自文献等を読んで学習するとよい. また付録として確率論を学ぶ上で欠かせない測度論に関連する内容をまとめている. 講義では必要に応じて参照していく. (˚が付いている節や問は講義では扱わない予定の内容またはそれに関連するものである. :印は確率論の理論とは離れるが話題の一つとして書いているも

のであり,詳細は気にせず読んで構わない.十分注意をして作成したが誤字脱字はあるものと思われます. 気づかれた方は教えてください.最後に 2016年度版からの講義ノートの更新に際して岡山大学の河備浩司先生と福岡大学の江崎翔太先

生から助言をいただきましたことに感謝いたします.

参考文献

[1] P. Billingsley: Convergence of probability measures. Wiley Series in Probability and Statistics: Probabilityand Statistics. A Wiley-Interscience Publication. John Wiley & Sons, Inc., New York, 1999年

[2] R. M. Dudley: Real Analysis and Probability (Cambridge Studies in Advanced Mathematics) 2002年

[3] R. Durrett: Probability: Theory and examples (Cambridge Series in Statistical and Probabilistic Mathemat-ics),第 4版, 2010年

[4] R. Durrett (竹居正登,井出勇介,今野紀雄: 訳) : ランダムグラフダイナミクス確率論から見た複雑ネットワーク産業図書 2011年

[5] 西尾眞喜子,樋口保成: 確率過程入門 (確率論教程シリーズ 3)培風館 2006年

[6] 飛田武幸: ブラウン運動岩波書店 1975年

[7] I. Karatzas, S. E. Shreve Brownian motion and stochastic calculus. Springer-Verlag, (Graduate texts inmathematics ; 113) 1991年.

[8] 小谷眞一: 測度と確率岩波書店 2005年

[9] 熊谷隆: 確率論 (新しい解析学の流れ)共立出版 2003年

測度論的確率論について書かれた教科書.測度論の最低限の知識があれば読めるように書かれている.確率論の基礎的内容を第 1章で扱い, 2章以降でブラウン運動の基礎的内容,電気回路と確率論に関連する話題などを扱っている.ファイナンスではどのように確率論が用いられているかも 2章で扱っている.

[10] 志賀徳造: ルベーグ積分から確率論 (共立講座 21世紀の数学)共立出版株式会社 2000年

[11] D. W. Stroock: Probability theory : an analytic view. Cambridge University Press, 2011年.

[12] G. Tenenbaum: Introduction to analytic and probabilistic number theory. American Mathematical Society,2015年

[13] T. Tao: An Introduction to Measure Theory. American Mathematical Society, 2011年

測度論について書かれた教科書. Rd 上のルベーグ測度の構成から始まり,一般の測度の構成を行いフビニの定理に関する内容までを扱っている.その応用として確率測度の構成に関する証明を行っている.また第 2章では実解析の問題に取り組む際の考え方に対する著者のアドバイスが載っているおり,非常に参考になる. (2016年に日本語訳版が出版された. (乙部厳己訳: ルベーグ積分入門.朝倉書店)第2章だけでも読む価値はある.)

[14] T. Tao, V. H. Vu: Additive combinatorics.(Cambridge studies in advanced mathematics) 2010年

4

Page 5: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

[15] 吉田伸生: A short course in probability吉田伸生先生の講義ノート.英語で書かれているが具体例と例題が多数書かれており,非常に参考になる.また確率空間の構成の細かい証明は後回しにして重要な内容を先に扱っている.

http://www.math.nagoya-u.ac.jp/˜noby/pdf/prob all.pdfで入手可能.

5

Page 6: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

1 確率論の基礎

確率論を学ぶ際にはじめに登場する用語として標本空間,事象,確率というものがある.それらは次のように与えられた.

標本空間 :ある操作を行なった時に起こり得るすべての結果の集合.

標本 :標本空間の各要素.

事象 :標本空間の部分集合.

確率 :事象 Aが標本空間の中で起こり得る割合.1

標本空間を Ω,確率を Pと表すことにする.コイン投げを考えてみよう.

例題 1.0.1. コイン投げ 1回の操作で起こり得ることは「表が出る」,「裏が出る」のいずれかである. よって標本空間は

Ω “ t表,裏 u

と表せる. 事象を考えると

H,t表 u,t裏 u, Ω

である. コイン投げで表裏が等しい割合で起こるならば,それぞれの事象の確率は

PpHq “ 0,Pp表 q “ Pp裏 q “12,PpΩq “ 1

で与えられる.2

例題 1.0.2. サイコロを 2回振る試行を考えてみよう. 1回サイコロを振った時に出る目は t1,2,3,4,5,6uの

いずれかであるので標本空間は

Ω “ tpi, jq : i, j P t1,2,3,4,5,6uu

と表せる. また事象はその部分集合である. サイコロの目が等しい割合で出ると考えた場合は事象 Aが起

こる確率は

PpAq “|A|

|Ω|

と与えることが自然である. ただし |A|は集合 Aの要素の個数である.

問 1.0.3. コインを 3枚投げる試行の標本空間を与えよ. また「3枚のコインを投げたとき,投げたコインの表裏が 2枚のみが一致し 1枚が異なる」事象を標本空間の部分集合として記述せよ.

1.0節ではこういった初等的な例を用いて確率空間が満たす性質について考えていく.

キーワード: σ -加法族,確率測度,確率変数,分布,期待値

1.0 確率空間

事象と確率の関係をもう少し数学らしく捉えてみよう. この節では 1.1節で測度論を用いて確率空間を定義するが,その前段階にあたる有限加法的測度空間を直感的に捉えやすい有限個の標本空間における確

1確率の直観的な定義2H という事象とその確率と言われると混乱するかもしれないが起こり得ることが起きない事象とその確率と捉えればよい.

6

Page 7: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

率空間を用いて説明する. しかし長々と読むよりも天下り的に定義した方が受け入れやすいかもしれないのでここは読み飛ばして構わない.事象全体をF と表すことにすると確率とは P : F Ñ r0,1sという関数に見えてくる. (例えば例題 1.0.1

をみるとよい.)また確率の満たす性質として有限標本空間の場合は次のことを仮定することは自然であることがわかる.3

(有限標本空間上の確率の性質)

(1) F について

(a) H,Ω P F .

(b) A P F ならば Ac P F .

(c) A,B P F ならば A Y B P F .

(2) Pについて

(a) PpΩq “ 1.

(b) 0 ď PpAq, A P F .

(c) A,B P F が A X B “ Hloooomoooon

A と B が排反

を満たすとき,

PpA Y Bqlooomooon

A という事象または B という事象が起こる確率

“ PpAq ` PpBqlooooomooooon

A という事象が起こる確率`B という事象が起こる確率

.

注意 1.0.1. 確率論の用語で事象Aの余事象とはAcのことであり,また事象A, Bが排反であるとはAXB “ H

であるときをいう. この用語を用いると (1-a)-(1-c)および (2-a)-(2-c)は次のことを言っている.(1-a)は起こりうる全ての結果 (Ω)も事象であり, “起こりうる結果がない”というものも事象であると言っ

ている.(1-b)は事象があれば,余事象も事象であることを言っている.(1-c)は 2つの事象があれば「少なくともどちらかの事象が起こる」というものも事象であることを言っ

ている.(2-a)は標本全体では確率は 1であることを言っている.(2-b)は全ての事象に対してその起こる確率は 0以上であることを言っている.(2-c)は排反事象のどちらか一方が起こる確率はそれぞれの事象が起こる確率の和である.

注意 1.0.2. Aと Bが排反であるとは Aと Bが同時に起こり得ない事象であることを言っている.明らかに事象 Aとその余事象 Ac は排反である.

例題 1.0.3. サイコロを 2回振る試行を考える. A “ t出た目の和が偶数 uと B “ t出た目の和が奇数 uとい

う事象を考える. このとき B “ Ac であるので Bは Aの補集合であり,排反である. しかし C “ t出た目の

積が偶数 uという事象を考えると AとC, BとCは排反ではない. 

問 1.0.4. サイコロを 2回振る試行を考える. 以下の事象 A,Bとそれぞれの余事象を例題 1.0.2の標本空間Ωの部分集合として記述せよ.

A “ t出た目がともに偶数 u, B “ t出た目の少なくとも 1つは偶数 u.

3有限標本空間の場合通常は F “ 2Ω ととればよい.

7

Page 8: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 1.0.5. サイコロを 2回振る試行を考える. 以下の事象 A,B,C,Dを考える. 排反になる事象 2つの組を全て挙げよ.

A “ t出た目の差の絶対値が奇数 u. B “ t出た目の積が偶数 u.

C “ t出た目の少なくとも 1つは奇数 u. D “ t出た目の少なくとも 1つが偶数 u.

例題 1.0.6. サイコロを 2回振る試行を考える. このとき事象 t2回とも同じ目が出る uを考えると

t2回とも同じ目が出る u “

i“1

t1回目に出た目が i,2回目に出た目が iu “

i“1

tpi, iqu

と書ける. また

Ppt2回とも同じ目が出る uq “

6ÿ

i“1

Ppt1回目に出た目が i,2回目に出た目が iuq “ 6 ¨162

となる. 4

問 1.0.7. Ω “ t0,1,2uとしF Ă 2Ω を

F “ tH,t0u,t1,2u,Ωu

とする. このとき pΩ,F qは上の (1-a)-(1-c)を満たすことを示せ. また P : F Ñ r0,1sで (2-a)-(2-c)を満たすようなものを構成せよ.

上で挙げた性質 (1-a)-(1-c)および (2-a)-(2-c)は pΩ,F ,Pqが有限加法的測度空間と見做すことができる

と言っている.5

有限加法的測度の最もよく知られた例では面積の定義などがある. 例えば, Ω “ r0,1s2 Ă R2としてF を

Ω内のジョルダン可測集合全体, PをF の面積としたときこれらの条件を満たしている. 6

問 1.0.8. pΩ,F ,Pqが上の (1), (2)を満たしているとする. 以下の問に答えよ.

(i) A,B P F とする. このとき A X B P F .

(ii) A,B P F であり, A Ă Bとする. このとき PpAq ď PpBq.

(iii) A1, ¨ ¨ ¨ ,An P F とする. このときn

ď

i“1

Ai P F .

(iv) A1, ¨ ¨ ¨ ,An P F であり, i ­“ jのとき Ai X A j “ Hとする. このとき P

˜

i“1

Ai

¸

nÿ

i“1

PpAiq.

次の節ではこの確率の有限加法的測度性を測度性に拡張して考えることになるのだが,なぜそのようなことを考える必要があるのかについて簡単に触れておこう.測度論的確率論を考える利点の 1つは “無限回の試行”というものを数学的に正しく記述できるというものがある. “無限回の試行”を考える目的は雑に言うと非常に “多くの試行”を行ったときにそこに現れる普遍的な性質を “極限”として捉えることにある.

例えば,サイコロを n回振ったとき

n回目までに 1が出た回数n

“ n回目までに 1が出た割合

を考えたとき,これは nを大きくしていくと 16 に近づく (収束する)と信じるであろう. しかしこの “収束”

の意味をきちんと与えようとすると測度論を用いる必要に迫られる.4(2-c) の性質を帰納的に使用している.5見做すために多少違和感のある性質でも抜き出していると言った方が正しいかもしれない.6ビュフォンの針の問題も本質的にはこれと同じ標本空間と確率 P で考えている.

8

Page 9: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

1.1 測度論と確率論

以下,標本空間 Ωと事象全体集合F と事象の確率 Pは次のような性質を満たす確率空間であるとして

話を進めていく.

定義 1.1.1. 測度空間 pΩ,F ,Pqが PpΩq “ 1を満たすとき,確率空間という. すなわちある集合 Ωに対して, F Ă 2Ω, P : F Ñ r0,8sが次を満たす.

(F1) H,Ω P F .

(F2) A P F ならば Ac P F . (補集合で閉じている)

(F3) An P F (n ě 1)ならばď

ně1

An P F . (可算和で閉じている)

(P1) PpΩq “ 1

(P2) 0 ď PpAq, A P F .

(P3) An P F (n ě 1)が An X Am “ H (n ­“ m)ならば P

˜

ÿ

ně1

An

¸

“ÿ

ně1

PpAnq. (σ -加法性,完全加法性)

特に Ωを標本空間, F の元を事象 Pを確率測度という. また A P F に対して Ac P F を余事象という.A1,A2, ¨ ¨ ¨ P F が i ­“ jならば Ai X A j “ Hを満たすとき, tAn : n P Nuを排反事象列という.

このように測度空間を用いて確率空間を定義し,議論していくことが測度論的確率論である.78

注意 1.1.3. (A章参照) F Ă 2Ω が (F1)„(F3)を満たすとき σ -加法族と呼び, pΩ,F qは可測空間という.また P : F Ñ Rが (P2), (P3)を満たすとき測度と呼び, pΩ,F ,Pqを測度空間という.

抽象的な確率の代表例は次のもので与えられる.

7測度空間を用いるため,標本空間 Ωや事象族 F が抽象的になり混乱するかもしれない. しかし確率の自然な性質を数学的に問題のないように拡張するために測度論を用いただけでありその根本には有限標本空間の場合に見たものが変わらず存在する.

8 測度論でも議論したことではあるが測度では可算的な演算しか許可しない. これは非可算な演算を許可した場合に起こる不都合に起因する.

例題 1.1.2. (非可算演算による問題点)コイン投げの無限回試行を考える. このとき

Ω “ tω : ω “ pω1,ω2, ¨ ¨ ¨ q P t 表,裏 uNu

と書ける. 厳密な議論は置いておいて公平な無限回のコイン投げを表す確率空間 pΩ,F ,Pq が定義されたとする. このとき各 ω P Ωに対して

Ppωq “ P

˜

n“1

tn 回目までのコインの出がω1, ¨ ¨ ¨ ,ωnu

¸

“ P

˜

n“1

tω : ω1 “ ω1, ¨ ¨ ¨ , ωn “ ωnu

¸

命題 1.1.5pviq“ lim

nÑ8

12n “ 0

がわかる. さて確率測度 P が非可算集合 Λ に対して

Aλ P F pλ P Λq,Aλ X Aµ “ Hpλ ­“ µq ならば P

˜

ÿ

λPΛ

¸

“ÿ

λPΛ

PpAλ q

を満たしたとしよう. このときŤ

ωPΩtωu “ Ω なので

1 “ P

˜

ÿ

ωPΩω

¸

“ÿ

ωPΩPpωq “ 0

となってしまい矛盾する.

9

Page 10: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 1.1.4. Ω “ p0,1sとする. F “ Bpp0,1sqとする. ただしBpp0,1sqは p0,1s上のボレル集合族である (A章). Pを pΩ,F q上のルベーグ測度とする. このとき pΩ,F ,Pqは確率測度である.

同じ標本空間でも別のF の選ぶこともできる (問題 1.4).確率測度の性質として以下のことを挙げておく.

命題 1.1.5. pΩ,F ,Pqを確率測度空間とする. このとき以下が成り立つ.

(i) PpHq “ 0.

(ii) A P F に対して PpAcq “ 1 ´ PpAq.

(iii) Ai P F (1 ď i ď n)が Ai X A j “ H (i ­“ j)ならば P

˜

nÿ

i“1

Ai

¸

nÿ

i“1

PpAiq.

(iv) An P F (n ě 1)ならば

P

˜

ď

ně1

An

¸

ďÿ

ně1

PpAnq. (劣加法性)

(v) An P F (n ě 1)に対して

An Ă An`1pn ě 1q ñ P

˜

ď

ně1

An

¸

“ limnÑ8

PpAnq. (増大列連続性)

(vi) An P F (n ě 1)に対して

An Ą An`1pn ě 1q ñ P

˜

č

ně1

An

¸

“ limnÑ8

PpAnq. (減少列連続性)

問 1.1.6. 命題 1.1.5を証明せよ.

当たり前と思っていることでも測度論の定義によってようやく数学的に正当化されることがある9:

例題 1.1.7. A, Bという人がじゃんけんをする. ただし A, Bはグー,チョキ,パーをそれぞれ等確率で出すとする. “じゃんけんの決着がつき”Aが勝つ確率は

12である.

証明.

tじゃんけんの決着がつき Aが勝つ u “

n“1

tn回目で決着がつき Aが勝つ u

となる.

An :“ tn回目で決着がつき Aが勝つ u

とすると排反事象列であるので

Ppじゃんけんの決着がつき Aが勝つ q “

8ÿ

n“1

PpAnq

となる.

PpAnq “ Ppn ´ 1回目まで決着がつかず n回目で決着がつく q “

ˆ

13

˙n´1

¨13

“13n

9話の都合上,確率空間の存在や独立試行の話は認めている

10

Page 11: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

であるので

Ppじゃんけんの決着がつき Aが勝つ q “

8ÿ

n“1

13n

“ limnÑ8

13

1 ´ 13n

1 ´ 13

“ limnÑ8

Ppn回目までに決着がつき Aが勝つ q

“12.

注意 1.1.8. この例によりじゃんけんをしたらいつか必ず (確率 1で)決着がつくと言える. 測度論がないと,n回目までに決着する確率が 1に収束するということまでしか言えない10.

問 1.1.9. 適当な確率空間が存在すると仮定して次のことを示せ.

(i) さいころを振り続けるといつか必ず 1が出る. (Ppある nが存在して,n回目のサイコロの出目が 1である q “ 1)

(ii) コインを投げ続けるといつか必ず表が出る. (Ppある nが存在して,n回目のコインが表である q “ 1)

いくつか確率空間の例を挙げておこう.

例題 1.1.10. Ωを可算集合とする. F “ 2Ω とおいたとき A P F に対して

PpAq “ÿ

ωPA

とおく. ただし

pω P r0,1s,ÿ

ωPΩpω “ 1

を満たすものとする. このとき pΩ,F ,Pqは確率空間になることがわかる. 特にコイン投げやサイコロ投げの 1回試行などの確率空間はこの形で書けている.

例題 1.1.11. Ω “ Rとする. F “ BpRqとする. A P F に対して

PpAq “1

?2π

ż

Aexp

ˆ

´x2

2

˙

dx

とおくと pΩ,F ,Pqは確率空間になる. ただし右辺は pR,BpRqq上のルベーグ測度で定義された積分であ

る.(定義 A.4.5)

注意 1.1.12. 有限標本空間では特に意識することはなかったが無限標本空間では

PpAq “ 1, A P F (1.1)

が成り立つとき,事象 Aはほとんど確実に起こるといい,

A, P-a.s.

と書く. “ほとんど”という理由は A ­“ Ωで成り立つことがあるからである.

10両者を同じと思ってはいけない.

11

Page 12: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 1.1.13. 例題 1.1.7で F “ tいつか決着がつく uという事象を考えると Fc “ tいつまでも決着がつか

ない uであり ω “ pA,Bがグーを出し続ける q P Fc であるので F ­“ Ωである. しかしすでに確認したように PpFq “ 1である.よって

ほとんど確実にじゃんけんはいつか決着がつく

または

じゃんけんでいつか決着がつく,P-a.s.

という表現になる.

問 1.1.14. 確率空間 pΩ,F ,Pqの事象列 An P F (n ě 1)が任意の nに対して PpAnq “ 1を満たすとする. このとき

P

˜

č

ně1

An

¸

“ 1

を満たすことを示せ.

少し解析らしく不等式を使った手法を紹介しておく.

例題 1.1.15. 無限回のコイン投げを表現する適切な確率空間が存在すると仮定する. このとき

ある nが存在して n回目, n ` 1回目のコイン投げで続けて表が出る, P-a.s.

となる.

証明.

An “ t2n ´ 1回目と 2n回目のコイン投げでともに表が出る u

とする. このとき

tある nが存在して n回目, n ` 1回目のコイン投げで続けて表が出る u Ą

n“1

An

である. PpAnq “ 14 であり,

Pptある nが存在して n回目, n ` 1回目のコイン投げで続けて表が出る ucq ď P

˜˜

n“1

An

¸c¸

ď limnÑ8

14n “ 0.

注意 1.1.16. 確率論においては事象の包含関係を調べるということをよく行う11.

問 1.1.17. 無限回のコイン投げを表現する適切な確率空間が存在すると仮定する. n回目までに表が連続で

出た回数の最大値を Xn と表すことにする. このとき

supně1

Xn “ 8, P-a.s.

であることを示せ. (ヒント: 任意の k ě 1に対して Pˆ

supně1

Xn ě k˙

“ 1となることを示す.)

次の補題は一般の測度空間に対して成り立つことではあるがここでは確率空間で考える.

11複雑な確率模型を扱う場合,考えたい事象をそのまま考えると複雑すぎて実際の確率を計算するのが現実的ではなくなる

12

Page 13: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

pΩ,F ,Pq: 確率空間

補題 1.1.18. (ボレル-カンテリの補題) An P F とする. このとき

ÿ

ně1

PpAnq ă 8 ñ P

˜

č

ně1

ď

měnAn

¸

“ 0

ôほとんど確実に Anは有限回しか起きない.

問 1.1.19. 補題1.1.18を証明せよ. (ヒント:後半部は定義でなので証明する必要はない. 前半部は limnÑ8

P

˜

ď

měnAn

¸

0を示せば十分である.)

注意 1.1.20. pΩ,F ,Pqを確率空間とする. tAn : n ě 1u Ă F に対して

ω Pč

ně1

ď

měnAm ô ω では An が無限回起こる

である. 特に「An が無限回起こる」ことを「An, i.o.」と書く. また

ω Pď

ně1

č

měnAm ô ω では An は高々有限個の nを除いて起こる.

である.

問 1.1.21. コイン投げの無限回試行を考える. コイン投げで n回目に表が出る事象を Anと表すことにする.以下の事象を An を用いて表せ.

(i) m回目まで表が出る. (ii) 表が無限回出る.

ここで確率論独特の概念である独立性について触れておこう. 詳細は第 2章に譲る.

pΩ,F ,Pq: 確率空間.

定義 1.1.22. • 事象 A,B P F が独立であるとは

PpA X Bq “ PpAqPpBq

が成り立つときをいう.

より一般に

• 事象の族 tAλ : λ P Λuが独立であるとは,

任意の有限集合Λ0 Ă Λに対して P

¨

˝

č

λ PΛ0

˛

‚“ź

λ PΛ0

が成り立つときをいう.

• 事象の族 A1, ¨ ¨ ¨ ,An P F が組ごとに独立であるとは

PpAi X A jq “ PpAiqPpA jq, i ­“ j

が成り立つときをいう.

13

Page 14: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 1.1.23. コイン投げ 2回を考えたとき,事象 A “ t1回目に表が出る uと B “ t2回目に表が出る uは独

立であることが容易にわかる. 一方でC “ t1回目と 2回目で同じ結果 u, D “ t1回目も 2回目も表 uとい

う事象を考えるとCと Dは独立ではない.

問 1.1.24. 事象 A, Bが独立であるとき, Ac と B, Aと Bc, Ac と Bc はそれぞれ独立であることを示せ.

注意 1.1.25. 組ごとの独立性は独立性よりも弱い概念である. 実際,独立であれば組ごとに独立である. しかし次の例題で扱うように組ごとに独立であっても独立とは限らない.

例題 1.1.26. X1,X2,X3 を独立な確率変数で

PpXi “ 0q “ PpXi “ 1q “12

とする.

A1 “ tX1 “ X2u, A2 “ tX2 “ X3u, A3 “ tX3 “ X1u

という事象を考える. このとき

PpAi X A jq “ PpX1 “ X2 “ X3q “14

“ PpA1qPpA2q, i ­“ j

となり組ごとに独立である. 一方,

PpA1 X A2 X A3q “14

­“18

“ PpA1qPpA2qPpA3q

となり独立ではない.

問 1.1.27. n回サイコロを振る試行を考える. 1 ď i ă j ď nに対して

Ai, j “ ti番目と j番目に出た目が同じ u

としたとき, tAi, j : 1 ď i ă j ď nuは組ごとに独立だが独立な事象ではないことを示せ.

次の補題は確率論特有のものである.

pΩ,F ,Pq: 確率空間.

補題 1.1.28. (第 2種ボレル-カンテリの補題)独立な事象列 tAn : n ě 1uがÿ

ně1

PpAnq “ 8を満たすなら

ば, PpAn, i.o.q “ 1となる.

問 1.1.29. 以下の要領で補題 1.1.28の証明を与えよ.

(i) N ă M ă 8に対して

P

˜

n“N

Acn

¸

ď exp

˜

´

Mÿ

n“N

PpAnq

¸

を示せ.

(ii) 主張を示せ.

1.2 確率変数

確率論では確率変数と呼ばれるものを考える. これは測度論の言葉を使うと確率空間 pΩ,F ,Pqから別の

可測空間 pS,S qへの可測写像のことである.つまり次のように定義される.

14

Page 15: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

pΩ,F ,Pq: 確率空間.pS,S q: 可測空間.

定義 1.2.1. X が確率空間 pΩ,F ,Pq上の S-値確率変数であるとは

X : Ω Ñ S

任意の A P S に対して X´1pAq “ tω P Ω : Xpωq P Au P F

を満たすときをいう.

注意 1.2.2. pS,S q “ pR,BpRqqの場合に確率変数, pS,S q “ pRd ,BpRdqqの場合に確率ベクトルと書いて

いる本もある.また σ -加法族を明確にしたいときは X はF S -可測であるという. S が自明な場合は省略することが

多い.特にこの段階ではF がどのようなものかというものを強く意識する必要はない. (しかし 2章で扱う独立性の概念には σ -加法族F が密接に関わってくる.)

注意 1.2.3. 写像の可測性の定義は写像の連続性の類似である. 単に開集合か可測集合かの違いである.

いくつか確率変数の例を見てみよう.

例題 1.2.4. pΩ,F ,Pqを確率空間とする. A P F に対して

1Apωq “

$

&

%

1, ω P A

0, ω R A

としたとき 1A は確率変数である.

例題 1.2.5. pΩ,F ,Pqを確率空間とする.

Xpωq “ ω, ω P Ω

で X : Ω Ñ Ωを定義するとこれは明らかに pΩ,F qから pΩ,F qへの可測関数であるので確率変数である.このような X は恒等写像と呼ばれる.

例題 1.2.6. サイコロを 2回振る試行を考える (例題 1.0.2の確率空間). ω “ pi, jq P Ωに対して X1ppi, jqq “ i,

X2ppi, jqq “ jと定義する. このときサイコロを 2回振って 1回目に出た目を X1, 2回目に出た目を X2 と表

していると捉えることができる. このとき

pX1,X2q : Ω Ñ Ω

は t1,2,3,4,5,6u2-値確率変数である. また R2-値確率変数とみなすこともできる.

証明. X1, X2 の定義より, 任意の A Ă t1,2,3,4,5,6u2 に対して pX1,X2q´1pAq “ A P 2t1,2,3,4,5,6u2となるので

可測である.また B P BpR2qに対して pX1,X2q´1pBq “ tpi, jq P t1,2,3,4,5,6u2 : pi, jq P Buとなるので可測である.

例題 1.2.7. コイン投げ 1回の試行を考える (例題 1.0.1). このとき

Xpt表 uq “ 1, Xpt裏 uq “ ´1

と定義すると X は t1,´1u-値確率変数である.

15

Page 16: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 1.2.8. Ω を有限集合, F “ 2Ω とし, pΩ,F q 上に確率測度 P を考える. 任意の可測空間 pS,S q と写像

X : Ω Ñ Sに対して, X は確率変数であることを示せ.

次の命題は実数値の写像が可測関数 (確率変数)であることを確かめるのに非常に役に立つ. 証明は測度論の教科書を参考されたい.

命題 1.2.9. pΩ,F qを可測空間とする. f : Ω Ñ Rに対して次が成り立つ.

f がF BpRq-可測

ô f ´1pp´8,aqq P F , a P R

ô f ´1pp´8,asq P F , a P R

ô f ´1ppa,8qq P F , a P R

ô f ´1pra,8qq P F , a P R

これを用いると次のようなこともわかる.

補題 1.2.10. pΩ,F qを可測空間とする. 可測関数 f ,gと可測関数列 t fn : n ě 1uに対して次が成り立つ.

(i) f `, f ´, f ` g, f ´ g は可測関数である. ただし f `pωq “ maxt f pωq,0u, f ´pωq “ maxt´ f pωq,0u で

ある.

(ii) 定数 λ P Rに対して λ f は可測関数である.

(iii) infně1

fn, supně1

fn, limnÑ8

fn, limnÑ8

fn は可測関数である.

問 1.2.11. X1, ¨ ¨ ¨ ,Xn を Ω上の R-値確率変数, f : Rn Ñ Rを可測関数とする. このとき f pX1, ¨ ¨ ¨ ,Xnqは R-値確率変数であることを示せ. 12

pΩ,F ,Pq: 確率空間pS,S q: 可測空間

定義 1.2.12. X を pΩ,F ,Pq上定義された S-値の確率変数とする. このとき X の分布 (または法則)µX

とは

µX pAq “ PpX P Aq, A P S (1.2)

で定義される S上の確率測度のことをいう.特に S-値確率変数 X ,Y が同じ分布を持つとき

X d“ Y

と表す.また X の分布が µ で与えられるとき

X d„ µ

と表す.

注意 1.2.13. 同分布であるという概念は関数等の等号に慣れてしまっていると勘違いしやすいので注意が必要である. あくまで X とY を Sの値として見たときに “現れ方の確率”が同じということしか言っていない.

12ヒント: 命題 1.2.9 を Rn へ一般化してみる.

16

Page 17: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

Ω S

fX−1(A)g A

X

0 1µX(A) = P (fX−1(A)g)

µXP

図 1: 確率変数 X と確率測度 P, X の分布 µX のイメージ

問 1.2.14. (1.2)で定義された µX が pS,S q上の確率測度になっていることを確かめよ.

例題 1.2.15. サイコロを 2回振る試行を考える (例題 1.2.6). N-値確率変数 X “ X1 ` X2 を考えたとき X の

分布は

µX piq “ PpX1 ` X2 “ iq, i P N

によって決まる. また

X1 ı X2, X1d“ X2

であることに注意する.

例題 1.2.16. サイコロを1回振る試行を確率空間 pΩ1,F1,P1q,コインを1回投げる試行を確率空間 pΩ2,F2,P2q

上で考える. ただし

Ω1 “ t1,2,3,4,5,6u, F1 “ 2Ω1 , P1pAq “|A|

6, A Ă Ω1

Ω2 “ t表,裏 u, F2 “ 2Ω2 , P2pBq “|A|

2, B Ă Ω1

とする. このとき確率変数 X1 : Ω1 Ñ R, X2 : Ω2 Ñ Rを

X1pω1q “ 1t1,2,3upω1q pω1 P Ω1q, X2pω2q “ 1表pω2q pω2 P Ω2q

と定義すると X1d“ X2 である. このように異なる確率空間上で定義された確率変数であっても同じ分布を

持つことができる.

定義 1.2.17. X を R-値確率変数とする. x P Rに対して

Fpxq “ PpX ď xq

と定義した関数 F : R Ñ r0,1sを X の分布関数という.

定義 1.2.18. Rd-値確率変数の分布 µ に対して

µpAq “

ż

Af pxqdx, A P BpRdq

が成り立つような非負可測関数 f が存在するとき f を µ のルベーグ測度に関する (確率)密度関数という.

ルベーグ積分の知識がある前提の下では次のことがわかる.

17

Page 18: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 1.2.19. 測度空間 pS,S ,µq上の非負可測関数 f : S Ñ Rがż

Sf pxqµpdxq “ 1を満たすとする. このとき

νpAq “

ż

Af pxqµpdxq pA P S q

を考えると, ν は pS,S q上の確率測度になることを示せ. (ヒント: 定義 1.1.1の (1), (2)は明らか. (3)を示すには単調収束定理もしくはルベーグの優収束定理を用いる.)

次の定理は分布関数の性質として重要なものである.

定理 1.2.20. 分布関数 F は次の性質を持つ.

(i) F は単調非減少である.

(ii) limxÑ´8

Fpxq “ 0,かつ limxÑ8

Fpxq “ 1.

(iii) F は右連続である. つまり limyŒx Fpyq “ Fpxq.

(iv) Fpx´q “ limyÕx Fpxqとすると, Fpx´q “ PpX ă xq.

(v) PpX “ xq “ Fpxq ´ Fpx´q.

逆に,関数 F : R Ñ r0,1sが上記 (i), (ii), (iii)を満たしていれば F はある確率変数 X の分布関数になる.

問 1.2.21. 定理 1.2.20(i)„(v)の証明を与えよ.

定理 1.2.20後半の証明*. 関数 F : R Ñ r0,1sが (i), (ii), (iii)を満たしていたとする. Ω “ p0,1q, F “ Bp0,1q,P “ p0,1q上のルベーグ測度とする.

ω P Ωに対して

Xpωq “ supty : Fpyq ă ωu

とおく.

tω : Xpωq ď xu “ tω : ω ď Fpxqu

が示せれば F が確率変数 X の分布関数となることがわかる.ω ď Fpxqとする. このとき x R ty : Fpyq ă ωuであるので Xpωq ď xである.逆に Xpωq ď xとする. ω ą Fpxqとすると F の右連続性からある ε ą 0に対して ω ą Fpx ` εqとなる. 定義から Xpωq ě x ` ε ą xとなり矛盾する.

1.2.1 分布の例

確率論でよく登場する確率分布の例を挙げておこう.

例題 1.2.22. 有限集合 S “ ts1, ¨ ¨ ¨ ,snu-値確率変数 X が離散一様分布に従うとは

PpX “ siq “1n, 1 ď i ď n

を満たすときに言う.

問 1.2.23. サイコロを 1回投げる試行の結果を表す確率変数は離散一様分布に従うことを確かめよ.

18

Page 19: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 1.2.24. (ベルヌーイ分布) t0,1u-値確率変数 X がパラメータ p P r0,1sのベルヌーイ分布に従うとは

PpX “ 1q “ 1 ´ PpX “ 0q “ p

を満たすときにいい,パラメータ p P r0,1sのベルヌーイ分布を Berppqと表すことにする.

問 1.2.25. 例題 1.2.16の確率変数 X1,X2 はパラメータ 12 のベルヌーイ分布に従うことを示せ.

例題 1.2.26. (二項分布) t0,1, ¨ ¨ ¨ ,nu-値確率変数 X がパラメータ p P r0,1sの二項分布に従うとは

PpX “ kq “

ˆ

nk

˙

pkp1 ´ pqn´k, k P t0,1, ¨ ¨ ¨ ,nu

を満たすときをいい, t0, ¨ ¨ ¨ ,nu-値をとるパラメータ p P r0,1sの二項分布を Binpn, pqと表すことにする

問 1.2.27. コインを n 回投げる試行を考える. 表が出た回数を表す確率変数を X とすると X の分布は

Binpn, 12 qに従うことを示せ.

例題 1.2.28. (幾何分布) N0-値確率変数 X がパラメータ p P r0,1sの幾何分布に従うとは

PpX “ kq “ pp1 ´ pqk, k P N0

を満たすときをいい,パラメータ pの幾何分布を GeoN0ppqと表すことにする.

注意 1.2.29. 幾何分布では N上の確率分布を考えることがあり,そのとき

PpX “ kq “ pp1 ´ pqk´1, k P N

をパラメータ pの幾何分布といい, GeoNppqと表すことにする.

問 1.2.30. サイコロを投げて初めて 1が出るまで投げた回数を N と表す. このとき確率変数 N は GeoNp 16 q

に従うことを示せ.

例題 1.2.31. (ポアソン分布) N0-値確率変数 X がパラメータ λ P p0,8qのポアソン分布に従うとは

PpX “ kq “ e´λ λ k

k!, k P N

を満たすときをいい,パラメータ λ のポアソン分布を Poipλ qと表すことにする.

例題 1.2.22~例題 1.2.31は全て X の取りうる値が高々可算であった. しかし以下の例では R(または Rd)などの非可算な値を取りうる分布になっている. 特にこれらの例は密度関数で定義づけされる.

例題 1.2.32. (一様分布) R-値確率変数 X が pa,bq上の一様分布に従うとは密度関数 f が

f pxq “1

b ´ a1pa,bqpxq

を満たすときをいい, pa,bq上の一様分布を Unifpa,bqと表すことにする.

例題 1.2.33. (ベータ分布) R-値確率変数 X がパラメータ a,b ą 0のベータ分布に従うとは密度関数 f が

f pxq “1

Bpa,bqxa´1p1 ´ xqb´11p0,1qpxq

を満たすときを言う. ただし Bpa,bqは

Bpa,bq “

ż 1

0xa´1p1 ´ xqb´1dx

で定義されるベータ関数である. パラメータ a,b ą 0のベータ分布を Betapa,bqと表すことにする.

19

Page 20: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 1.2.34. (指数分布) R-値確率変数 X がパラメータ λ ą 0の指数分布に従うとは密度関数 f が

f pxq “ λe´λx1p0,8qpxq

を満たすときをいい,パラメータ λ ą 0の指数分布を Exppλ qと表すことにする.

例題 1.2.35. (ガンマ分布) R-値確率変数 X がパラメータ pα,λ q (α ą 0,λ ą 0)のガンマ分布に従うとは密度関数 f が

f pxq “1

Γpαqλ α xα´1e´λx1p0,8qpxq

を満たすときを言う. ただし Γpαqは

Γpαq “

ż 8

0xα´1e´xdx

で定義されるガンマ関数である. パラメータ α,λ ą 0のガンマ分布を Gampα,λ qと表すことにする.

注意 1.2.36. 指数分布はパラメータ p1,λ qの指数分布であることがわかる.

例題 1.2.37. (正規分布) R-値確率変数 X が平均 µ ,分散 v ą 0の正規分布に従うとは密度関数 f が

f pxq “1

?2πv

expˆ

´px ´ µq2

2v

˙

を満たすときを言い, Npµ,vqと書く. 特に Np0,1qを標準正規分布という.

図 2: 正規分布の密度関数.

例題 1.2.38. (正規分布) mを実 d 次ベクトル, Σを d 次実正定値対称行列とする. Rd-値確率変数 X が平均

m,分散行列 Σの正規分布に従うとは密度関数 f が

f pxq “1

a

detp2πΣqexp

ˆ

´12

px ´ mq ¨ Σ´1px ´ mq

˙

を満たすときを言い Npm,Σqと書く. ただし d 次実対称行列 Σが正定値であるとは任意の x P Rd , x ­“ 0に対して

x ¨ Σx ą 0

を満たすときを言う. 特に Np0, Iqを標準正規分布という. ここで I は d 次単位行列である.

20

Page 21: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 1.2.39. (コーシー分布) R-値確率変数 X がコーシー分布に従うとは密度関数 f が

f pxq “1

πp1 ` x2q

を満たすときを言う.

例題 1.2.40. (一様分布) A P BpRmqは 0 ă mpAq ă 8を満たすとする. このとき

f pxq “1Apxq

mpAq

を密度関数として持つ Rm上の確率分布を A上の一様分布といい, A上の一様分布を UnifpAqと表すことに

する.

問 1.2.41. パラメータ pのベルヌーイ分布の分布関数のグラフを描け.

1.3 期待値

ここまでは標本空間などを測度論を用いて定義した. この節では期待値を測度論の理論で再定義する.簡単な場合で期待値の例を確かめておこう. コイン投げの 1回試行で表が出たら 1,裏が出たら ´1得ら

れるとする. このとき 1回の試行で得られる数の期待値は

Pp表が出る q ˆ 1 ` Pp裏が出る q ˆ p´1q “12

´12

“ 0

である. これは高々有限な標本空間の上での議論なので和で表すことができた. これを無限標本空間上の確率測度を用いて一般化する際には積分を用いることになる. そこで測度による積分の定義を今一度復習しよう.

1.3.1 測度による積分

pΩ,F ,µq: 測度空間.

定義 1.3.1. Ai P F , ai ě 0 (i “ 1, ¨ ¨ ¨ ,n)に対して

spωq “

nÿ

i“1

ak1Ak pωq (1.3)

で与えられる非負可測関数を非負可測単関数という.

測度空間上の積分は可測単関数,非負可測関数,可測関数の順に定義される. 定義に関する詳細は測度論の教科書などを読み返すこと.

pΩ,F ,µq: 測度空間.

定義 1.3.2. (1.3)で定義された非負可測単関数 sに対して

ż

Ωspωqµpdωq “

nÿ

k“1

akµpAkq

で積分を定義する.

21

Page 22: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

Ω上の非負可測関数 f に対してż

Ωf pωqµpdωq “ lim

nÑ8

ż

Ωsnpωqµpdωq

により積分を定義する. ただし tsn : n ě 1uは

0 ď snpωq ď sn`1pωq, n ě 1,

limnÑ8

snpωq “ f pωq

を満たす可測単関数列. さらに可測関数 f に対してż

Ωf pωqµpdωq “

ż

Ωf `pωqµpdωq ´

ż

Ωf ´pωqµpdωq

の右辺が意味を持つ場合に限り,これを f の積分と定義する. 特にż

Ω| f pωq|µpdωq ă 8

であるとき f は可積分であるといい, f P L1pµqと書く13. また f P L1pµq, A P F に対してż

Af pωqµpdωq “

ż

Ωf pωq1Apωqµpdωq

と定義する.

定義だけをみると仰々しく見えるが R上の連続関数の積分を考える上ではあまり難しく考えなくてよく(定理 A.4.6,定理 A.4.7),基本的な性質はすべて引き継いでいる14. しかしルベーグ積分を考える利点は非常に多い. それは例えば次のようにリーマン積分が定義できなかった関数に対しても積分を定義できるといったものである.15 また収束定理などは積分と極限の交換を考える上では非常に強力な定理である (A章).

例題 1.3.3. Rの部分集合 Aを A “ QX 1 P BpRqとする. このとき

1Apxq “

$

&

%

1 x P A

0 x R A

定義すると, 1A は可測単関数であり,そのルベーグ積分はż

R1Apxqdx “ mpAq “

ÿ

xPA

mptxuq “ 0

となる. (Aは可算集合である.)一方で 1A はリーマン積分不可能な関数であることをよく知っている.

13 複素数値可測関数 g に対しては Re g, Im g P L1pµq の場合に限りż

Ωgpωqµpdωq “

ż

ΩpRe gpωqq µpdωq ` i

ż

ΩpIm gpωqq µpdωq

と定義する. このとき g P L1pµq と書く.

また定義から可測関数 f が f pωq “ 0, µ-a.e.を満たすときż

Ωf pωqµpdωq “ 0である.

14例えば次のような線型性など. f ,g P L1pµq とする. このとき a,b P R に対してż

Ωpa f pωq ` bgpωqqµpdωq “ a

ż

Ωf pωqµpdωq ` b

ż

Ωgpωqµpdωq

15例えばリーマン積分の場合,開集合に対する定義関数ですら積分を定義できないものが存在したがルベーグ積分の場合開集合に対する定義関数は可測関数であるのでルベーグ積分は存在することは定義からわかる.

22

Page 23: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 1.3.4. S を可算集合, F “ 2S とし, pS,F q 上の測度を個数測度 7(例題 A.2.3) とする. このとき関数f : S Ñ r0,8qに対して

ż

Sf psq7pdsq “

ÿ

sPS

f psq

となることを示せ. また f : S Ñ Rのときは

ÿ

sPS

| f psq| ă 8のときに積分が定義でき,

ż

Sf psq7pdsq “

ÿ

sPS

f psq

となることを示せ. 16

注意 1.3.5. 問 1.3.4により絶対収束する級数はルベーグ積分と見做すことができる. これにより測度論における様々な定理をリーマン積分だけでなく級数に対しても適用することができる. 特に収束定理 (A.5節)は非常に重要なものであるので必ず確認しておくこと. 

1.3.2 期待値およびモーメント

定義 1.3.2により測度を用いて積分を定義することができた.さて測度に基づいて積分を定義できたので本題の期待値の定義に戻ろう. 測度論的確率論の下では期待

値は次のように定義される.

pΩ,F ,Pq: 確率空間.

定義 1.3.6. Ω上の R-値確率変数 X の期待値 (平均)は X P L1pPqのときż

ΩXpωqPpdωq

と定義され,特に ErXsと書く. また A P F に対して

ErX : As “

ż

AXpωqPpdωq

と定義する.

定義 1.3.6では R-値確率変数の期待値を考えたが,今後のために少し一般化したものを考えておこう.

pΩ,F ,Pq: 確率空間.pS,S q: 可測空間.

定理 1.3.7. X を Ω上の S-値確率変数とする. f : S Ñ r0,8qを可測関数とする. このとき

Er f pXqs “

ż

Ωf pXpωqqPpdωq “

ż

Sf psqµX pdsq (1.4)

が成り立つ. ただし µX は (1.2)で定義された S上の確率測度である.さらに可測関数 f に対して f pXq P L1pPqまたは f P L1pµX qであるとき (1.4)が成り立つ.

問 1.3.8. 定理 1.3.7を以下の要領で証明せよ.

16ヒント: S “ N と考えてよい. f : N Ñ r0,8q のとき, fnpsq “ f psq1t1,2,¨¨¨ ,nupsq とおいてみる.

23

Page 24: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(i) f が非負可測単関数の場合に (1.4)を示せ.

(ii) 一般の非負可測関数の場合に (1.4)を示せ.

(iii) 可測関数 f が f pXq P L1pPqまたは f P L1pµX qのとき (1.4)が成り立つことを示せ.

問 1.3.9. pRd ,BpRdq,µqを確率空間とする. µ が密度関数 f を持つとする. このとき可測関数 g P L1pµqに

対してż

Rdgpxqµpdxq “

ż

Rdgpxq f pxqdx

が成り立つことを示せ.17

問 1.3.10. 任意の確率空間 pΩ,F ,Pqに対して Er1s “ 1であることを示せ.

冗長になるかもしれないが定義 1.3.6が今まで扱ってきた古典的な意味での期待値の拡張と捉えて問題ないことを確かめておこう.

例題 1.3.11. 例題 1.1.10の確率空間 pΩ,F ,Pqを考える. このときΩ上の可測関数 (確率変数) f に対して定

義に従って期待値を考える. 関数 f : Ω Ñ r0,8qに対してż

Ωf pωqPpdωq “

ÿ

ωPΩf pωqpω

となる. また f : Ω Ñ Rのときは

ÿ

ωPΩ| f pωq|pω ă 8のときに積分が定義でき,

ż

Ωf pωqPpdωq “

ÿ

ωPΩf pωqpω

となる.

例題 1.3.11の確認のためにこの節冒頭の例に適用してみよう.確率空間は標本空間 Ω “ t表,裏 u,事象全体は 2Ω とする. p表 “ p裏 “

12とする.

Ω上の関数 f : Ω Ñ Rを

f p表 q “ 1, f p裏 q “ ´1

とすると f の期待値は

Er f s “ÿ

ωPΩf pωqpω “ f p表 qp表` f p裏 qp裏 “ 0

となる.

問 1.3.12. n P Nに対して PpX “ 2nq “ 12n となる確率変数を考える. X の期待値を求めよ.

さらにモーメントと呼ばれるものを考える.

pΩ,F ,Pq: 確率空間.

定義 1.3.13. X を Ω上の実数値確率変数とする. p ě 1に対して |X |p P L1pPqであるとき X P Lp と書

き,特に自然数 n ě 1に対して X P Ln であるとき

mn “ ErXns

17ヒント: 収束定理.

24

Page 25: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

を X の n次モーメントという. 特に ErX2s ă 8であるとき

V pXq “ E”

pX ´ ErXsq2ı

を X の分散という.また X ,Y,XY P L1pPqのとき

CovpX ,Y q “ E rpX ´ ErXsqpY ´ ErY sqs

を X ,Y の共分散という.

注意 1.3.14. 確率変数 X が 2次モーメントを持てば必ず期待値が存在する. 18

問 1.3.15. (i) X2 P L1pPqのとき

V pXq “ ErX2s ´ ErXs2

を示せ.

(ii) X ,Y,XY P L1pPqのとき

CovpX ,Y q “ ErXY s ´ ErXsErY s

を示せ.

また多次元の確率変数に対して,各成分に対して共分散を計算したものをみることがある.

X “ pX1, ¨ ¨ ¨ ,Xdq: Rd-値確率変数.

定義 1.3.16. Xi P L2(1 ď i ď d)とする. X の分散行列とは

Σ “ pCovpXi,X jqqdi, j“1

で与えられる d ˆ d 行列のことをいう.

注意 1.3.17. d 次元正規分布の定義にあった分散行列 Σはまさに上で定義した分散行列のことである.

いくつか簡単な分布のモーメントを計算しておく.

例題 1.3.18. (ポアソン分布) λ ą 0に対して

X d„ Poipλ q

であるとき

m1 “ÿ

kě0

e´λ λ k

k!k “

ÿ

kě0

λe´λ λ k

k!“ λ , m2 “

ÿ

kě0

e´λ λ k

k!pkpk ´ 1q ` kq “ λ 2 ` λ

例題 1.3.19. (pa,bq上の一様分布) ´8 ă a ă b ă 8に対して

X d„ Unifpa,bq

18ヘルダーの不等式を使わなくても容易にわかる.

25

Page 26: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

であるとき

mn “

ż b

axn 1

b ´ adx “

1n ` 1

bn`1 ´ an`1

b ´ a

となる.

例題 1.3.20. (R上の正規分布) µ P R, v ą 0に対して

X d„ Npµ,vq

であるとき

m1 “

ż

Rx ¨

1?

2πvexp

ˆ

´px ´ µq2

2v

˙

dx “ µ

となる.

問 1.3.21. µ P R, v ą 0に対してX d

„ Npµ,vq

であるとき

V pXq “ v

であることを示せ.

問 1.3.22.X d

„ Np0,1q

であるとき, n P Nに対して ErXnsを求めよ.

問 1.3.23. 確率変数 X が以下の確率分布に従うとき期待値 ErXs,分散 V pXqが与えられたものになること

を確かめよ. ただし p P p0,1q, α ą 0, λ ą 0とする.

(i) X d„ Binpn, pq,ErXs “ np,V pXq “ npp1 ´ pq

(ii) X d„ GeoNppq,ErXs “

1p,V pXq “

1 ´ pp2

(iii) X d„ Exppλ q,ErXs “

λ,

V pXq “1

λ 2

(iv) X d„ Gampα,λ q,ErXs “

αλ,V pXq “

αλ 2

1.3.3 不等式

確率論では非常に複雑な確率変数 (例えば X1 ` ¨¨ ¨ ` Xn)を扱うことが目標の一つである. そのような確率変数の分布を計算することはほぼ不可能であるため,色々な不等式を用いる. ここでは期待値や分散を用いた確率論でよく使われる不等式を紹介しておく.

pΩ,F ,Pq: 確率変数.

定理 1.3.24. (i) (マルコフの不等式)確率変数 X が X P L1pPqとする. このとき

Pp|X | ě λ q ďEr|X |s

λλ ą 0

が成り立つ.

26

Page 27: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(ii) (チェビシェフの不等式)確率変数 X が X2 P L1pPqとする. このとき

Pp|X ´ ErXs| ě λ q ďV pXq

λ 2 λ ą 0

が成り立つ.

証明. (i) 明らかに

λ1|Xpωq|ěλ pωq ď |Xpωq|

が成り立つ. 両辺の積分をとれば成り立つ.(ii) 同様.

問 1.3.25. 確率変数 X が p ą 0に対して X p P L1 であるとする. このとき

Pp|X | ě λ q ďEr|X |ps

λ p , λ ą 0

が成り立つことを示せ.

問 1.3.26. 可測関数 φ : R Ñ Rが φ ě 0を満たしているとする. A P BpRqに対して iA “ inftφpxq : x P Auと

おくと

iAPpX P Aq ď ErφpXq : X P As ď ErφpXqs

が成り立つことを示せ.

問 1.3.27. X d„ Poipnqとする. このとき

PpX ě 3nq ď19

`19n

となることを示せ.

測度論の定理の帰結として次の不等式がよく知られている. (定理 D.1.8,定理 D.1.11)

pΩ,F ,Pq: 確率空間.

定理 1.3.28. (i) (ヘルダーの不等式) 確率変数 X ,Y が |X |p, |Y |q P L1pPqであるとする. ただし p,q P

r1,8sは1p

`1q

“ 1を満たすとする. このとき XY P L1pPqであり

|ErXY s| ď XpY q

が成り立つ. ただし 1 ď p ă 8 のとき Xp “ Er|X |ps1p , p “ 8 のとき Y 8 “ inftM : Pp|X | ą

Mq “ 0uとする.

(ii) (ミンコウスキの不等式) p P r1,8sに対して確率変数 X ,Y が |X |p, |Y |p P L1pPqであるとする. このとき

X `Y p ď Xp ` Y p

が成り立つ.

27

Page 28: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

注意 1.3.29. |X |p P L1pPqとなるとき X P LppPqと書く.

問 1.3.30. 1 ď p ă p1 ď 8とする. このとき X P Lp1pPqならば X P LppPqであることを示せ.

問 1.3.31. 確率変数 X が PpX ě 0q “ 1を満たし, ErX2s ă 8とする. このとき

PpX ą 0q ěErXs2

ErX2s

が成り立つことを示せ.

次の定理は確率測度特有の性質である.

関数 φ : R Ñ Rが凸関数であるとは

任意のλ P p0,1qと x,y P Rに対してλφpxq ` p1 ´ λ qφpyq ě φpλx ` p1 ´ λ qyq

が成り立つときをいう.

定理 1.3.32. (イェンセンの不等式) R-値確率変数 X が X ,φpXq P L1pPqであるとき

ErφpXqs ě φpErXsq

が成り立つ.

証明. c “ ErXsとする. ℓa,bpxq “ ax ` bを ℓa,bpcq “ φpcq,かつ φpxq ě ℓa,bpxqとなるように a,bに対して定

義する. このような ℓa,b は

φ 1pc´q “ limhŒ0

φpcq ´ φpc ´ hq

hď lim

hŒ0

φpc ` hq ´ φpcq

h“ φ 1pc`q

より, a P rφ 1pc´q,φ 1pc`qsに対して ℓa,φpcq´acpxq “ apx ´ cq ` φpcqとすると見つかる. よって

ErφpXqs ě Erℓa,bpXqs “ aErXs ` b “ ℓa,bpErXsq “ φpErXsq.

ここで 1つ重要な定理を与えておく.

定理 1.3.33. µ , ν を可測空間 pR,BpRqq上の確率測度とする. このとき以下は同値.

(i) 任意の A P BpRqに対して µpAq “ νpAq. (BpRq上 µ “ ν と書く.)

(ii) 任意の有界な連続関数 f に対してż

Rf pxqµpdxq “

ż

Rf pxqνpdxq.

注意 1.3.34. 定理 1.3.33により R-値確率変数 X , Y の確率分布が一致していることを知るためには

任意の有界連続関数 f に対して Er f pXqs “ Er f pY qs

を見ればよいことがわかった.

証明には測度論の知識 (B.1節)を使うので必要な場合は確認しておくとよい.

28

Page 29: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

証明. (i)ñ(ii): 積分の定義から明らか.19

(ii)ñ(i): 定理 B.1.8とBpRqの構成より,任意の左半開区間 pa,bs Ă Rに対して

µppa,bsq “ νppa,bsq

を言えばよい (問 B.1.6も参照).有界連続関数列 t fn : n ě 1uで

任意の x P Rに対して 0 ď fnpxq ď 1, fnpxq “ 1pa,bspxq (1.5)

となるものが存在する. このときルベーグの収束定理の仮定を満たしているので

µppa,bsq “

ż

R1pa,bspxqµpdxq “ lim

nÑ8

ż

Rfnpxqµpdxq

“ limnÑ8

ż

Rfnpxqµpdxq “

ż

R1pa,bsνpdxq “ νppa,bsq

となり示された.

問 1.3.35. (1.5)を満たす有界連続関数列 t fn : n ě 1uを構成せよ.

問 1.3.36. 定理 1.3.33を pRd ,BpRdqq上の確率測度 µ , ν に対して主張を書き換え,その証明を与えよ.

例題 1.3.37. X d„ Np0,1qであるとする. このとき X2 d

„ Gamˆ

12,

12

˙

である.

証明. 任意の有界連続関数 f に対して

Er f pX2qs

を考える.これは有界連続関数 gpxq “ f px2qに x “ X を代入した確率変数の期待値とみなすことができる

ので

Er f pX2qs “

ż

Rf px2q

1?

2πe´ x2

2 dx

“ 2ż 8

0f px2q

1?

2πe´ x2

2 dx

となる. x2 “ t と変数変換するとż 8

0f px2q

1?

2πe´ x2

2 dx “

ż 8

0

12?

2πt´ 1

2 e´ t2 dt

となる. よって

Er f pX2qs “

ż 8

0

1Γp 1

2 q

1?

2t´ 1

2 e´ t2 dt

となるので X2 の確率分布はパラメータˆ

12,

12

˙

のガンマ分布である.

問 1.3.38. X d„ Unifp0,1qとする. このとき c ą 0に対して ´c logX d

„ Gampc,1qであることを示せ.

19可測単関数の積分が一致するので非負可測関数,可積分関数の積分がすべて一致する.

29

Page 30: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

1.4 *確率測度の構成

さてここまで測度論を用いて改めて確率,期待値などを定義し直してきた. しかし重要な問題が1つ残っている.

無限個の確率変数が定義できるような確率空間は定義できるのか.

この問題のより正確な表現は後で行う.

例えば例題 2.1.8扱った無限回のコイン投げを見てみよう. Ω “ t0,1uN を標本空間として ω “ tωn : n ě

1u P Ωに対して Xnpωq “ ωn とおくことで無限個の確率変数 tXn : n ě 1uを定義しようとしていた. 問題はXn の可測性と確率測度の存在である. 可測性に関しては補題 2.1.7からどのように構成すれば良いかはわかる.では確率測度はどうしようか. まず Ω上に構成された確率測度はどのような性質を持っていなければい

けないか調べることから始めよう.n回のコイン投げと n ` k回のコイン投げについて考えてみる. An Ă t0,1unとしたときに任意の k ě 0に

対して

Pnppω1, ¨ ¨ ¨ ,ωnq P Anq “ Pn`kppω1, ¨ ¨ ¨ ,ωn`kq P An ˆ t0,1ukq (1.6)

を満たさなければいけない. ただし Pn は n回のコイン投げを表す確率測度とする.当然無限回のコイン投げを表す確率測度 Pも

Pnppω1, ¨ ¨ ¨ ,ωnq P Anq “ Ppω P An ˆ t0,1uNq

となる必要があることが想像できる. このような Pが構成できることを示す.(1.6)は一致条件と呼ばれる.主張を述べるために幾つか記号を導入しておく.

P f pNq: Nの有限部分集合全体.

定義 1.4.1. n ě 1に対して

Xn : Ω “ź

mě1

Ωm Ñ Ωn

Xnpωq “ ωn, ω “ tωi : i ě 1u

と定義する.n ě 1に対して

Xn : Ω “ź

ně1

Ωn Ñ Ω1 ˆ ¨¨ ¨ ˆ Ωn

Xnpωq “ pω1, ¨ ¨ ¨ ,ωnq “ pX1pωq, ¨ ¨ ¨ ,Xnpωqq

と定義する.

30

Page 31: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

Ωの部分集合族

C “

#

X´1n pBq :ある n P Nに対して B P

i“1Fi

+

から生成される σ -加法族F を

F “ σ rC s “â

ně1Fn

と書く.

注意 1.4.2. 直積 σ -加法族については定義 C.1.1を参照する.

問 1.4.3.â

ně1Fn “ σ rXn : n ě 1sであることを示せ.

次の定理で可算直積空間上に適当な確率測度 Pが存在することを確認する.

定理 1.4.4. pコルモゴロフの拡張定理 q各 n ě 1に対して pRn,BpRnqq上に確率測度 µnが与えられて

おり,任意の k ě 0に対して

µnpAq “ µn`kpA ˆRkq, A P BpRnq

を満たしているとする. このとき可測空間

˜

RN,â

ně1BpRq

¸

上の確率測度 Pで任意の n ě 1と任意の

A P BpRnqに対して

PpXn P Aq “ µnpAq

となるものが一意に存在する20.

2章以降では特に断りがないときは pΩ,F ,Pqを具体的に与えることはせず,存在するものとして扱っていく.証明のために次の補題を準備する.

補題 1.4.5. 定義 1.4.1のようにとる. このとき C は有限加法族である.

証明. 証明は省略する.

問 1.4.6. 補題 1.4.5を証明せよ.

*定理 1.4.4の証明. 簡単のためF “â

ně1BpRqと書くことにする.

B P C とする. このとき,ある n ě 1と A P

iP1BpRqが存在して B “ X´1

n pAqとなる. 有限加法族 C 上の

有限加法的測度 Pを

PpBq “ µnpAq

20定理の主張では R の可算直積空間に対して確率測度を構成したが,より広い集合である可分距離空間の非可算直積空間に対してもコルモゴロフの拡張定理が成り立つことが知られている [2, Theorem 12.1.2].

31

Page 32: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

と定義することにする. この Pが σ rC s上に一意に拡張できれば良い.一意性は拡張の存在が確認できればホップの拡張定理 (定理 B.1.11)より従う.拡張の存在は定理 B.1.12より

Bn P C ,Bn Ą Bn`1,č

ně1

Bn “ H ñ limnÑ8

PpBnq “ 0

を示せばよい. この対偶を示す. すなわち

Bn P C ,Bn Ą Bn`1に対してあるδ ą 0が存在して limnÑ8

PpBnq ą δ ñč

ně1

Bn ­“ H.

を示す.Bn P C を Bn Ą Bn`1 かつある δ ą 0に対して lim

nÑ8

PpBnq ą δ となるものとする.

Bn に対して Ain P BpRinqを X´1in pAinq “ Bn となるようなものとする.

もし in ď Nがすべての nで成り立つような Nが存在したとき, Ain は Ain ˆRN´in と同一視することでRN

の元になる. このとき仮定から limnÑ8

µNpAin ˆRN´inq ą δ となる. よってč

ně1

Ain ˆRN´in ­“ Hである.

inが有界でない場合を考える. 必要ならば部分列を取り直すことで Bn “ X´1n pAnq (An P BpRnq)としてよ

い. ここで測度の正則性 (定理 B.2.6)より, 各 n ě 1に対してコンパクト集合 Cn P BpRnqで Cn Ă An かつ

µnpAnzCnq ăδ

2n`1 を満たすものが存在する.

このとき Dn “ X´1n pCnqとおくと, Dn Ă Bn かつ PpBnzDnq ă

δ2n`1 である.

また

P

˜

i“1

Di

¸

“ PpBnq ´ P

˜

Bnz

i“1

Di

¸

“ PpBnq ´ P

˜

Bn X

i“1

pDci q

¸

ě PpBnq ´

nÿ

i“1

PpBizDiq ąδ2

である. よってn

č

i“1

Di ­“ Hである.č

ně1

Dn ­“ Hであることを示せば証明が完了する.

各 nに対して ωpnq “ pωpnq

1 ,ωpnq

2 , ¨ ¨ ¨ q PŞn

i“1 Di をひとつ選んでくる. このとき各 p ě 1に対して

ωpn`pq P

n`pč

i“1

Di Ă

i“1

Di

である. よって

Xnpωpn`pqq “ pωpn`pq

1 , ¨ ¨ ¨ ,ωpn`pqn q P Cn

である. n “ 1のとき, C1 はコンパクトなので tωp1`pq

1 : p ě 1uは収束する部分列 tωpk1,mq

1 : m ě 1uを持つ.

n “ 2のとき, k1,m ě 2ならば pωpk1,mq

1 ,ωpk1,mq

2 q P C2 であり, C2 はコンパクトなので tωpk1,mq

2 : m ě 1uは収

束する部分列 tωpk2,mq

2 : m ě 1uを持つ.n “ ℓのときに, tpωpkℓ,mq

1 , ¨ ¨ ¨ ,ωpkℓ,mq

ℓ q : m ě 1uが収束したとする. このとき kℓ,m ě ℓ` 1ならば

pωpkℓ,mq

1 , ¨ ¨ ¨ ,ωpkℓ,mq

ℓ`1 q P Cℓ`1

であり, Cℓ`1 のコンパクト性から収束する部分列 tωpkℓ`1,mq

ℓ`1 : m ě 1uが取れる. 帰納的に各 nに対して収束

する列 tωpkn,mqn uが存在することが言えた.

32

Page 33: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

ωn “ limmÑ8

ωpkn,mqn と定義するとCn のコンパクト性から pω1, ¨ ¨ ¨ ,ωnq P Cn がわかる. 任意の nについて成

り立つので pω1,ω2, ¨ ¨ ¨ q Pč

ně1

Dn が示された.

注意 1.4.7. コイン投げは Rの代わりに t0,1uで考えたが上の証明は容易に適用できる.

1.5 :確率論の応用 I

ここで少し趣向を変えて確率論を別の数学的問題に応用してみよう.

定義 1.5.1. (リーマン-ゼータ関数) s ą 1に対して

ζ psq “ÿ

ně1

1ns

と定義した関数をリーマン-ゼータ関数と呼ぶ.

リーマン-ゼータ関数に関して次のような定理が知られている.

定理 1.5.2. (オイラー積) s ą 1に対して

ζ psq “ź

p:素数

11 ´ p´s

と書ける. これをオイラー積表示と呼ぶ.

この定理はオイラーによって 1737年に証明された. ここではあえて確率論による証明を与えてみよう.

証明. 確率変数 X : N Ñ Nを

PpX “ nq “ζ psq´1

ns (1.7)

を満たすものとする. k ě 1に対して事象

Ek “ tX が kで割り切れる u

を考える. このとき

PpEkq “ PpX “ ik, i ě 1q “ ζ psq´1ÿ

iě1

1pikqs “ k´s.

である. m個の異なる素数 k1, ¨ ¨ ¨ ,km に対して

P

˜

i“1

Eki

¸

“ PpX が k1 ¨ ¨ ¨kmで割り切れる q

“ ζ psq´1ÿ

ℓě1

1pℓk1 ¨ ¨ ¨kmqs

“ pk1 ¨ ¨ ¨kmq´s “

i“1

PpEkiq

33

Page 34: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

となり事象 Ek1 , ¨ ¨ ¨ ,Ekm は独立であることがわかる. 独立性より

ζ psq´1 “ PpX “ 1q “ PpX は任意の素数で割り切れないq

“ź

p:素数

PpEcpq

“ź

p:素数

p1 ´ PpEpqq

“ź

p:素数

p1 ´ p´sq.

1.6 問題

以下,特に記述しない限り確率空間 pΩ,F ,Pqで考える.

問題 1.1. 事象 A,B P F が PpAq “13

, PpBq “34を満たすとする.

112

ď PpA X Bq ď13となることを示せ. ま

たそれぞれの不等号に対して等号が成り立つような例を作れ.

問題 1.2. n ě 2とし, A1,A2, ¨ ¨ ¨ ,An P F とする. このとき

P

˜

i“1

Ai

¸

nÿ

i“1

PpAiq ´ÿ

iă j

PpAi X A jq `ÿ

iă jăk

PpAi X A j X Akq ` ¨ ¨ ¨ ` p´1qn`1PpA1 X A2 X ¨¨ ¨Anq

が成り立つことを示せ.

問題 1.3. 事象 A,Bのどちらか一方のみが起こる確率は

PpAq ` PpBq ´ 2PpA X Bq

で与えられることを示せ.

問題 1.4. Ω “ p0,1sとする. また n “ 0,1, ¨ ¨ ¨ に対して

Ipnq

j “

ˆ

j ´ 12n ,

j2n

ȷ

, j “ 1, ¨ ¨ ¨ ,2n

とする. Ωの部分集合の族F Ă 2Ω を

F “

#

ď

jPJ

Ipnq

j : J Ă t1,2, ¨ ¨ ¨ ,2nu

+

とし, P : F Ñ r0,1sを

P

˜

ď

jPJ

Ipnq

j

¸

“12n 7tJu

としたとき pΩ,F ,Pqは確率空間になっていることを示せ.

問題 1.5. (i) 事象 Aが自身と独立なとき PpAq P t0,1uであることを示せ.

(ii) PpAq P t0,1uのとき, Aは任意の事象 Bと独立であることを示せ.

問題 1.6. p P Nを素数とする. Ω “ t1, ¨ ¨ ¨ , pu, F “ 2Ωとし,確率測度 Pは任意の A Ă Ωに対して PpAq “|A|

p

で与えられるとする. ただし |A|は集合 Aの要素の数とする. A,B P F が独立であるとき, A, Bの少なくと

も一方は空集合か Ωであることを示せ.

34

Page 35: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問題 1.7. An P F (n ě 1)が独立であるとき

P

˜

č

ně1

An

¸

“ź

ně1

PpAnq (1.8)

が成り立つことを証明せよ.

以下の問は (1.8)の右辺が自明でない極限を持つための必要十分条件を与える.

問題 1.8. 数列 tan : n ě 1uが an P r0,1qを満たすとする. このとき

ÿ

ně1

an ă 8 ôź

ně1

p1 ´ anq ą 0

が成り立つことを示せ.

問題 1.9. B P F であり, 0 ă PpBq ď 1であると仮定する. A P F に対して

PBpAq “PpA X Bq

PpBq(1.9)

とすると pX ,F ,PBqは確率空間になることを示せ. PB を Bに関する条件付き確率と呼ぶ. PBpAqを PpA|Bq

と書くこともある.

問題 1.10. F ,G をそれぞれ Ω上の σ -加法族とする. このとき次を示せ.

恒等写像 X : pΩ,F q Ñ pΩ,G qが可測である. ô G Ă F

問題 1.11. 補題 1.2.10の証明を与えよ.

問題 1.12. 関数 F,G : R Ñ Rが共に分布関数であるとき,任意の λ P r0,1sに対して λF ` p1 ´ λ qGは分布

関数であることを示せ.

問題 1.13. 次の関数 f : R Ñ Rが密度関数になるような定数 cを求めよ.

(i) f pxq “ cx´ 12 p1 ´ xq´ 1

2 1p0,1qpxq (ii) f pxq “ ce´x´e´x

(iii) f pxq “c

p1 ` x2qm m P N

問題 1.14. R-値確率変数 X がある a P Rに対して exppaXq P L1pPqであるとする.

(i) ErexppaXqs ě exppaErXsqであることを示せ.

(ii) a ą 0のとき,任意の t ą 0に対して PpX ą tq ď ErexppapX ´ tqqsであることを示せ.

(iii) a ă 0のとき,任意の t ă 0に対して PpX ă tq ď ErexppapX ´ tqqsであることを示せ.

問題 1.15. R-値確率変数 X の分布関数 F は連続であるとする. 次の確率変数の分布関数を F を用いて表せ.

(i) X2 (ii)a

|X |

(iii) sinX (iv) eX

(v) FpXq (vi) eX2

問題 1.16. I Ă Rを開集合とする. 連続関数 f : I Ñ Rを R-値確率変数 X の密度関数とする. a ą 0を定数とする. このとき確率変数 Y “ aX の密度関数を aと f を用いて表せ.

問題 1.17. p P r0,1sとする. 1回投げたときに表が出る確率が pとなるコインを p-コインと呼ぶことにする. p-コインを n回投げたとき表が出た回数の確率分布を与えよ.

35

Page 36: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問題 1.18. µ , ν を pRd ,BpRdqq上の確率測度とする. 以下は同値であることを示せ.

(i) BpRdq上 µ “ ν .

(ii) 任意の有界な連続微分可関数 f に対してż

Rdf pxqµpdxq “

ż

Rdf pxqνpdxq.

問題 1.19. I “ r0,8qとする. pI,BpIq,µqを測度空間とする. 実数値関数 f P C1pr0,8qqは非減少関数とす

る. このとき f ptq ´ f p0q “

ż t

0f 1psqdsとフビニの定理を用いて

ż

Ip f ptq ´ f p0qqµpdtq “

ż 8

0f 1pxqµppx,8qqdx

が成り立つことを示せ. 特に非負確率変数 X に対して

Er f pXqs “ f p0q `

ż 8

0f 1ptqPpX ě tqdt

が成り立つことを示せ.

問題 1.20. µ を N0 上の測度とする. f : N0 Ñ Rは非減少関数とする. このとき f pnq ´ f p0q “

nÿ

i“1

p f piq ´

f pi ´ 1qqとフビニの定理を用いてÿ

ně1

p f pnq ´ f p0qqµpnq “ÿ

ně1

p f pnq ´ f pn ´ 1qqµptx : x ě nuq

が成り立つことを示せ. 特に N0-値確率変数 X に対して

Er f pXqs “ f p0q `ÿ

ně1

p f pnq ´ f pn ´ 1qqµpX ě nq

が成り立つことを示せ.

問題 1.21. : k, l P Nに対して gcdpk, lqを最大公約数とする. n ě 1を固定したとき,確率変数 pNpnq

1 ,Npnq

2 qは

t1,2, ¨ ¨ ¨ ,nu2 上の一様分布に従うとする. Qn を pNpnq

1 ,Npnq

2 qの確率測度とし,次のような事象を考える.

A “ tgcdpNpnq

1 ,Npnq

2 q “ 1u

Ap “ tNpnq

1 ,Npnq

2 はともに pで割り切れる u p ě 1

p1, ¨ ¨ ¨ , pℓpnq を n以下の素数全体とする. 以下の問に答えよ.

(i) 任意の m P N  pm ď ℓpnqqに対して次の等式が成り立つことを示せ.

Qn

˜

k“1

Apk

¸

mÿ

k“1

p´1qk´1µk.

ただし µk “1n2

ÿ

1ďii㨨¨ăikďn

Z

npi1 ¨ ¨ ¨ pik

^2

, x P Rに対して txuは xを超えない最大の整数を表している.

(ii) 固定した mに対して

limnÑ8

Qn

˜

k“1

Apk

¸

“ 1 ´

k“1

ˆ

1 ´1p2

k

˙

が成り立つことを示せ.

(iii) limnÑ8

QnpAq “6

π2 を示せ.

36

Page 37: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

2 独立性

この章では確率論における重要な概念である独立性に関する内容を扱う.以下,確率空間が pΩ,F ,Pqは特に断りがない限り適当な確率空間とする.

キーワード: 独立性

2.1 確率変数の性質

ここでは少々細かいことではあるが写像の可測性に関する内容をより詳しく見ておく.A章の内容と重複するが次の補題を与えておく.

補題 2.1.1. Ωを集合とする. G Ă 2Ω に対して

σ rG s “č

A ĄGA はσ -加法族

A

は G を含む最小の σ -加法族である. 特に σ rG sを G によって生成される σ -加法族という.

問 2.1.2. 補題 2.1.1の証明を与えよ. また一般にF ,G が Ωの σ -加法族であるとき, F YG “ tA Ă Ω : A P

F または A P G uは Ωの σ -加法族ではない. これを具体的な Ω, F ,G を挙げることで確かめよ.

次の補題はなんらかの写像 X : Ω Ñ Sが確率変数となるように集合 Ωに新しく σ -加法族を構成できることを主張している.

Ω: 集合.pS,S q: 可測空間.

補題 2.1.3. 写像 X : Ω Ñ Sを考える. このとき

σ rXs “ tX´1pAq : A P S u Ă 2Ω

はΩの σ -加法族である. 特に σ rXsは X が可測写像となる最小の σ -加法族であり, X で生成される σ -加法族と呼ばれる.

問 2.1.4. 補題 2.1.3を証明せよ.

問 2.1.5. 例題 1.2.6の確率変数 X1, X2 に対して

σ rX1s,σ rX2s,σ rX1 ` X2s

を求めよ. また「A P σ rX1sô ω “ pi, jq P Aか ω R Aは iによって決まる」ことを確かめよ.

注意 2.1.6. 確率空間 pΩ,F ,Pq上の確率変数 X に対して σ rXsを考えると明らかに σ rXs Ă F である.

補題 2.1.3ではΩ上の一つの写像 X によって σ -加法族を構成できたが複数の写像からΩ上に σ -加法族を構成できる.

Ω: 集合.pS,S q: 可測空間.

37

Page 38: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

補題 2.1.7. Ω上の S-値写像の族 tXλ : λ P Λuを考える. このとき tXλ : λ P Λuが可測になるような最

小の σ -加法族 GΛ が存在する. 特にこの GΛ を

σ rXλ : λ P Λs

と書く.

証明*. まず 2Ωの元では tXλ : λ P Λuは可測であることに注意する. 各λ P Λに対してGλ “ tX´1λ pAq : A P S u

とおく. このとき σ -加法族F の元で tXλ : λ P Λuが可測になるためには

Gλ Ă F pλ P Λq すなわちď

λ PΛ

Gλ Ă F

を満たさなければいけない. 定義より

σ

«

ď

λ PΛ

ff

Ă F なので GΛ “ σ

«

ď

λ PΛ

ff

が条件を満たす.

簡単ではあるが確率論を学ぶ上では非常に重要な例を挙げておこう.

例題 2.1.8. コイン投げの無限回試行を考える. 簡単のために表Ñ 1,裏Ñ 0と書くことにする. このとき

Ω “ t0,1uN “ tω “ tωnuně1 : ωn P t0,1uu

と表せる. 各 n ě 1に対して Xnpωq “ ωn と定義する. (これは n回目の試行の結果と考えられる.) このときt0,1un-値確率変数 pX1, ¨ ¨ ¨ ,Xnqで生成される σ -加法族をFn “ σ rpX1, ¨ ¨ ¨ ,Xnqsとすると

A P Fn ô ω P Aまたはω R Aは pω1, ¨ ¨ ¨ ,ωnqで定まる (2.1)

ことがわかる. 明らかにFn Ă Fn`1 が成り立ちm

ď

k“1

Fk “ Fm は σ -加法族である. 21

問 2.1.10. (2.1)を証明せよ.

2.2 独立性

サイコロを複数回投げる試行を考える. 通常それぞれの試行で出る目は他の試行で出た目とは無関係であると考える. この「無関係さ」は “独立”という概念で定義される. それはまさに定義 1.1.22で定義した事象の独立性を用いると

任意の m ě 1,ωi P t1,2,3,4,5,6uに対して P

˜

i“1

ti回目にωiが出る u

¸

i“1

Ppi回目にωiが出る q

21ď

ně1

Fn は σ -加法族ではない. 実際 1 を無限個含む p 表が無限回出る qという事象 A を考えてみると A Rď

ně1

Fn である. 一方

An “ tωn “ 1u とすると A “č

ně1

ď

měnAm となり

Ť

ně1 Fn が σ -加法族とすると矛盾する.

注意 2.1.9. この例に関してもう少し注意を与えておこう. 補題 2.1.7 を用いることでサイコロの無限回試行に関する確率空間を構成できる. 一旦無限回試行の確率空間を構成してしまえば,その確率空間の下で有限回試行を考えることも可能である.逆に古典的確率論の立場から見ると高々有限回の試行に対してしか事象 (Fn の元),および確率 (測度) を定義できない. しかし上

で見たように「表が無限回出る」という事象は Fn の元の有限演算では導き出せない. このように測度論的確率論を考えることの利点の一つとして「無限回の試行」を数学的に問題なく記述できることが挙げられるだろう.またこの例題のように同じ試行を考える場合でもあえて確率空間を大きく選ぶことが必要なときもある.

38

Page 39: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

と言える. (つまりどのタイミングで投げたサイコロに対してどの目が出る事象も独立である)これを踏まえると確率変数の独立性は次のようなするのが自然である.

tpSλ ,Sλ q : λ P Λu: 可測空間族.

定義 2.2.1. (i) Xλ をΩ上で定義された Sλ -値確率変数とする. 確率変数系 tXλ : λ P Λuが独立である

とは,任意の有限個の λ1, ¨ ¨ ¨ ,λn P Λに対して

P

˜

i“1

tXλi P Bλiu

¸

i“1

PpXλi P Bλiq, Bλi P Sλi

が成り立つときをいう.

(ii) σ -加法族系 tFγ : γ P Γuが独立であるとは,任意の有限個の添え字集合 γ1, ¨ ¨ ¨ ,γm に対して

P

˜

i“1

Aγi

¸

i“1

PpAγiq, Aγi P Fγi

が成り立つときをいう.

注意 2.2.2. (iii)は測度論的確率論の立場から (i)の独立性の定義を拡張したものである. これは次の問で例を見てみよう.

問 2.2.3. 定義 2.2.1の設定の下で次が成り立つことを示せ.

(i) S-値確率変数 X ,Y が独立であるとき σ rXsと σ rY sは独立であることを示せ.

(ii) G , H が独立であるとする. S-値確率変数 X , Y がそれぞれ G -可測, H -可測であるとする. このときX ,Y は独立であることを示せ.

測度論的確率論の立場で確率変数の独立性の定義を読みかえると確率空間がある確率空間の直積空間に

なっていることを意味している (定理 2.2.8).

注意 2.2.4. 問 2.2.3より例えば次のことがわかる. X ,Y が独立な S-値確率変数であるとする. このとき S上

の任意の可測関数 g,hに対して

gpXq,hpY qは独立である.

問 2.2.5. 事象 A, Bが独立であるとき, Ac と B, Aと Bc, Ac と Bc はそれぞれ独立であることを示せ.

実際に具体的に確率空間を用いて独立性について違いを見てみよう.

例題 2.2.6. コイン投げの 2N 回試行を考える. 確率変数 Xi を

Xi “

$

&

%

1, i回目の試行で表が出た.

0, i回目の試行で裏が出た.

とする. 特に

PpXi “ ai, i “ 1, ¨ ¨ ¨ ,2Nq “1

22N , ai P t0,1u

で確率を定義する. 確率空間は pΩ,F ,Pqとする. ただし

Ω “ t表,裏 u2N ,F “ 2Ω

39

Page 40: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(i) 事象を A “ tX1 ` X2が偶数 u, B “ tX1,X2がともに 1uとする. このとき

PpAq “12,PpBq “

14,PpA X Bq “ PpBq “

14

となり

PpA X Bq ­“ PpAqPpBq

なので独立ではない.

(ii) X1,X2 は独立であることを確かめる. S “ t0,1u, S “ 2S とする. S は

H,t0u,t1u,S

からなる. C,D P S に対して

PpX1 P C,X2 P Dq “ PpX1 P CqPpX2 P Dq

を確かめる. C,DのいずれかがHまたは Sであるときは明らかである. またC,Dが t0u,t1uのいずれ

かの場合は確率測度の定義より等式が成り立つことが容易に分かる. よって X1と X2が独立であるこ

とがわかる.

(iii) Fo,Fe Ă F をそれぞれ

Fo “ σ rX1,X3, ¨ ¨ ¨ ,X2N´1s,Fe “ σ rX2,X4, ¨ ¨ ¨ ,X2Ns

と定義する. このときFo,Fe は独立である.

問 2.2.7. 例題 2.2.6の X1, X2 が独立であることを示せ. またFo,Fe が独立であることを示せ.22

さてこの章の冒頭で述べたように実は測度論的確率論では独立性は確率空間の直積空間で与えられる.これを見てみよう. 測度空間の直積およびフビニの定理は C章で扱っているので知識が曖昧な場合は見直すことを勧める.

tpSi,Si,µiq : i “ 1, ¨ ¨ ¨ ,nu: 確率空間族.

定理 2.2.8. Xk を Sk-値確率変数で µk という確率分布に従うとする. X “ pX1, ¨ ¨ ¨ ,Xnqの分布が µX で与

えられたとする. このとき以下は同値

(i) X1, ¨ ¨ ¨ ,Xn が独立.

(ii) 可測空間

˜

i“1

Si,n

â

i“1Si

¸

上の確率測度として

µX “

i“1µi

が成り立つ.

証明. (i)ñ(ii) 仮定より任意の Bi P Si に対して

µX pB1 ˆ ¨¨ ¨ ˆ Bnq “ PpXi P Bi, i “ 1, ¨ ¨ ¨ ,nq “

i“1

PpXi P Biq “

i“1

µipBiq

が成り立つ. このとき直積測度の構成より (ii)が従う.(ii)ñ(i) 定義より明らか.

22ヒント: 問題 2.1

40

Page 41: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

定理 2.2.8を用いると次のように独立性を持つことで非常に良い性質を導くことができる.

定理 2.2.9. R-値確率変数列X1, ¨ ¨ ¨ ,Xnが独立であるとする. X1, ¨ ¨ ¨ ,Xn P L1pPqであるときśn

i“1 Xi P L1pPq

であり,かつ

E

«

i“1

Xi

ff

i“1

ErXis (2.2)

が成り立つ. また X1, ¨ ¨ ¨ ,Xn が非負であるときも (2.2)が成り立つ.

証明. フビニの定理と定理 2.2.8より

E

«ˇ

ˇ

ˇ

ˇ

ˇ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ff

ż

Rn|x1 ˆ ¨¨ ¨ ˆ xn|

i“1µipdpx1, ¨ ¨ ¨ ,xnqq

i“1

ż

R|xi|µipdxiq

i“1

Er|Xi|s ă 8

となり,これよりn

ź

i“1

Xi P L1pPqである. さらに E

«

i“1

Xi

ff

にフビニの定理を適用すると (2.2)が求まる.

問 2.2.10. 定理 2.2.9は C-値確率変数列 X1, ¨ ¨ ¨ ,Xn に対しても成り立つことを示せ.

問 2.2.11. Xi (i “ 1, ¨ ¨ ¨ ,k ` ℓ)を Si-値確率変数で独立なものとする.

(i) 可測関数 fi : Si Ñ Cに対して t fipXiq : i “ 1, ¨ ¨ ¨ ,nuは独立であることを示せ.

(ii)

˜

i“1

Si,k

â

i“1Si

¸

上の可測関数 f ,

˜

k`ℓź

i“k`1

Si,k`ℓâ

i“k`1Si

¸

上の可測関数 gに対して

Y “ f pX1, ¨ ¨ ¨ ,Xnq,Z “ gpXk`1, ¨ ¨ ¨ ,Xk`ℓq

とすると Y,Z は独立であることを示せ. また Y,Z P L1pPqならば

Er f pX1, ¨ ¨ ¨XkqgpXk`1, ¨ ¨ ¨ ,Xk`ℓqs “ Er f pX1, ¨ ¨ ¨XkqsErgpXk`1, ¨ ¨ ¨ ,Xk`ℓqs

が成り立つことを示せ.

さて独立性に関連して次のような命題が与えられる.

命題 2.2.12. 実数値確率変数列 X1, ¨ ¨ ¨ ,Xn が独立で, X1, ¨ ¨ ¨ ,Xn P L2pPqであるとき

V pX1 ` ¨¨ ¨ ` Xnq “ V pX1q ` ¨ ¨ ¨ `V pXnq

が成り立つ. また

CovpXi,X jq “ 0, i ­“ j.

証明. 略.

41

Page 42: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

注意 2.2.13. 共分散についてもう少し見てみよう. X ,Y を実数値確率変数とする. このときヘルダーの不等式 (補題 D.1.8)を用いると

|CovpX ,Y q| ď E“

|X ´ ErXs|2‰12

E“

|Y ´ ErY s|2‰12

が成り立つ. すなわち

´1 ďCovpX ,Y q

a

V pXqa

V pY qď 1

である. 実数値確率変数 X ,Y が与えられたとき

CovpX ,Y qa

V pXqa

V pY qP r´1,1s

を相関係数と呼ぶ. 命題 2.2.12は実数値確率変数 X ,Y が独立ならば相関係数が 0となることを主張している. 一般にこの逆は成り立たない.

例題 2.2.14. 確率変数 X ,Y を次のような分布で定義する.

PpX “ 1,Y “ 1q “ PpX “ 1,Y “ ´1q “ PpX “ ´1,Y “ 2q “ PpX “ ´1,Y “ ´2q “14

このとき容易に

CovpX ,Y q “ 0

である. 一方で

PpX “ ´1,Y “ 1q “ 0 ­“18

“ PpX “ ´1qPpY “ 1q

となり X ,Y は独立ではない.

ここで独立な Rd-値確率変数 X ,Y の和 X `Y の分布を X ,Y の分布を用いて表現する.

問 2.2.15. 独立な Rd-値確率変数 X ,Y の分布は µX ,µY で与えられているとする. A P BpRdqに対して

νpAq “

ż

RdˆRd1Apx ` yqµX pdxqµY pdyq (2.3)

で ν : BpRdq Ñ r0,8sを定義する.

(i) ν は pRd ,BpRdqq上の確率測度であることを示せ.

(ii) 確率変数 X `Y の分布は ν で与えられることを示せ.

注意 2.2.16. (2.3)で与えられる測度を µX と µY のたたみこみといい, µX ˚ µY と表す.

問 2.2.17. X ,Y は独立な確率変数で標準正規分布に従うとする. このとき

X `Y?

2

も標準正規分布に従うことを示せ.

ここまで有限個の独立な確率変数についてのみ扱ってきたが,すでに第 1章で確かめたように可算無限個の確率変数の存在を知っている. ここでは独立な確率変数の場合に対して定理を書き直しておく.

42

Page 43: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

定理 2.2.18. pR,BpRqq上の確率測度 tνnuが与えられているとする.このとき pRN,

Â

ně1 BpRqq上の確率測度 Pで各 n ě 1に対して

PpXkpωq P Ak,k “ 1, ¨ ¨ ¨ ,nq “

k“1

νkpAkq, Ak P BpRq

を満たすものが一意に存在する.

注意 2.2.19. コルモゴロフの拡張定理とは異なり,独立な確率変数の場合は,より一般的な集合の値をとる非可算な確率変数を構成することができる. [2, Theorem 8.2.2].

定義 2.2.20. 確率変数列 tXλ : λ P Λuがすべて独立で同じ分布を持つとき,独立同分布といい, i.i.d.と省略して書くことがある.

ここで独立性を用いることで得られる不等式を与えておこう.

tXn : n ě 1u: 独立な R-値確率変数

定理 2.2.21. (コルモゴロフの不等式)各 n ě 1に対して ErXns “ 0, V pXnq ă 8が成り立つとする. このとき

max1ďiďn

|X1 ` ¨¨ ¨ ` Xi| ą x˙

ď1x2

nÿ

i“1

V pXiq

が成り立つ.

証明. n ě 1に対して Sn “ X1 ` ¨¨ ¨ ` Xn とおく. 事象

A j “ t|S j| ą xかつ i ă jに対して|Si| ď xu

を考える. このとき

E“

S2n‰

ě

nÿ

i“1

E“

S2n : Ai

nÿ

i“1

E“

pS2i ` 2SipSn ´ Siq ` pSn ´ Siq

2q : Ai‰

ě

nÿ

i“1

E“

pS2i ` 2SipSn ´ Siqq : Ai

である. Si1Ai と pSn ´ Siqは独立であることが仮定からわかるので

ErSipSn ´ Siq : Ais “ 0

である. よって

E“

S2n‰

ě

nÿ

i“1

E“

S2i : Ai

ě

nÿ

i“1

x2PpAiq “ x2Pˆ

max1ďiďn

|Si| ą x˙

がわかる.

問 2.2.22. 所持金 N ドルからはじめて次のようなゲームを行う:

それぞれ確率12で表,裏がでるコイン投げを行い,表が出ると 1ドルもらい,裏が出ると 1ドル支払う.

2N2 回ゲームを行ったき,所持金が 0ドルまたは 2N に一度でもなる確率は 1N 以下であることを示せ.

43

Page 44: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

2.3 :確率論の応用 II

ここで少し独立性と条件付き確率との関連を述べておこう.条件付き確率の定義は次で与えられる (問題 1.9参照).

pΩ,F ,Pq: 確率空間

定義 2.3.1. p条件付き確率 q事象 A,B P F を PpAq ą 0となるものとする. 次で与えられる確率 PpB|Aq

を,条件 Aの下での Bの条件付き確率と呼ぶ.

PpB|Aq “PpA X Bq

PpAq. (2.4)

注意 2.3.2. 条件付き確率 PpB|Aqは「事象 Aが起きたと条件付けたときに Bが起こる確率」を表している.

例題 2.3.3. サイコロを 1回ふったとする. 出た目が偶数であるという条件の下での出た目が 4以上であるという条件付き確率を求めてみよう.すべての目は等確率 p“ 1

6 qで出るものとする. A=「出た目が偶数である」, B “「4以上である」とおく

と, PpAq “ 12 であり, PpA X Bq 1

3 である. よって条件付き確率はPpA X Bq

PpAq“

23である.

例題 2.3.4. 事象 A,Bが互いに独立であるとする. このとき Aの下での Bの条件付き確率は

PpB|Aq “PpA X Bq

PpAq“

PpAqPpBq

PpAq“ PpBq

となる. (事象 Aは事象 Bに何も影響を与えていない.)

ここで有名なモンティ・ホール問題について扱ってみたい.モンティ・ホール問題は次で与えられる.

モンティ・ホール問題: ゲームの司会とプレーヤーがいる. プレイヤーの前には 3つの扉があり 1つの扉の裏には車があり,他の扉の裏にはヤギ (はずれ)がいる. プレーヤーは 3つの扉うち 1つを選び,その扉の向こうにあるものを景品としてもらえるというゲームとする.さて,プレーヤーが 1つの扉を選んだあと,司会が残る 2つのドアのうち 1つを選んで開きヤギがいることをプレーヤーに見せた. 司会者がプレーヤーに「選んだ部屋を変更しますか?」と聞いてきた.プレーヤーは変更した方が良いのだろうか?

条件付き確率を用いて調べてみよう.解説 [9]: 扉を x,y,zと名付ける. 扉 x,y,zの裏に車がある事象を X ,Y,Z と表すことにする. このとき

Ω “ tX ,Y,Zu,PpXq “ PpY q “ PpZq “13

である. プレーヤーは xの扉を選んだとする. このときプレーヤーが車をもらえる確率は PpXq “ 13 である.

ではここで司会者がどの扉を開けるか考える.

(1) xの裏に車がないとき,司会者は車のない方の扉を開ける.

(2) xの裏に車があるとき,司会者は yを確率 p, zを確率 1 ´ pで開けるものとする. (0 ď p ď 1)

さて司会者が yを開ける事象を Oy, zを開ける事象を Oz と表すことにする. 計算したい条件付き確率はPpX |Oyq, PpX |Ozqである.

44

Page 45: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

このとき標本空間は

tX X Oy,X X Oz,Y X Oy,Y X Oz,Z X Oy,Z X Ozu

である. さてこの中で司会者は車のある扉は開かないので PpY X Oyq “ PpZ X Ozq “ 0であることがわかる.よって

PpOyq “ P`

pX X Oyq Y pZ X Oyq˘

“ PpX X Oyq ` PpZ X Oyq “13

p `13

PpOzq “ P`

pX X Ozq Y pY X Ozq˘

“ PpX X Ozq ` PpY X Ozq “13

p1 ´ pq `13

である. PpX X Oyq “p3 , PpX X Ozq “

1´p3 であるので条件付き確率は

PpX |Oyq “PpX X Oyq

PpOyq“

pp ` 1

PpX |Ozq “PpX X Ozq

PpOzq“

1 ´ p2 ´ p

である. よって司会者が扉 yを開いたという条件の下では xに車がある条件付き確率は pp`1 , zに車がある

条件付き確率は 11`p となる. つまり p ă 1のときには変えた方がよいのである.

(p “ 1のとき,例えば司会者が zを開いたとするとこれは yに車があることを意味しており,あまり司会者の振る舞いとしては良くないように思える. しかし上の議論より p “ 1のときは変えても変えなくても確率は変わらないことになる点では公平である. )この問題は「囚人のジレンマ」という問題と同値であるので一度調べてみると良い.

2.4 問題

問題 2.1. * pΩ,F ,Pqを確率空間とする. Ωの部分集合族 C ,D Ă 2S が C Ă F , D Ă F を満たすとする.

任意のC1,C2 P C ,D1,D2 P D に対してC1 XC2 P C ,D1 X D2 P D

任意のC P C ,D P D に対して PpC X Dq “ PpCqPpDq

が成り立つとき, σ rC sと σ rDsは独立であることを示せ. (ヒント: π-λ 定理を用いる)

問題 2.2. X , Y を独立な確率変数でそれぞれパラメータ µ , ν の指数分布に従うとする. このとき確率変数

Z “ mintX ,Y uとW “ 1tXăY u

は独立であることを示せ.

問題 2.3. pX ,Y qは Bp0;1q “ tpx,yq P R2 : x2 ` y2 ă 1u Ă R2 上の一様分布に従う確率変数とする. このとき確率変数 X と X2 `Y 2 それぞれの密度関数を求めよ.

問題 2.4. 独立な t0,1u-値確率変数列 X1, ¨ ¨ ¨ ,Xn は Xnd„ Berppqとする. このとき

X1 ` ¨¨ ¨ ` Xnd„ Binpn, pqである

ことを示せ.

問題 2.5. a,b,c ą 0とする. X ,Y は独立な確率変数であり,それぞれ X d„ Gampc,aq, Y d

„ Gampc,bqとする.このとき確率変数

Z “ X `Y, W “X

X `Y

は独立であり, Z d„ Gampc,a ` bq, W d

„ Betapa,bqであることを示せ.

45

Page 46: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問題 2.6. p P p0,1qとし, λ ą 0とする. tXn : n ě 1uを独立同分布な確率変数列でPpXn “ 1q “ p “ 1´PpXn “ 0q

を満たすとする. また tXn : n ě 1uと独立な確率変数 N の分布は Poipλ qを満たすとする. このとき

SN “

Nÿ

n“1

Xn

の分布を求めよ. ただし S0 “ 0とする.

問題 2.7. X ,Y は独立な R-値確率変数でその分布 µX , µY はそれぞれ連続な密度関数 f ,gを持つとする. このとき X `Y の分布も連続な密度関数 hを持ち,

hpxq “

ż

Rf px ´ yqgpyqdy, x P R

と表されることを示せ.

問題 2.8. X ,Y は独立な確率変数でコーシー分布に従うとする. このとき

X `Y2

もコーシー分布に従うことを示せ.

問題 2.9. X ,Y は独立な確率変数でそれぞれパラメータ µ ą 0, λ ą 0のポアソン分布に従うとする. このとき

X `Y d„ Poipλ ` µq

であることを示せ.

問題 2.10. X , Y , Z を独立な確率変数で,それぞれ p0,1q上の一様分布に従うとする. 確率変数 XY , Z2 の密

度関数を求め, PpXY ă Z2q “59であることを示せ.

問題 2.11. X1, ¨ ¨ ¨ ,Xn は独立同分布な p0,8q-値確率変数で X´11 P L1 となるようなものとする. このとき任

意の 1 ď m ď nに対して

E„

X1 ` ¨¨ ¨ ` Xm

X1 ` ¨¨ ¨ ` Xn

ȷ

“mn

となることを示せ. (ヒント: E„

Xi

X1 ` ¨¨ ¨ ` Xn

ȷ

に対する対称性. )

問題 2.12. tXn : n ě 1uを独立同分布な確率変数列で X1d„ Unifp0,1qとする. 0 ă x ă 1に対して

N “ inftn ě 1 : X1 ` ¨¨ ¨ ` Xn ą xu

としたとき,任意の n ě 1に対して PpN ą nq “ xn

n! であることを示せ.

問題 2.13. : s ą 1とする. P で素数全体の集合とする. N-値確率変数 X の分布は (1.7)で与えられるものとする. 自然数 n P Nに対して素因数分解を

n “ź

pPP

pαppnq

を考える. このとき確率変数の族 tαppXq : p P Puを定義できる. 以下のことを示せ.

(i) 各 p P P に対して αppXqの分布は GeoN0pp´sqであることを示せ.

(ii) tαppXq : p P Puは独立であることを示せ.

46

Page 47: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

3 大数の法則

この章では独立同分布な R-値確率変数列 tXn : n ě 1uを考えたとき. その n番目までの和 Sn “

nÿ

i“1

Xi の

挙動を調べる. 挙動を調べる一つの方法が

Sn

n

を nを大きくしたときの極限を求めることである.より簡単な例で挙げるとサイコロを投げ続けて 1が出た回数を考える. 確率変数 Xnを n回目に 1が出た

ら 1, 1以外が出たら 0とすれば

Sn “

nÿ

i“1

Xi “ n回目までに 1が出た回数

となる. このときSn

n“ n回目までに 1が出た回数の割合となるので直感的には

Sn

n“ Ñ ”

16

“ ErX1s

と思うだろう. しかしこの収束は一体どういう意味で捉えるとよいのか.確率論では様々な収束の概念を導入することになる. これらの違いを理解していくことが重要である.

キーワード: 概収束,確率収束, Lp-収束,大数の法則

3.1 確率変数の収束

この節では確率変数列の収束について議論する.確率変数の収束を次のように定義する.

pΩ,F ,Pq: 確率空間.

定義 3.1.1. X , tXn : n ě 1uをそれぞれ Ω上の実数値確率変数,実数値確率変数列とする.

(i) Xn が X へ概収束するとは

P´!

ω : limnÑ8

Xnpωq “ Xpωq

“ 1

を満たすときをいい,

Xn Ñ X , P-a.s.

と書く.

(ii) Xn が X へ確率収束するとは

任意のε ą 0に対して limnÑ8

Pptω : |Xnpωq ´ Xpωq| ą εuq “ 0

を満たすときをいい,

XnP

Ñ X

と書く.

47

Page 48: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(iii) 1 ď p ă 8に対して |Xn|p, |X |p P L1pPqとする. Xn が X へ Lp 収束するとは

limnÑ8

Xn ´ Xp “ 0

を満たすときを言う. ただし |X |p P L1pPqに対して

Xp “ Er|X |ps1p

とする.

XnLpÑ X

と書く.

注意 3.1.2. これらの収束の定義は C-値確率変数列に対しても同様に定義できる. また概収束,および確率収束は距離空間に値を持つような確率変数列に対しても同様に定義できる.

注意 3.1.3. 概収束は測度論ではほとんど至る所での収束と一致する.また確率収束は測度論では測度収束と呼ばれる概念と一致する.

これらの収束の定義を章の冒頭で挙げたサイコロの問題で考えてみる. (それぞれの収束が成り立つと仮定した場合)

• (概収束) Ω上の関数としてほとんど確実に limnÑ8

Snpωq

n“

16

. (例えば 1以外がずっと出るというような ω P Ωに対してはこれは成り立たないがそのような事象の確率は 0である.)

• (確率収束)任意の ε ą 0に対してˇ

ˇ

ˇ

ˇ

Sn

16

ˇ

ˇ

ˇ

ˇ

ď ε となる確率が 1に収束する.

• (Lp-収束) limnÑ8

E„ˇ

ˇ

ˇ

ˇ

Sn

16

ˇ

ˇ

ˇ

ˇ

“ 0. (期待値からの誤差の p-次モーメントが 0に収束する)

問 3.1.4. X d„ Unifp0,1qとする. このとき tXn : n ě 1uは 0に概収束,確率収束,任意の p ě 1に対して Lp-

収束することを確かめよ.

これらの収束の違いは一見しただけではわかりづらい. 以下の命題や例で実際に互いに異なるということを確かめていこう.

pX ,F ,Pq:確率空間

命題 3.1.5. X ,tXn : n ě 1uを Ω上の実数値確率変数とする. このとき以下が成り立つ.

(i) Xn Ñ X , P-a.s. ñ XnP

Ñ X .

(ii) XnLpÑ X ñ Xn

PÑ X .

(iii) XnP

Ñ X ñ部分列 tXnk : k ě 1uで Xnk Ñ X , P-a.s. となるものが存在する.

証明. (i)

E “ tω : limnÑ8

Xnpωq ­“ Xpωqu P F

48

Page 49: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

とおく. このとき ε ą 0に対して

č

ně1

m“ntω : |Xnpωq ´ Xpωq| ě εu Ă E

となることがわかる. よって測度の連続性 (命題 1.1.5(vi))より

limnÑ8

Pptω : |Xnpωq ´ Xpωq| ě εuq “ 0

が従う.(ii) 問 1.3.25より任意の ε ą 0に対して

Pptω : |Xnpωq ´ Xpωq| ě εuq ďE r|Xn ´ X |ps

ε p

となり右辺は n Ñ 8で 0へ収束する.(iii) 仮定より任意の k ě 1に対して

|Xnk pωq ´ Xpωq| ě1k

˙

ď1k2

となる nk が存在する. ここで nk ă nk`1 となるように選ぶ.

Ak “

"

ω : |Xnk pωq ´ Xpωq| ě1k

*

とおくとボレル-カンテリの補題より

P

˜

č

ně1

ď

kěn

Ak,

¸

“ 0

わかる. これは Xnk pωq Ñ Xpωq, P-a.s.であることを意味している.

図 3: それぞれの収束の関係. Lp-収束から概収束は確率収束を経由すると部分列で概収束するものが存在することはわかる.

これらの命題より概収束,および Lp-収束は確率収束より強い収束を意味していることはわかった. それでは逆は成り立つのか考えてみるとそれは成り立たないことがわかる.

例題 3.1.6. 確率空間 pr0,1s,Bpr0,1sq,dxqを考える. r0,1s上の確率変数 Xn を次のように定義する.

Xnpxq “ 1Inpxq.

ただし,

In “

k2ℓ,

k ` 12ℓ

ȷ

, n “ 2ℓ ` k, 0 ď k ď 2ℓ ´ 1

49

Page 50: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

とおく. このとき任意の x P r0,1sに対して Xnpxq “ 1となるような nが無限個存在するので

Xn ­Ñ 0, P-a.s.

一方, 0 ă ε ă 1に対して

Pp|Xn| ą εq “ 2´ℓ

であるので確率収束することがわかる.

例題 3.1.7. 確率空間 pr0,1s,Bpr0,1sq,dxqを考える. r0,1s上の確率変数 Xn を次のように定義する.

Xnpxq “ n1p1Inpxq.

ただし,

In “

0,1n

ȷ

とする. このとき Xn が 0に確率収束することは明らか. 一方,

E r|Xn|ps “

ż 1

0

´

n1p1In

¯pdx “ 1

となり 0に Lp-収束しないことがわかる.

注意 3.1.8. 例題 3.1.6, 3.1.7の例はそれぞれ概収束, Lp-収束が互いに異なることも示している.

特に概収束は測度論の言葉ではほとんど至る所での収束と同じであったので測度論で用いた収束定理が

そのまま適用できる. 以下の定理は測度論の収束定理であるので証明は省略する.

X : 確率変数tXn : n ě 1u: 確率変数列.

定理 3.1.9. (i) (単調収束定理) tXn : n ě 1uが非負で単調増加,かつ Xn Ñ X P-a.s.であるとする. このとき

limnÑ8

ErXns “ ErXs

が成り立つ.

(ii) (ファトゥの補題) tXn : n ě 1uが非負であるとする. このとき

limnÑ8

ErXns ě Er limnÑ8

Xns

が成り立つ.

(iii) (ルベーグの収束定理)

Xn Ñ X , P-a.s.

と仮定する. 非負確率変数 Y で ErY s ă 8で

|Xn| ď Y, P-a.s.

を満たすとする. このとき

limnÑ8

ErXns “ ErXs

が成り立つ.

50

Page 51: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

ファトゥの補題やルベーグの収束定理は確率収束の場合にも適用することができる.

問 3.1.10. X ,Xnpn ě 1qを確率変数列とする. 以下の問に答えよ.

(i) (ファトゥの補題) tXn : n ě 1uが非負であるとする. XnP

Ñ X とする. このとき

limnÑ8

ErXns ě ErXs

が成り立つことを示せ.23

(ii) (ルベーグの収束定理)

XnP

Ñ X

と仮定する. 非負確率変数 Y で ErY s ă 8で

|Xn| ď Y, P-a.s.

を満たすとする. このとき

limnÑ8

ErXns “ ErXs

が成り立つことを示せ.

問 3.1.11. R-値確率変数列 tXn : n ě 1uが R-値確率変数 X に確率収束するとする. f P CpRqのとき

f pXnqP

Ñ f pXq

を示せ.

問 3.1.12. R-値確率変数列 tXn : n ě 1uが R-値確率変数 X に確率収束するとする. このとき任意の ε ą 0に対して,ある K ą 0が存在して任意の n ě 1に対して Pp|Xn| ě Kq ď ε とできることを示せ. また任意のf P CbpRqに対して lim

nÑ8Er f pXnqs “ Er f pXqsを示せ.

3.2 大数の弱法則

さてこの章冒頭の問題に戻ろう. 予想では

Sn

16

(3.1)

である. しかし我々は確率変数の収束について前節で様々な定義をしたばかりである. ここで挙げた収束はどの意味が正しいのだろうか. これは大数の法則と呼ばれる定理で確認できる.

23ヒント: まず下極限に対して収束する部分列 tXnk : k P Nu を考えてみる. その部分列に対して概収束する部分列を取って考える.

51

Page 52: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

定理 3.2.1. (大数の弱法則) tXn : n ě 1uをR-値独立同分布な確率変数とする. m “ ErX1s, σ2 “ V pX1q ă 8

であるとき,

(i) limnÑ8

E

«

ˇ

ˇ

ˇ

ˇ

X1 ` ¨¨ ¨ ` Xn

n´ m

ˇ

ˇ

ˇ

ˇ

2ff

“ 0. つまりX1 ` ¨¨ ¨ ` Xn

nL2Ñ m.

(ii) 任意の ε ą 0に対して

limnÑ8

Pˆˇ

ˇ

ˇ

ˇ

X1 ` ¨¨ ¨ ` Xn

n´ m

ˇ

ˇ

ˇ

ˇ

ą ε˙

“ 0.

(iii) R上の有界ボレル可測関数 f が x “ mで連続であるとき

limnÑ8

E„

X1 ` ¨¨ ¨ ` Xn

n

˙ȷ

“ f pmq.

注意 3.2.2. 定理 3.2.1より (3.1)は L2-収束および確率収束することがわかる.

証明. (i)命題 2.2.12より

E

«

ˇ

ˇ

ˇ

ˇ

X1 ` ¨¨ ¨ ` Xn

n´ m

ˇ

ˇ

ˇ

ˇ

2ff

“V pX1q

n“

σ2

n

となるので L2-収束することがわかる.(ii) L2-収束するので確率収束することがわかる.(iii) ε ą 0に対して

ˇ

ˇ

ˇ

ˇ

E„

X1 ` ¨¨ ¨ ` Xn

n

˙ȷ

´ f pmq

ˇ

ˇ

ˇ

ˇ

ď

ˇ

ˇ

ˇ

ˇ

E„

X1 ` ¨¨ ¨ ` Xn

n

˙

´ f pmq :ˇ

ˇ

ˇ

ˇ

X1 ` ¨¨ ¨ ` Xn

n´ m

ˇ

ˇ

ˇ

ˇ

ą εȷˇ

ˇ

ˇ

ˇ

`

ˇ

ˇ

ˇ

ˇ

E„

X1 ` ¨¨ ¨ ` Xn

n

˙

´ f pmq :ˇ

ˇ

ˇ

ˇ

X1 ` ¨¨ ¨ ` Xn

n´ m

ˇ

ˇ

ˇ

ˇ

ď εȷˇ

ˇ

ˇ

ˇ

ď sup|x´m|ďε

| f pxq ´ f pmq| ` 2 f 8Pˆˇ

ˇ

ˇ

ˇ

X1 ` ¨¨ ¨ ` Xn

n´ m

ˇ

ˇ

ˇ

ˇ

ą ε˙

ď sup|x´m|ďε

| f pxq ´ f pmq| ` 2 f 8

σ2

ε2n.

n Ñ 8で上極限をとり, f の x “ mでの連続性を用いると得られる.

大数の弱法則を用いる応用例をここで述べておく.

例題 3.2.3. (ワイエルシュトラスの多項式近似)r0,1s上の連続関数 f とする.

fnpxq “

nÿ

m“0

ˆ

nm

˙

xmp1 ´ xqn´m f´m

n

¯

を f に対する次元 nのベルンシュタイン多項式とする. このとき

limnÑ8

supxPr0,1s

| fnpxq ´ f pxq| Ñ 0

である.

52

Page 53: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 3.2.3の証明. tXn : n ě 1uを独立同分布な確率変数で PpXn “ 1q “ p “ 1 ´ PpXn “ 0qを満たすものと

する (p P r0,1s). このとき ErXns “ p, V pXnq “ pp1 ´ pqである.

Sn “

nÿ

k“1

Xk

とおく. このとき

PpSn “ mq “

ˆ

nm

˙

pmp1 ´ pqn´m

であり,

E„

Sn

n

˙ȷ

“ fnppq

である. r0,1s上の連続関数は一様連続なので

supx,yPr0,1s,|x´y|ăδ

| f pxq ´ f pyq| ď ε

となる δ が存在する. このような δ ą 0に対して定理 3.2.1(iii)の証明を適用すると

r fnppq ´ f ppqs ď sup|x´p|ďδ

| f pxq ´ f ppq| ` 2 f 8

σ2

δ 2nď ε ` 2 f 8

σ2

δ 2n

となる. 右辺は pに依らず n Ñ 8とすると

limnÑ8

suppPr0,1s

| fnppq ´ f ppq| ď ε

を得る.

3.2.1 *コンプガチャ

一時期問題になったソーシャルゲームのコンプリートガチャ(コンプガチャ)の問題を大数の弱法則の観点から調べてみよう.コンプガチャはランダムに入手できるアイテム (n種類)の中で,特定のアイテム (k-種類)を揃えること

により稀少アイテムを入手できるシステムである.まず単純に n種類のアイテムがすべて等確率で引かれる場合に, n種類すべてを集めるまでにかかる回数

を見てみよう.

例題 3.2.4. (クーポンコレクター問題) tXℓ : ℓ ě 1uを独立同分布な確率変数で PpXℓ “ iq “1n

(i “ 1, ¨ ¨ ¨ ,n)を満たすとする.

T pnq “ inftℓ ě 1 : tX1, ¨ ¨ ¨ ,Xℓu “ t1, ¨ ¨ ¨ ,nuu

とする. このとき

T pnq

n lognP

Ñ 1.

注意 3.2.5. T pnq は n種類のアイテムすべてを引くまでのガチャの回数を表している.

これの証明には大数の弱収束を改良する必要ががある.

53

Page 54: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

tXn,k : k “ 1, ¨ ¨ ¨ ,n,n ě 1u: 確率変数列.

定理 3.2.6. 各 n ě 1 に対して Sn “ Xn,1 ` ¨¨ ¨ ` Xn,n とする. µn “ ErSns, σ2n “ V pSnq とおく. 数列

tbn : n ě 1uがσ2

n

b2n

Ñ 0を満たすとき,

Sn ´ µn

bn

PÑ 0.

注意 3.2.7. 定理 3.2.6では確率変数に独立性の条件を仮定していない.

問 3.2.8. 定理 3.2.6を証明せよ.

例題 3.2.4の証明. k ě 1に対して τnk を

τnk “ inftm ě 1 : 7tX1, ¨ ¨ ¨ ,Xmu “ ku

と定義する. τnk は k種類目のアイテムを揃えるまでにガチャを引いた回数である.

明らかに τn1 “ 1であり, τn

n “ T pnq である. k ě 1に対して

Xn,k “ τnk ´ τn

k´1

と定義する. ただし τn0 “ 0とする. このとき tXn,k : k “ 1, ¨ ¨ ¨ ,nuは独立であり,

PpXn,k “ ℓq “

ˆ

1 ´kn

˙ˆ

kn

˙ℓ

, ℓ P N (3.2)

である. よって

ErT pnqs “

nÿ

k“1

ErXn,ks “

nÿ

k“1

ˆ

1 ´kn

˙´1

“ nn

ÿ

k“1

k´1

V pT pnqq “

nÿ

k“1

V pXn,kq “

nÿ

k“1

ˆ

1 ´kn

˙´2 ˆ

kn

˙

ď n2n

ÿ

k“1

k´2

となる. bn “ n lognと取ると,定理 3.2.6より

T pnq ´ nřn

k“1 k´1

n lognP

Ñ 0

がわかる.řn

k“1 k´1 logn Ñ 1より従う.

これより 100種類のアイテムすべてを集めようとすると,おおよそ 460回となる.

問 3.2.9. (3.2)を証明せよ.

問 3.2.10. 例題 3.2.4の証明の tXn,k : k “ 1, ¨ ¨ ¨ ,nuが独立であることを示せ.

もう少しだけコンプガチャの問題に近づけよう.

例題 3.2.11. n種類あるガチャを考える. 揃える k個のアイテム (1,2, ¨ ¨ ¨ ,k)がそれぞれ等確率 1m (m P N)で

引かれるとする.

T pnq

k “ inftℓ ě 1 : tX1, ¨ ¨ ¨ ,Xℓu Ą t1, ¨ ¨ ¨ ,kuu

と定義する. m Ñ 8のとき km Ñ p P p0,1qが成り立つとする. このとき

T pnq

km logppmq

PÑ 0 (3.3)

である.

54

Page 55: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

注意 3.2.12. (3.3)の pは実は意味をなさない (p “ 1としても変わらない.)

この結果からわかることとして 0.1%で引けるアイテムを 10個集めようとすると,約 2300回引くことになる.

問 3.2.13. 例題 3.2.11を証明せよ.

3.2.2 *一般化大数の弱法則

ここでは大数の弱法則を少しだけ一般化したものを考えてみる. 内容は少し高度だが面白い例を与えることができる.

定理 3.2.14. 各 n P Nに対して tXn,k : 1 ď k ď nuは独立であるとする. bn ą 0は bn Ñ 8を満たすもの

とし,

Xn,k “ Xn,k1t|Xn,k| ď bnu

とする. n Ñ 8としたとき

(i)n

ÿ

k“1

Pp|Xn,k| ą bnq Ñ 0

(ii)1b2

n

nÿ

k“1

ErX2n,ks Ñ 0

が成り立つ仮定すると

Sn ´ an

bn

PÑ 0.

ただし Sn “ Xn,1 ` ¨¨ ¨ ` Xn,n, an “

nÿ

k“1

ErXn,ks.

証明. Sn “ Xn,1 ` ¨¨ ¨ ` Xn,n とおくと

Pˆˇ

ˇ

ˇ

ˇ

Sn ´ an

bn

ˇ

ˇ

ˇ

ˇ

ą ε˙

ď PpSn ­“ Snq ` Pˆˇ

ˇ

ˇ

ˇ

Sn ´ an

bn

ˇ

ˇ

ˇ

ˇ

ą ε˙

となる. 右辺第 1項は

PpSn ­“ Snq ď P

˜

k“1

tXn,k ­“ Xn,ku

¸

ď

nÿ

k“1

Pp|Xn,k| ą bnq

となり仮定 (i)から 0に収束する. 第 2項はチェビシェフの不等式から

Pˆˇ

ˇ

ˇ

ˇ

Sn ´ an

bn

ˇ

ˇ

ˇ

ˇ

ą ε˙

ď1ε2 E

«

ˇ

ˇ

ˇ

ˇ

Sn ´ an

bn

ˇ

ˇ

ˇ

ˇ

2ff

“V pSnq

b2nε2

řnk“1 V pXn,kq

b2nε2 ď

1b2

nε2

nÿ

k“1

Er|Xn,k|2s

となり仮定 (ii)から 0に収束する.

55

Page 56: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 3.2.15. (不公平な “公平ゲーム”)大数の法則を見ると ErX1s “ 0となるような賭け事 (ゲーム)であれば公平なように思える. しかし実はこの感覚は正しくない.

1ドルの賭け金で 2k ドル pk ě 1q獲得する確率が

pk “1

2kkpk ` 1q

であるというゲームを行う. このとき 1回ゲームした後の収支の期待値は

8ÿ

k“1

p2k ´ 1qpk ´ p0 “

8ÿ

k“1

1kpk ` 1q

´

8ÿ

k“1

pk ´ p1 ´

8ÿ

k“1

pkq “ 0

となり大数の法則から

X1 ` ¨¨ ¨ ` Xn

nは 0に確率収束する

ので公平なゲームのように思える. しかし実は定理 3.2.14を適用することができ

Sn

n lognが´ log2に確率収束することが言えるのである.

これは所持金が回を重ねるごとに減っていくことを意味している.

3.3 大数の強法則

定理 3.2.1では分散の有界性を仮定することで独立同分布な確率変数の和に関する確率収束を見た. しかしこれは概収束についても言うことができる.

tXn : n ě 1u: 独立同分布な確率変数.

定理 3.3.1. (大数の強法則) Er|Xn|4s ă 8を仮定する. m “ ErX1sとおくと,

X1 ` ¨¨ ¨ ` Xn

nÑ m, P-a.s.

が成り立つ.

証明. Xn “ Xn ´ mとすることで m “ 0としても一般性を失わない.

E

«

ˆ

X1 ` ¨¨ ¨ ` Xn

n

˙4ff

“1n4

nÿ

i, j,k,l“1

ErXiX jXkXls

“1n4

`

nErX41 s ` 3npn ´ 1qErX2

1 s2˘

である. ここで ErXis “ 0 であることと独立性を用いて i, j,k, l が異なるとき, ErX2i X jXks “ ErX3

i X js “

ErXiX jXkXls “ 0であることを使った.よって

ÿ

ně1

E

«

ˆ

X1 ` ¨¨ ¨ ` Xn

n

˙4ff

ă 8

となり問 3.11より

ÿ

ně1

ˆ

X1 ` ¨¨ ¨ ` Xn

n

˙4

ă 8, P-a.s.

56

Page 57: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

である. よって

limnÑ8

X1 ` ¨¨ ¨ ` Xn

n“ 0, P-a.s.

問 3.3.2. tXn : n ě 1uを独立同分布な確率変数とする. µ “ ErX1sであり, Xn P L2pPqであるとする. このとき任意の ε ą 0に対して

X1 ` ¨¨ ¨ ` Xn ´ nµn12`ε

PÑ 0

であることを示せ.

定理 3.3.1では ErX41 s ă 8を仮定したが,実は X1が有限な期待値を持てば大数の強法則が成り立つこと

が知られている.次の節でこれを見ていくが,場合によっては主張のみ確認して他は読み飛ばしても構わない.

3.3.1 *大数の強法則

tXn : n ě 1u: 独立同分布な確率変数.

定理 3.3.3. (大数の強法則) Er|X1|s ă 8とする. ErX1s “ µ としたとき

X1 ` ¨¨ ¨ ` Xn

nÑ µ, P-a.s.

が成り立つ.

注意 3.3.4. 定理 3.3.1とは X P L4pPqの仮定が X P L1pPqへと弱くなっている.

以下

Sn “

nÿ

k“1

Xk, S0 “ 0

と書く.定理 3.3.3の証明は 3段階からなる.まずはじめに次のことを示す.

補題 3.3.5. Yk “ Xk1t|Xk| ď kuとし, Tn “

nÿ

k“1

Yk とする. このとき

Tn

nÑ µ, P-a.s. ñ

Sn

nÑ µ, P-a.s.

補題 3.3.5の証明. 問 1.19よりÿ

kě1

Pp|Xk| ą kq ď

ż 8

0Pp|X1| ą tqdt “ Er|X1|s ă 8

である. よってボレル-カンテリの補題より

PpXk ­“ Yk, i.o.q “ 0 ô Pp高々有限個の kを除いて Xk “ Ykq “ 1

である. よってほとんどすべての ω P Ωに対して,ある Rpωq ą 0が存在して

|Snpωq ´ Tnpωq| ď Rpωq ă 8

とできる. これより主張が従う.

57

Page 58: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

第 2段階以降ではTn

nÑ µ , µ-a.s.を証明していく.

補題 3.3.6.ÿ

kě1

V pYkq

k2 ă 4Er|X1|s ă 8

が成り立つ.

補題 3.3.6の証明. 問 1.19より

V pYkq ď Er|Yk|2s “

ż 8

02yPp|Yk| ą yqdy ď

ż k

02yPp|X1| ą yqdy

である. よってフビニの定理より

ÿ

kě1

V pYkq

k2 ďÿ

kě1

1k2

ż 8

01ty ă ku2yPp|X1| ą yqdy

ż 8

0

˜

ÿ

kě1

1k2 1ty ă ku

¸

2yPp|X1| ą yqdy

である. 問 1.19より 0 ď u ă 8に対して

2yÿ

kě1

1k2 1ty ă ku ď 4 (3.4)

を示せばよいがこれは実際に成り立つ. (問 3.3.7)

問 3.3.7. (3.4)が成り立つことを示せ.

定理 3.3.3の証明. Xn は非負確率変数であると仮定する. α ą 1を固定する. kpnq “ tαnuとおく. ただし txu

は xを超えない最大の整数とする. このときチェビシェフの不等式より ε ą 0に対して

ÿ

ně1

P`

|Tkpnq ´ ErTkpnqs| ą εkpnq˘

ď ε´2ÿ

ně1

V pTkpnqq

kpnq2

“ ε´2ÿ

ně1

1kpnq2

kpnqÿ

m“1

V pYmq

“ ε´2ÿ

mě1

V pYmqÿ

n:kpnqěm

1kpnq2

tαnu ěαn

2であることに注意すると,

ÿ

n:kpnqěm

1kpnq2 ď 4

ÿ

n:kpnqěm

α2n ď4

p1 ´ α´2qm2

である. よって

ÿ

ně1

P`

|Tkpnq ´ ErTkpnqs| ą εkpnq˘

ď4Er|X1|s

p1 ´ α´2qε2 ă 8

となる. ε ą 0は任意であるので

Tkpnq ´ ErTkpnqs

kpnqÑ µ, P-a.s.

がわかる. また k Ñ 8のとき ErYks Ñ ErX1sであるから

ErTkpnqs

kpnqÑ µ

58

Page 59: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

である. 最後に n Ñ 8のときTn

nÑ µ , P-a.s.を証明する. kpnq ď m ă kpn ` 1qに対して Ym の非負性から

Tkpnq

kpn ` 1qď

Tm

Tkpn`1q

kpnq

である. よって

µα

ď limmÑ8

Tm

mď lim

mÑ8

Tm

mď αµ , P-a.s.

となる. α ą 1は任意だったので示せた.

問 3.3.8. Xn が R-値確率変数である場合の大数の強法則の証明を与えよ.

次の定理は期待値が存在するときには大数の強法則が成り立つことを意味する.

tXn : n ě 1u: 独立同分布な確率変数.

定理 3.3.9. ErX`1 s “ 8, ErX´

1 s ă 8を満たすとする. このとき

X1 ` ¨¨ ¨ ` Xn

nÑ 8, P-a.s.

が成り立つ.

証明. M ą 0とする. XMi “ Xi ^ Mと定義する. このとき tXM

i uは独立同分布な確率変数で Er|XMi |s ă 8で

ある. よって定理 3.3.3より

XM1 ` ¨¨ ¨ ` XM

n

nÑ ErXM

1 s, P-a.s.

が成り立つ. Xi ě XMi であるので

limnÑ8

X1 ` ¨¨ ¨ ` Xn

ně lim

nÑ8

XM1 ` ¨¨ ¨ ` XM

n

n“ ErXM

1 s, P-a.s.

である. M Õ 8とすると ErXM1 s Ñ ErX1sであることより定理が従う.

問 3.3.10. 定理 3.3.9の証明でM Õ 8とすると ErXM1 s Ñ ErX1sであることを示せ.

3.3.2 大数の強法則の応用例

ここでは大数の強法則の応用例を挙げる.

例題 3.3.11. tXn : n ě 1uを 0 ă Xn ă 8となる独立同分布な確率変数とする.

Tn “ X1 ` ¨¨ ¨ ` Xn, T0 “ 0

とする. t ě 0に対して

Nt “ suptn : Tn ď tu

と定義する. ErX1s “ µ ď 8のとき, t Ñ 8で

Nt

1µ, P-a.s.

である. ただし 18 “ 0とする.

59

Page 60: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 3.3.11の証明. 定理 3.3.3と定理 3.3.9より

Tn

nÑ µ, P-a.s.

である. Nt の定義から TNt ď t ď TNt `1 であるので

TNt

Ntď

tNt

ďTNt `1

Nt ` 1Nt ` 1

Nt

である. 任意の n ě 1で Tn ă 8であるので t Ñ 8のとき Nt Ñ 8である. よって大数の強法則よりあるΩ0 P F で PpΩ0q “ 1となるものが存在して ω P Ω0 に対して

Tnpωq

nÑ µ, Ntpωq Õ 8

とできる. よって

TNt pωqpωq

NtpωqÑ µ,

Ntpωq ` 1Ntpωq

Ñ 1

が成り立つ. これより t Ñ 8のとき ω P Ω0 に対して

tNtpωq

Ñ µ

である. 24

注意 3.3.14. 例題 3.3.11は次のようなモデルで例えられる. Xnを n個目の電球が切れる時刻と考える. 電球が切れるたびに新しい電球に交換するとする. Tn は n個目の電球が切れるまでにかかる時間を表し, Nt は

時刻 t で何個の電球を交換したかを表している.

例題 3.3.15. tXn : n ě 1uを独立同分布な t1, ¨ ¨ ¨ ,ru-値確率変数列とする. ps “ PpXi “ sq (1 ď s ď r)とおく.このとき

´1n

logn

ź

k“1

pXk Ñ H “ ´

rÿ

i“1

pi log pi, P-a.s.

が成り立つ. この H をエントロピーという. エントロピーはどれくらいランダムであるかを測るのに用いられる.

例題 3.3.16. r0,1s2 Ă R2 内の開集合 Aを考える. tpUn,Vnq : n ě 1uを独立同分布な r0,1s2-値確率変数列でUn と Vn は独立でUn, Vn は r0,1s上の一様分布に従うとする.

Xn “ tpUn,Vnq P Au

とおくとき,

X1 ` ¨¨ ¨ ` Xn

nÑ |A|, P-a.s.

が成り立つ. ただし |A|は Aの面積である. これは複雑な図形の面積を求める手法として知られているモンテカルロ法の原理である.

問 3.3.17. 例題 3.3.16の収束を証明せよ.24

注意 3.3.12. 例題 3.3.11の証明では Yn Ñ Y8 a.s.かつ Npnq Ñ 8 a.s.ならば YNpnq Ñ Y8 a.s.であるということを使っている. これは注意しなければいけない. なぜなら概収束を確率収束に置き換えた場合に成り立つとは限らないからである.

問 3.3.13. t0,1u-値確率変数列 tXn : n ě 1u で XnP

Ñ 0, Npnq Ñ 8, a.s., XNpnq Ñ 1 a.s.となるような例を挙げよ.

60

Page 61: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

3.4 問題

問題 3.1. 確率空間 pΩ,F ,Pq上の R-値確率変数列 tXn : n ě 1uを考える.

A “ tω P Ω :極限 limnÑ8

Xnpωqが存在する.u

としたとき A P F となることを示せ.

問題 3.2. R-値確率変数列 tXn : n ě 1uは X に確率収束するとする. また数列 tcn : n ě 1uは c P Rに収束するとする. このとき確率変数列 tXn ` cn : n ě 1u, tcnXn : n ě 1uはそれぞれ X ` c, cX に確率収束することを

示せ.

問題 3.3. 独立な確率変数列 tXn : n ě 1uがある確率変数 X に確率収束するとき, X は確率 1で定数であることを示せ.

問題 3.4. 独立な確率変数列 tXn : n ě 1uを考える. λn ą 0とに対して Xnd„ Poipλnqであるとき

ÿ

ně1

Xnが概収束するôÿ

ně1

λn ă 8

が成り立つことを示せ.

問題 3.5. p ą 1とし, R-値確率変数列 tXn : n ě 1uが確率変数 X に Lp-収束するとする. このとき任意の1 ď r ď pに対して Xn

LrÑ X であることを示せ.

問題 3.6. tXn : n ě 1uを独立な R-値確率変数列で Xnd„ Expp1qの指数分布に従うとする. このとき

limnÑ8

Xn

logn“ 1, P-a.s.

となることを示せ.25

問題 3.7. R-値確率変数列 tXn : n ě 1uと R-値確率変数 X を考える. 以下のことが成り立つことを示せ.

(i) p ě 1とする. XnLp

ñ X ならば E r|Xn|ps Ñ E r|X |ps.

(ii) XnL1ñ X ならば E rXns Ñ E rXs.

(iii) XnL2ñ X ならば V pXnq Ñ V pXq.

問題 3.8. R-値確率変数列 tXn : n ě 1uと X に対して XnP

Ñ X と

E„

|Xn ´ X |

1 ` |Xn ´ X |

ȷ

Ñ 0

は同値であることを示せ.

問題 3.9. tXn : n ě 1uを独立な R-値確率変数列で µ “ ErX1s, V pX1q ă 8とする. このとき

2npn ´ 1q

ÿ

1ďiă jďn

XiX jP

Ñ µ2

となることを示せ.

問題 3.10. 極限

limnÑ8

ż 1

0¨ ¨ ¨

ż 1

0

x21 ` ¨¨ ¨ ` x2

n

x1 ` ¨¨ ¨ ` xndx1 ¨ ¨ ¨dxn

を求めよ.25ヒント: ボレル-カンテリの補題

61

Page 62: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問題 3.11. 確率変数列 tXn : n ě 1uが

ÿ

ně1

Er|Xn|s ă 8

を満たすとする. このときÿ

ně1

|Xn| ă 8, P-a.s.

であり,

E

«

ÿ

ně1

Xn

ff

“ÿ

ně1

ErXns

であることを示せ.

問題 3.12. tXn : n ě 1uを独立同分布な確率変数列で X1d„ Np0,1qとする. このとき

limně1

|Xn|?

logně

?2˙

“ 1

であることを示せ.

問題 3.13. tµn : n ě 1u, tσ2n : n ě 1uを µn P R, σ2

n ą 0とする.R-値確率変数列 tXn : n ě 1uを独立で,各 n ě 1に対して正規分布 Npµn,σ2

n qに従うとする. このときÿ

ně1

X2nが L1-収束ô

ÿ

ně1

pµ2n ` σ2

n q ă 8

が成り立つことを示せ.

問題 3.14. tXn : n ě 1uは独立な確率変数であり平均は 0であるとする. さらに8ÿ

n“1

ErX2n s ă 8であるとき,

級数8ÿ

n“1

Xn は概収束することを示せ.

問題 3.15. n次元ユークリッド空間内の単位立方体 r0,1sn を Cn とする. Xn,Yn を独立同分布な確率変数で

Xnd„ UnifpCnqとする. Zn “ |Xn ´Yn|を Xn と Yn のユークリッド距離としたとき, Zn?

nP

Ñ 1?6であることを

示せ.

問題 3.16. R-値確率変数 X が,

ある a ą 0が存在して E“

eaX ‰

ă 8,E“

e´aX ‰

ă 8

を満たしたとする. このとき任意の t P p´a,aqに対して

φptq “ E“

etX ‰

ă 8

は任意の m P Nに対して m階連続微分可能であり,特に

φ 1p0q “ ErXs, φ2p0q “ ErX2s

であることを示せ.

大数の強法則 (定理 3.3.3)の証明は次の定理の応用である.

問題 3.17. *(Three series theorem) R-値確率変数 tXn : n ě 1uは独立であるとする. 以下の条件を満たすとき級数

ÿ

ně1

Xn は概収束することを示せ: ある定数 a ą 0が存在し

62

Page 63: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

•ÿ

ně1

Pp|Xn| ą aqが収束する.

•ÿ

ně1

VarpXn1|Xn|ďaqが収束する.

•ÿ

ně1

ErXn1|Xn|ďasが収束する.

問題 3.18. tXn : n ě 1uが独立同分布な確率変数で PpXn “ 1q “ PpXn “ ´1q “12を満たすとする. このとき

級数8ÿ

n“1

Xn

nが概収束することを示せ.

問題 3.19. * tXn : n ě 1u は独立同分布な確率変数で ErX1s “ 0, Er|X1|ps ă 8 を満たすとする. ただし1 ă p ă 2とする. このとき

X1 ` ¨¨ ¨ ` Xn

n1p Ñ 0, P-a.s.

が成り立つことを示せ.

63

Page 64: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

4 中心極限定理

この章では確率論における重要な定理である中心極限定理を扱う. 第 3章では独立同分布な確率変数列tXn : n ě 1uが Er|X1|s ă 8ならば

X1 ` ¨¨ ¨ ` Xn ´ nErX1s

nÑ 0, P-a.s.

であることを示した. 中心極限定理では

X1 ` ¨¨ ¨ ` Xn ´ nErX1s

が 0からどの程度離れているのかを調べる.分散を考えると

E”

pX1 ` ¨¨ ¨ ` Xn ´ nErX1sq2ı

“ V pX1 ` ¨¨ ¨ ` Xnq “ nV pX1q

となる. これより “おおよそ”?

nであることは予想出来る. このことを詳細に調べることがこの章の目的である.

キーワード: 弱収束,法則収束,中心極限定理

4.1 弱収束

これまで確率変数の収束に関しては概収束. 確率収束, Lp 収束の定義を与えた. ここで新たに法則収束,弱収束と呼ばれる収束の概念を定義する.可測空間 pS,S q上の確率測度全体の集合をPpSqと書くことにする.

pS,dq: 距離空間

定義 4.1.1. tXn : n ě 1uを S-値確率変数列, X を S-値確率変数とする. このとき Xnが X に法則収束 (分布収束)するとは

任意の有界連続関数 f P CbpSqに対して limnÑ8

Er f pXnqs “ Er f pXqs

を満たすときをいい, Xn ñ X と書く.また tµn : n ě 1u, µ を S上の確率測度とする. このとき µn が µ に弱収束するとは

任意の有界連続関数 f P CbpSqに対して limnÑ8

ż

Sf psqµnpdsq “

ż

Sf psqµpdsq (4.1)

を満たすときをいい, µn ñ µ と書く.26

注意 4.1.2. 距離空間には距離から定まる位相によりボレル集合族を定義する.

注意 4.1.3. 法則収束や弱収束の表記は教科書によって様々である. 例えば Xnd

Ñ X や L pXnq Ñ L pXq,µn Ñ µ (弱収束)などがある.

26 関数解析では位相線形空間 (例えばバナッハ空間)X の点列 xn が x に弱収束するとは,

任意の f P X 1に対して limnÑ8

f pxnq “ f pxq

を満たすときを言った. ただし X 1 は X の双対空間である.上で定義した弱収束の定義は位相線形空間 X を S 上の符号付測度全体の集合としたときの弱収束と一致している. (詳しくは関数

解析の教科書を読むと良い. S 上の符号付測度全体の集合の双対空間が CbpSq であることはリース-マルコフ-角谷の定理から知られている.)

64

Page 65: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 4.1.4. tXn : n ě 1uを独立同分布な確率変数とする. このとき

Xn ñ X1

である.

注意 4.1.5. 例題 4.1.4は当たり前のことを言っているだけのように思えるが,この例によって法則収束が概収束, Lp-収束,確率収束のいずれとも異なるということが見て取れる.

例題 4.1.6. Xn を独立な確率変数で t1, ¨ ¨ ¨ ,nu上の離散一様分布であるとする. このとき

Xn

nñ X

である. ただし X は r0,1s上の一様分布である.

問 4.1.7. 例題 4.1.6を証明せよ.

問 4.1.8. tµn : n ě 1uを R上の平均 0,分散1nの正規分布であるとする. このとき

µn ñ δ0

であることを示せ. ただし δ0 は点 0におけるディラク測度である.

注意 4.1.9. 問 4.1.8では µn の密度関数は fnpxq “

c

n2π

expˆ

´nx2

2

˙

であるが, n Ñ 8のとき fnpxq Ñ 0,

a.e.-xであることが容易にわかる. このように収束の定義の入れ方によって極限は全く異なるものになることがある.

問 4.1.10. R-値確率変数列 tXn : n P Nuが定数 cへ法則収束するとき, tXn : n P Nuは cへ確率収束すること

を示せ.27

弱収束について同値な表現を見ておこう.

pS,dq: 距離空間

定理 4.1.11. tµn : n ě 1u Ă PpSq, µ P PpSqとする. このとき以下は同値:

(i) µn ñ µ .

(ii) 任意の閉集合Cに対して

limnÑ8

µnpCq ď µpCq

となる.

(iii) 任意の開集合 Oに対して

limnÑ8

µnpOq ě µpOq

となる.

(iv) Sのボレル集合 Aが µpBAq “ 0を満たすならば

limnÑ8

µnpAq “ µpAq

となる.

27ヒント: ε ą 0 に対して非負有界連続関数 f で 0 ď f pxq ď 1, f pcq “ 0, |x ´ c| ě ε ならば f pxq “ 1 となるものを考えよ.

65

Page 66: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

証明. (i)ñ(ii) φ P CbpRqを

φptq “

$

&

%

1, t ď 0

1 ´ t, 0 ă t ď 1

0, t ą 1

と定義する. 閉集合 F と k ě 1に対して

fk,F pxq “ φpkdpx,Fqq

と定義すると fk,F P CbpSqであり, fk,F ě 1F であるのでż

Sfk,F pxqµnpdxq ě µnpFq

である. n Ñ 8とすると仮定よりż

Sfk,F pxqµpdxq ě lim

nÑ8µnpFq

である. さらに k Ñ 8とすることで (ii)が従う.(ii)ô(iii)は明らか.(ii)ñ(i) f P CbpSqとする. このとき 0 ď f ď 1としても一般性を失わない.k ě 1を固定する. 1 ď i ď kに対して Sの閉集合の減少列

Ci “

"

x P S : f pxq ěik

*

と定義する. このとき ν P tµu Y tµn;n ě 1uに対して

kÿ

i“1

i ´ 1k

νpCi´1zCiq ď

ż

Sf pxqνpsxq ď

kÿ

i“1

ik

νpCi´1zCiq (4.2)

である. これより

1k

kÿ

i“1

νpCiq ď

ż

Sf pxqνpdxq ď

1k

`1k

kÿ

i“1

νpCiq

である. ν “ µn として n Ñ 8とすると (ii)より

limnÑ8

ż

Sf pxqµnpdxq ď

1k

` limnÑ8

1k

kÿ

i“1

µnpCiq

ď1k

`

ż

Sf pxqµpdxq

となる. kは任意なので

limnÑ8

ż

Sf pxqµnpdxq ď

ż

Sf pxqµpdxq

がわかる. f を 1 ´ f で置き換えることで (i)が導かれた.(ii)ñ(iv) Aをボレル集合で µpBAq “ 0を満たすとする. このとき Ao Ă A Ă Aであるので (ii)および (iii)

から

µpAoq ď limnÑ8

µnpAoq ď limnÑ8

µnpAq ď µpAq

である. よって (iv)が示せた.

66

Page 67: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(iv)ñ(ii)閉集合Cと δ ą 0に対して

Cδ “ tx P S : dpx,Cq ď δu, Aδ “ tx P S : dpx,Cq “ δu

とおく. このとき Cδ ,Aδ は閉集合で BCδ Ă Aδ である. tAδ : δ ą 0uは共通部分を持たないので µpAδ q ą 0となる δ ą 0は高々可算個である. よって δℓ Œ 0で µpAδnq “ 0となるものが存在する. よって (iv)より

µpCδℓq “ limnÑ8

µpCδℓq ě limnÑ8

µnpCq

となる. ℓ Ñ 8とすると F の閉性と測度の連続性から (ii)が従う.

注意 4.1.12. 定理 4.1.11の証明から弱収束の定義は任意の f P CbpRdq XCupRdqで (4.1)が成り立てばよいことがわかる.ただしCupRdqは Rd 上の一様連続関数全体の集合である.

次の命題で法則収束と他の収束との関連を見ておく.

命題 4.1.13. tXn : n ě 1uを S-値確率変数列, X を S-値確率変数とする. このとき

XnP

Ñ X ならば Xn ñ X

である.

証明. 略.

問 4.1.14. 命題 4.1.13を証明せよ.

次の定理は R-値確率変数の法則収束を分布関数を用いて表現している.

tXn : n ě 1u: R-値確率変数列X : R-値確率変数

定理 4.1.15. Fn を Xn の分布関数, F を X の分布関数とする. このとき以下は同値である.

(i) Xn ñ X .

(ii) x P Rが F の連続点であるとき, Fnpxq Ñ Fpxqである.

注意 4.1.16. 定理 4.1.15の (ii)を弱収束の定理としている教科書もある.

証明には次の定理を用いる.

67

Page 68: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

定理 4.1.17. Fn,F を分布関数とする. F の連続点 x P Rに対して Fnpxq Ñ Fpxqが成り立つとする. このとき確率変数 Xn, X で以下を満たすものが存在する.

(i) Xn, X はそれぞれ分布関数 Fn,F を持つ.

(ii) Xn Ñ X , P-a.s.

定理 4.1.15の証明. (i)ñ(ii)定理 4.1.11(iv)より従う.(ii)ñ(i) Xn,X を定理 4.1.17で与えられたものとする. このときルベーグの収束定理より任意の有界連続

関数 gに対して

limnÑ8

ErgpXnqs “ limnÑ8

ErgpYnqs “ ErgpY qs “ ErgpXqs

である.

定理 4.1.17の証明. 定理 1.2.20より Ω “ p0,1q, F “ Bp0,1q, P “ p0,1q上のルベーグ測度で確率空間を定

義したとき,

Ynpωq “ supty : Fnpyq ă ωu, Y pωq “ supty : Fpyq ă ωu

はそれぞれ分布関数として Fn,F を持つ. Ynpωq Ñ Y pωqが高々可算個の ω P Ωを除いて成り立つことを示す.

ax “ supty : Fpyq ă xu, bx “ infty : Fpyq ą xu

と定義する. Ω0 “ tx : pax,bxq “ Huとする. このとき ΩzΩ0 の元は F の不連続点であることから高々可算

集合である.x P Ω0 に対して y ă Y pωqならば Fpyq ă ω であり, Y pωq ă zならば Fpzq ą ω である. ω P Ω0 に対して

limnÑ8

Ynpωq ě Y pωq (a)

limnÑ8

Ynpωq ď Y pωq (b)

を示す.(a) y ă Y pωqとすると Fpyq ă ω であるので, 仮定より十分大きい nに対して Fnpyq ă ω である. よって

Ynpωq ě y. y ă Y pωqは任意なので (a)が示せた.(b) y ą Y pωqとすると Fpyq ą ω であるので,仮定より十分大きい nに対して Fnpyq ă ω である. よって

Ynpωq ď y. y ą Y pωqは任意なので (b)が示せた.

問 4.1.18. (ファトゥの補題) g : R Ñ r0,8qを連続関数とする. このとき R-値確率変数列 Xn が X へ法則収

束するとき

limnÑ8

ErgpXnqs ě ErgpXqs

を満たすことを示せ.

例題 4.1.19. X を分布関数 F を持つ R-値確率変数とする. n ě 1に対して Xn “ X `1nとおくと

Fnpxq “ PpXn ď xq “ Pˆ

X `1n

ď x˙

“ Fˆ

x ´1n

˙

である. n Ñ 8としたとき Fnpxq Ñ Fpx´q “ limyÕx

Fpyqとなる. よって分布関数は連続点以外では収束すると

は限らないことがわかる.

68

Page 69: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 4.1.20. Xp をパラメータ p P p0,1qの幾何分布を持つ確率変数とする. このとき

pXp ñ X , p Ñ 0

となることを示せ. ただし X はパラメータ 1の指数分布を持つ確率変数とする.

問 4.1.21. tXn : n ě 1uを N0-値確率変数列, X を N0-値確率変数とする. このとき以下は同値であることを示せ.

(i) Xn ñ X .

(ii) 任意の m P N0 に対して PpXn “ mq Ñ PpX “ mq.

問 4.1.22. R-値確率変数列 tXn : n ě 1uと tYn : n ě 1uでそれぞれ R-値確率変数 X ,Y へ法則収束するが

Xn `Yn ñ X `Y (4.3)

とはならないようなものを構成せよ. 一方で X , Y の少なくとも一方が定数 cへ収束するとき (4.3)が正しいことを証明せよ.

4.2 特性関数

この節では Rd-値確率変数列が法則収束することを調べるのに役立つ特性関数と呼ばれるものを導入する.

X : Rd-値確率変数.

定義 4.2.1. ξ P Rd に対して

φpξ q “ E rexppiξ ¨ Xqs

を X の特性関数という. ただし x,y P Rd に対して x ¨ yは標準内積である. また X が法則 µ を持っていたするとき

φpξ q “

ż

Rdeiξ ¨xµpdxq

となる. 特にこれを µpξ qと書く.

注意 4.2.2. Rd 上の確率測度 µ が密度関数 f を持っていたとすると

µpξ q “

ż

Rdeiξ ¨x f pxqdx

と書ける. これはRd 上の可測関数 f のフーリエ変換である. Rd 上の確率測度 µ に対して µpξ qを µ のフーリエ変換とも呼ぶ.28

4.2.1 特性関数の例

まずは特性関数を幾つかの分布に対して求めてみよう.

28フーリエ変換は可測関数や確率測度だけではなく超関数のフーリエ変換などもある. 詳しくは関数解析の参考書などに書いてある.

69

Page 70: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 4.2.3. (ベルヌーイ分布) t0,1u上のパラメータ p P r0,1sのベルヌーイ分布の特性関数は

peiξ ` p1 ´ pq

である.

例題 4.2.4. (二項分布) t0,1, ¨ ¨ ¨ ,nu上のパラメータ p P r0,1sの二項分布の特性関数は´

eiξ p ` 1 ´ p¯n

例題 4.2.5. (幾何分布) N0 上のパラメータ p P r0,1sの幾何分布の特性関数は

p1 ´ eiξ p1 ´ pq

である.

例題 4.2.6. (ポアソン分布) N0 上のパラメータ λ P p0,8qのポアソン分布の特性関数は

exp´´

eiξ ´ 1¯

λ¯

である.

例題 4.2.7. (一様分布) pa,bq Ă R上の一様分布の特性関数は

eiξ b ´ eiξ a

iξ pb ´ aq

である.

例題 4.2.8. r´a,as上の分布で密度関数がa ´ |x|

a2 で与えられるものの特性関数は

2p1 ´ cospaξ qq

paξ q2

である.

例題 4.2.9. (指数分布) p0,8q上のパラメータ λ P p0,8q上の指数分布の特性関数は

λλ ´ iξ

である.

問 4.2.10. 例題 4.2.3, 4.2.4, 4.2.5, 4.2.6, 4.2.7, 4.2.9を示せ.

問 4.2.11. (コーシー分布) R上のコーシー分布の特性関数が

expp´|ξ |q

であることを示せ.

問 4.2.12. (ガンマ分布) p0,8q上のパラメータ pα,λ q (α ą 0,λ ą 0)のガンマ分布の特性関数を以下の問に答えることで求めよ.

X をパラメータ pα,λ q (α ą 0,λ ą 0)のガンマ分布を持つ確率変数とする.

(i) t ą 0に対して

E rexpp´tXqs “

´

1 `tλ

¯´α(4.4)

であることを示せ.

70

Page 71: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(ii) D “ tz P C : Imz P p´π,πquとする. このとき z ÞÑ exppzqはDからCzp´8,0sへの全単射である. exppzq

の逆関数を w ÞÑ Logpwqとする. w P Czp´8,0s, α P Cに対して

wα “ exppαLogpwqq

と定義する. このとき (4.4)の両辺が Reptq ě 0では正則関数であることを示せ.

(iii) 特性関数を求めよ.

問 4.2.13. (正規分布)下図のような積分路 ΓM に対して複素積分1

?2πv

ż

ΓM

expˆ

´z2

2v

˙

dzを考えることに

より R上の平均 0,分散 v ą 0の正規分布の特性関数は

expˆ

´vξ 2

2

˙

であることを示せ.

ΓMiνθ

M−M 0

注意 4.2.14. 非常に雑に証明すると

1?

2πv

ż

Reiξ xe´ x2

2v dx “ expˆ

´vξ 2

2

˙

ˆ1

?2πv

ż

Rexp

ˆ

´px ´ ivξ q2

2v

˙

expˆ

´vξ 2

2

˙

dx

より x ´ iξ “ yと変数変換すると “最後の積分が 1”になる. 注意したいのは変数変換したとき積分範囲は Rから R` ivとなってしまうので議論としては正確ではない.

例題 4.2.15. Rd 上の平均 m,分散行列 Σの正規分布の特性関数は

expˆ

iξ ¨ m ´12

ξ ¨ Σξ˙

である.

4.2.2 特性関数と弱収束

ここでは特性関数の性質を見るのと同時に確率測度の弱収束との関連を述べていく.以下確率変数 X の特性関数を φX と書くことにする.

φX pξ q “ Erexppiξ ¨ Xqs, ξ P Rd .

µ: Rd 上の確率測度

定理 4.2.16. µ の特性関数を φ : Rd Ñ Cとすると次が成り立つ.

71

Page 72: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(i) φp0q “ 1.

(ii) φ は有界連続関数である.

(iii) φ は正定値関数である. すなわち

N P N,λ1, ¨ ¨ ¨ ,λN P C,ξ1, ¨ ¨ ¨ ,ξN P Rdに対してN

ÿ

i, j“1

λiλ jφpξi ´ ξ jq ě 0

が成り立つ.

注意 4.2.17. これはボホナーの定理と呼ばれるものの一部である. ボホナーの定理では関数 φ : Rd Ñ Cが(i)„(iii)を満たせば φ がある確率測度の特性関数になることも主張している.

問 4.2.18. 定理 4.2.16を証明せよ.

次の定理は特性関数の非常に重要な性質を与えている.

X ,Y : Rd-値確率変数.

定理 4.2.19. X ,Y が独立であるとき

φX`Y pξ q “ φX pξ qφY pξ q, ξ P Rd

である.

証明. 定義に戻って証明する. 問 2.2.15より

φX`Y pξ q “ E rexppiξ ¨ pX `Y qqs

ż

RdˆRdeiξ ¨px`yqPpX P dxqPpY P dyq

である. フビニの定理を用いると

φX`Y pξ q “

ż

Rdeiξ ¨xPpX P dxq

ż

Rdeiξ ¨yPpY P dyq “ φX pξ qφY pξ q

となる.

注意 4.2.20. X1, ¨ ¨ ¨ ,Xn を独立同分布な Rd-値確率変数列としたとき

φX1`¨¨¨`Xnpξ q “ E rexppiξ ¨ pX1 ` ¨¨ ¨ ` Xnqqs “ φX1pξ qn, ξ P Rd

となる.

X ,Y : Rd-値確率変数

定理 4.2.21. 以下のことが成り立つ.

(i) φX “ φY が成り立つとき X d“ Y である.

(ii) Z “ pX ,Y qを R2d-値確率変数とする. このとき以下は同値

(a) X ,Y が独立.

(b) 任意の pξ1,ξ2q P R2d に対して φZppξ1,ξ2qq “ Erexppipξ1 ¨ X ` ξ2 ¨Y qqs “ φX pξ1qφY pξ2qである.

72

Page 73: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

証明. (i) f : Rd Ñ Cが急減少関数 (定義 E.2.1)であるとき,定理 E.2.5よりある急減少関数 g : Rd Ñ Cが存在して

f pxq “

ż

Rdgpξ qeiξ ¨xdξ

とできる. フビニの定理より

Er f pXqs “

ż

Rdgpξ qφX pξ qdξ “

ż

Rdgpξ qφY pξ qdξ “ Er f pY qs

である. 任意の左半開区間d

ź

i“1

pai,bis (´8 ď ai ă bi ď 8, i “ 1, ¨ ¨ ¨ ,d )に対して急減少関数列 t fn : n ě 1uで

fnpxq Ñ

i“1

1pai,bispxq, x P Rd , supxPRd

| fnpxq| ď 1

となるものが存在することに注意すると,ルベーグの収束定理より

P

˜

X P

i“1

pai,bis

¸

“ P

˜

Y P

i“1

pai,bis

¸

が従う. 左半開区間全体の成す集合は π-族であるので定理 B.1.8より X d“ Y となる.

(ii) (a)ñ(b)は定義から明らか.(b)ñ(a) (i)の証明と同様の方法で示せる.

問 4.2.22. 定理 4.2.21(ii)(b)ñ(a)の証明を与えよ.

問 4.2.23. X ,Y を平均 0,分散 σ2X ,σ2

Y の正規分布に従う確率変数とする.

X と Y が独立ô CovpX ,Y q “ 0

であることを示せ.

次の定理で特性関数と弱収束の関連が見て取れる.

µn,µ P PpRdq.

定理 4.2.24. 以下は同値である.

(i) µn ñ µ .

(ii) 各 ξ P Rd に対して µnpξ q Ñ µpξ q.

証明. (i)ñ(ii)は定義より明らかである.(ii)ñ(i) Rd 上の任意の有界連続関数 f に対して

ż

Rdf pxqµnpdxq Ñ

ż

Rdf pxqµpdxq (4.5)

を示す. f P CbpRdqをより扱いやすい関数で近似することで (4.5)を示す.f P S pRdqのとき

定理 E.2.5よりある g P S pRdqで

f pxq “

ż

Rdgpξ qeiξ ¨xdξ

73

Page 74: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

となるものが存在する. フビニの定理より ν P PpRdqに対してż

Rdf pxqνpdxq “

ż

Rdgpξ q

ˆż

Rdeiξ ¨xνpdxq

˙

ż

Rdgpξ qνpξ qdξ

が成り立つ29. よってルベーグの収束定理より

limnÑ8

ż

Rdf pxqµnpdxq “ lim

nÑ8

ż

Rdgpξ qµnpξ qdξ

ż

Rd

ż

Rdgpξ qµpξ qdξ “

ż

Rdf pxqµpdxq

となる.f P CcpRdqのとき

ε ą 0に対して

fε pxq “

ż

Rd

1p2πεqd2 f pyqexp

ˆ

´px ´ yq2

˙

dy

と定義する. このとき次を満たす.

• f P C8b pRdq.

• limεÑ0

supxPRd

| fε pxq ´ f pxq| “ 0.

これより任意の f P CcpRdqに対して gε P C8c pRdq Ă S pRdqで

limεÑ0

supxPRd

|gε pxq ´ f pxq| “ 0

となるものが存在する. これを用いると f P CcpRdqに対して (4.5)が示せる.f ” c (定数関数)のとき

νp0q “

ż

Rdνpdxqであることに注意すれば定義より明らか.

f P CbpRdqのとき

ある定数M P Rで f pxq ` M ě 0となるようなものが存在する. また gℓ P CcpRdqで

0 ď g1pxq ď g2pxq ď ¨ ¨ ¨ ď gℓpxq ď ¨ ¨ ¨ , かつ limℓÑ8

gℓpxq “ 1, x P Rd

となるものが存在する. このとき単調収束定理よりż

Rdp f pxq ` Mqµpdxq “ lim

ℓÑ8

ż

Rdp f pxq ` Mqgℓpxqµpdxq

“ supℓě1

ż

Rdp f pxq ` Mqgℓpxqµpdxq

が成り立つ. p f ` Mqgℓ P CcpRdqであるので

“ supℓě1

limnÑ8

ż

Rdp f pxq ` Mqgℓpxqµnpdxq

ď limnÑ8

ż

Rdp f pxq ` Mqµnpdxq.

よってż

Rdf pxqµpdxq ď lim

nÑ8

ż

Rdf pxqµnpdxq.

f を ´ f で置き換えることにより, f P CbpRdqに対して (4.5)が示された.29g P S pRdq ならば g P L1pRdq である

74

Page 75: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 4.2.25. 定理 4.2.24の証明で f P CcpRdqのとき fε P C8pRdqであり fε が f に一様収束することを示せ.

問 4.2.26. Xn を平均 0,分散 Σn の d 次元正規分布の列とする (n ě 1). Xn ñ X とするとき X は平均 0,分散lim

nÑ8Σn “ Σの正規分布であることを示せ.

4.3 中心極限定理

この節では確率論において大数の法則と並んで重要な定理である中心極限定理を証明する. 定理の主張は以下で与えられる.

tXn : n ě 1u: 独立同分布な Rd-値確率変数列

定理 4.3.1. (中心極限定理) X1 が平均ベクトル ErX1s “ µ ,分散行列 Σを持つとする. このとき

X1 ` ¨¨ ¨ ` Xn ´ nµ?

nñ Np0,Σq

が成り立つ.

証明には次の定理を用いる.

X : Rd-値確率変数

定理 4.3.2. X “ pX p1q, ¨ ¨ ¨ ,X pdqqは X piq P L2(1 ď i ď d)とする. このとき

limξ Ñ0

φX pξ q ´ 1 ´ iξ ¨ ErXs ` 12 Erpξ ¨ Xq2s

|ξ |2“ 0

定理 4.3.2の証明. 問 4.3.3より x P Rに対してˇ

ˇ

ˇ

ˇ

eix ´ 1 ´ ix `x2

2

ˇ

ˇ

ˇ

ˇ

ď min"

|x|3

6, |x|2

*

(4.6)

であることからイェンセンの不等式よりˇ

ˇ

ˇ

ˇ

φX pξ q ´ 1 ´ iξ ¨ ErXs `Erpξ ¨ Xq2s

2

ˇ

ˇ

ˇ

ˇ

ď |ξ |2E„

min"

|ξ ||X |3

6, |X |2

となる. ルベーグの収束定理より定理が従う.

問 4.3.3.ż x

0px ´ sqneisds “

xn`1

n ` 1`

in ` 1

ż x

0px ´ sqn`1eisds

を用いて x P R, n ě 1に対してˇ

ˇ

ˇ

ˇ

ˇ

eix ´

nÿ

m“0

pixqm

m!

ˇ

ˇ

ˇ

ˇ

ˇ

ď min"

|x|n`1

pn ` 1q!,

2|x|n

n!

*

を示せ.

75

Page 76: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

定理 4.3.1の証明. X i “ Xi ´ ErXis, Sn “ X1 ` ¨¨ ¨ ` Xn とする. このとき

φ Sn?npξ q “

ˆ

φX1

ˆ

ξ?

n

˙˙n

˜

1 ´Er

`

ξ ¨ X1˘2

s

2n` onpξ q

¸n

となる. ただし

onpξ q “ φX1

ˆ

ξ?

n

˙

´ 1 `Er

`

ξ ¨ X1˘2

s

2n, lim

nÑ8nonpξ q “ 0

である.

E”

`

ξ ¨ X1˘2

ı

dÿ

i, j“1

E”

ξiξ j

´

X piq1 ´ E

X piq1

ı¯´

X piq1 ´ E

X piq1

ı¯ı

dÿ

i, j“1

ξiξ jCovpX piq1 ,X p jq

1 q “ ξ ¨ Σξ

である. よって n Ñ 8としたとき

φ Sn?npξ q Ñ e´

ξ ¨Σξ2 , ξ P R (4.7)

となる. よって定理 4.2.24より中心極限定理が示せた.

注意 4.3.4. (4.7)は

cn Ñ c P Cならば´

1 `cn

n

¯nÑ ec (4.8)

ということを使っているが,これは cn,c P Rのときは eの定義から良いが,そうでないときは確かめておく必要がある.

問 4.3.5. 以下の問に答えよ.

(i) z1, ¨ ¨ ¨ ,zn, w1, ¨ ¨ ¨ ,wn P Cがすべて |zi| ď θ , |wi| ď θ を満たしているとする (1 ď i ď n, θ ą 0). このときˇ

ˇ

ˇ

ˇ

ˇ

i“1

zi ´

i“1

wi

ˇ

ˇ

ˇ

ˇ

ˇ

ď θ n´1n

ÿ

i“1

|zi ´ wi|

が成り立つことを示せ.

(ii) b P Cが |b| ď 1を満たすとする. このときˇ

ˇ

ˇeb ´ 1 ´ b

ˇ

ˇ

ˇď |b|2

が成り立つことを示せ.

(iii) (4.8)を示せ.

問 4.3.6. tXn : n ě 1uを独立同分布の確率変数で PpXn “ 1q “ PpXn “ ´1q “12を満たすとする. このとき

c

3n3

nÿ

k“1

kXk

は標準正規分布を持つ確率変数に法則収束することを示せ.

76

Page 77: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

4.4 *緊密性

この節は読み飛ばしてもらっても構わないがブラウン運動の構成方法の 1つである不変原理の証明に必要になる定理をここで挙げているので 7.1.2節を読む際には一度目を通すと良い.最後に Rd-値確率変数の集合が法則収束する部分列を持つための必要十分条件を与えておく.

M Ă PpRdq: Rd 上の確率測度の族.

定理 4.4.1. 以下は同値である.

(i) M の任意の無限列が収束する部分列を持つ.

(ii) 任意の ε ą 0に対してあるコンパクト集合 K Ă Rd で

supµPM

µpKcq ă ε

となる.

注意 4.4.2. (ii)は一般の位相空間上では次のように記述される. 位相空間 pS,Oq上の確率測度の族M が

(一様)緊密であるとは

任意のε ą 0に対して Sのコンパクト集合 Kεで supµPM

µpKcε q ă εとなるものが存在する

ときをいう. 完備可分距離空間上では定理 4.4.1と同様の主張が成り立つことが知られている. (Prohorov1956)

(ii)ñ(i)の証明はこの講義ノートでは扱わない.

証明. (i)ñ(ii)背理法で示す.

あるε ą 0で任意のコンパクト集合 K に対してあるµ P M でµpKcq ě ε

となるものが存在したとする.n ě 1, k ě 1に対して

Kn “ tx P Rd : |x| ď nu, Gk “ tx P Rd : |x| ă ku

とする. また µn P M を

µnpKcnq ě ε

を満たすものとする. n ą kのとき Gk Ă Kn である. tµnℓ : ℓ ě 1uを tµn : n ě 1uの収束部分列とする. 極限を µ とすると,定理 4.1.11(iii)より

µpGkq ď limnℓÑ8

µnℓpGkq ď limnℓÑ8

µnℓpKnℓq ď 1 ´ ε

となる. k Ñ 8とすると

1 “ µpRdq ď 1 ´ ε

となり矛盾.(ii)ñ(i) [2, Theorem 9.3.3].

注意 4.4.3. ブラウン運動をランダムウォークから構成する際には Rd では位相空間 S “ Cpr0,T s,Rq上で緊

密性を確かめることになる.

77

Page 78: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

4.5 問題

問題 4.1. µn P R, σ2n ą 0は

limnÑ8

µn “ µ P R, limnÑ8

σ2n “ σ2 ą 0

を満たすとする. R-値確率変数 tXn : n ě 1uは正規分布 Npµn,σ2n qに従うとき,

Xn ñ X

となることを示せ. ただし X は正規分布 Npµ,σ2qに従う確率分布とする.

問題 4.2. φ : Rd Ñ Cが Rd 上のある確率測度の特性関数であるとき, Reφ , |φ|2も Rd 上のある確率測度の

特性関数であることを示せ.

問題 4.3. R-値確率変数 X ,Y で X ,Y は独立ではないが φX`Y “ φX φY となるようなものを構成せよ.

問題 4.4. M ą 0を定数とする. R-値確率変数列 tXn : n ě 1uが任意の n ě 1に対して Pp|Xn| ď Mq “ 1が成り立つとする. また µ を pR,BpRqq上の確率測度で µpr´M,Msq “ 1を満たすとする.このとき次のことが同値であることを示せ.

(1) Xn ñ X . ただし X は分布 µ に従う確率変数.

(2) 任意の k P Nに対して E”

Xkn

ı

Ñ

ż

Rxkµpdxq.

問題 4.5. a ą 0とする. R-値確率変数 tXn : n ě 1uは独立同分布でパラメータ aのコーシー分布に従うもの

とする. このとき確率変数

$

&

%

sup1ďiďn

Xi

n: n ě 1

,

.

-

がある確率変数に弱収束することを示し,その分布を求めよ.

問題 4.6. tXn : n ě 1uを独立同分布な確率変数列でパラメータ λ ą 0の指数分布に従うとする. また N-値確率変数 N は tXn : n ě 1uと独立でパラメータ p P p0,1qの幾何分布に従うとする. このとき確率変数

Nÿ

n“1

Xn

の特性関数を求めよ. 可能ならば密度関数を求めよ.

問題 4.7. 次の極限を求めよ.30

limnÑ8

e´nˆ

1 `n1!

`n2

2!` ¨¨ ¨ `

nn

n!

˙

.

問題 4.8. µ P R, 0 ă σ ă 8とする. tXn : n ě 1uを独立同分布な確率変数列で正規分布 Npµ,σ2qに従うも

のとする. X1, ¨ ¨ ¨ ,Xn の算術平均

X :“X1 ` ¨¨ ¨ ` Xn

n

と確率変数列 tX i : 1 ď i ď nuを

X i “ Xi ´ X

としたとき確率ベクトル pX ,X1, ¨ ¨ ¨ ,Xnqの特性関数を求めよ. さらに

Xと S2 “1

n ´ 1

nÿ

i“1

X2i

は独立であることを示せ.

30ヒント: うまく確率分布の話に帰着させる.

78

Page 79: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

5 ランダムウォーク

この章では確率論における 1つの重要な模型であるランダムウォークについて扱う.R上の x P Rを出発点とするランダムウォークとは R-値独立同分布確率変数列 tXn : n ě 1uに対して

S0 “ x, Sn ´ Sn´1 “ Xn, n ě 1

を満たすものをいう.

5.1 ランダムウォークの性質

tXn : n ě 1u: Rd-値独立同分布な確率変数列ν : X1 の法則

定義 5.1.1. x P Rd を出発点とする Rd 上のランダムウォーク tSn : n ě 0uとは

S0 “ x, Sn ´ Sn´1 “ Xn, n ě 1

で与えられる確率変数列のことをいう. 特に確率測度 Pを Px と書く.

注意 5.1.2. x P Zd で X1 が Zd-値確率変数であるとき, Zd 上のランダムウォークと呼ぶ.

例題 5.1.3. Zd 上のランダムウォークで

PpX1 “ eiq “ PpX1 “ ´eiq “1

2d, i “ 1, ¨ ¨ ¨ ,d

を満たすものを単純 (対称)ランダムウォークという. ここで e1, ¨ ¨ ¨ ,ed は Rd の標準基底である.

例題 5.1.4. Z上のランダムウォークで

PpX1 “ 1q “ p, PpX1 “ ´1q “ 1 ´ p, p ­“12

を満たすものを非対称ランダムウォークという.

さて第 4章まででやってきたことから次のことがわかる.

Xn “ pX p1qn , ¨ ¨ ¨ ,X pdq

n q.

定理 5.1.5. X piq1 P L1pPqとする (1 ď i ď d). このとき

Sn

nÑ ErX1s, P-a.s.

が成り立つ.

定理 5.1.6. X piq1 P L2pPqとする (1 ď i ď d). Σを X1 の分散行列とする. このとき

Sn ´ nErX1s?

nñ Np0,Σq

が成り立つ.

問 5.1.7. 定理 5.1.5を証明せよ.

79

Page 80: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

ランダムウォークは日本語では酔歩とも呼ばれている. これは点が右に行ったり左に行ったりする様子が酔っ払いの動きのように見えるからである. 定理 5.1.5では酔っ払いが巨視的に見たときに向かっていく方向と速さが ErX1sであることを示し,定理 5.1.6では時刻 nで nErX1sからどの程度ふらふらしているか

を与えている.ではこのランダムウォークについてさらに見ていくことにする.

定義 5.1.8. tSn : n ě 0uを x P Zd を出発する Zd 上のランダムウォークとする.

PxpSn “ x, i.o.q “ 1

となるときランダムウォークは xで再帰的であるといい,

PxpSn “ x, i.o.q ă 1

となるときランダムウォークは xで非再帰的または過渡的であるという.

注意 5.1.9. Rd 上のランダムウォークの場合,

任意のε ą 0に対して Pxp|Sn ´ x| ă ε, i.o.q “ 1

となるとき再帰的,そうでないとき過渡的であるという.

ランダムウォークの再帰性,過渡性について調べていくことにする.

定理 5.1.10. Zd 上のランダムウォークに対して以下は同値である.

(i) x P Zd で再帰的である.

(ii) すべての点で再帰的である.

(iii) x P Zd に対して Pxpある n ě 1で Sn “ xとなる q “ 1.

(iv) すべての x P Zd に対して Pxpある n ě 1で Sn “ xとなる q “ 1.

(v) x P Zd に対してÿ

ně0

PxpSn “ xq “ 8.

(vi) すべての x P Zd に対してÿ

ně0

PxpSn “ xq “ 8.

証明. Sn ´ x “ Sn と置き直すことで「すべて」と「x P Zd」の命題が同値であることがわかる.(i)ñ(v) x P Zd と n ě 0に対して

Nnpxq “

nÿ

k“0

1tSk “ xu,

Npxq “ÿ

ně0

1tSn “ xu

とおく. このとき (i)から PpNpxq “ 8q “ 1である. Npxqの期待値を計算することで (v)が導かれる.(v)ñ(iii)

τp0qx “ 0,τpnq

x “ inf!

m ą τpn´1qx : Sm “ x

)

80

Page 81: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

と定義する. τpnqx は n回目に xに戻ってくる時刻である. このとき

Px´

τpnqx ă 8

¯

“ Px´

τp1qx ă 8

¯n(5.1)

が成り立つ. また

Npxq “ÿ

ně1

1!

τpnqx ă 8

)

(5.2)

であることに注意し,期待値を計算するとÿ

ně0

PxpSn “ xq “ 1 `ÿ

ně1

Px´

τpnqx ă 8

¯

となる. よって Px´

τp1qx ă 8

¯

ă 1であるときÿ

ně0

PxpSn “ xq ă 8となるので示せた.

(iii)ñ(i) (5.1)より任意の n ě 1に対して

Px´

τpnqx ă 8

¯

“ 1

である. よって (5.2)より PxpNpxq “ 8q “ 1である.

問 5.1.11. (5.1)を証明せよ.

問 5.1.12. Zd 上のランダムウォークが再帰的であるする. x,y P Zd が Pxpτp1qy ă 8q ą 0 を満たすとき,

Pxpτp1qy ă 8q “ 1であることを示せ.

定理 5.1.10から過渡性に関する次の同値性もわかる.

定理 5.1.13. Zd 上のランダムウォークに対して以下は同値である.

(i) x P Zd で過渡的である.

(ii) すべての点で過渡的である.

(iii) x P Zd に対して Pxpある n ě 1で Sn “ xとなる q ă 1.

(iv) すべての x P Zd に対して Pxpある n ě 1で Sn “ xとなる q ă 1.

(v) x P Zd に対してÿ

ně0

PxpSn “ xq ă 8.

(vi) すべての x P Zd に対してÿ

ně0

PxpSn “ xq ă 8.

(vii) すべての x P Zd に対して PxpSn “ x, i.o.q “ 0.

問 5.1.14. 定理 5.1.13を証明せよ.

単純ランダムウォークの再帰性に関して次の結果が知られている.

定理 5.1.15. Zd 上の単純ランダムウォークは

(i) d “ 1,2のとき再帰的である.

(ii) d ě 3のとき過渡的である.

81

Page 82: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

注意 5.1.16. 酔っ払いの話で考えてみよう. 酔っ払い Aは前後不覚に陥り交差点に到達するたびに東西南北

を確率 14 で選び進んで行く. このとき問 5.1.12より飲み屋 x P Z2から出発した Aは確率 1で家 y P Z2にた

どり着くことができることがわかる.一方で鳥にお酒を飲ませて酔っ払わせたとする. 鳥は 3次元空間を一定距離進むごとに上下東西南北を

16 で選んで飛んでいくとする. このとき鳥は自分の巣へ帰ることができないことが起こりうるのである.

d “ 1,2のときの証明. d “ 1の場合. 定理 5.1.10(v)を x “ 0で示す. 以下 Px “ Pと書くことにする. 容易に分かるが

PpSn “ 0q “

$

&

%

122m

ˆ

2mm

˙

, n “ 2m

0, n “ 2m ` 1

である. よってÿ

ně0

PpSn “ 0q “ÿ

mě0

122m

ˆ

2mm

˙

である. 問 A.5.9より

limmÑ8

?πn

122m

ˆ

2mm

˙

“ 1 (5.3)

であるので示せた.d “ 2の場合. 同様に 5.1.10(v)を x “ 0で示す. このとき

tS2m “ 0u “

k“0

t2mまでに k回ずつ e1,´e1方向に動き,m ´ k回ずつ e2,´e2方向に動く u

と書ける. よって

PpS2m “ 0q “

mÿ

k“0

142k

p2mq!k!k!pm ´ kq!pm ´ kq!

“1

42m

ˆ

2mm

˙ mÿ

k“0

ˆ

mk

˙ˆ

mm ´ k

˙

“1

42m

ˆ

2mm

˙2

となり, d “ 1のときと同様に示せた.

問 5.1.17. ErX1s ­“ 0であるとき d-次元ランダムウォークは過渡的であることを示せ.

問 5.1.18. (5.3)を示せ.

d ě 3のときの証明. d “ 3のときを考える. d “ 1,2の場合と同様に考えると

PpSn “ 0q “

$

&

%

162m

ÿ

i, j,kě0,i` j`k“m

p2mq!pi! jl!k!q2 , n “ 2m

0, n “ 2m ` 1

である. ここで

PpS2m “ 0q ď 3m6´2m p2mq!m!

maxi, j,kě0,

i` j`k“m

1i! j!k!

(5.4)

となることに注意する.

maxi, j,kě0,

i` j`k“m

1i! j!k!

ď

$

&

%

pℓ!q´3, m “ 3ℓ

pℓ1q´2ppℓ` 1q!q´1, m “ 3ℓ` 1

pℓ1q´1ppℓ` 1q!q´2, m “ 3ℓ` 2

(5.5)

82

Page 83: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

よりスターリンの公式から,ある定数C ą 0が存在して

PpS2m “ 0q ď Cm´32

となる. よって定理 5.1.13(v)が示された.

問 5.1.19. (5.4)を示せ.

問 5.1.20. (5.5)を示せ.

最後に Rd 上のランダムウォークについて再帰性,過渡性を議論していこう.まずは Zd 上のランダムウォークのように再帰性,過渡性の同値な条件を与えておく.

S “ tSn : n ě 0u: Rd 上のランダムウォーク.

定理 5.1.21. 以下は同値である.

i) Sは再帰的である.

ii) 任意の ε ą 0に対してÿ

ně1

Pp|Sn| ă εq “ 8.

(証明). (i)ñ(ii)対偶を示す.

あるε ą 0に対してÿ

ně1

Pp|Sn| ă εq ă 8

となったとすると,このときボレル-カンテリの補題から

Pp|Sn| ă ε, i.o.q “ 0

となり過渡的である.(ii)ñ(i) ε ą 0に対して (ii)が成立したとする. このとき

Pp|Sn| ă 2ε, i.o.q “ 1

であることを示す.

Ppt|Sn| ă ε, i.o.ucq “ÿ

mě1

Pp|Sm| ă εかつ|Sn| ě ε,n ě m ` 1q

ěÿ

mě1

Pp|Sm| ă ε, |Sn ´ Sm| ě 2ε,n ě m ` 1q

“ÿ

mě1

Pp|Sm| ă εqρ2ε,1

となる. ただし ρε,k “ Pp|Sn| ě ε,n ě kqとする. このとき仮定から

ρ2ε,1 “ Pp|Sn| ě 2ε,n ě 1q “ 0

となることがわかる. 同様に Am,k,ε “ t|Sm| ă ε, |Sn| ě ε,n ě m ` kuとおくと

k ěÿ

mě1

PpAm,k,ε q ěÿ

mě1

Pp|Sm| ă εqρ2ε,k (5.6)

となり

ρ2ε,k “ Pp|Sn| ě 2ε,n ě kq “ 0

となる. kは任意なので (i)が示せた.

83

Page 84: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 5.1.22. (5.6)を示せ.

注意 5.1.23. 過渡的であることは

あるε ą 0に対してÿ

ně1

Pp|Sn| ă εq ă 8

であることと同値であることがわかるが実は任意の ε ą 0に対して同値性がなりたつことがわかる.

Rd 上のランダムウォークに対して次の定理が知られている.

S “ tSn : n ě 0u: Rd 上のランダムウォーク

定理 5.1.24. 次のことは同値である.

(i) Sが再帰的である.

(ii) ある δ ą 0が存在してż

p´δ ,δ qdRe

1p1 ´ φpxqq

dx “ 8

(iii) ある δ ą 0が存在して

sup0ără1

ż

p´δ ,δ qdRe

1p1 ´ rφpxqq

dx “ 8

ただし, φpxq “ Erexppipx ¨ X1qqsは

注意 5.1.25. この講義ノートでは (i)ô(iii)のみを示す.

証明. (i)ñ(iii) x P Rd に対して x “

dÿ

i“1

|xi|を xの ℓ1-ノルムとする. x P Rが |x| ă π3 を満たすとき

1 ´ cosx ěx2

4(5.7)

であることから

Sn ă1δ

˙

ď 4dż

Rd

i“1

1 ´ φpδxiq

pδxiq2 PpSn P dxq (5.8)

となる. フビニの定理と例題 4.2.8より

Sn ă1δ

˙

ď 2dż

r´δ ,δ sd

i“1

ˆ

δ ´ |xi|

δ 2

˙

φpxqndx

となる. 両辺に rn(0 ă r ă 1)をかけて和を取ると

ÿ

ně0

rnPˆ

Sn ă1δ

˙

ď 2dż

r´δ ,δ sd

δ ´ |xi|

δ 21

1 ´ rφpxqdx

ď

ˆ

˙d ż

r´δ ,δ sdRe

11 ´ rφpxq

dx

となり r Õ 1とすることで

ÿ

ně0

Sn ă1δ

˙

ď sup0ără1

ˆ

˙d ż

r´δ ,δ sdRe

11 ´ rφpxq

dx

84

Page 85: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

となる. よって (i)ñ(iii)が示された.(iii)ñ(i)例題 4.2.8と注意 E.2.8より関数

δ p1 ´ cos` x

δ˘

q

πx2

を密度関数に持つ R-値確率変数の特性関数は

ψpξ q “

$

&

%

1 ´ |δξ |, |ξ | ă 1δ

0, |ξ | ě 1δ

であることがわかる. 1 ě

i“1

p1 ´ |δxi|qよりフビニの定理から

Sn ă1δ

˙

ě

ż

p´ 1δ ,

1δ qd

i“1

p1 ´ |δxi|qPpSn P dxq

ż

Rd

i“1

δ p1 ´ cos` xi

δ˘

q

πx2i

φnpxqdx

両辺に rn(0 ă r ă 1)をかけ和を取ると

ÿ

ně1

rnPˆ

Sn ă1δ

˙

ě

ż

Rd

i“1

δ p1 ´ cos` xi

δ˘

q

πx2i

11 ´ rφpxq

dx

となる. 右辺が実数であることから実部のみを考えればよく, (5.7)より

ÿ

ně1

rnPˆ

Sn ă1δ

˙

ě p4πδ q´dż

p´δ ,δ qdRe

11 ´ rφpxq

dx

である. r Õ 1とすることで定理 5.1.21の条件が示される.

問 5.1.26. (5.8)を示せ.

定理 5.1.27. Rd 上の平均 0,分散が有限なランダムウォークについて次が成り立つ.

(i) d “ 1,2のとき再帰的である.

(ii) d ě 3のとき,ランダムウォークが真に 3次元以上ならば過渡的である.

ただしランダムウォークが真に 3次元以上であるとは

dimtθ P Rd : PpX1 ¨ θ “ 0q “ 1u ď d ´ 3

であるときをいう.

5.2 ランダムウォークと停止時刻

ランダムウォークは独立同分布な確率変数列 tXn : n ě 1uを用いて定義されていた. 確率空間 pΩ,F ,Pq

上で定義されていたとする. 可測集合族の列 tFn : n ě 0uを

F0 “ tH,Ωu,Fn “ σ rX1, ¨ ¨ ¨ ,Xns, n ě 1

85

Page 86: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

と定義すると

F0 Ă F1 Ă ¨¨ ¨Fn Ă ¨¨ ¨ Ă F

となる.

pΩ,F ,Pq: 確率空間.

定義 5.2.1. Ω上の可測集合族の列 tFn : n ě 0uが

F0 Ă F1 Ă ¨¨ ¨Fn Ă ¨¨ ¨ Ă F

を満たしたとする.NY t8u-値確率変数 N が tFn : n ě 0uに対して停止時刻であるとは

各 1 ď n ă 8に対して tN ď nu P Fn

を満たすときを言う.

注意 5.2.2. tFn : n ě 1uが文脈から判断できる場合には単に停止時刻であると呼ぶこともある.

例題 5.2.3. A Ă Rd をボレル可測集合とする. Rd 上のランダムウォーク tSn : n ě 0uに対して

τA “ inftn ě 1 : Sn P Au

と定義すると τA は停止時刻である. 特に τA を Aへの到達時刻と呼ぶ.

問 5.2.4. 例題 5.2.3の τA が停止時刻であることを確かめよ.

問 5.2.5. A Ă Rd をボレル加速集合とする. Rd 上のランダムウォーク tSn : n ě 0uと n ě 1に対して

σnA “ suptm ď n : Sn P Au

と定義する. このとき σnA は停止時刻ではないことを示せ.

問 5.2.6. S, T が停止時刻であるとき S _ T , S ^ T も停止時刻であることを示せ.

問 5.2.7. S,T が停止時刻であるとき S ` T が停止時刻かどうか判定し,証明か,反例を与えよ.

tXn : n ě 1u: R-値独立同分布確率変数.

定理 5.2.8. (ワルドの等式) Xn P L1 とする. N が停止時刻で ErNs ă 8ならば

ErSNs “ ErNsErX1s

が成り立つ.

証明. まず PpXi ě 0q “ 1であると仮定する. このときフビニの定理から

ErSNs “

ż

SNdP “

8ÿ

n“1

ż

N“nSndP “

8ÿ

n“1

nÿ

m“1

ż

N“nXmdP

“ÿ

mě1

ÿ

něm

ż

N“nXmdP “

ÿ

mě1

ż

Xm1tN ě mudP.

86

Page 87: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

Xm と 1tN ě muは独立であるので,

ErSNs “ÿ

mě1

ErX1sPpN ě mq “ ErX1sErNs

となる.また一般の場合には ErNs ă 8なので上の結果より

E

«

Nÿ

n“1

|Xn|

ff

“ Er|X1|sErNs ă 8

である. よってフビニの定理より

ErSNs “

8ÿ

n“1

nÿ

m“1

ż

N“nXmdP “

ÿ

mě1

ÿ

něm

ż

Xm1tN “ nudP

“ÿ

mě1

ErX1sPpN ě mq “ ErX1sErNs

である.

例題 5.2.9. (破産問題)確率 12 で表, 1

2 で裏が出るコインがある.とする. 次のようなゲームを考える.

(i) 時刻 0では所持金 a P Nである.

(ii) 時刻 nでコインを投げ,表が出ると所持金が 1増え,裏が出ると所持金は ´1となる.

所持金が b ą aになる前に所持金が 0になる確率を計算しよう.時刻 nでの損益 Sn は

Sn “

nÿ

i“1

Xi

と書ける. ただし, tXn : n ě 1uは独立同分布な確率変数で PpX1 “ 1q “ PpX1 “ ´1q “12を満たすものであ

る. このとき時刻 nでの所持金 Tn は負の所持金まで許すと

Tn “ a ` Sn

である.

τa,b “ inftn ě 1 : Sn R r´a,b ´ asu

とおくとこれは停止時刻である. まず Erτa,bs ă 8を示す. 任意の x P p´a,b ´ aqに対して

Ppτa,b ď bq ě 2´b

であるので

Ppτa,b ą nbq ď p1 ´ 2´bqn

となり Erτa,bs ă 8である. よってワルドの等式から

a “ ErTτa,bs “ a ` E

«τa,bÿ

i“1

Xi

ff

“ a ` E”

Sτa,b : Sτa,b “ ´aı

` E”

Sτa,b : Sτa,b “ b ´ aı

“ bPpSτa,b “ b ´ aq.

すなわち確率 ab で破滅する前に所持金が bになる.

87

Page 88: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

系 5.2.10. 原点出発の Z上の単純ランダムウォークを考える. a ă 0 ă bに対して

Ta “ inftn ě 1 : Sn “ au

Tb “ inftn ě 1 : Sn “ bu

と置く. このとき

PpTa ă Tbq “b

b ´ a, PpTb ă Taq “

´ab ´ a

である. 特に

PpTa ă 8q “ PpTb ă 8q “ 1

である.

証明. 前半は例題 5.2.9より従う. 後半は b Ñ 8とすると

PpTa ă 8q ě PpTa ă Tbq Ñ 1

から従う.

例題 5.2.11. 系 5.2.10の設定の下で考える. ErSTasを考えると PpTa ă 8qであるので

ErSTa s “ a

である. 一方 ErX1s “ 0であるので ErNs ă 8であると仮定するとワルドの等式より ErSTas “ 0となり矛盾する. よって ErTas “ 8であることがわかる.

88

Page 89: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

6 離散時間マルチンゲール (準備中)この章では離散時間マルチンゲールと呼ばれる概念とそれに関する性質を確かめていく. 離散時間マル

チンゲールの代表的な例が第 5章で扱った単純ランダムウォークである.離散時間マルチンゲールの定義をするためには条件付き期待値を定義する必要がある.この章では σ -加法族の概念をきちんと理解していることが鍵となるので復習してから読み進めることを勧める.キーワード: 条件付き期待値,離散時間マルチンゲール

6.1 条件付き期待値

問題 1.9を思い出すと事象 B P F が 0 ă PpBq ď 1であるとき, Bに関する条件付き測度

PpA|Bq “PpA X Bq

PpBq, A P F

を考えることで pX ,F ,Pp¨|Bqqは確率空間になった. ではこの条件付き測度 Pp¨|Bqの元で確率変数 X : Ω Ñ Rの期待値を計算し,元の確率測度 Pの下での期待値と比較してみよう.こういった時はまずは可測単関数,非負可測関数,可測関数の順に見ていくのが定石である.

X : Ω Ñ r0,8qが可測単関数n

ÿ

k“1

ak1Ak と表せるとき,

ErX |Bs “

nÿ

k“1

akPpAk|Bq “

nÿ

k“1

akPpAk X Bq

PpBq“

ErX : Bs

PpBq

となり,特に ErX |BsPpBq “ ErX : Bsが成り立つ. あとは非負可測関数,可測関数の場合であるが収束定理を使えば同じ関係式が従うことは容易にわかる31.

さてここから一般化していく流れになる. どのように一般化するかというと上では 1つの事象 Bに対し

て考えたが事象の数を増やしていく.可算個の互いに素な事象 tBi : i P Iuが Ωを分割 (Ω “

ď

iPI

Bi)し,任意の i P Iに対して PpBiq ą 0を満たす

とする. このとき容易にわかることとして X P L1pPqならば

ÿ

iPI

ErX |BisPpBiq “ ErXs (6.1)

が成り立つ. 実は左辺をある確率変数の期待値とみなすことができる.実際, Y “

ř

iPI ErX |Bis1Bi という確率変数を考えると, (6.1)の左辺は ErY sであることがわかる.この Y についてもう少し見てみよう. G “ σ rBi : i P IsというF の部分 σ -加法族を考える. すると以下

のことがわかる.

• Y は G -可測である. 32

• 任意の B P G に対して ErY : Bs “ ErX : Bsが成り立つ.

さて,おおよその一般化へ向けてのアイデアは見えてきた. 一気に一般化しよう.

定義 6.1.1. 確率空間 pΩ,F ,Pqと部分 σ -加法族 G を考える. F -可測確率変数 X が X P L1pPqであると

き,次のような確率変数 Y のことを G に関する X の条件付き期待値と呼び, ErX |G sと表す.

31ただし可測関数の場合は X1B P L1pPq を仮定する必要がある.32X は G -可測とは限らない.

89

Page 90: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(i) Y は G -可測である.

(ii) Er|Y |s ă 8.

(iii) 任意の A P G に対して ErY : As “ ErX : As.

注意 6.1.2. G -可測関数 Y も定義 6.1.1の条件 (i)-(iii)を満たすとき Y “ Y a.s.が成り立つので,一般には Y

が X の条件付き期待値というときは Y “ ErX |G s a.s.と表す.

注意 6.1.3. 部分 σ -加法族は色々存在するが,例えばある確率変数の族 tZλ : λ P Λuによって生成される σ -加法族 σ rZλ : λ P Λsを用いるときは ErX |Zλ ,λ P Λsと書く.

例題 6.1.4. 確率空間 pΩ,F ,Pq上の可積分な確率変数 X を考える. 事象 Bによって生成される σ -加法族tH,B,Bc,Ωuに関する X の条件付き期待値は ErX |Bs1B ` ErX |Bcs1Bc である.

さて当然であるが, 定義 6.1.1のような Y が存在するかは決して自明ではない. 次の定理で確認しておこう.

定理 6.1.5. 確率空間 pΩ,F ,Pqと部分 σ -加法族 G を考える. F -可測確率変数 X が X P L1pPqであると

き,定義 6.1.1の条件を満たす確率変数 Y が存在し, (確率 0の事象を除いで)一意である.

証明には Radon-Nikodym定理を用いる (定理 A.5.16)ため,読み飛ばしても構わない.

証明*. まず X ě 0 (P-a.s.)の場合を考える. A P G に対して

νpAq “

ż

AXdP

を考えると ν は pΩ,G q上の有限測度になる. 特に定義から ν ! Pである. よって Radon-Nikodym定理からG -可測な Radon-Nikodym微分 dν

dP が存在して,任意の A P G に対して

ErX : As “

ż

AXdP “

ż

A

dνdP

dP “ νpAq (6.2)

となる. Y “dνdPとし (6.2)で A “ Ωとすると P L1 であることがわかる. また Y ě 0 P-a.s.も容易に確かめ

られる.一般の X に対しては X “ X` ´ X´ と表し, Y1 “ ErX`|G s, Y2 “ ErX´|G sを用いて Y “ Y1 ´Y2 とすれば

良い.

問 6.1.6. L1-確率変数 X は σ -加法族 G と独立であるとする. このとき ErX |G s “ ErXs P-a.s.であることを示せ.

この問の簡単な応用は次のようになる.

例題 6.1.7. tXn : n ě 1uを独立同分布な R-値確率変数で X1 P L1とする. S0 “ 0, Sn “ Sn´1 ` Xn (n ě 1)でランダムウォークを定義すると

ErSn|X1, ¨ ¨ ¨ ,Xns “ Sn´1 ` ErX1s P-a.s.

となる.

90

Page 91: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 6.1.8. 条件付き期待値を考えるときは基本的に確率 0の事象を除いた部分での議論しか行わない. よって主張はすべて P-a.s.となる.

例題 6.1.9. 確率変数 pX ,Y qの同時分布が密度 f px,yqを持つとしよう. つまり

PppX ,Y q P Aq “

ż

Af px,yqdxdy A P BpR2q

が成り立つとする. では Y に関する条件付き確率 “PpX P dx|Y q”はどのようにかけるのだろうか. 簡単のために y P Rに対して

ş

R f px,yqdx ą 0を仮定しておく.結論から言うと PpX P dx|Y qは密度

f px,Y qş

R f px,Y qdx(6.3)

を持つ. 実際,任意の A,B P BpRqに対して

Er1tXPAu : Y P Bs “ PppX ,Y q P A ˆ Bq “

ż

AˆBf px,yqdxdy “

ż

B

ˆ

ş

A f px,yqdxş

R f px,yqdx

˙ˆż

Rf px,yqdx

˙

dy

ż

B

ˆ

ş

A f px,yqdxş

R f px,yqdx

˙

PpY P dyq

“ E„

ş

A f px,Y qş

R f px,Y qdx: Y P B

ȷ

となる. これは PpX P A|Y q “

ş

A f px,Y qş

R f px,Y qdxが成り立つことを言っており,特に密度関数 (6.3)を持つことを

意味する.

条件付き期待値の基本的な性質を以下で挙げておく. 証明は演習にする.

命題 6.1.10. 確率空間 pΩ,F ,Pqと部分 σ -加法族 G を考える. F -可測な L1-確率変数 X ,Y について以下が

成り立つ.

(i) 任意の a,b P Rに対して EraX ` bY |G s “ aErX |G s ` bErY |G s P-a.s.

(ii) X ď Y ならば ErX |G s ď ErY |G s P-a.s.

(iii) (単調収束定理) F -可測な非負確率変数列 tXn : n ě 1uが nに関して単調増加で X に概収束するとす

る. ErXs ă 8ならば

ErXn|G s Ñ ErX |G s P-a.s.

(iv) (イェンセンの不等式) φ を凸関数とする. さらに φpXq P L1 ならば

φpErX |G sq ď E rφpXq|G s P-a.s..

(v) 部分σ -加法族G1, G2がG1 Ă G2を満たすときErErX |G2s|G1s “ ErX |G1s P-a.s.であり, ErErX |G1s|G2s “

ErX |G1s P-a.s.

(vi) ErErX |G ss “ ErXs.

(vii) X が G -可測で XY P L1 ならば ErXY |G s “ XErY |G s P-a.s.

(viii) 部分 σ -加法族H が σ rX ,G sと独立ならば ErX |σ rG ,H ss “ ErX |G s P-a.s.

問 6.1.11. 命題 6.1.10を証明せよ.

91

Page 92: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

6.2 離散時間マルチンゲール

この節では離散時間マルチンゲールと呼ばれる概念とその基本的な性質を見ていく. そのために次のような σ -加法族の列を考える.

定義 6.2.1. σ -加法族F の部分 σ -加法族の列 tFn : n ě 0uが増大情報系であるとは

任意の n ě 0に対してFn Ă Fn`1

を満たすときをいう. また確率変数列 tXn : n ě 0uがFn-適合であるとは,任意の n ě 0に対して Xnが

Fn-可測であるときをいう.

例題 6.2.2. 確率空間 pΩ,F ,Pq上で定義された R-値 i.i.d.確率変数列 tXn : n ě 1uを考える. このとき

F0 “ tH,Ωu,Fn “ σ rX1, ¨ ¨ ¨ ,Xns,n ě 1

とする. このとき tFn : n ě 0uは増大情報系となる. また確率変数列 tXn : n ě 1uに対して確率変数列

S0 “ 0,Sn “ Sn´1 ` Xn,n ě 1

を考えると, Sn はFn-適合である. 33

定義 6.2.3. 確率空間 pΩ,F ,Pqと増大情報系 tFn : n ě 0uに対して, R-確率変数列 tXn : n ě 0uが (Fn

に関して)マルチンゲールであるとは次を満たすときをいう.

(i) Er|Xn|s ă 8.

(ii) tXn : n ě 0uはFn-適合.

(iii) n ě 1に対して ErXn|Fn´1s “ Xn´1, P-a.s.

注意 6.2.4. 定義 6.2.3 の条件 (iii) を ErXn|Fn´1s ď Xn´1 に置き換えて成立するとき優マルチンゲール,ErXn|Fn´1s ě Xn´1 に置き換えて成立するとき劣マルチンゲールと呼ぶ. 34

例題 6.2.5. 例題 6.2.2の tXn : n ě 1uは Xn P L1 であるとする. このとき

ErX1s “ 0ErX1s ď 0ErX1s ě 0

,

/

.

/

-

ならば SnがFnに関して

$

&

%

マルチンゲール

優マルチンゲール

劣マルチンゲール

となる. (例題 6.1.7参照)

33例題 6.2.2 の Fn は X1, ¨ ¨ ¨ ,Xn によって生成される σ -加法族である. これは A P Fn に対して ω P Ω が ω P A かどうかはpX1pωq, ¨ ¨ ¨ ,Xnpωqq によって決まるということを言っている. また Gn “ σrSns は増大情報系ではないこともわかる.

34章題にあるように本来であれば離散時間マルチンゲールと呼んだ方が良いが文脈から明らかな場合は省略することが多い. 当然連続時間マルチンゲールも存在する.

92

Page 93: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

7 ブラウン運動

この章では現在の確率論において中心的な役割を果たしているブラウン運動について見ていく.ブラウン運動は 1827年に R.ブラウンによって発見された物理現象である. これは溶媒中に漂う微粒子

に溶媒分子が衝突することで微粒子が不規則に運動する現象である.このブラウン運動は興味深い性質を持っているだけではなく,ブラック-ショールズの公式など金融工学

の分野でも使われるなど応用上でも非常に重要な役割を持っている.

7.1 ブラウン運動

まずブラウン運動の定義を述べるところから始めよう.

pΩ,F ,Pq: 確率空間.

定義 7.1.1. tBt : t ě 0uが x P Rd を出発するブラウン運動であるとは以下の条件を満たすときをいう.

(i) PpB0 “ xq “ 1

(ii) 0 ď t0 ă t1 ă ¨¨ ¨ ă tn ă 8に対して tBti ´ Bti´1 : i “ 1, ¨ ¨ ¨ ,nuは独立である.

(iii) A P B´

Rd¯

, 0 ď s ă t に対して

PpBt ´ Bs P Aq “

ż

Apt´spxqdx.

ただし ptpxq “1

p2πtqd2 expˆ

´|x|2

2t

˙

である.

(iv) ある Ω0 P F で PpΩ0q “ 1かつ ω P Ω0 に対して t ÞÑ Btpωqは Rd 上の連続関数である. つまり確率 1で Bt は連続である.

注意 7.1.2. 条件 (iv)の連続性の仮定は非常に重要である. 実際, 条件 (i)„(iv)を満たすブラウン運動 B “

tBt : t ě 0uが構成されたとする. Bと独立な r0,1s上の一様分布U を考え,新たに

Bt “

$

&

%

Bt , t ­“ U

0, t “ U

と B “ tBt : t ě 0uを定義する. このとき Bが定義 7.1.1の条件 (i)„(iii)を満たすことは容易に確認できる.

問 7.1.3. B “ tBt : t ě 0u, B “ tBt : t ě 0uが

任意の t ě 0に対して PpBt “ Btq “ 1

を満たしているとする. さらに

PpB P Cpr0,8qqq “ PpB P Cpr0,8qqq “ 1

を満たすならば

Pp任意の t ě 0に対して Bt “ Btq “ 1

が成り立つことを示せ.

注意 7.1.4. 問 7.1.3よりブラウン運動が構成されたとき,その分布は一意であることがわかる.

93

Page 94: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

さてブラウン運動をしていこう. ブラウン運動の構成方法はいくつか知られている. ここではその代表的なもの 2つを載せておく.まず x “ 0として良いことに注意しておく. また 1次元ブラウン運動が構成されたとする. このとき d次

元ブラウン運動が自然に構成できる. よって原点出発の 1次元ブラウン運動が構成できれば良い.

問 7.1.5. Bpiq “ tBpiqt : t ě 0u (i “ 1, ¨ ¨ ¨ ,d)を独立な原点出発の 1次元ブラウン運動とする.

このとき

B “

!

pBp1qt , ¨ ¨ ¨ ,Btpdqq : t ě 0

)

は原点出発の d 次元ブラウン運動であることを示せ.

7.1.1 レヴィの方法

1つ目の方法はレヴィによる構成方法である. この構成方法によって明示的な確率空間上に直接ブラウン運動を構成することができる.これは r0,1s上の 2進有理数でブラウン運動の点を与え,その線形補間の関数がブラウン運動の近似であ

るという考え方による構成方法である.

n ě 0に対して In “ t0 ď k ď 2n :奇数 u, Tn “

"

k2n : k P In

*

, T “ď

ně0

Tnとおく. T は r0,1s上の 2進有理数

である.ブラウン運動 tBt : t P r0,1suがあったとする. 時刻 0 ď s ă t ď 1でのブラウン運動の値が定まった時,時

刻s ` t

2でのブラウン運動の分布はどのようなものだろうか.

θ “ s`t2 とする. このとき

PpBs P dx,Bθ P dy,Bt P dzq “ pps;0,xqpˆ

t ´ s2

;x,y˙

t ´ s2

;y,z˙

dxdydz

“ pps;0,xqppt ´ s,x,zq1

?2πσ 2

expˆ

´py ´ µq2

2σ2

˙

dxdydz

である. ただし, ppt;x,yq “1

?2πt

expˆ

´py ´ xq2

2t

˙

,µ “x ` z

2,σ2 “

t ´ s4である. これより

PpBθ P dy|Bs “ x,Bt “ zq “1

?2πσ 2

expˆ

´py ´ µq2

2σ2

˙

dy

となる. つまり Bs “ x, Bt “ zという条件のもとでは Bθ は平均x ` z

2,分散

t ´ s4の正規分布に従うというこ

とがわかる.35

これを踏まえて r0,1s上のブラウン運動を構成しよう.

ブラウン運動の構成 (I). r0,1s上の 2進有理数上でのブラウン運動の値を次のように定めていく.

(1) 確率空間 pΩ,F ,Pq上の確率変数列 tξ nk : n ě 0,k P Inuは独立同分布な確率変数で標準正規分布を持

つとする.

(2) B0 “ 0,B1 “ ξ p0q

1 とする.

(3) t PŤn

i“1 Ti に対して Bt が与えられたとする. そのとき t “ k2n`1 P Tn`1 に対して

Bt “

B k´12n`1

` B k`12n`1

2`

12n`22

ξ pnq

k (7.1)

とおく.35明らかに PpBs “ x,Bt “ zq “ 0 であるのでこの条件付き確率は従来の定義では意味を成していない.

94

Page 95: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

帰納的に t P T に対して Bt の値が ξ を用いて定義できた.各 nに対して

Bpnqt “

$

&

%

Bt , t PŤn

i“1 Ti

線形補間, それ以外

として r0,1s上の連続関数が構成する. n Ñ 8が連続関数にほとんど確実に一様収束し,その極限がブラウン運動であることを示す.まず Bpnq

t を扱いやすい形で書き直す.r0,1s上のハール関数を次のように定義する.各 n ě 0, k P In に対して

Hp0q

1 ptq “ 1, 0 ď t ď 1

Hpnq

k ptq “

$

&

%

2n´1

2 , k´12n ď t ă k

2n

´2n´1

2 , k2n ď t ă k`1

2n

0, それ以外

とする. このときシャウダー関数を

Spnq

k ptq “

ż t

0Hpnq

k puqdu, 0 ď t ď 1,n ě 0,k P In

と定義する. このとき

Bpnqt “

nÿ

m“0

ÿ

kPIm

ξ pmq

k Spmq

k ptq (7.2)

と書ける.さて n Ñ 8としたときに Bpnq

t が確率 1で一様収束することを示そう. 各 n ě 0, k P In に対して

Pp|ξ pnq

k | ą xq “

c

ż 8

xexp

ˆ

´y2

2

˙

dy ď

c

ż 8

x

yx

expˆ

´y2

2

˙

dy “

c

exp´

´ x2

2

¯

x

であることから, n ą 1で

maxkPIn

|ξ pnq

k | ą n˙

ď 2nP´

|ξ p0q

1 | ą n¯

ď

c

2n exp´

´ n2

2

¯

n

である. よってボレル-カンテリの補題から確率 1で十分大きな nに対してmaxkPIn |ξ pnq

k | ď nとなる. よってÿ

mě0

ÿ

kPIm

|ξ pmq

k Spmq

k ptq| ă 8

となるので一様収束する. 極限過程を改めて Bt と書くと一様収束性から連続関数であることがわかる.定義 7.1.1の (ii), (iii)を確認すれば良い. 0 ď t1 ă t2 ă ¨¨ ¨ ă tn ď 1に対して tt j,k P T : k ě 1,1 ď j ď n, t j,k ă

t j`1,kuで

t j,k Õ t j, j “ 1, ¨ ¨ ¨ ,n

となるものが存在する. このとき Bの連続性から

Bt j ´ Bt j´1 “ limkÑ8

Bt j,k ´ Bt j´1,k

である. tBt j,k ´ Bt j´1,k : j “ 1, ¨ ¨ ¨ ,nuは平均 0,分散行列 ai, j “

$

&

%

t j,k ´ t j´1,k, i “ j

0, i ­“ jの n次元正規分布であ

るので問 4.2.26および問 4.2.23より tBt j ´ Bt j´1 : j “ 1, ¨ ¨ ¨ ,nuは独立で (iii)を満たすことがわかる. よってブラウン運動が構成できた.

95

Page 96: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 7.1.6. (7.1)において B k´12n`1

, B k`12n`1が与えられた時, Bt は平均

B k´12n`1

`B k`12n`1

2 ,分散1

2n`2 の正規分布である

ことを確かめよ.

問 7.1.7. シャウダー関数 Spnq

k のグラフを書け.

問 7.1.8. (7.2)を示せ.

問 7.1.9. 上の証明では tBt : 0 ď t ď 1uというブラウン運動を構成した. これを tBt : t ě 0uというブラウン

運動へ拡張せよ.

ここで証明に登場したハール関数について補足をしておく.

定義 7.1.10. pH,x¨,yqを R上の可分ヒルベルト空間とする. ten : n ě 1u Ă H が H の完全正規直交系で

あるとは

(i) 各 n ě 1に対して en “ xen,eny “ 1.

(ii) n ­“ mならば xen,emy “ 0.

(iii) spanten : n ě 1u “ H

を満たすときをいう.

系 D.2.5,問??より L2r0,1sは可分ヒルベルト空間である.

注意 7.1.11. ハール関数は L2r0,1s上の完全正規直交系であることが知られている. ペーリー-ウィーナーや伊藤-西尾らはこのことに着目しレヴィの構成方法を次のように拡張した.

定理 7.1.12. tφn : n ě 0u Ă L2r0,1sを L2r0,1s上の完全正規直交系とする. また tξn : n ě 0uを独立同分

布な確率変数列で標準正規分布に従うとする. このとき

Bt “ÿ

ně1

ξn

ż t

0φnpsqds

は確率 1で絶対一様収束する. 特に B “ tBt : t P r0,1suはブラウン運動である.

特にペーリー-ウィーナーはL2r0,1s上の完全正規直交系として t1,?

2cosπx,?

2sinπx,?

2cosp2xq,?

2sinp2xq, ¨ ¨ ¨ u

を用いることで

Bt “ ξ0t `ÿ

nPZ,n­“0

ξn?

2sinpntqn

, t P r0,1s

という表現を与えた. この表現は近年非線形偏微分方程式の解の正則性の研究にも用いられている.36

7.1.2 ドンスカーの不変原理

次の構成方法では適切な仮定の下ではランダムウォークの時空間スケール変換の極限がブラウン運動に

なるという主張を行う.

36T. Oh, J. Quastel: On invariant Gibbs measures conditioned on mass and momentum J. Math. Soc. Japan 65 (2013), no. 1, 13-35.

96

Page 97: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

tXn : n ě 1uを独立同分布な確率変数で平均 0,分散 σ2 であるようなものとする. t ě 0に対して

Spnqt “

$

&

%

řtni“1 Xi

?σ2n

, t “kn,k P N0

線形補間, それ以外.

と定義する.

定理 7.1.13. (ドンスカーの不変原理) 0 ă σ2 ă 8であるとする. このとき

tSpnqt : t ě 0u ñ tBt : t ě 0u

である. ただし, B “ tBt : t ě 0uは 1次元ブラウン運動である.

注意 7.1.14. 定理 7.1.13 の主張における法則収束は Spnq から可測空間 pCpr0,8qq,BpCpr0,8qqqq へ自然

に誘導される確率測度 Pn がブラウン運動を表す確率測度 P に弱収束することを言っている. この可測空間 pCpr0,8qq,BpCpr0,8qqq 上に定義されたブラウン運動を表す確率測度 P をウィーナー測度といい,pCpr0,8qq,BpCpr0,8qq,Pqをウィーナー空間という.

さて不変原理を証明する前に注意しておくことがある. それはCpr0,8qqにどのような位相を入れている

かである. ここでは次のような距離から誘導される位相が入っていると考えて良い.

f ,g P Cpr0,8qqに対して dp f ,gq “

8ÿ

n“1

12n sup

0ďtďnp| f ptq ´ gptq| ^ 1q . (7.3)

問 7.1.15. (7.3)で定義される dはCpr0,8qq上の距離を定めることを示せ. またこの距離の下でCpr0,8qは

完備可分距離空間になることを示せ.

以下では簡単のため tSpnqt : 0 ď t ď T u(0 ă T ă 8)が弱収束することを見ていくことにする.

このとき次のように証明する.

(1) pCpr0,T sq,BpCpr0,T sqqq上の確率測度の族 tPn : n ě 1uが緊密であることを示す.

(2) 部分列の弱収束極限の分布 Pの下で B “ tBt : 0 ď t ď T uが定義 7.1.1の (i), (ii), (iii)を満たすことを確かめる.

注意 7.1.16. 定義 7.1.1の (iv)は構成方法より確かめる必要はない.

緊密性を調べるために次の定理を用意しておく. この定理の証明はこの講義ノートでは扱わない.

定理 7.1.17. pCpr0,T sq,BpCpr0,T sqqq上の確率測度の列 tPn : n ě 1uが緊密であるための必要十分条件

は以下が成り立つことである

(i) limλ Ñ8

supně1

Pn ptω P Cpr0,T sq : |ωp0q| ą λuq “ 0.

(ii) 任意の ε ą 0に対して limδ Ñ0

supně1

Pn ptω P Cpr0,T sq : mpω,δ q ą εuq “ 0.

ただし f P Cpr0,T sq, δ ą 0に対して

mp f ,δ q “ supt,sPr0,T s,|t´s|ďδ

| f ptq ´ f psq|

とする.

97

Page 98: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

証明. [1, Theorem 7.3]参照.

よって次の 2つが示されると定理 7.1.13の証明が完成する.

定理 7.1.13の条件を仮定する.

補題 7.1.18. 任意の ε ą 0に対して

limδ Ñ0

supně1

Spnq,δ¯

ą ε¯

“ 0

が成り立つ.

補題 7.1.19. 任意の r0,T sの分割点 0 ă t1 ă ¨¨ ¨ ă tm ď T に対して n Ñ 8のとき´

Spnqt1 , ¨ ¨ ¨ ,Spnq

tm

¯

ñ pBt1 , ¨ ¨ ¨ ,Btmq

が成り立つ.

補題 7.1.19の証明. m “ 2の場合を証明する. m ě 3の場合も同様に示せる. s “ t1, t “ t2 とおく.

pSpnqs ,Spnq

t q ñ pBs,Btq

を示す. まず ε ą 0に対してチェビシェフの不等式より

Pˆˇ

ˇ

ˇ

ˇ

Spnqt ´

X1 ` ¨¨ ¨ ` Xttnu?

nσ2

ˇ

ˇ

ˇ

ˇ

˙

ď Pˆˇ

ˇ

ˇ

ˇ

Xttnu`1?

nσ2

ˇ

ˇ

ˇ

ˇ

ą ε˙

ď1

nσ2

となる. よって

Pˆˇ

ˇ

ˇ

ˇ

´

Spnqs ,Spnq

t

¯

´

ˆ

X1 ` ¨¨ ¨ ` Xtsnu?

nσ2,

X1 ` ¨¨ ¨ ` Xttnu?

nσ2

˙ˇ

ˇ

ˇ

ˇ

ą ε˙

Ñ 0

がわかる. これよりˆ

X1 ` ¨¨ ¨ ` Xtsnu?

nσ2,

X1 ` ¨¨ ¨ ` Xttnu?

nσ2

˙

ñ pBs,Btq

を示せば十分であるが,これはˆ

X1 ` ¨¨ ¨ ` Xtsnu?

nσ2,

Xtsnu`1 ` ¨¨ ¨ ` Xttnu?

nσ2

˙

ñ pBs,Bt ´ Bsq

と同値である. tXn : n ě 1uの独立性と中心極限定理を用いることで任意の pθ1,θ2q P R2 に対して

limnÑ8

E„

expˆ

iθ1X1 ` ¨¨ ¨ ` Xtsnu

?nσ2

` iθ2Xtsnu`1 ` ¨¨ ¨ ` Xttnu

?nσ2

˙ȷ

“ expˆ

´sθ 2

1 ` pt ´ sqθ 22

2

˙

(7.4)

が示される. よって補題 7.1.19が示せされた.

問 7.1.20. tpXn,Ynq : n ě 1uを R2-値確率変数列, pX ,Y qを R2-値確率変数とする. このとき以下を示せ.

pXn,Ynqが pX ,Y qへ法則収束するô pXn,Yn ´ Xnqが pX ,Y ´ Xqに法則収束する.

問 7.1.21. (7.4)を証明せよ.

98

Page 99: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

補題 7.1.18の証明. 線形補間であることから

limδ Ñ0

limnÑ8

P

¨

˚

˝

max0ď jăkďtT nu`1,

k´ jďtδnu

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

kÿ

i“ j`1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ą ε?

nσ2

˛

“ 0

を示せば良いことがわかる. また三角不等式より

max0ď jăkďtT nu`1,

k´ jďtδnu

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

kÿ

i“ j`1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ď 3 max0ďℓď T

δ

¨

˝ maxℓtδnuďkďpℓ`1qtδnu

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

kÿ

i“ℓtδnu`1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

˛

‚ (7.5)

が成り立つので

P

¨

˚

˝

max0ď jăkďtT nu`1,

k´ jďtδnu

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

kÿ

i“ j`1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ą ε?

nσ2

˛

ďTδ

P

˜

max0ďkďtδnu

ˇ

ˇ

ˇ

ˇ

ˇ

kÿ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ąε3

?σ2n

¸

である. よって

limδ Ñ0

limnÑ8

P

˜

max0ďkďtδnu

ˇ

ˇ

ˇ

ˇ

ˇ

kÿ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ąε3

?σ2n

¸

“ 0

を示せば良い. 停止時刻 τ を

τ “ inf

#

j ě 1 :

ˇ

ˇ

ˇ

ˇ

ˇ

jÿ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ą ε?

nσ2

+

とする. 0 ă δ ă ε2

2 とすると

Ppτ ď tδnuq

ď P

¨

˝

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

tδnuÿ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ą pε ´?

2δ q?

nσ2

˛

‚`

tδnu´1ÿ

ℓ“1

P

¨

˝

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

tδnuÿ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ď pε ´?

2δ q?

nσ2 : τ “ ℓ

˛

‚ (7.6)

である. チェビシェフの不等式より

P

¨

˝

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

tδnuÿ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ď pε ´?

2δ q?

nσ2

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

τ “ ℓ

˛

‚“ P

¨

˝

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

tδnuÿ

i“ℓ`1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ą?

2δnσ2

˛

ď1

2nδnσ2 E

»

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

tδnuÿ

i“ℓ`1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

2fi

ffi

fl

ď12

となり, (7.6)と合わせると

Ppτ ď tδnuq ď 2P

¨

˝

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

tδnuÿ

i“1

Xi

ˇ

ˇ

ˇ

ˇ

ˇ

ˇ

ąε ´

?2δ

?nσ2δ

˛

となるが中心極限定理より

limnÑ8

Ppτ ď tδnuq ď 2P

˜

|B1| ěε ´

?2δ

¸

となる. 正規分布の性質から

limδ Ñ0

˜

|B1| ěε ´

?2δ

¸

“ 0

がわかる. よって補題 7.1.18が示された.

99

Page 100: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 7.1.22. (7.5)を示せ. (Hint: 0, ¨ ¨ ¨ , tT nu ` 1を順に tδnu個のブロックにわけ j,kがどのブロックに入って

いるかで場合分けする.)

7.2 微分不可能性

ブラウン運動の性質として特筆すべき点として微分不可能性がある.

定理 7.2.1. ブラウン運動 B “ tBt : t ě 0uは確率 1で任意の t ě 0で微分不可能である.

証明. ブラウン運動はウィーナー空間上に定義されているとする. β ą 0を固定する.

Anpβ q “

"

w P Cr0,1s : p˚qある s P r0,1sで t P r0,1sが|t ´ s| ď2nを満たすならば|wptq ´ wpsq| ď 2β |t ´ s|

*

とおく.

Apβ q “ď

ně1

Anpβ q

とすると

ď

ně1

A`

2´nβ˘

“ tw P Cr0,1s :少なくとも 1点で微分可能 u

である. よって PpApβ qq “ 0を示せば十分.

Yj,n “ max"ˇ

ˇ

ˇ

ˇ

j ` 2n

˙

´ wˆ

j ` 1n

˙ˇ

ˇ

ˇ

ˇ

,

ˇ

ˇ

ˇ

ˇ

j ` 1n

˙

´ wˆ

jn

˙ˇ

ˇ

ˇ

ˇ

,

ˇ

ˇ

ˇ

ˇ

jn

˙

´ wˆ

j ´ 1n

˙ˇ

ˇ

ˇ

ˇ

*

とする. w P Anpβ qに対して (*)を満たすような s P r0,1sが少なくとも 1つ存在する. このような sに対し

て k P N0 を

kn

ď s ăk ` 1

n

とおくと Yk,n ď6βnが成り立つ. よって

Anpβ q Ă

n´2ď

k“1

"

Yk,n ď6βn

*

がわかる. 独立性から

Yk,n ď6βn

˙

ď

n´2ÿ

k“1

Pˆˇ

ˇ

ˇ

ˇ

1n

˙ˇ

ˇ

ˇ

ˇ

ď6βn

˙3

Ñ 0

である. A1pβ q Ă A2pβ q Ă ¨ ¨ ¨ Ă Anpβ q Ăであるので任意の n ě 1に対して PpAnpβ qq “ 0となる. よって示された.

系 7.2.2. ブラウン運動は任意の区間で確率 1で有界変動ではない.

他にもブラウン運動の性質としてヘルダー連続性なども知られている.

100

Page 101: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

定理 7.2.3. α ă 12 とする. このとき確率 1で d-次元ブラウン運動は α-次ヘルダー連続である.

7.3 ブラウン運動と偏微分方程式

ブラウン運動を用いて熱方程式の解が構成できることがよく知られている. ここでは消散項のついた熱方程式の解のブラウン運動を用いた表現を与えるのみにとどめておく. 詳しく見るためには確率積分等を使う必要がある37.

定義 7.3.1. 2階微分可能関数 u : p0,8q ˆRd Ñ Rが消散項 V : Rd Ñ R,初期条件 f : Rd Ñ Rの熱方程式の解であるとは

B

Btupt,xq “

12

∆xupt,xq ´V, pt,xq P Rd (7.7)

up0`,xq “ f pxq,x P Rd (7.8)

を満たすときをいう. ただし ∆x “

dÿ

i“1

B2

Bx2iを表すとする.

消散項 V ,初期条件 V の熱方程式の解は次のようにブラウン運動を用いて記述できる.

定理 7.3.2. f ,V : Rd Ñ Rが有界連続関数であるとする.

upt,xq “ Ex

f pBtqexpˆ

´

ż t

0V pBsqds

˙ȷ

とおくと, uは熱方程式 (7.7), (7.8)の解になる. ただし Ex は x P Rd を出発するブラウン運動を表す確

率測度とする.

問 7.3.3. 定理 7.3.2を V ” 0のときに証明せよ.

37確率積分を用いず半群を用いた構成法は [8,命題 12.11] で扱っている

101

Page 102: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

A 測度論

この章では測度論の基本的な知識を記述しておく. 具体的な証明等はルベーグ積分の教科書や講義に譲る.

A.1 σ -加法族

S: 集合, A Ă 2S: 部分集合族.

定義 A.1.1. A が次を満たすとき Sの σ -加法族 (完全加法族38)という.

H P A (空集合を含む) (A.1)

A P A ñ Ac “ SzA P A (補集合で閉じている) (A.2)

An P A , n P N ñď

ně1

An P A (可算和で閉じている) (A.3)

• Sと σ -加法族A の組 pS,A qを可測空間と呼ぶ.

• pS,A qが可測空間, A P A であるとき Aは可測であるという.

注意 A.1.2. (A.3)の代わりに有限和で閉じている条件

A1, ¨ ¨ ¨ ,An P A ñ

k“1

Ak P A (A.4)

を考える. (A.1), (A.2), (A.3)を満たすA を有限加法族という.

注意 A.1.3. 可測空間と位相空間の定義における条件の違いについてよく理解しておくことが重要である.

例題 A.1.4. (i) 集合 Sに対して tH,Su Ă 2S は σ -加法族である.

(ii) 集合 Sに対して 2S は σ -加法族である.

応用上 pA.1.4qのような σ -加法族は使い勝手が悪い. より使い勝手の良いものとして適当な大きさの σ -加法族が欲しい. そこで位相空間 pS,Oqの開集合を含むようなものを構成する.次の補題が役立つ.

補題 A.1.5. G Ă 2S に対して

σ rG s “č

A :S の σ -加法族A ĄG

A

と定義すると σ rG sは G を含む最小の σ -加法族である.

σ rG sを G が生成する σ -加法族と呼ぶ. 集合 Sを明示するときは σ rG sS と書く.特に位相空間 pS,Oqに対して

BpSq “ σ rOs

を位相空間 Sのボレル集合族と呼ぶ.38偏微分方程式の分野では完全加法族,確率論の分野では σ -加法族と呼ぶ人が多い (という個人的な印象)

102

Page 103: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

A.2 測度

pX ,F qを可測空間とする.

定義 A.2.1. µ : F Ñ r0,8sが次を満たすとき pF ,µqは測度であるという.

A P F に対して 0 “ µpHq ď µpAq ď 8, 非負性 (A.5)

An P F , Ai X A j “ H pi ­“ jq ñ µ

˜

ÿ

ně1

An

¸

“ÿ

ně1

µpAnq, 可算加法性,完全加法性 (A.6)

またそのとき pX ,F ,µqを測度空間と呼ぶ.

注意 A.2.2. 有限加法族F0 に対して µ : F0 Ñ r0,8sが (A.5)および

A1, ¨ ¨ ¨ ,An P F0,Ai X A j “ H pi ­“ jq ñ µ

˜

nÿ

i“1

Ai

¸

nÿ

i“1

µpAiq

を満たすとき有限加法的測度という. また pX ,F0,µqを有限加法的測度空間という.

例題 A.2.3. (a) pS,2Sqに対して 7 : 2S Ñ r0,8sを

7pAq “ÿ

xPA

1 “ 7tx : x P Au

と定義すると 7は pS,2Sq上の測度である. 特に 7を個数測度と呼ぶ.

(b) x P Sとする. δx : 2S Ñ r0,8sを

δxpAq “

$

&

%

1, A Q x

0, A S x

と定義すると δx は測度である. (δx を点 xにおけるディラク測度という.)

ここまで一般的な可測空間について扱ってきたがBpRdq上の測度について考察する.

定理 A.2.4. 測度 pBpRdq,mqで J “

j“1

tpa j,b js XRuに対して mpJq “

j“1

pb j ´ a jqとなるものがただ一

つ存在する.

この mをBpRdq上のルベーグ測度 (Lebesgue measure)という.

注意 A.2.5. 定理 A.2.4により mpp0,1s XQq “ř

qPp0,1sXQ mptquq “ 0となる.

pX ,F ,µq: 測度空間.

定義 A.2.6. µpXq ă 8であるとき, µ は有限測度であるという. また µpXq “ 8であるとき, µ は無限測度であるという.特に µpXq “ 1であるとき µ を確率測度とよび, pX ,F ,µqを確率空間と呼ぶ. また無限測度 µ に対して

An P F , A1 Ă A2 Ă ¨¨ ¨ , µpAnq ă 8, X “ď

ně1

An (A.7)

となるものが存在するとき µ は σ -有限測度と呼ぶ.

103

Page 104: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

A.3 可測関数

pX ,F q, pY,G qを可測空間とする.

定義 A.3.1. f : X Ñ Y が次を満たすとき f はF G -可測であるという.

B P G ñ f ´1pBq P F .

注意 A.3.2. 位相空間の間の連続写像の定義と比較すると良い.

G が自明であるときF -可測と略すこともある. F , G が自明なとき単に可測ということもある.

例題 A.3.3. A P F であるとする. このとき関数 f pxq “ 1Apxqは F -可測関数である. また a1, ¨ ¨ ¨ ,an P R,

A1, ¨ ¨ ¨ ,An P F (Ai X A j “ H)に対して関数 f pxq “

nÿ

i“1

ai1AipxqはF -可測である.

A.4 ルベーグ積分

pX ,F ,µqを測度空間とする.この節では可測関数に積分を定義する. 可測関数の積分は可測単関数,非負可測関数,可測関数の順に定義される. リーマン積分のように直接定義できるものではないことに注意.

定義 A.4.1. f : X Ñ Rは可測であるとする. 7 f pXq ă 8であるとき,すなわち

f pxq “

nÿ

j“1

a j1A j pxq, a j P R, A j P F

であるとき, f を可測単関数という.

定義 A.4.2. (可測単関数の積分)

φ : X Ñ r0,8sが可測単関数であり, φpxq “

nÿ

i“1

ai1Aipxq, ai ě 0, Ai P F で与えられているとする. φ の

X 上での積分を

ż

Xφpxqµpdxq “

ż

Xφdµ “

nÿ

i“1

aiµpAiq (A.8)

と定義する. また φ と E P F に対してş

E φdµ “ş

X 1E ¨ φdµ と定義する.

注意 A.4.3. 8 ˆ 0 “ 0と定義する.

次に非負可測関数に対する積分を定義する.

定義 A.4.4. (非負可測関数の積分)f : r0,8sが可測とする. f の X 上の積分を次のように定義する.

ż

Xf pxqµpdxq “ lim

nÑ8

ż

Xφnpxqµpdxq.

104

Page 105: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

ただし, tφnuně1は非負単関数列で 0 ď φ1pxq ď φ2pxq ď ¨ ¨ ¨ かつ,任意の x P X で limnÑ8

φnpxq “ f pxqを満

たすようなもの.

最後に一般の可測関数に対して積分を定義する.

定義 A.4.5. (可測関数の積分)

f : X Ñ Rは可測関数, E P F とする. このとき f `, f ´ に対して積分ż

Ef `dµ ,

ş

E f ´dµ が定義でき

る. これらのうち少なくとも一方が有限であるとき,またそのときに限り f は E 上の積分ż

Ef dµ も持

つといい,ż

Ef dµ “

ż

Ef `dµ ´

ż

Ef ´dµ

と定める. このように定義された可測関数の積分をルベーグ積分とよび,特にż

Ef dµ が有限であると

き, f は E 上ルベーグ可積分であるという.

定義 A.4.5でルベーグ積分を定義できたが Rd 上のリーマン積分との関連について述べておく.

定理 A.4.6. A Ă Rd は有界なジョルダン集合とする. f : A Ñ Rが有界なリーマン可積分な関数であるとき f は A上ルベーグ可積分であり,それぞれの積分の値は一致する.

定理 A.4.7. f : Rd Ñ R, A Ă Rd かつ x P RdzAでは f pxq “ 0とする. さらに A1 Ă A2 Ă ¨¨ ¨ は有界で

An Õ Aとする.

(a) fnpxq “ f pxq1Anpxqとしたときに fn は有界でリーマン可積分,

(b) supně1 Dp| fn|q ă 8,

を満たすときż

A| f pxq|mpdxq ă 8, かつ

ż

Af pxqmpdxq “ lim

nÑ8Dp fnq, つまり広義積分の値とルベーグ積

分の値が一致する.

注意 A.4.8. 簡潔に言うと f の広義積分が絶対収束すると f はルベーグ可積分であり,両者の値は一致する.

A.5 収束定理

この節ではルベーグ積分論における非常に重要な定理である 3つの収束定理について述べる.

定理 A.5.1. (単調収束定理)f ,t fnuně1 は非負可測関数で任意点 x P X で

0 ď f1pxq ď f2pxq ď ¨ ¨ ¨ , limnÑ8

fnpxq “ f pxq

105

Page 106: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

を満たすとする. このとき

limnÑ8

ż

Xfnpxqµpdxq “

ż

Xf pxqµpdxq.

ただし両辺が8になる場合も含める.

問 A.5.2. 単調収束定理を用いて

limnÑ8

ˆ

1 `1n

˙n

“ÿ

kě0

1k!

を示せ.

補題 A.5.3. (ファトゥの補題)t fnuně1 は非負可測関数とする. このとき

ż

Xlim

nÑ8

fnpxqµpdxq ď limnÑ8

ż

Xfnpxqµpdxq.

次の定理がルベーグ積分において最も重要な定理である.

定理 A.5.4. (ルベーグの優収束定理)t fnuně1 は可測関数で,ほとんど全ての点 x P X で f pxq “ lim

nÑ8fnpxqとする.

ある非負可積分関数 gに対して

ほとんど全ての点 x P X で | fnpxq| ď gpxq (n ě 1)が成り立つとする. (A.9)

このとき

limnÑ8

ż

X| fnpxq ´ f pxq|µpdxq “ 0.特に lim

nÑ8

ż

Xfnpxqµpdxq “

ż

Xf pxqµpdxq.

例題 A.5.5. (i) limnÑ8

ş10

nxcosxn2x2`1 dx を考えると, 簡単な計算で各 n で supxPr0,1s

ˇ

ˇ

ˇ

nxcosxn2x2`1

ˇ

ˇ

ˇď 1

2 であり, 12 は

r0,1s上可積分であるのでルベーグの優収束定理が使えて積分の極限は 0である. (ルベーグ積分論を使わずにリーマン積分の知識だけでも 0に証明することは示せる.)

(ii) limnÑ8

ż n

0e´xn

dxを考えると, limnÑ8

e´xn“

$

&

%

1 x P r0,1q

e´1 x “ 1

0 x P p1,8q

となることがわかる. また |e´xn| ď 1r0,1spxq`

e´x1p1,8qpxqが全ての点で成り立ち, 右辺は可積分であるのでルベーグの収束定理が適用でき積分の極限は 1であることがわかる.

問 A.5.6. 以下の積分の極限の値を求めよ.

(i) limnÑ8

ż

r0,8q

e´nx sinx1 ` e´nx dx (ii) lim

nÑ8

ż

r0,1s

nsinx1 ` n2?

xdx

(iii) limnÑ8

ż

r0,1s

n?

xe´n2x2dx (iv) lim

nÑ8

ż

r´ 12 ,

12 s

?np1 ´ x2qndx

106

Page 107: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 A.5.7. x P Rとする. f を R上のルベーグ可積分関数とする. このとき

Fpxq “

ż

Rf py ´ xqdy

は R上連続であることを示せ.

問 A.5.8. t fnuně1を X 上の可積分な関数でř

ně1 fnpxqがほとんどいたるところ収束するとする. このとき次のことを示せ.

ż

X

ÿ

ně1

| fnpxq|dµpxq ă 8 ñ

ż

X

ÿ

ně1

fnpxqdµpxq “ÿ

ně1

ż

Xfnpxqdµpxq

問 A.5.9. t ą 0に対して ftpxq “

´

1 `xt

¯t2

e´tx (x ą ´t), ftpxq “ 0 (x ď ´t)と定義する.

(i) s ą ´1に対して Γps ` 1q “ ss` 12 e´s

ż 8

´?

sf?

spxqdxであることを示せ.

(ii) すべての x P Rに対して limtÑ8

ftpxq “ e´ x22 を示せ.

(iii) t ÞÑ ftpxqは x ą 0では単調減少, x ă 0では単調増加であることを示せ.

(Hint: gtpxq “ log ftpxqに対して x ÞÑ BBt gtpxqが単調減少であることを示す.)

(iv) limsÑ8

Γps ` 1q

ss` 12 e´s

“?

2π (Stirlingの公式)を示せ.

補足: s P Nのとき Γps ` 1q “ s!であることに注意すると Stirlingの公式は s!の近似を与えている.

ルベーグの収束定理の応用として微分と積分の順序交換に関する次の定理を挙げる.

定理 A.5.10. I “ pa,bq Ă Rとする.

(a) f pt,xq : I ˆ X Ñ Cは各 t P I 毎にF -可測で X 上可積分,

(b) ほとんど全ての x P X に対して x毎に t の関数として f pt,xqが I 上微分可能であり, X 上の可積分

関数 gが存在してˇ

ˇ

ˇ

ˇ

B fBt

pt,xq

ˇ

ˇ

ˇ

ˇ

ď gpxq, a.e. x P X

であるならばş

X f pt,xqµpdxqは t の関数として pa,bq上微分可能であり

ddt

ż

Xf pt,xqµpdxq “

ż

X

B fBt

pt,xqµpdxq.

問 A.5.11. f : R Ñ Rを有界可測関数とする.

upt,xq “1

?2πt

ż 8

´8

f pyqexpˆ

´px ´ yq2

2t

˙

dy, t ą 0, x P R

と定義する. 以下の問に答えよ.

(i) upt,xqは pt,xq P p0,8q ˆR上 t,xに関してそれぞれ偏微分可能であり,

BuBt

pt,xq “

ż 8

´8

f pyq

ˆ

B

Bt1

?2πt

expˆ

´px ´ yq2

2t

˙˙

dy,BuBx

pt,xq “

ż 8

´8

f pyq

ˆ

B

Bx1

?2πt

expˆ

´px ´ yq2

2t

˙˙

dy

を満たすことを示せ.

107

Page 108: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(ii)BuBt

pt,xq “12

B2uBx2 pt,xqを満たすことを示せ.

問 A.5.12. a ą 0, θ P Rに対して p0,8q ˆR上の関数 Fpa,θq “

ż

R

1?

2πaexp

ˆ

´x2

2a

˙

cospθxqdxを考える.

以下の問に答えよ.

(i) Fpa,0q “ 1を示せ.

(ii) Fpa,θqは aに関して p0,8qで, θ に関して Rで無限階偏微分可能であることを示せ

(iii) Fpa,θqに関して適切な偏微分方程式を見つけ,それを解くことで Fpa,θqの値を a,θ を使って表せ.

問 A.5.13. a ă 0 ă bとする. I Ă Rとする. 実ルベーグ可測関数 f : I Ñ Rはş

I | f pxq|dx ă 8であるとする.

全ての θ P pa,bqに対してż

Ie´θx| f pxq|dx ă 8を仮定する. 以下の問に答えよ.

(i) Rez P pa,bqであるとき Fpzq “

ż

If pxqexpp´zxqdxは可積分であることを示せ.

(ii) (i)で定義した Fpzqは tz P C : a ă Rez ă bu上正則であることを示せ. ただし z P Cならば |ez ´ 1| ď

|e|z| ´ 1|であることは使ってよい.

(iii) 次の関数 f : I Ñ Rに対して Fpitqを求めよ.

p1q f pxq “1

Γpsqxs´1e´x, I “ p0,8q, (ただし, s ą 0, Γpsq “

ż

Ixs´1e´xdx).

p2q f pxq “ λe´λx, I “ r0,8q.

最後に σ -有限な測度に関する重要な定義と定理を与えておく.

定義 A.5.14. 可測空間 pX ,F q上の測度 µ,ν を考える. 測度 µ が測度 ν に対して絶対連続であるとは

νpAq “ 0ならばµpAq “ 0pA P F q

が成り立つときをいい, µ ! ν とかく.

問 A.5.15. 測度空間 pX ,F ,νq上の非負可測関数 f を考える. 任意の A P F に対して µpAq “

ż

Af pxqνpdxq

とすると, µ は pX ,F q上の測度であり µ ! ν である.

この問の逆が言えることが次の定理の主張である.

定理 A.5.16. (Radon-Nikodym定理)µ,ν が σ -有限な測度とする. µ が ν に対して絶対連続ならば,

ある非負可測関数 gが存在して,任意の A P F に対してµpAq “

ż

Agpxqνpdxq (A.10)

が成り立つ. 可測関数 hが (A.10)を満たすならば, gpxq “ hpxq ν-a.e.となる.

注意 A.5.17. 定理 A.5.16で与えられた gを µ の ν に関する Radon-Nikodym微分と呼ぶ.

108

Page 109: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

B 測度の存在と一意性

A章では測度の存在や一意性を仮定して,測度の性質を色々と調べてきた. この章では存在と一意性を確かめていく.

B.1 ディンキンの π-λ 定理

測度の一意性を確かめるためにはどうすればよいのか. 定義に戻ると測度空間 pX ,F ,µ1qと pX ,F ,µ2q

に対して

µ1 “ µ2 ô全ての A P F に対して µ1pAq “ µ2pAq

である. しかしここで「任意の A P F」は非常に強い条件で扱いづらい. そこでもう少し弱い条件で考えたい.

S:集合. P,L Ă 2S とする.

定義 B.1.1. (a) P が π-族であるとは

A,B P P ñ A X B P P

を満たすときをいう.

(b) L が λ -族 (ディンキン族)であるとは

(i) Ω P L

(ii) A,B P L ,A Ă B ñ BzA P L

(iii) tAnuně1 Ă L ,An Ă An`1 ñď

ně1

An P L

を満たすときをいう.

問 B.1.2. A Ă 2S に対してA を含む最小の λ -族が存在することを示せ. (ℓrA sと表す.)

問 B.1.3. Sを集合, L Ă 2S とする. L が λ -族かつ π-族であるときL は σ -加法族であることを示せ.

定理 B.1.4. A Ă 2S が π-族であるとき σ rA s Ă ℓrA sが成り立つ.

証明. 問 B.1.3より ℓrA sが π-族であることを示せばよい.A Ă Sに対してLA “ tB Ă S : A X B P ℓrA suと定義する. このとき以下のことがわかる.

(i) A P A ならばLA Ą A である.

(ii) A P ℓrA sに対してLA は λ -族である.

(ii)より A P ℓrA sに対してLA Ą A が示されると定理が従うことに注意する.(i), (ii)より A P A ならばLA Ą ℓrA sである. つまり

A P A ,B P ℓrA s ñ A X B P ℓrA s (B.1)

である. (B.1)より A P ℓrL sに対してLA Ą A がわかるので示せた.

109

Page 110: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

問 B.1.5. 定理 B.1.4の証明の (i), (ii)を示せ.

次の問は確率論ではよく使う重要な事実であるので一度確認しておくこと.

問 B.1.6. I1 “ tpa,bs Ă R : ´8 ď a ă b ă 8uとする. このときI1 は π-族であることを示せ. また

BpRq Ă ℓrI1s

となることを示せ.

問 B.1.7. Id “

#

i“1

pai,bis Ă Rd : ´8 ď ai ă bi ă 8, 1 ď i ď d

+

とする. このときId は π-族であることを

示せ. また

BpRdq Ă ℓrIds

となることを示せ.

次の定理は測度の一致に関する判定条件を与える.

定理 B.1.8. G Ă 2S は π-族とする.σ rG s上の測度 µ1,µ2 が pG ,µ1|G q “ pG ,µ2|G q,かつ

ある tAnuně1 Ă G が存在して A1 Ă A2 Ă ¨¨ ¨ ,ď

ně1

An “ S,µ0pAnq ă 8 (B.2)

を満たすとする. ただし µ0 “ µ1|G “ µ2|G とする.このとき pS,σ rG s,µ1q “ pS,σ rG s,µ2qである.

注意 B.1.9. 確率測度を考えるときは (B.2)は自然に満たされる. 特に例題 B.1.6より pR,BpRqq上の確率測

度 µ1,µ2 が任意の I P I1 に対して µ1pIq “ µ2pIqならば µ1 “ µ2 である.

証明. 各 nに対して

Ln “ tB P σ rG s : µ1pB X Anq “ µ2pB X Anqu

と定義する. Ln は λ -族であり, G Ă Ln を満たす. よって任意の B P ℓrG s “ σ rG sに対して µ1pB X Anq “

µ2pB X Anqが成り立つので n Ñ 8とすることで µ1pAq “ µ2pAqである.

問 B.1.10. 定理 B.1.8の証明のLn が λ -族であることを示せ.

次に測度の存在と一意性に関する定理を与える. 証明は長くなるため省略するが,一度は測度論の教科書で確認しておくと良い.

pX ,G ,µ0q: 有限加法的測度空間.

定理 B.1.11. (E.ホップの拡張定理)µ0 が σ rG s上の測度 µ へ拡張可能

ô En P G , En X Em “ H pn ­“ mq, E “ď

ně1

En P G ñ µ0pEq “

8ÿ

n“1

µ0pEnq.p完全加法性 q (B.3)

特に (B.2)を満たすとき拡張は一意である.

110

Page 111: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

最後に (B.3)の同値な条件を確認しておく. 応用上ではこちらを使う方が議論が簡単な場合がある.

定理 B.1.12. pX ,G ,µ0q: 有限加法的測度空間.

En P G , En Ą En`1, µ0pE1q ă 8,8č

n“1

En “ H ñ limnÑ8

µ0pEnq “ 0. (B.4)

En P G , En Ă En`1, µ0pE1q ă 8,E “

n“1

En P G , µ0pEq “ 8 ñ limnÑ8

µ0pEnq “ 8. (B.5)

とする. このとき

pB.3q ô pB.4qかつ pB.5q.

また, (B.2)を満たしているとき, (B.5)は次の条件に置き換えられる.

E P G , µ0pEq “ 8 ñ limnÑ8

µ0pE X Anq “ 8 (B.5’)

B.2 測度の正則性

この節では測度の正則性について述べておく. これは可測集合の測度値が開集合,閉集合の測度で近似できることを意味する概念である.正確な定義は以下のようになる.

pS,Oq: 位相空間.pS,F ,µq: 測度空間

定義 B.2.1. A P F が正則であるとは

µpAq “ suptµpKq : K はコンパクト.K Ă A,K P F u

を満たすときをいう.µ が有限測度であるとき, Sが正則ならば µ は緊密であるという.また A P F が

µpAq “ suptµpKq : K は閉集合.K Ă A,K P F u

を満たすとき, Aは閉正則であるという.任意の A P F が (閉)正則であるとき µ は (閉)正則であるという.

例題 B.2.2. pRk,BpRkqq上の有限測度は緊密である.

問 B.2.3. A “ RzQとする. B P BpRqに対して µpBq “ λ pB X r0,1sqと定義する. ただし λ は R上のルベーグ測度とする. このとき Aは µ に対して正則であることを示せ.

pS,Oq: 位相空間.

定義 B.2.4. ボレル集合族BpSq上の測度のボレル測度という.

111

Page 112: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

特に距離空間上のボレル測度は良い正則性を持っていることが知られている.

定理 B.2.5. 距離空間 pS,dq上の任意の有限ボレル測度は閉正則である. また µ が緊密であるとき正則である.

定理 B.2.6. 完備可分距離空間 pS,dq上の任意の有限ボレル測度は正則である.

112

Page 113: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

C フビニの定理

直積空間上の測度と積分について,および測度に関して他に細々した内容を載せておく.

C.1 直積測度とフビニの定理

pX ,FX ,µX q, pY,FY ,µY qを測度空間とする.

Z “ X ˆY とする.

定義 C.1.1. Z の部分集合 E が A P FX , B P FY を使って E “ A ˆ Bと書けるとき E は矩形集合である

という.Z の部分集合族を

GZ “ Z の矩形集合全体を含む最小の有限加法族

と定義し, σ rGZsを直積 σ -加法族といい, σ rGZs “ FX bFY と表す.

定理 C.1.2. (直積測度の存在と一意性) pX ,FX ,µX q, pY,FY ,µY qをσ -有限な測度空間とする. このときpZ,σ rGZsq上の測度 µZ で Z “ A ˆ B (A P FX ,B P FY )に対して

µZpEq “ µX pAqµY pBq (C.1)

を満たすようなものが存在し一意である.

(C.1)を満たすような pZ,σ rGZsq上の測度を直積測度と呼び, pZ,σ rGZs,µZqを直積測度空間という.また pZ,σ rGZs,µZqを pX ˆY,FX bFY ,µX b µY qと表す.

記号 C.1.3. pW,FW qは可測空間, f : X ˆY Ñ W が σ rGZsFW -可測関数とする. 各 x P X に対して f px,yqを

Y 上の関数と見なしたものを fxpyqと表すことにする. 同様に各 y P Y に対して f px,yqを X 上の関数と見な

したものを fypxqと表すことにする.

定理 C.1.4. (フビニの定理) pX ,FX ,µX q, pY,FY ,µY qは σ -有限な測度空間とする. このとき次が成り立つ.

(i) f : Z “ X ˆY Ñ r0,8sがFX bFY -可測であるとする. φpxq “ş

Y fxpyqµpdyq, ψpyq “ş

X fypxqµX pdxq

とすると

(a) φ はFX -可測関数, ψ はFY -可測関数であり,

(b)ż

XφpxqµX pdxq “

ż

XˆYf pzqµZpdzq “

ż

YψpyqµY pdyq.

(ii) f : Z “ X ˆY Ñ CがFX bFY -可測であるとする. このとき (ia)を満たし, f を | f |と置き換えた

ときに (ib)のいずれかの積分が有限ならば f に対しても (ib)が成り立つ.

問 C.1.5. 0 ă a ă b ă 8に対して D “ tpx,yq P R2 : 0 ď x ď 1, a ď y ď buとおく.ż 1

0

xb ´ xa

logxdx “

ij

D

xdxdy “ log1 ` b1 ` a

となることを示せ.

113

Page 114: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

例題 C.1.6. E “ r0,1sn, I “ t1,2, ¨ ¨ ¨ ,nuとする.ż

Emaxtx1, ¨ ¨ ¨ ,xnudx1 ¨ ¨ ¨dxnを計算する. つぎのような点の

集合 EI を考える.

EI “ t1 ě x1 ą x2 ą ¨¨ ¨ ą xn ě 0u.

さらに Iの置換 σ ,σ 1 に対して σ ­“ σ 1 のとき Eσ I と Eσ 1I は非交差である. また i ­“ jに対して xi “ x j とな

るような点の集合はルベーグ測度 0なので積分に影響しない. よって積分の対称性とフビニの定理よりż

Emaxtx1, ¨ ¨ ¨ ,xnudx1 ¨ ¨ ¨dxn “ n!

ż

EI

x1dx ¨ ¨ ¨dxn

“ n!ż 1

0x1

ż x1

0¨ ¨ ¨

ż xn´1

0dx1 ¨ ¨ ¨dxn

“ n!ż 1

0

xn1

pn ´ 1q!dx1 “

nn ` 1

.

問 C.1.7. s ą 0, Re z ą 0に対して

Γspzq “

ż 8

0xs´1e´zxdx

と定義する. 以下の問に答えよ.

(i) z P tz P C : Re z ą 0uで Γspzqは連続であることを示せ.

(ii) tz P C : Re z ą 0u内の区分的に C1 級の閉曲線 γ に対してż

γΓspzqdz “ 0であることを示し, Γspzqは

tz P C : Re z ą 0uで正則関数であることを示せ.

(iii) θ P Rに対してΓsp1 ´ iθq

Γsp1qを求めよ.

114

Page 115: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

D Lp-空間ここからは関数の持つ性質について考察する. Lp-空間と呼ばれる関数空間を新たに導入するが偏微分方

程式論では Lp-空間以外にもソボレフ空間やベゾフ空間など様々な関数空間を考える. 興味のある人は関連する文献を読むとよい.

D.1 Lp-空間の定義と基本的性質

pX ,F ,µq:測度空間.

定義 D.1.1. 1 ď p ď 8に対して Lp-空間を次のように定義する.

(i) (1 ď p ă 8) Lp “ LppXq “ LppX ,µq “

"

ˇ

ˇ

ˇ

f : X Ñ C, F ´可測,ż

X| f pxq|pµpdxq ă 8

*

(ii) pp “ 8q L8 “ L8pXq “ L8pX ,µq “ t f | f : X Ñ C,F -可測,かつ本質的に有界.u. ここでF -可測関数 f が本質的に有界であるとはある定数Mが存在して | f pxq| ď M µ-a.e.x P X を満たすときを

いう.

また f P Lp に対して

f p “

$

&

%

ˆż

X| f pxq|pµpdxq

˙1p

, 1 ď p ă 8,

inftM ą 0 || f pxq| ď M,µ-a.e.x P X u , p “ 8

と定義する.

例題D.1.2. Rd上のルベーグ測度空間を考える. α PRに対して fα pxq “ p1`|x|qαとする. このとき 1 ď p ă 8

に対してż

Rdp1 ` |x|qα pdx “

ż

|ω|“1

ż 8

0p1 ` rqα prd´1drdω, ω:角度成分

ď ωd

ż 8

0p1 ` rqα p`d´1.

ここでωdはRdの単位球面の面積. 特に α p`d ´1 ă ´1のときこの値は有限になる. 一方, α p`d ´1 ě ´1のとき左辺は発散する.

問 D.1.3. fα を例題 D.1.2のものとする. α p ` d ´ 1 ě ´1のときş

Rd p1 ` |x|qα pdx “ 8であることを示せ.

問 D.1.4. fα を例題 D.1.2のものとする. fα P L8 となるような α P Rの範囲を与えよ.

問 D.1.5. X “ Bp0,1q 上のルベーグ測度空間を考える. ただし Bp0,1q “ tx P Rd : |x| ď 1u とする. またgα pxq “ |x|α とおく. 以下のことを示せ.

(1) α ě 0 ñ gα P Lp.

(2) α p ` d ą 0, p ­“ 8 ñ gα P Lp.

(3) α p ` d ď 0, p ­“ 8 ñ gα R Lp.

問 D.1.6. pX ,F ,µqは測度空間とする. f ,g : X Ñ CがF -可測関数とする. 以下の問に答えよ.

(i) f p “ 0 ô f pxq “ 0, µ-a.e.x

115

Page 116: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

(ii) f gp ď f 8gp. ただし,右辺で 0と8の積は 0とする.

(iii) f ` g8 ď f 8 ` g8.

例題 D.1.7. Sが可算集合とする. pS,2S,7qに対しては特に LppSqを ℓppSqと表す.

次の補題で示す不等式は非常に有用である.

補題 D.1.8. (ヘルダーの不等式) p,q P r1,8sとする.1p

`1q

“ 1, f P Lp, g P Lq であるとき

f g1 ď f pgq

注: 特に p “ q “ 2のとき補題 D.1.8の不等式をシュワルツの不等式という.

問 D.1.9. µpXq ă 8とする. 1 ď p ď q ď 8とする. このとき Lq Ă Lp であることを示せ.

注: µpXq “ 8であるとき一般には Lp と Lq の包含関係はない.

問題 D.1. Lp´pr0,1s,dxq “č

qăpLqpr0,1s,dxqと定義する. Lp´pr0,1s,dxq ­“ Lppr0,1s,dxqを示せ.

問 D.1.10. 測度空間 pN,2N,7qに対して 1 ď p ď q ď 8のとき ℓqpNq Ă ℓppNqであることを示せ.

次の不等式は Lp-空間における三角不等式でミンコウスキの不等式と呼ばれる.

補題 D.1.11. (ミンコウスキの不等式) 1 ď p ď 8, f ,g P Lp であるとき

f ` gp ď f p ` gp

例題 D.1.12. 1 ď p ă 8とする. x “ px1, ¨ ¨ ¨ ,xdq P Rd に対して xp “

˜

dÿ

i“1

xpi

¸1p

と定義すると pRd ,qpqは

ノルム空間である.

例題 D.1.13. x “ px1, ¨ ¨ ¨ ,xdq P Rd に対して x8 “ maxt|xi| : i “ 1, ¨ ¨ ¨ ,duと定義すると pRd ,q8qはノルム

空間である.

問 D.1.14. 例題 D.1.12, D.1.13を確かめよ.

D.2 Lp-空間の完備性

この節では Lp-空間の完備性について議論する.Kを Rまたは Cとする.

今 Lp-空間がノルム空間かどうかを調べたい. まずベクトル空間であることは補題 D.1.11を使うと容易にわかる. しかし ¨ p はそのままではノルムにならない.実際,可測関数 f が f pxq “ 0 a.e.-xであるとき f p “ 0であるので条件を満たさない. そこで次のように

同値関係を用いてノルム空間にする.

116

Page 117: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

pX ,F ,µq: 測度空間.

定義 D.2.1. Lp-空間の元について次のような同値関係を与える.f ,g P LppX ,µqに対して

f „ g ô f pxq “ gpxq, µ-a.e.x.

この同値関係 „に関して LppX ,µqの商空間 LppX ,µq “ LppX ,µq „を考え, 代表元 t f u P LppX ,µq

に対して t f up を f p で定義する.このとき pLppX ,µq,t¨upqはノルム空間になる. つまり Lpの元 f ,gは f “ g a.e.-xであるとき f “ “ ”g

と同一視するとノルム空間と捉えることができる.

以下ノルム空間 pLppX ,µq,t¨upqを改めて pLppX ,µq, ¨ pqと書くことにする.

問 D.2.2. 上で定義した pLppX ,µq,t¨upqがノルム空間であることを確かめよ.

特に p “ 2のときは内積空間になる.

問 D.2.3. f ,g P L2 に対して

p f ,gq “

ż

Xf pxqgpxqµpdxq

と定義すると pL2,p¨, ¨qqは内積空間であることを示せ.

次の定理で Lp-空間の完備性を確認できる.

定理 D.2.4. Lp-空間は完備である. (つまり pLp, ¨ pqはバナッハ空間である)

系 D.2.5. L2 はヒルベルト空間である.

注意 D.2.6. 測度空間の完備性と Lp-空間の完備性は無関係.

問 D.2.7. pCpr0,1sq, ¨ 1qはノルム空間であるがバナッハ空間ではないことを示せ.

この講義ノートでは証明を与えないが, 1 ď p ă 8のとき LppRdqは可分であることも知られている.

117

Page 118: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

E フーリエ変換

この節ではフーリエ変換の初歩的内容を確認しておく.フーリエ変換では非常に大雑把に言うと Rd 上の関数 f に対して

F f pξ q “1

p2πqd

ż

Rdf pxqe´iξ xdx

を考えることで関数 f の性質を調べる.ここでは f は “関数”としているがフーリエ変換の定義は関数にとどまらず超関数などにも拡張されてい

る. 超関数に対するフーリエ変換などは関数解析の教科書等を参考にしてほしい.

E.1 フーリエ変換

この章以降は実直線空間 R上の関数のみならず Rd 上の関数に対するフーリエ変換について考える.

定義 E.1.1. f P L1pRdqに対して

f pξ q “ F r f spξ q “

ż

Rdf pxqeix¨ξ dx (E.1)

を関数 f のフーリエ変換,

f pxq “ F ´1r f spxq “1

p2πqd

ż

Rdf pξ qe´ix¨ξ dξ (E.2)

を関数 f のフーリエ逆変換という.

注意 E.1.2. 積分の前の係数や指数の符号は文献により異なるので読む際に注意する必要がある.またこのノートでは f , f とF r f s,F ´1r f sは状況に応じて使い分けることにする.

以下, L1pRdqなどの関数空間は特別な場合を除き,定義域 Rd を省略し L1 などと書くことにする.まず初めに簡単なことを確かめよう.

定理 E.1.3.

f P L1ならば f , f P CpRdq X L8

である.特に

f 8 ď1

p2πqd f 1, f 8 ď f 1

である.

証明. f P L1, h P Rとする. このとき

ˇ

ˇ f pξ ` hq ´ f pξ qˇ

ˇ ď

ż

Rd

ˇ

ˇ

ˇ

´

eipξ `hq¨x ´ eiξ ¨x¯ˇ

ˇ

ˇdx

ż

Rd|eih¨x ´ 1|| f pxq|dx (E.3)

118

Page 119: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

となる. (E.3)の右辺はルベーグの収束定理より h Ñ 0のとき 0に収束する. よって f は連続である. 他は容易に分かる.

問 E.1.4. (E.3)の右辺が h Ñ 0のときに 0へ収束することを示せ.

注意 E.1.5. 定理 E.1.3よりフーリエ変換F およびフーリエ逆変換F ´1は L1からCpRdq X L1への有界線

形作用素であることがわかる.

さらに詳しく f , f を見ることができる.

定理 E.1.6. (リーマン-ルベーグの定理) f P L1 とする. このとき

lim|ξ |Ñ8

| f pξ q| “ 0, lim|x|Ñ8

| f pxq| “ 0

問 E.1.7. f P L1 であるとき, f pξ q, f pxqは一様連続であることを示せ.

例題 E.1.8. f pxq “ 1|x|ă1pxqとする. このとき

F r f spξ q “

ż 1

´1eiξ xdx “

«

eiξ x

ξ i

ff1

´1

“2sinξ

ξ

となる.

例題 E.1.8より L1 関数のフーリエ変換が L1 関数になるとは限らないことがわかる.これにより ˆf や ˇf などを考えることは一般的ではないことがわかる. それではどのような f に対して

フーリエ変換を考えるのが適切だろうか.そこで考え出された関数空間がシュワルツ空間である.

E.2 シュワルツ空間

定義 E.2.1. v P C8pRdqが

任意の ℓ,m P N0に対して supxPRd

p1 ` |x|qm

ÿ

|α|ďℓ

|Bαx vpxq| ă 8

を満たすとき急減少関数であるという. ただし,

α “ pα1, ¨ ¨ ¨ ,αdq P Nd0 , |α| “

dÿ

j“1

α j

Bαx vpxq “

B|α|

Bxα11 ¨ ¨ ¨Bxαd

dvpxq

とする.また急減少関数全体の集合をS pRdq “ S と表しシュワルツ空間という.

急減少関数の例として e´|x|2 や e´|x| などがある.

119

Page 120: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

注意 E.2.2. 明らかにS は線形空間である. さらに

C8c pRdq Ă S pRdq Ă L1pRdq

である. 実際 v P S に対してż

Rd|vpxq|dx “

ż

Rdp1 ` |x|q´d´1 ˆ p1 ` |x|qd`1|vpxq|dx

ď supxPRd

´

p1 ` |x|qd`1|vpxq|

¯

ż

Rdp1 ` |x|q´d´1dx ă 8.

また v P S ならば任意の β “ pβ1, ¨ ¨ ¨ ,βdq P Nd0 に対して

xβ Bαx v P S

である. ただし x “ px1, ¨ ¨ ¨ ,xdq P Rd に対して

xβ “

j“1

xβ jj

とする.

シュワルツ空間がフーリエ変換との相性がよいことは次の定理を見れば一目瞭然である.

定理 E.2.3. α “ pα1, ¨ ¨ ¨ ,αdq P Nd0 とする. このとき

v P S ならばv, v P S

である.

証明. 略.

問 E.2.4. 定理 E.2.3を証明せよ.

定理 E.2.3によりF ,F ´1 はS 上の線形変換であることがわかった.このことから F 2 や F ´1 ¨ F などの線形変換を考えられるようになった. これを用いると次のように

フーリエ変換が対する非常によい性質を持つことがわかる.

定理 E.2.5. (フーリエの反転公式) v P S とする. このとき

F ´1 rF r f sp¨qs pxq “ F“

F ´1r f sp¨q‰

pxq “ vpxq

が成り立つ.

F ,F ´1 はS 上の同型写像であり,互いに逆写像になっている.

注意 E.2.6. 単純に書くと

ˇvpxq “1

p2πqd

ż

Rde´iξ ¨x

ˆż

Rdeiξ ¨yvpyqdy

˙

“1

p2πqd

ż

Rd

ż

Rdeiξ ¨py´xqvpyqdydξ

となる. 被積分関数は L1pRd ˆRdqの元ではないのでフビニの定理が使えない. そこで証明では一度フビニの定理が適用できるような近似を行う.

120

Page 121: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

証明. ˇv “ vを示す. ε ą 0に対して

Iε pxq “1

p2πqd

ż

Rde´iξ ¨xe´

ε|ξ |22

ż

Rdeiξ ¨yvpyqdydξ

とおくと,

e´iξ ¨xe´ε|ξ |2

2 vpξ q Ñ e´iξ ¨xvpξ q pε Ñ 0qˇ

ˇ

ˇ

ˇ

e´iξ ¨xe´ε|ξ |2

2 vpξ q

ˇ

ˇ

ˇ

ˇ

ď |vpξ q| P L1

が成り立つのでルベーグの収束定理より,

Iε pxq Ñ ˇvpxq pε Ñ 0q

である. 一方,ˇ

ˇ

ˇ

ˇ

e´iξ ¨xe´ε|ξ |2

2 eiξ ¨yvpyq

ˇ

ˇ

ˇ

ˇ

“ e´ε|ξ |2

2 |vpyq| ď L1pRd ˆRdq

であるのでフビニの定理が適用でき

Iε pxq “1

p2πqd

ż

Rdvpxq

ˆż

Rde´

ε|ξ |22 `iξ ¨py´xqdξ

˙

dx

問 4.2.13“

1p2πεqd2

ż

Rde´

|x´y|22ε vpyqdy.

vは有界連続関数であるのでルベーグの収束定理より

Iε pxq Ñ vpxq pε Ñ 0q

となる.

問 E.2.7. vが Rd 上の連続関数であるとき

limεÑ0

1p2πεqd2

ż

Rde´

|x´y|22ε vpyqdy “ vpxq

が成り立つことを示せ.

注意 E.2.8. 定理 E.2.5の証明を見ると

v P C´

Rd¯

X L1´

Rd¯

かつv P L1´

Rd¯

ならば

ˇvpxq “ vpxq

が成り立つことがわかる.

フーリエの反転公式を用いて熱方程式の解を求めてみよう. これはフーリエ変換の偏微分方程式への応用として非常に重要なものになっている.

例題 E.2.9. f を R上の有界連続可積分関数とする. 熱方程式$

&

%

B

Btupt,xq “

12

∆upt,xq, pt,xq P p0,8q ˆRd

up0,xq “ f pxq, x P Rd

を考える.

121

Page 122: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

解 uが各 t に対してS ,かつ t に関する偏微分 Btu P S と仮定する. このとき uの変数 xに対するフーリ

エ変換を考えると

B

BtF rupt, ¨qspξ q “ ´

12

|ξ |2F rupt, ¨qspξ q

F rup0, ¨qspξ q “ f pξ q

この微分方程式は解けて

F rupt, ¨qspξ q “ expˆ

´12

t|ξ |2˙

f pξ q

となり,右辺は t ą 0でS に入るのでフーリエの反転公式より

upt,xq “ F ´1”

e´ 12 t|¨|2 f p¨q

ı

pxq (E.4)

が解となる. フーリエの反転公式の証明から右辺は実際に計算でき

upt,xq “1

p2πtqd2

ż

Rde´

|x´y|22t vpyqdy

となる. これが解になる.さらにこの解について詳しく見ていくと右辺は任意の有界連続関数に対して定義でき,さらに熱方程式

を実際に満たすことが容易に確認できる.最初に f について様々な仮定をおいたが,最終的にはフーリエ変換を用いることでより広い初期値に対

して解が構成できたことになる.また熱方程式の解を考えると各 t ą 0に対して線形作用素

Pt : CbpRdq Ñ S pRdq, Pt f pxq “ upt,xq

が構成できたことになる. 特にこの線形作用素は

ptpxq “1

p2πtqd2 expˆ

´|x|2

2t

˙

を核とする核型線形作用素である. この ptpxqを熱核という.また PtPs “ Pt`s である,つまり tPt : t ą 0uは半群になっている.

次の定理は容易に示せるので証明はつけないがたたみこみとフーリエ変換に関する重要な性質を与えて

いる.

定理 E.2.10. v,w P S とする. このとき

yu ˚ vpξ q “ upξ qvpξ q, u ˚ vpξ q “ p2πqd upξ qvpξ q.

問 E.2.11. 定理 E.2.10を証明せよ.

122

Page 123: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

記号

ここに載っている記号は講義ノートに登場しないものも含まれる.集合N “ t1,2,3, ¨ ¨ ¨ u 自然数全体の集合

N0 “ t0,1,2, ¨ ¨ ¨ u 0以上の整数全体の集合Z “ t0,˘1,˘2, ¨ ¨ ¨ u 整数全体の集合

R 実数全体の集合

C 複素数全体の集合

2Ω 集合 Ωの部分集合全体のなす集合1Apxq 集合 Aの定義関数

txu xを超えない最大の整数

suppp f q 連続関数 f に対して tx : | f pxq| ­“ 0u

f `pxq “ maxt f pxq,0u 関数 f の正部

f ´pxq “ maxt´ f pxq,0u 関数 f の負部

Ao 集合 Aの内部

A 集合 Aの閉包

Bpx;rq x P Rm を中心とする半径 rの開球

#

x “ px1, ¨ ¨ ¨ ,xmq P Rm :m

ÿ

i“1

x2i ă r2

+

測度論BpSq 位相空間 pS,Oq上のボレル集合族

δx 点 xにおけるディラク測度

7 個数測度

pX ˆY,FX bFY ,µX b µY q 可測空間 pX ,FX ,µX q, pY,FY ,µY qの直積測度空間

µX ˚ µY 測度 µX ,µY のたたみ込み

σ rG s 集合族 G から生成される σ -加法族σ rXs X で生成される σ -加法族

関数空間c K-値数列で極限を持つもの全体.c0 K-値数列で 0に収束するもの全体.ℓp K-値数列 x “ tηn : n ě 1uで xp ă 8となるもの全体.CpSq 位相空間 S上の連続関数

CmpΩq Ω Ă Rd 上の関数で m階微分 f pmq が存在し,f pmq が連続となるもの全体.

Cm0 pRdq f P CmpRdqかつ lim|x|Ñ8 | f pxq| “ 0を満たすもの全体.

Cmc pΩq f P CmpΩqかつ suppp f qがコンパクトになるもの全体.

CbpΩq f P CpΩqかつ f 8 ă 8となるもの全体.LppΩq 可測関数 f で f p ă 8となるもの全体.L8pΩq 可測関数 f で f 8 ă 8となるもの全体.

123

Page 124: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

ノルム

f p, f P CpΩq

$

&

%

ˆż

Ω| f pxq|pµpdxq

˙1p

p P r1,8q

supxPΩ

| f pxq| p “ 8, f P CbpΩq

f p, f P LppΩq f p “

$

&

%

ˆż

Ω| f pxq|pµpdxq

˙1p

, p P r1,8q

esssupxPΩ

| f pxq|

“ inftM ą 0 : µptx P Ω : | f pxq| ě Muq “ 0u.p “ 8.

xp, x “ tξn : n ě 1u

$

&

%

˜

ÿ

ně1

|ξn|p

¸1p

, p P r1,8q

supně1

|ξn|, p “ 8

確率論ErXs 確率変数 X の期待値

V pXq 確率変数 X の分散

P-a.s. ほとんど確実に

CovpX ,Y q 確率変数 X ,Y の共分散

PpSq 可測空間 pS,S q上の確率測度全体の集合

Xn Ñ X P-a.s. 概収束

XnLpÑ X Lp-収束

XnP

Ñ X 確率収束

Xn ñ X 法則収束

µn ñ µ 弱収束

φX pξ q Rd-値確率変数 X の特性関数

Berppq パラメータ p P r0,1sのベルヌーイ分布

Binpn, pq t0, ¨ ¨ ¨ ,nu-値のパラメータ p P r0,1sの二項分布

GeoN0ppq N0-値のパラメータ p P r0,1sの幾何分布

GeoNppq N-値のパラメータ p P r0,1sの幾何分布

Poipλ q パラメータ λ P p0,8qのポアソン分布

Unifpa,bq pa,bq Ă R上の一様分布Betapa,bq パラメータ a,b ą 0のベータ分布Exppλ q パラメータ λ P p0,8qの指数分布

Gampα,λ q パラメータ α,λ ą 0の指数分布Npµ,σ2q 平均 µ P R,分散 σ2 の正規分布

Npm,Σq 平均 m P Rd ,分散行列Σの正規分布

124

Page 125: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

索引Fn-適合 (Fn-adapted), 92

ベータ分布 (beta distribution), 19

Donsker’s invariance principle, 97

ガンマ分布 (gamma distribution), 20

i.i.d., 43i.o.(infinitely often), 13

λ -族 (λ -system), 109Lp 空間, 115

π-族 (π-system), 109

Radon-Nikodym微分 (radon-Nikodym derivertive), 108Radon-Nikodym定理 (Radon-Nikodym theorem), 108

σ -加法族 (σ -algebra), 9, 102G で生成される (-generated by G ), 37X で生成される (-generated by X), 37集合族が生成する, 102直積–(product–), 113

σ -加法性 (σ -additivity), 9

イェンセンの不等式 (Jensen’s inequality), 28, 91一様分布 (uniform distribution), 19, 21ウィーナー空間 (Wiener space), 97ウィーナー測度 (Wiener measure), 97エントロピー (entropy), 60オイラー積表示 (Euler product formlura), 33確率 (pobability), 6確率空間 (probability space), 9, 103確率測度 (probability measure), 9可算加法性 (countably additivity), 103可積分

ルベーグ–(Lebesgue integrable), 105可測 (measurable), 102, 104

F G -可測, 104可測空間 (measurable space), 102可測単関数 (measureable simple function), 21可測単関数 (simple function), 104過渡的 (transitent), 80完全加法性, 9幾何分布 (geometric distribution), 19期待値 (expectation), 23

急減少関数 (rapidly decreasing function), 119共分散 (covariance,correlation), 25緊密 (tight), 111

一様-(uniformly-), 77矩形集合 (rectangle), 113減少列連続性 (continuity from above), 10個数測度 (counting measure), 103コルモゴロフの拡張定理 (Kolmogorov’s extension the-

orem), 31コルモゴロフの不等式 (Kolmogorov’s maximal inequal-

ity), 43コーシー分布 (Cauchy distribution), 21再帰的 (reccurent), 80再帰的 (recurrent)

非-, 80指数分布 (exponential distribution), 20シャウダー関数 (Schauder function), 95収束 (convergence)

Lp-(-in Lp), 48概-(almost sure-), 47弱-(weak-), 64法則-(-in law), 64確率-(-in probability), 47

シュワルツ空間 (Schwartz space), 119シュワルツの不等式 (Schwarz’s inequality), 116消散項 (dissipation), 101初期条件 (initial condition), 101事象 (event), 6, 9

余–(complementary–), 7余–(complementary–), 9

条件付き確率 (conditional probability), 35, 44条件付き期待値 (conditional expectation), 89スターリンの公式 (Stirling’s formula), 107正規分布 (normal distribution), 20

標準-(standard-), 20正則 (regular), 111

閉-(closed), 111積分 (integral)

可測関数の–, 105可測単関数の–, 104非負可測関数の–, 104ルベーグ–(Lebesgue), 105

絶対連続 (absolutely continuous), 108相関係数 (correlation coefficient), 42

125

Page 126: 確率論講義ノート - 名古屋大学nakamako/Resources/Probability.pdf[15] 吉田伸生: A short course in probability 吉田伸生先生の講義ノート. 英語で書かれているが具体例と例

測度 (measure), 103σ -有限 (σ -finite measure), 103確率–(probability measure), 103直積-(product-), 113無限–(infinite measure), 103有限–(finite mesure), 103

測度空間 (measure space), 103増大情報系 (filtration), 92増大列連続性 (continuity from below), 10大数の強法則 (strong law of large numbers), 56, 57大数の弱収束 (weak law of large numbers), 52たたみ込み (convolution), 42単純ランダムウォーク (simple random walk), 79単調収束定理 (monotone convergence theorem), 91,

105中心極限定理 (central limit theorem), 75停止時刻 (stopping time), 86ディラク測度 (Dirac measure), 103到達時刻 (hitting time), 86特性関数 (characteristic function), 69凸関数 (convex), 28独立 (independent), 13

組ごとに (pairwise-), 13独立同分布 (independently and identically distributed),

43二項分布 (binomial distribution), 19熱核 (heat kernel), 122排反 (disjoint), 7

事象列 (–event sequence), 9破産問題 (ruin problem), 87ハール関数 (Haar function), 95非負性 (non-negativity), 103標本空間 (sample space), 6標本空間 (state space), 9ファトゥの補題 (Fatou’s lemma), 68, 106フビニの定理 (Fubini’s theorem), 113フーリエ逆変換 (Fourier inverse transfomr), 118フーリエの反転公式 (Fourier theorem), 120フーリエ変換 (Fourier transform), 69, 118ブラウン運動 (Brownian motion), 93分散 (variance), 25分散行列 (covariance matrix), 25分布 (distribution), 16

-関数 (-function), 17平均 (mean), 23ヘルダーの不等式 (Holder’s inequality), 27, 116ベルヌーイ分布 (Bernoulli distribution), 19

ベルンシュタイン多項式 (Bernstein polynomial), 52法則 (law), 16ホップの拡張定理 (E. Hopf’s extension theorem), 110ほとんど確実に (almost surely), 11本質的に有界 (essentially bounded), 115ボレル-カンテリの補題 (Borel-Cantelli’s lemma)

第 2種–(second–), 14ボレル集合族 (Borel σ -algebra), 102ボレル測度 (Borel measure), 111ポアソン分布 (Poisson distribution), 19マルチンゲール (martingale), 92

優-(super-), 92劣-(sub-), 92

(確率)密度関数 (probabilty density function), 17ミンコウスキの不等式 (Minkowski’s inequality), 27,

116モーメント (moment), 25有限加法族 (finitely additive class), 102有限加法的測度 (finitely additive measure), 103ランダムウォーク (random walk), 79リーマン-ゼータ関数 (Riemann-zeta function), 33リーマン-ルベーグの定理 (Riemann-Lebesgue theo-

rem), 119ルベーグ測度 (Lebesgue measure)

BpRdq上の–, 103ルベーグの優収束定理 (Lebesgue’s dominated conver-

gence theorem), 106劣加法性 (subadditivity), 10ワイエルシュトラスの多項式近似 (Weierstrass’s poly-

nomial approximation), 52クーポンコレクター問題, 53マルコフの不等式, 26

126