大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理...

24
大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科 確率統計☆演習 I L09(2016-12-01 Thu) 最終更新: Time-stamp: ”2016-12-16 Fri 19:36 JST hig” 今日の目標 大数の法則の意味が説明できる 塚田確率統計 §5.2 正規分布の母平均値・母分散・確率が積分や表 で求められる. 塚田確率統計 §4.7 中心極限定理の意味が説明でき, 確率の計算に 利用できる. 塚田確率統計 §5.3 http://hig3.net 樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 1 / 24

Upload: others

Post on 23-Jun-2020

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理

樋口さぶろお

龍谷大学理工学部数理情報学科

確率統計☆演習 I L09(2016-12-01 Thu)最終更新: Time-stamp: ”2016-12-16 Fri 19:36 JST hig”

今日の目標

大数の法則の意味が説明できる 塚田確率統計 §5.2

正規分布の母平均値・母分散・確率が積分や表で求められる. 塚田確率統計 §4.7

中心極限定理の意味が説明でき, 確率の計算に利用できる. 塚田確率統計 §5.3 http://hig3.net

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 1 / 24

Page 2: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

独立性・二項分布・ベルヌーイ分布

L08-Q1Quiz解答:離散型確率変数の独立性確率の和は 1 なので, 2

12 + 112 +A+B = 1.

よって,

fY(y) =

{312 (y = 3)912 (y = 7)

独立性から,

fXY(2, 3) =fX(2)312 = 2

12 ,

fXY(3, 3) =fX(3)312 = 1

12 ,

fXY(2, 7) =fX(2)912 = A,

fXY(3, 7) =fX(3)912 = B.

A,B, fX(2), fX(3) を未知数として解くと, A = 612 , B = 3

12 .L08-Q2Quiz解答:独立な確率変数の期待値

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 2 / 24

Page 3: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

独立性・二項分布・ベルヌーイ分布

1 X,Y は独立なので, E[XY ] = E[X]E[Y ] であることに注意して,E[(−2X + 3Y )(X + 5Y )] = E[−2X2] + E[−7XY ] + E[15Y 2] =−2(V[X] + E[X]2)− 7E[X]E[Y ] + 15(V[Y ] + E[Y 2])

2 独立なので, V[XY ] = V[X] + V[Y ]であることに注意して,V[−2X + 3Y ] = V[−2X] + V[3Y ] = 4V[X] + 9V[Y ].

L08-Q4Quiz解答:二項分布

1 二項分布 B(100, 23) に従う確率変数を X とする P (X = 50) を求めればいいから, 100C50p

50(1− p)100−50 = 100!50!50!(

23)

50(1− 23)

50.2 E[X] = n× p = 200

3 .3 V[X] = n× p(1− p) = 200

9 .

L08-Q5Quiz解答:ベルヌーイ分布

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 3 / 24

Page 4: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

独立性・二項分布・ベルヌーイ分布

1 ベルヌーイ分布 B(1, 0.05) に従う確率変数を X とすると,Y = 1000X.

2 E[Y ] = E[1000X] = 1000E[X] = 1000p = 50.V[Y ] = V[1000X] = 10002V[X] = 10002p(1− p) = 47500.

L09-Q6Quiz解答:独立同分布にしたがう変数の和 母平均値と母分散は,E[aX + bY + c] = aE[X] + bE[Y ] + c, 独立分布のV[aX + bY + c] = a2V[X] + b2V[Y ] の式を繰り返し使えば求められる.

1 A は母平均値が 3, 母分散が 7100 .

2 B は母平均値が 0, 母分散が 7.3 C は母平均値が 0, 母分散が 1.

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 4 / 24

Page 5: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理

復習

チェビシェフの不等式 Chebyshev’s inequality 塚田確率統計 3.5

X: 離散型または連続型確率変数µ = E[X]: 母平均値σ2 = V[X]: 母分散a > 0: 任意の正の実数のとき次が成立する.

P (|X − µ| ≥ aσ) ≤ 1

a2

要するに

自 分 の 言 葉 で ど う ぞ

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 5 / 24

Page 6: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理

独立同分布の性質 塚田確率統計 5.1

独立同分布 (i.i.d.)

離散型/連続型確率変数 X1, X2, . . . , Xn が, たがいに独立で, すべて同じ確率分布に従う (同じ確率関数 f(x))とする.これを X1, . . . , Xn は独立同分布に従う (i.i.d.=independent andidentically-distributed) という.

新しい確率変数: Un = X1 + · · ·+Xn

母平均値 E[Xi] = µ, 母分散 V[Xi] = σ2 としたとき,

E[Un] =

n∑i=1

E[Xi] = n× µ.

V[Un] =

n∑i=1

V[Xi] = n× σ2.

Un の確率密度関数はこんな感じ?

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 6 / 24

Page 7: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理

新しい確率変数: Wn = 1nUn = 1

n(X1 + · · ·+Xn)

E[Wn] =E[1nUn

]=

1

n× n× µ.

V[Wn] =V[1nUn

]=

(1

n

)2

× n× σ2.

Wn の確率密度関数はこんな感じ?

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 7 / 24

Page 8: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理

大数の (弱)法則 塚田確率統計 5.2

Wn =1

n

n∑i=1

Xi は ∀ϵ > 0 limn→+∞

P (|Wn − µX| ≥ ϵ) = 0 を満たす.

つまり, n大で Wn は母平均値 µX = E[X] に「必ず近い」(Wnが µX

に確率収束)

証明 µWn = µX , σ2Wn

= σ2X/n. Wn に対するチェビシェフの不等式より,

P (|Wn − µX| ≥ a× σX√n) ≤ 1

a2

a = ϵσX√n

とすると, n → +∞ で

P (|Wn − µX| ≥ ϵ) ≤σ2X

ϵ2n→ 0

これが母期待値の直観的意味. 要するに,

自分の言葉でどうぞ

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 8 / 24

Page 9: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

ここまで来たよ

1 独立性・二項分布・ベルヌーイ分布

2 大数の法則・正規分布・中心極限定理正規分布中心極限定理

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 9 / 24

Page 10: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

一般の正規分布 塚田確率統計 §4.7 高校 数学 B

正規=normal

(一般の)正規分布 N(b, a2)の確率密度関数

f(x; b, a2) =1√2πa2

e−(x−b)2

2a2 .

b, a2:パラメタ

0

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

-2 0 2 4 6 8

x

N(0,1)N(3,22)

難しいので, まず b = 0, a = 1 の場合を考える.z = x−b

a または x = az + by = f(z; 0, 1)のグラフを, 横に a倍, 横に bだけ平行移動して, 縦に 1/

√a2倍し

たものが y = f(x; b, a2)

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 10 / 24

Page 11: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

標準正規分布 N(0, 12)の確率密度関数

f(z; 0, 12) = f(z) =1√2π

e−z2

2 .

- 4 - 2 0 2 4

0.0

0.1

0.2

0.3

0.4

μ

σσ

1σ 2σ 3σ

0.68270.95450.9973

- 4 - 2 0 2 4

0.0

0.1

0.2

0.3

0.4

μ

σσ

1.96σ 2.58σ

0.95000.9900

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 11 / 24

Page 12: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

標準正規分布N(0, 12)の性質

P (c < Z < d) =簡単じゃない. 表 塚田確率統計付録 B, p207 をひけ.

E[1] =1, 塚田確率統計 p.83 微積分 II

E[Z] =0, 奇関数. 塚田確率統計 p.85

V[Z] =1 塚田確率統計 p.85 微積分 II

I(d) =

∫ d

0f(z; 0, 12) dz = P (0 < Z < d)の表 塚田確率統計付録 B, p207 高校 数学 B

この I(z)の表, I(+∞) = 12 , Zの確率密度関数 f が偶関数であること, で

すべての区間の確率が求められる.

上側確率Q(z) = 12 − I(z)を載せている本も多い.

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 12 / 24

Page 13: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

L09-Q1

Quiz(標準正規分布の確率)

Z は標準正規分布N(0, 12) に従う. Z < −2 となる確率は?

L09-Q2

Quiz(標準正規分布の確率)

Z は標準正規分布N(0, 12) に従う連続型確率変数である.

1 母期待値 E[Z2] を求めよう.2 確率 P (−0.56 < Z < +1.23) を数表から求めよう.

L09-Q3 塚田確率統計 §4.13 問 3

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 13 / 24

Page 14: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

正規分布ふたたび

Z = X−ba または X = aZ + b, Z ∼ N(0, 12).

E[1] =1, 塚田確率統計 p.83 微積分 II

µX = E[X] =E[aZ + b] = b, 塚田確率統計 p.85

σ2X = V[X] =V[aZ + b] = a2, 塚田確率統計 p.85 微積分 II

つまり, b = µX, a2 = σ2

Xってこと.

(一般の)正規分布 N(µ, σ2)

母平均値 µ, 母分散 σ2の正規分布N(µ, σ2)の確率密度関数は,

f(x;µ, σ2) =1√2πσ2

e−(x−µ)2

2σ2 .

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 14 / 24

Page 15: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

L09-Q4

Quiz(正規分布の確率)

連続型確率変数X は, 確率密度関数

f(x) =1√2π32

e−(x−4)2

2·32

にしたがう.

1 E[X] を求めよう.2 V[X] を求めよう.

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 15 / 24

Page 16: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

L09-Q5

Quiz(正規分布の確率)

連続型確率変数X は, 確率密度関数

f(x) = C · e−118x

2+49x

を持つ.

1 E[X] を求めよう.2 V[X] を求めよう.3 定数 C を求めよう.

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 16 / 24

Page 17: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

N(µ, σ2) の確率の求め方 I

-6 -4 -2 2 4 6x

0.2

0.4

0.6

0.8

1.0

pHxLProbHx>Μ+1.5ΣL

斜線部の面積はどれも同じ

対応する Z = X−µXσX

∼ N(0, 12) の範囲を考えて, 表から求める.

一般の正規分布の確率X ∼ N(µX , σ2

X), Z ∼ N(0, 12)のとき

P (c < X < d) = P ( c−µXσ < X−µX

σ < d−µXσ ) = P ( c−µX

σ < Z < d−µXσ )

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 17 / 24

Page 18: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

L09-Q6

Quiz(正規分布の確率)

X が母平均値 3, 母分散 4 の正規分布にしたがうとする.

1 X ≥ 5 となる確率を求めよう.2 +1 ≤ X ≤ 7 となる確率を求めよう.

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 18 / 24

Page 19: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 正規分布

L09-Q7

Quiz(正規分布の確率)

1 母平均値 0, 母分散 12 の正規分布で, 0.5 ≤ X < 0.7 となる確率を求めよう.

2 母平均値 0, 母分散 22 の正規分布で, 0.5 ≤ X < 0.7 となる確率を求めよう.

3 母平均値 3, 母分散 22 の正規分布で, 4.0 ≤ X < 4.4 となる確率を求めよう.

L09-Q8 塚田確率統計 §4.13 問 4

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 19 / 24

Page 20: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 中心極限定理

ここまで来たよ

1 独立性・二項分布・ベルヌーイ分布

2 大数の法則・正規分布・中心極限定理正規分布中心極限定理

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 20 / 24

Page 21: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 中心極限定理

最初が一様分布でも, 実は n → ∞ で U や W の確率密度関数の形は長方形から崩れていく. 分布の個性が消える! っていうか美しい形に!

中心極限定理 (いいかげんバージョン) 塚田確率統計 5.3

X1, . . . , Xn が母平均値 µ, 母分散 σ2 の独立同分布に従うとき,

Un = X1 + · · ·+Xn, の確率分布は,

正規分布 N(nµ, nσ2)

に似るWn = 1

n(X1 + · · ·+Xn) の確率分布は,

正規分布 N(µ, σ2/n)

に似るZn = Wn−µ

σ√nの確率分布は,

標準正規分布 N(0, 12)

に似る

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 21 / 24

Page 22: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 中心極限定理

中心極限定理 (厳密バージョン)

確率変数 X1, X2, . . . , Xn が, 母平均値 µ, 母分散 σ2 の独立同分布に従うとする. 正規分布じゃない. どんな分布でも可Zn =

1n (X1+···+Xn)−µ

σ ×√n とすると,

Zn は, n → +∞ の極限で, N(0, 12) に従う. すなわち

limn→+∞

P (a ≤ Zn < b) =

∫ b

a

1√2π

e−12x2

dx

「Zn は N(0, 12) にしたがう Z に法則収束する」

法則収束とは, 関数列がある関数に収束すること.証明E[Zn] = 0,V[Zn] = 1 はすぐわかるが…モーメント母関数を使うと瞬殺 確率統計☆演習 II

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 22 / 24

Page 23: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 中心極限定理

L09-Q9

Quiz(中心極限定理)

確率変数 X1, . . . , X100 は E[Xi] = 1,V[Xi] =14 の独立同分布に従う. 次

の確率変数の母平均値と母分散を求めよう. また, n = 10 が十分に大きいと思って, 指定の確率を求めよう.

1 確率変数 U = X1 +X2 +X3 + · · ·+X100. 確率 P (U > 110).2 確率変数 W = 1

100(X1 +X2 +X3 + · · ·+X100). 確率 P (W < 1.01).

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 23 / 24

Page 24: 大数の法則・正規分布・中心極限定理hig/course/probstat1...大数の法則・正規分布・中心極限定理 樋口さぶろお 龍谷大学理工学部数理情報学科

大数の法則・正規分布・中心極限定理 中心極限定理

連絡

予習問題は, 次々回の授業直前 を締切 (そこまでの最高点を記録)とします. でも, Trialまでにやったほうが効率いいと思う.前からそうだけど, 予習問題が満点だと, Trialの満点の 1/3まで保証されます.配布資料は 1-503向かいの引出, http://hig3.net で再配布.加減乗除と平方根 (ルート)の使える電卓持ってきてね. 関数電卓でなくてもいいです. 携帯電話の機能・アプリでもかまいません.樋口オフィスアワー木 6金昼 (1-502), Mathラウンジ月-木昼 (1-614)次回は 塚田確率統計 §6.1 塚田確率統計 §6.2 塚田確率統計 §7.1 塚田確率統計 §7.2

Manaba にレポートあります. 2016-12-08まで.

https://manaba.

ryukoku.ac.jp

樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 24 / 24