検定と推定の話城野克広

産業技術総合研究所

1

検定と推定の話• 検定と推定の基礎的な話題をまとめました。• 不確かさとは直接は関係しませんが、ご参考にして下さい。

2

3

検定の実践

検定の考え方

確率・統計の補足

t（ティー）検定

推定の方法

確率・統計の補足（上側確率・下側確率）• ある値xについて分布関数F(x)の値を下側確率、1 −

F(x)の値を上側確率と呼ぶ。• 平均0、分散1の正規分布について、−1.64の下側確率と +1.64の上側確率は 5 %、 + 1.96の上側確率は2.5 %。

4

+ 1.96

2.5 %97.5 %

+ 1.64

95 % 5 %

σ = 1

− 1.64

5 % 95 %

µ = 0

確率・統計の補足（標準正規分布）• また、平均0、分散1の正規分布を標準正規分布と呼ぶ。

• この資料では下側確率αとなる値をzαと書き、標準正規分布の（下側）100αパーセント点と呼ぶ †。同じく、上側確率αなる値を z 1 − αと書き、標準正規分布の上側100αパーセント点と呼ぶ。

5†記号としてzを使うことが多いが、uを使うこともある。

σ = 1

µ = 0

z 0.95= 1.64

6

検定の考え方

t（ティー）検定

推定の方法

検定の実践

確率・統計の補足

検定の実践• 検定とはある事実を確かめる解析手法のことである。

• まず、正規分布に従う値を例に、検定の作業を実際に追ってみる。理論の説明は後で行う。

• 検定を行うには、ある小さな確率を決める必要がある。これを有意水準と呼ぶ。ここでは、有意水準を5 %とする。

• なお、ここでは、単なる繰り返しの偶然誤差のみを考え、系統誤差は無視できるほど影響が小さい状況のみを考える。

7

正規分布の検定（母平均は未知・母分散は既知）• 一つの読み値のばらつきが正規分布をすることが分かっており、なおかつ母分散σ2が既知の場合を考える。

• 測定の実践では母分散が既知なことはほぼないが、繰り返し数が多いなど、十分に精確にσ2を決定できる場合に近似的に用いる。

8

σ

µ = ？z

既知

正規分布を用いた片側検定• 納品する材料の質量が発注量の1 kgを超えていることを確認したい。

• 同一の材料について、繰り返しの測定を行った結果、x1 = 1.02 kg、 x2 = 1.00 kg、 x3 = 1.03 kg、x4 = 1.01 kgであった。

• 一回の繰り返しのばらつきについて、標準偏差がσ = 0.01 kgの正規分布であるとする。

• この材料はM = 1 kgを超えていると言えるか？有意水準5 %で考える。

9

正規分布を用いた片側検定• 平均値�x

�x =14�i=1

4xi = 1.015 kg

• 平均値の標準偏差σ�xσ�x =

0.014

kg = 0.005 kg

• これらの情報を用いて、以下のように変換z =

�x − Mσ�x

=1.015 kg − 1 kg

0.005 kg= 3.0

10

正規分布を用いた片側検定• このとき、使うのは下の標準正規分布。• 下が成立するとき、「材料はM = 1 kgを超えている」と言える。

z > z0.95 = 1.64• 今回はz = 3.0なので、上の結論が導ける。

11

σ = 1

µ = 0

z 0.95= 1.64

何を確かめたいか• 母平均について何を確かめたい？① ある（正規分布従う）母集団の母平均がある

値Mより大きい。② ある（正規分布従う）母集団の母平均がある

値Mより小さい。③ ある（正規分布従う）母集団の母平均がある

値Mではない。④ ある（正規分布従う）母集団の母平均がある

値Mである。

12

確かめたいことの例• 例えば、① 血圧が基準値より高いことを確かめたい。② 環境中の放射線量が基準値より、小さいこと

を確かめたい。③ ２つの見た目では区別できない素材が異なる

ものである（差がゼロではない）ことを確かめたい。

④ ２つの見た目では区別できない素材が同じ（差がゼロである）ことを確かめたい。

13

検定の種類の選択• それぞれの場合に以下の種類の検定を使う。① Mより大きい。

→ 上側確率を使った片側検定② Mより小さい。

→ 下側確率を使った片側検定③ Mではない。

→ 上側・下側確率を使った両側検定④ Mである。

→ 検定では確認できない

14

正規分布を用いた両側検定• 2つの部材A、Bがあり、部材Aと部材Bが異なる厚みであることを確かめたい。

• 部材Aの厚みについて、繰り返しの測定を行った結果、x1 = 10.10 mm、 x2 = 10.12 mm、 x3 = 10.11 mm、 x4 = 10.13 mmであった。

• 部材Bの厚みについて、繰り返しの測定を行った結果、y1 = 10.12 mm、 y2 = 10.13 mm、 y3 = 10.11 mm、 y4 = 10.14 mmであった。

• いずれの部材についても、一回の繰り返しのばらつきについて、標準偏差が0.01 mmの正規分布であるとする。

• 部材Aと部材Bの厚みは異なる（厚みの差はM = 0ではない）と言えるか？有意水準5 %で考える。

15

正規分布を用いた両側検定• 平均値

�x =14�i=1

4xi = 10.115 mm,

�y =14�i=1

4yi = 10.125 mm

• 平均値の差d = �x − �y = −0.010 mm

16

正規分布を用いた両側検定• 平均値の標準偏差

σ�x = σ�y =0.01

4mm = 0.005 mm

• 差dの標準偏差σd = σ�x

2 + σ�y2 = 0.0071 mm

• これらの情報を用いて、以下のように変換z =

d − Mσd

=−0.010 mm0.0071 mm

= −1.4

17

正規分布を用いた両側検定• このとき、使うのは下の標準正規分布。• 下が成立するとき、「厚みは異なる（厚みの差はM = 0ではない）」と言える。z < z0.025 = −1.96あるいはz > z0.975 = 1.96

• 今回はz = −1.4なので、上の結論は導けない。

18

σ = 1

µ = 0z

z 0.975= 1.96z 0.025= − 1.96

正規分布を用いた両側検定• この場合、「部材Aと部材Bは同じ厚みである」と言えるわけではない。

• 何も結論できないと考える。• この点の間違いが非常に多い。• 「2つの量が等しい」とか「 2つの条件で違いがない」ことを確かめるために、検定を主たる手段とすることは根本的な誤りである。

19

20

確率・統計の補足

検定の実践

検定の考え方t（ティー）検定

推定の方法

検定の例• 「半数以上の有権者がＡ党を支持するかどうか」というアンケートを考える。

• 2000人にアンケートを取った結果、1100人がA党を支持すると答えたとしよう。この結果から、有権者の半数以上がＡ党を支持していると言えるだろうか？

21

A党を…

支持する1100人

支持しない900人

検定の例• ３人にアンケートを取った結果、２人がA党を支持すると答えたとしよう。この結果から、有権者の半数以上がＡ党を支持していると言えるだろうか？

22

A党を…

支持する２人

支持しない１人

仮説検定の考え方• ２つの質問が数学上は同じ構造になっていることは分かると思う。この種の問題にどのように対処するべきだろうか？

• この種の問題に対応するためには、数学で習った「背理法」のような考え方が必要である。

23

仮説検定の準備（背理法）• 例えば、「イチゴは果物（ここでは樹木になる果実）である」という命題が正しいかどうか考えていただきたい。

24

「園芸学では、木の実（木本性）は果物（果樹）、草の実（草本性）は野菜と分類します。草本性であるいちごは野菜。また、農林水産省の作物の統計調査でも野菜に含まれています。」†

†農林水産省「いちごのあれこれ豆知識」、https://www.maff.go.jp/j/pr/aff/1912/spe1_02.html （2020年5月14日確認）

https://www.maff.go.jp/j/pr/aff/1912/spe1_02.html%EF%BC%882020%E5%B9%B45%E6%9C%8814

仮説検定の準備（背理法）• 「イチゴが果物である」とすると、

→ イチゴは草には実らない。

→ 実際には、草に実っている。

→「イチゴは果物ではない」と結論する。

25

仮説検定の準備（背理法）• これが背理法である。（ある命題が真であるとする。そうすると矛盾が生じるため、その命題が真でないと結論する。）

• これを先の問題（Ａ党支持が2000人中1100人の場合）に当てはめよう。

26

検定（統計的仮説検定・統計的検定・仮説検定）• 「有権者のちょうど半数がＡ党支持である」とする。

→ Ａ党支持者が2000人中1100人以上となる確率はわずか0.0003パーセント。実質的にＡ党支持者が2000人中1100人以上となることは起こらない。

→ 実際には、Ａ党支持者が2000人中1100人。

→ 「有権者のちょうど半数がＡ党支持ではない」、半数以上であると結論する。

27

検定（統計的仮説検定・統計的検定・仮説検定）• このように、仮説検証することを、 （統計的仮説）検定と呼ぶ。ある仮説に基づいて計算された確率をp値と呼ぶ。

• p値が「実質的には起こらないと言えるような小さい確率」よりもさらに小さいとき、立てた仮説が間違っていると考える。これを仮説を棄却すると言う。

• その「実質的には起こらないと言えるような小さい確率」を有意水準（または危険率）とよぶ。有意水準は5 %、1 %などの値が使われる。

28

帰無仮説・対立仮説• この結果として、棄却された仮説と対立する仮説が正しいという結論を導く。p値の計算のために立てる仮説（ex. 「有権者のちょうど半数がA党支持である」）は棄却するのが前提であり、帰無仮説と呼ばれる。

• 帰無仮説と対立する結論となる仮説（ex.「有権者の半数以上がA党支持である」）を対立仮説と呼ぶ。つまり、これが「確かめたいこと」である。

• 帰無仮説が棄却できるとき、帰無仮説と対立仮説は有意に異なるとか、有意差があるという言い方をする。

29

正規分布についての検定の考え方• 正規分布のときにどのような流れで、検定が行われたのかを考えよう。

• 対立仮説は以下の３種類がありうる。① 平均がMより大きい。② 平均がMより小さい。③ 平均がMとは異なる。• ただし、いずれの場合でも帰無仮説は以下のものになる。平均はMである。

30

正規分布についての検定の考え方• つまり考えるのは以下の分布である。この分布から繰り返しの値(x1, …, xn)を得る。

• 通常、精度の高い解析のために、これらの繰り返しの値の関数f (x1, …, xn)を考える。

• このように、繰り返しの値から新しく計算する量を統計量と呼ぶ。

31

σ

µ = Mx

正規分布についての検定の考え方• （前スライドの）元の正規分布から得たn回の繰り返しの値(x1, …, xn)について、その平均値を�x、また�xの標準偏差をσ�xとする。

�x =1n�i=1

nxi , σ�x =

σn

• 以下の統計量は帰無仮説の下、標準正規分布に従うことが知られている。

z =�x − M

σ�x

32

正規分布についての検定の考え方• 仮説検定の考え方は以下のものである。① 「平均はMである。」という帰無仮説が正しい

とき、前スライドのzは標準正規分布に従う。② もし、得られたzが標準正規分布からは、考えら

れないような値だった場合、帰無仮説は棄却される。

③ 結果として、対立仮説を結論とする。• 「考えられないような値」は対立仮説と有意水準によって決まる。（直観的にも理解できると思うので、詳細は略す。）

33

34

確率・統計の補足

検定の実践

t（ティー）検定検定の考え方

推定の方法

正規分布の検定（母平均も母分散も未知）• ここまでは正規分布で母分散が既知の場合を取り扱った。ここから正規分布で母分散σ2が未知の場合を取り扱う。

• より現実的にはよくありうる状況。• 前回同様、系統効果は無視。

35

σ = ？

µ = ？z

t分布を用いた片側検定• ある化学合成の工程では原料の試薬A100 gあたり、化合物BがM = 50 gできる。

• 化合物Bの生成量増加のため、製造工程にある変更を施した。

• 変更後、5回の実験を行ったところ、試薬A100 gあたりの化合物Bの生成量はx1 = 54 g, x2 = 52 g , x3 = 56 g , x4 = 53 g , x5 = 50 gであった。

• 分散は未知であるが、この実験のばらつきの標準偏差は正規分布に従うことが分かっている。

• 製造工程の変更により、化合物Bの生成量はM = 50.0 gより大きくなったと言えるか?有意水準5 %で考える。

36

t値• 平均値を�x、また、x1, …, x5 の標本標準偏差をsとする。

�x =1n�i=1

nxi , s =

1n − 1

�i=1

nxi − �x

2

• また、平均値�xの標準偏差をs�xとする。s�x =

sn

37

t値• この状況では下のt値と呼ばれる統計量を用いるのがよいとされている。

t =�x − M

s�x• あるいは、 t値は下のようにも書ける。

t =�x − M⁄s n

• この統計量は正規分布はしない。

38

t分布• 鍵となるのは、sが推定したものであること。この推定にはばらつきがある。

• 標本分散s2は下の分布に従う。

39

平均値 = 本当の分散

s2

確率密度

σ2

t分布• どのような分布になるかを下のように考える。

40

正規分布からランダムに５つの値x1, …, x5をとり、�xをとsを計算する。

を計算する。

t =�x − µ⁄s nσ

µ x

t分布• これを何度も繰り返すことで、下の分布を得る。• これを自由度４のt分布と呼ぶ。• 自由度はここでは、繰り返し数ー１である。

41

ｔ0

95 % 5 %

t0.95(4) = 2.13

t分布• 元の正規分布の平均µや分散σ2がどのような値であっても、t値の分布には関係がない。このため、任意の正規分布に対して、同じt分布を定義できる。

• 下図はt分布の確率密度。ν（ニュー）は自由度を表す。以降、自由度νのt分布の下側確率αとなる値を tα(ν)と書く†。

42

ν = 1ν = 2ν = 3ν = 4

†Excelではtα(ν) は「= T.INV(α, ν)」と入力すれば、計算できる。

自由度についての補足• 自由度とは、平方和を何で割ると分散の推定値になるかという値。

• 回帰のところで述べたように、「データの数―推定するパラメータの数」で残差二乗和を割ると不偏分散となる。

• 今回は推定するパラメータは平均値のみである。このため、「データの数―推定するパラメータの数」は「繰り返し数―１」である。

43

t分布を用いた片側検定（問題の再確認）• ある化学合成の工程では原料の試薬A100 gあたり、化合物BがM = 50 gできる。

• 化合物Bの生成量増加のため、製造工程にある変更を施した。

• 変更後、5回の実験を行ったところ、試薬A100 gあたの化合物Bの生成量はx1 = 54 g, x2 = 52 g , x3 = 56 g , x4 = 53 g , x5 = 50 gであった。

• 分散は未知であるが、この実験ばらつきの標準偏差は正規分布従うことが分かっている。

• 製造工程の変更により、化合物Bの生成量はM = 50.0 gより大きくなったと言えるか?有意水準5 %で考える。

44

検定の種類の選択（再確認）• それぞれの場合に以下の種類の検定を使う。① Mより大きい。

→ 上側確率を使った片側検定② Mより小さい。

→ 下側確率を使った片側検定③ Mではない。

→ 上側・下側確率を使った両側検定④ Mである。

→ 検定では確認できない

45

正規分布の平均についての検定（分散未知の場合）• 仮説検定の考え方は以下のものである。① 「平均はMである。」という帰無仮説が正し

いとき、 t値はt分布に従う。② もし、得られたt値がt分布からは、考えられ

ないような値だった場合、帰無仮説は棄却される。

③ 結果として、対立仮説を結論とする。

46

t分布を使った片側検定

47

• 平均値�x

�x =15�i=1

5xi = 53.0 g

• 標本標準偏差s

s =1

5 − 1�i=1

5xi − �x

2 = 2.24 g

t分布を使った片側検定• 平均値�xの標準偏差s�x

s�x =sn

=2.24 g

5= 1.0 g

• t値t =

�x − Ms�x

=53.0 g − 50.0 g

1.0 g= 3.0

• この値を自由度4のt分布と比較する。

48

t分布を使った片側検定• 下が成立するとき、「化合物Bの生成量は

M = 50.0 gより大きくなった」と言える。t > t0.95 4 = 2.13

• 今回はt = 3.0なので、上の結論が導ける。

49

ｔ0

95 % 5 %

t0.95(4) = 2.13

t分布を使った両側検定• もし、先の設問で知りたいことが工程の変更により、「化合物Bの生成量はM = 50.0 gとは異なる」という場合は、両側検定を使う。つまり、大きくなったか小さくなったかは問わない場合では両側検定を用いる。

50

t分布を使った両側検定• 下が成立するとき、「化合物Bの生成量はM = 50.0

gとは異なる」と言える。t < t0.025 4 = −2.78あるいはt > t0.975 4 = 2.78

• 今回はt = 3.0なので、上の結論が導ける。

51

ｔ0

2.5 % 2.5 %

t0.025(4) = −2.78

t0.975(4) = 2.78

検定の補足• 薬学系や医学系の研究でもしない限りは、検定を実験の解析で行う機会は少ない。（やることもあるが、結果が重要視されることはかなり少ない。）

• 工学的な応用という観点からは、次に説明する推定の方がはるかによく利用する。

52

53

確率・統計の補足

検定の実践

推定の方法

検定の考え方

t（ティー）検定

点推定・区間推定• 推定は直観的には検定より理解しやすい。推定には点推定と区間推定がある。

• 母平均を標本平均で推定するのは点推定。• 母平均を[○○, □□]の範囲にあると推定するのが区間推定。

• 点推定の最も重要なものである不偏推定については、よく知っているものとして、ここでは区間推定について説明する。

• なお、ここでは、単なる繰り返しの偶然誤差のみを考え、系統誤差は無視できるほど影響が小さい状況のみを考える。

54

推定の考え方• ある測定の１回の繰り返しの値が従う分布が正規分布とする。

• その母平均µは未知とする。これを推定する。• n回の繰り返しで、x1, …, xnを得たとしよう。この平均値を�xとする。

• 区間推定を行うには、ある大きな確率を決める必要がある。これを信頼水準または信頼係数と呼ぶ。ここでは、信頼水準を95 %とする。

55

正規分布を用いた区間推定• 母分散σ2が既知の場合、考えるのは以下の分布。• 繰り返しの値(x1, …, xn)について、その平均値を�x、また�xの標準偏差をσ�xとする。

�x =1n�i=1

nxi , σ�x =

σn

56

σ

µx

未知

既知

正規分布を用いた区間推定• このとき、下の統計量は標準正規分布に従うことが知られている。

z =�x − µ

σ�x• つまり、以下のようになる確率は95 %であるであると言える。

−1.96 ≤ z =�x − µ

σ�x≤ +1.96

57

正規分布を用いた区間推定• この不等式をµについて解くことで区間推定ができる。

−1.96 ≤�x − µ

σ�x⇒ µ ≤ �x + 1.96σ�x

�x − µσ�x

≤ +1.96 ⇒ µ ≥ �x − 1.96σ�x

• これらを合わせて、�x − 1.96σ�x ≤ µ ≤ �x + 1.96σ�x

• �x − 1.96σ�x, �x + 1.96σ�x を（信頼水準95 %の）信頼区間と呼ぶ。

58

t分布を用いた区間推定• 母分散σ2が未知の場合、考えるのは以下の分布。• 平均値�xの標準偏差s�xを以下のように計算する。

s�x =sn

,ここでs =1

n − 1�i=1

nxi − �x

2

59

σ

µx

未知

未知

t分布を用いた区間推定• 下のt値は自由度ν = n−1の t分布に従う。

t =�x − µ

s�x• 自由度νのt分布の下側確率αとなる値を tα(ν)と書く。以下のようになる確率は95 %であるであると言える。

t0.025 ν ≤ t =�x − µ

s�x≤ t0.975 ν

• またはt0.025 ν = −t0.975 ν から†、−t0.975 ν ≤ t =

�x − µs�x

≤ t0.975 ν

60†t分布は左右対称なので、 tα ν = −t1−α ν 。

t分布を用いた区間推定• この不等式をµについて解くことで区間推定ができる。−t0.975 ν ≤

�x − µs�x

⇒ µ ≤ �x + t0.975 ν s�x�x − µ

s�x≤ t0.975 ν ⇒ µ ≥ �x − t0.975 ν s�x

• これらを合わせて、（信頼水準95 %の）信頼区間は以下のµの区間と定まる。

[�x − t0.975 ν s�x, �x + t0.975 ν s�x]

61

t分布を用いた区間推定の例• あるブロックの長さの測定を行った。10回繰返しから以下の値が得られた。

• 測定のばらつきは正規分布に従うとする。系統誤差は無視する。

• このブロックの長さを区間推定する。62

x1 /cm x2 /cm x3 /cm x4 /cm x5 /cm10.06 9.98 9.94 10.02 9.90

x6 /cm x7 /cm x8 /cm x9 /cm x10 /cm

9.94 10.02 10.10 10.06 9.98

t分布を用いた区間推定の例

63

• 平均値�x

�x =1

10�i=1

10xi = 10.00 cm

• 標本標準偏差s

s =1

9 − 1�i=1

9xi − �x

2 = 0.063 cm

• 平均値�xの標準偏差s�xs�x =

sn

=0.063 cm

10= 0.020 cm

t分布を用いた区間推定の例• 自由度9のt分布は以下のもの。

64

95 % 2.5 %2.5 %

t0.975(9) = 2.26

t0.025(9) = −2.26

ｔ

t分布を用いた区間推定の例• このことから信頼区間は以下のものとなる。

�x − t0.975 9 s�x, �x + t0.975 9 s�x= 10.00 cm − 2.26 � 0.20 cm, 10.00 cm + 2.26 � 0.20 cm

= 9.95 cm, 10.05 cm

65

95 % 2.5 %2.5 %

t0.975(9) = 2.26

t0.025(9) = −2.26

ｔ

注意したい点• 下のような分布は全く出てきていない。• 確率はt値に対して考える。µが9.95 cmより小さい確率が2.5 %というわけではない。

66

95 % 2.5 %2.5 %

10.05 cm9.95 cm µ�x= 10.00 cm

区間推定の補足• 現実の工学的な応用では、系統誤差が無視できないことも多い。その場合、t分布を使った区間推定はできない。

• このため、（系統誤差も含めた）標準偏差をなるべく精確に推定し、中心極限定理に基づいて、正規分布に基づいた区間推定をすることが多い。

• 測定の不確かさにおける拡張不確かさの計算は信頼区間と結びつけられることもあるが、厳密な信頼水準の実現は難しい。このため、上の近似がよく行われる。

67

まとめ• 検定とはある仮説を確かめるための手法である。

• 検定の手順について紹介した。（正規分布を用いた片側および両側検定）

• 検定の考え方について確認した。• 以下の統計量の分布がt分布となることを確認した。

t =�x − µ

s�x

• 推定のうち、特に区間推定とはある推定したい値がありそうな区間を定める方法である。

• 推定の考え方について紹介した。• 推定の手順について確認した。特にt分布を用いた正規分布に基づく母平均の推定の手順を確認した。

68

検定と推定の話検定と推定の話スライド番号 3確率・統計の補足�（上側確率・下側確率）確率・統計の補足�（標準正規分布）スライド番号 6検定の実践正規分布の検定�（母平均は未知・母分散は既知）正規分布を用いた片側検定正規分布を用いた片側検定正規分布を用いた片側検定何を確かめたいか確かめたいことの例検定の種類の選択正規分布を用いた両側検定正規分布を用いた両側検定正規分布を用いた両側検定正規分布を用いた両側検定正規分布を用いた両側検定スライド番号 20検定の例検定の例仮説検定の考え方仮説検定の準備（背理法）仮説検定の準備（背理法）仮説検定の準備（背理法）検定（統計的仮説検定・統計的検定・仮説検定）検定（統計的仮説検定・統計的検定・仮説検定）帰無仮説・対立仮説正規分布についての検定の考え方正規分布についての検定の考え方正規分布についての検定の考え方正規分布についての検定の考え方スライド番号 34正規分布の検定�（母平均も母分散も未知）t分布を用いた片側検定t値t値t分布t分布t分布t分布自由度についての補足t分布を用いた片側検定（問題の再確認）検定の種類の選択（再確認）正規分布の平均についての検定（分散未知の場合）t分布を使った片側検定t分布を使った片側検定t分布を使った片側検定t分布を使った両側検定t分布を使った両側検定検定の補足スライド番号 53点推定・区間推定推定の考え方正規分布を用いた区間推定正規分布を用いた区間推定正規分布を用いた区間推定t分布を用いた区間推定t分布を用いた区間推定t分布を用いた区間推定t分布を用いた区間推定の例t分布を用いた区間推定の例t分布を用いた区間推定の例t分布を用いた区間推定の例注意したい点区間推定の補足まとめ