データ処理の方法測定値の取り扱い

実験データのまとめ方• 「マイクロメータを使った測定データ」を例として考える． • 確認 ☞ 測定限界まで必ず記録する．

マイクロメータは0.001mmまで測定できる(最小メモリは0.01mm)．

4.98mm ☞ 4.980mm

dataの確認

• 自分たちの測定データで確認してみる

測定値 [mm]1 11.9832 11.9813 11.9784 11.9805 11.980

平均 11.980

表6. 円柱の高さh (マイクロメータ)

仮に均一な試料であったとしても， 同じ値になるはずなのだが同じにならない

測定なんてそんなものさ！なぜ？

データの表示、評価• マイクロメータである試料の高さを測定した

11.983mm, 11.981mm, 11.978mm, 11.980mm, 11.980mm 平均値…11.9804mm

• 別の（人？）の測定では（同じ試料）， 11.871mm, 12.023mm, 12.092mm, 11.968mm, 11.948mm 平均値…11.9804mm

☞ 11.980mm

２つの測定を「同じ」としてよいか

�

�

�

�

�� �� �� �� � �

��������

����

☞ 11.980mm

データの統計的処理• マイクロメータである試料の幅を５回測定した

11.983mm, 11.981mm, 11.978mm, 11.980mm, 11.980mm 平均値…11.9804mm

�

�

�

�

���� ���� ���� ��� ����

��������

����

残差

�3

�2

�1

☞ 11.980mm

統計誤差• 残差…平均値に対する測定値のばらつき

☟

データのばらつき具合の目安になる

しかし，単純平均は取れないので

平均誤差：残差の平均のようなもの

� �

� ��i

2

n(n � 1)

���i

2

n2

��i

2

n2

☟

測定値の表示• 測定値を表にまとめる

n 測定値[mm]

¸[mm] ¸2[mm2]1 11.983 0.003 0.0000092 11.981 0.001 0.0000013 11.978 -0.002 0.0000044 11.980 0.000 05 11.980 0.000 0

平均 11.980 Σ¸2=0.000014

表6：円柱の高さh (micrometer)

測定値の表示• 測定値を表にまとめる

n 測定値[mm]

¸[mm] ¸2[mm2]1 h1 h1-<h> ¸12

2 h2 h2-<h> ¸22

3 h3 h3-<h> ¸32

4 h4 h4-<h> ¸42

5 h5 h5-<h> ¸52

平均 <h> Σ¸i2

表6：円柱の高さh (micrometer)

測定値の表示• 測定値を表にまとめる

n 測定値[mm]

¸[mm] ¸2[mm2]1 11.983 0.003 0.0000092 11.981 0.001 0.0000013 11.978 -0.002 0.0000044 11.980 0.000 05 11.980 0.000 0

平均 11.980 Σ¸2=0.000014

� =

⇥�⇥2

i

n(n� 1)=

�1.4⇤ 10�5

5⇤ 4= 0.000836 · · ·

表6：円柱の高さh (micrometer)

h = 11.980 ± 0.001 [mm]

平均値と統計誤差

h = 11.980 ± 0.037 [mm]

h = 11.980 ± 0.001 [mm]

平均値と統計誤差

• 平均を取ったならば，必ず(平均)誤差が出る • ただし，電気抵抗，インピーダンスの計算の際には注意が必要

�

�

�

�

�� �� �� �� � �

��������

����

系統誤差• 測定する際には，

• 測定限界 • 測定環境

• 斜め読み • 気圧の変化 • 温度の変化

• 測定実施者，機械の癖 などにより，測定値に不確かさが生じる．

最良の測定条件下において読み取り限界と等しくなる

測定器具の比較• 円柱の高さhを測定 (単位: mm)

測定回数 ノギス マイクロメータ1 11.95 11.9802 11.95 11.9783 12.00 11.9774 11.95 11.9785 12.00 11.978

11.97±0.01 11.978±0.001

どちらの方が精度が良い？

測定器具の比較（２）• 円柱の高さhを測定 (単位: mm)

測定回数 ノギス マイクロメータ1 12.00 11.9802 12.00 11.9783 12.00 11.9774 12.00 11.9785 12.00 11.978

12.00±0.00 11.978±0.001

測定器具に左右される精度がある12.00±0.00±0.05 11.978±0.001±0.001

h = (1.1980 ± 0.0001 ± 0.0001) � 10 [mm]

h = 11.980 ± 0.001 ± 0.001 [mm]

測定値の提示

精度の議論には相対誤差が便利精度は0.008%

絶対誤差で精度を表すためには…指数表現の正規化

１の位から書き始める

h = (1.1980 ± 0.0001 ± 0.0001) � 10�2 [m]