有効数字についての少し進んだ話題

　2005年10月5日　村田

 

有効数字の基本的事項については以前「有効数字とは」に説明しましたが，ここでは少し進んだ（混乱しやすい）事項について説明します．

 

○有効数字の計算方法は本当に正確（厳密）なのか？

　乗除算については最も少ない有効桁数に合わせて計算し，加減算については小数点を揃えて，最も小数点以下の桁数の少ないものに合わせて計算するという，有効数字を考慮した計算方法による結果はどこまで厳密なのでしょうか？

　乗算と加算について以下の例１と例２でそれぞれ説明します．

 

例１）

　長方形の土地の面積を計算することを考えよう．それぞれの辺の長さの実測値が，19mと25m（有効数字２桁）であるとすると，それぞれ最大±0.5mの誤差があると考えられるので，下式が成り立ちます．

 

　　(18.5m)x(24.5m)≦（真の面積）＜(19.5m)x(25.5m)　　(1)

 

計算して，

 

　　453.25 m²　≦（真の面積）＜497.25 m²　　(2)

 

(19m)x(25m)=475 m²なので，計算結果の１桁目は正しいが，２桁目は既に誤差を含んでおり，３桁目は全く意味がないことがわかります．よって有効数字２桁として，

 

　（面積）=4.8x10² m²　　(3)

 

と計算すれば十分であることが分かります．この例から，有効数字を考慮した計算方法は，その計算結果の有効数字最終桁の数字±0.5が真の値の範囲を表すわけではないことも分かります．（式(3)の結果4.8x10²m²は，式(2)の真の面積の範囲に比較して，有効桁数を安全側に余裕を持たせた値を算出しています．）

以上例１．

 

例２）

　例えば，長さの２回の測定値がともに1.0mだった場合，和をとると，

 

　　　1.0m+1.0m=2.0m　　(4)

 

となり，有効数字は２桁のままです．同様に，長さの１０回の測定値がともに（たまたま）1.0mだった場合，和をとると，

 

　　　1.0m+1.0m+1.0m+1.0m+1.0m+1.0m+1.0m+1.0m+1.0m+1.0m=10.0m   (5)

 

となり，通常の計算方法では有効桁数が２桁から３桁に増加します．この考え方は正しいのでしょうか？測定量の不確かさの要因のうち，偏り誤差が支配的である場合，式(5)の和では誤差が累積し，恐らく有効数字３桁は確保されず，２桁として評価する方が妥当でしょう．一方，不確かさ要因のうち，偶然誤差（ランダム誤差）が支配的な場合には式(5)のまま，有効数字３桁として評価してよいのでしょう．つまり本当の有効桁数は，計測の不確かさを考慮して決定されるべきものだということが分かります．

以上例２．

 

 

このように通常用いている有効数字の計算方法は，本来厳密なものではなく，便宜的な計算手法と捕えるべきものです．

 

以上．