有効数字(有効桁数)っておかしいぞ

 有効数字という概念について、学校の先生から散々注意するように言われた人も多いと思う。特に理系は。科学は測定、測定には誤差がつきものなので、誤差に対する防衛術を身につけておかないと話にならないからだ。しかし……

この記事で書く内容の上位互換がEMAN先生のページ↓にあるので、ちゃんと知りたい人は読んでください。ここでは「おかしい!」と叫ぶだけです。

とりあえずこの問題を解いてみてくれ!

<問題>
 直流電源を電熱線の両端に繋いだ、図のようなごく単純な電気回路がある。電流と電圧を測定したところ、9.0 A、9.0 Vであった。このとき、電熱線の消費電力(W)はいくらか。有効数字に注意して答えよ。もちろん、測定器を接続したことによる影響は考慮しないとする。

この世で最も単純な電気回路

<解答>
 答え:8.1×10 W。消費電力は電圧×電流で求められるので、9.0×9.0 = 81.0。電圧と電流のどちらも9.0で、有効桁数は2桁なので、それに合わせて8.1×10。

……ほんとに?

桁数ルールに反旗をひるがえせ!

 さっきの答えは学校教育で正しいとされる答えである。
 よく考えてみよう。四捨五入によって得られたであろう9.0という測定値は、その真の値Xが

8.95 ≦ X < 9.05

の範囲に存在することを意味する。だから、電力(電圧×電流)が存在する範囲は本来こうなるはずだ。

8.95×8.95 ≦ 電圧×電流 < 9.05×9.05

80.1025 ≦ 電力 < 81.9025

ところが、さっきの答えでは8.1×10 Wとなっていた。これは四捨五入の逆算により

80.5 ≦ 電力 < 81.5

と捉えられることになる。
「最大でも81.5 Wだな!と思っていたら、実際には81.8 W出てました……」みたいなことがあり得るわけだ。

(※「四捨五入じゃなくて『信用できない数字』と考えれば『80.#… ≦ 電力 < 81.#…』になって、間違ってないのでは?」みたいな反論がありそうだが、結局9.0^10とかすれば同じ結論が得られる)

話が違うじゃないか! 信用できる数字を出すために、こちとらわざわざ面倒な有効数字の処理してんだぞ!

……そう、有効数字を桁数で処理するのは明らかに間違っているのだ。これは9.8と9.9の有効桁数が同じなのに9.9と10.0の有効桁数が違うことからも直観的に分かる。十進法という根拠のない境界によって誤差の重さが不連続に変化するはずがない。

習ったものを鵜呑みにしないこと

 先生の言うことは必ずしも正しいとは限らない。そもそも学校で習った内容が正しいとは限らないし、先生も人間なので間違えることがある。常に疑うことを忘れないでおきたい。気になったらいつでも自分で確かめていいんだ。
 そしてあなたが先生や親なら、これは推奨ではなく努力義務。子供に嘘を教えないように、常に常識に疑いを持とう!

いいなと思ったら応援しよう!