問:有効数字のケタ数に注意して、次の測定値の計算をしなさい。ただし、円周率は\(\pi=3.1415…\)とする。
(1) \(5.1+3.56\)
(2) \(10.0-2.3\)
(3) \(1.75×2.1\)
(4) \(1.5÷0.80\)
(5) \(3.00\pi\)
解答:
(1) 8.7
(2) 7.7
(3) 3.7
(4) 1.9
(5) 9.42
解説:
(1) 加算の有効数字は位ぞろえのルールです。
小数第一位と小数第二位の足し算なので、より雑な値、つまり高い位である小数第一位に揃えます。
\(5.1+3.56\)
\(=8.66\)
\(≒8.7\)
(2) 減算の有効数字も位ぞろえのルールです。
小数第一位と小数第一位のひき算なので、小数第一位に揃えます。
\(10.0-2.3\)
\(=7.7\)
(3) 乗算の有効数字は桁数ぞろえのルールです。
有効数字3桁と有効数字2桁のかけ算なので、より桁数の少ない値、つまり有効数字2桁に揃えます。
\(1.75×2.1\)
\(=3.675\)
\(≒3.7\)
(4) 除算の有効数字も桁数ぞろえのルールです。
有効数字2桁と有効数字2桁のわり算なので、より桁数の少ない値、つまり有効数字2桁に揃えます。
ただし、\(0.80\)とか\(0.080\)、\(0.0000080\)のように、はじめにゼロが続く数字はすべて桁数にはノーカウントです。
なので、\(0.80\)の「0.」の部分はノーカウントなので、「80」の部分だけが桁数として数えられて、\(0.80\)は有効数字2桁となります。
\(1.5÷0.80\)
\(=1.875\)
\(≒1.9\)
(5) \(\pi\)や\(e\)のような数は有効数字はありません。桁数が無限大と理解して問題ありません。
なので、四捨五入用の数字まで用意しておけば、残りは省略してしまってもかまいません。
\(3.00\pi\)
\(≒3.00×3.141\)
\(=9.423\)
\(≒9.42\)
もしたし算なら、位ぞろえルールですので小数第二位で答えます。なので円周率は四捨五入用に小数第三位まで書き出しておいて、
\(3.00+\pi\)
\(≒3.00+3.141\)
\(=6.141\)
\(≒6.14\)
となります。
■桁や記号や計算が混在しているとき
例:
\(1.23×4.567+8.9\pi\)
まず有効数字以前に、かけ算が先ですので、前半の項と後半の項をそれぞれ計算します。
円周率の部分の計算は、この時点で2桁とのかけ算ですので、四捨五入用に3桁目まで用意して残りは切り捨てます。
\(1.23×4.567\) \(+\) \(8.9×3.14\)
それぞれ計算します。
\(≒5.61714\) \(+\) \(27.946\)
前半部分の計算はかけ算なので桁数ぞろえです。3桁×4桁なので、より少ない3桁に合わせます。
同様に、後半部分の計算は2桁です。
\(≒5.62\) \(+\) \(28\)
続けて、たし算をします。
\(≒33.62\)
たし算は位ぞろえのルールですので、小数第二位+整数なら、より高い位の整数に合わせます。よって
\(≒34\)
実験処理のときのように、計算が煩雑なときには途中途中で四捨五入を挟み込みながら計算するのが一般的で、こまかい話をし始めると、当然ながらに、最後に一回だけ四捨五入するよりも、途中で四捨五入を繰り返す方が誤差は大きくなっていきます。
ですが、そういうもんです。
なので手計算ならやむなく四捨五入しながら計算していきますが、コンピューターを使うなら、ある程度はそのまま数値を残しながら計算を進めても構いません。けれど、コンピューターにとっても複雑な計算が続く場合は、コンピューター内部でも四捨五入しながら計算を進めることになります。コンピューターに詳しい人は、コンピューター計算するときに、内部で勝手に四捨五入がされてしまっているのか、そうじゃないのか、そのあたりを考えながら計算を進めるといいでしょう。
電卓ですら表示可能部分より先は切り捨てられていますからね。コンピューターを使っても結局は「便利な電卓」の範囲を超えないわけです。四捨五入されるタイミングが実験結果の分析に影響を及ぼしていないかは普段から見ておきましょう。