3

測定値と有効数字の解説 ① 【工学系なら必見】

13090
1
$$$$

はじめに

今回は編入とは少し離れていますが、工学部や高専の生徒であれば絶対に抑えておきたい有効数字に関する解説をしていきたいと思います。

厳密に追求して書いているので、興味ある方は深いところまで勉強できると思います。

誤差

計測器を用いて何かを計測したときには,その測定値には,いろいろな原因によって真の値からの「ずれ」がある。測定値から真の値を引いたものを測定値の誤差という。

計測においては,アナログ表示の測定器の場合,通常,最小目盛の1/10までは目測で読むことになっている。この際,測定者の目盛を読むときのくせとか,計測器を手で持つときの手加減とかが,誤差の原因となる。従って,1mmが最小目盛の物差しで長さ(単位mm)を測った場合は,小数点以下一桁目は誤差を含んでいる。デジタル表示の測定器の場合は,表示される数字はすべて読み取ることになるが,一般に,その最小桁の数字は誤差を含んでいる。

有効数字

定義

通常の物差しを使い,23.5mm,2.4mm,60.9mmを得たとする。2,3,5,2,4,6,0,9は最小目盛の1/10まで読み取った有意義な数字であるので,有効数字という。

この例では,有効数字の桁数は順に,3,2,3桁である。ただし,各測定値の最後の桁の値には誤差が含まれている。たとえば,質量を測定したとして,測定値が21gの場合には,最悪±0.5gの誤差がある。すなわち,21.4999・・・gから20.5gの間に真の値は存在する。

有効数字とは,JIS K 0211により次のように定義されている。

「測定結果などを表わす数字のうちで,位取りを示すだけのゼロを除いた意味のある数字」有効数字の桁数を有効桁数と呼ぶ。

  • 123.456:有効桁数6桁
  • 0.0006:有効桁数1桁
  • 0.000450:有効桁数3桁
  • 123000:有効桁数不明(ゼロは,位取りのゼロなのか有効数字なのか不明)

上の例に示したような有効桁数が不明となる表記をさけるため,有効数字の表記方法には科学表記を使う。ある計測において,350mという測定値を得たとする。有効数字を考えなければ,これを0.35km,35000cmなど,いろいろな表現ができる。しかし,有効数字が3桁であり,そのことを示すのであれば,3.50×10 km,3.50×10 cmなどと書かなければ-14ならない。これを科学表記と呼ぶ。

$$(1以上10未満の数字)× 10^n(nは整数) $$

この科学表記によれば,有効桁数は,「$×10^n$」以外の数字の桁数となる。

  • $1.03×10^2$ (電卓では,1.03E2と表記される):有効数字3桁
  • $29.987×10^3$ (電卓では,9.987E3と表記される):有効数字4桁

アナログ計測器による計測

1mmまで目盛のある物差しで,長さを計測した。
12.3mm,10.0mm,4.5mm,1.2mm,0.8mm

物差しにはレンジ切り替えがないので,常に「小数点以下1桁までが有効数字である」。有効数字桁数は,JISの規定によれば,順に,3,3,2,2,2,1桁となる。有効数字を明確にするには,科学表記で次のように書く。

1.23×10 mm,1.00×10 mm,4.5×10 mm,1.2×10 mm,8×10 mm1100-1

デジタル計測器による計測

デジタル表示の測定器の場合は,すべての桁が有効と考えてよいが,精度が保証できる桁+1桁まで表示している。従って,最も下の桁は,目測で最小メモリの1/10まで読んだ場合と同様,誤差を含んでいる。

たとえば,デジタル表示で1mgまで計測できるはかりがあったとする。そのはかりに次の左側のように「表示」された場合,科学表記では右側のようになる。

  • 1.001g → $1.001×10^0$ g
  • 0.003g → $3×10^{-3}$ g

JISに従えば,4および1桁の有効数字となる。

後者について考えてみよう。1mgの高精度なはかりで,計測したので,最初の3つのゼロも有効ではないか?答えはノーである。

その理由は,誤差の範囲を考えてみれば容易に理解できる。3という有効数字に対して最悪±0.5の誤差が考えられることから,測定精度はすごく悪いのである。逆に前者について,測定誤差の測定値に対する割合はすごく低い。

では,有効桁数を増やすにはどうすればよいか?測定レンジを高精度な方に切り替えるか,測定器を交換する。そもそも1mgが最小桁となる測定器で,3mgを測定することに無理がある。

レンジ切り替えがある測定器

レンジ切り替えがある有効数字4桁のデジタル表示の重量計を考えてみる。測定すれば,4桁の数字が表示され,どこかに小数点が表示される。

  • .1 2 3 4:1gのレンジ(0- 1gが計測可能
  • 1. 2 3 4:10gのレンジ(0- 10gが計測可能))
  • 1 2. 3 4:100gのレンジ(0-100gが計測可能)
  • 1 2 3. 4:1000gのレンジ(0- 1kgが計測可能)
  • 1 2 3 4.:10000gのレンジ(0-10kgが計測可能)

これらをルールに従って表せば,次のようになる。

  • $1.234×10^{-1}$ g
  • $1.234×10^0$ g
  • $1.234×10^1$ g
  • $1.234×10^2$ g
  • $1.234×10^3$ g

測定レンジを明確にした一歩進んだ科学表記

次に様に,測定レンジを明記すると,追試を行う場合に便利であり,また適切な測定が行われたことを示すことにもつながる。

  • $1.234×10^{-1}$ g(測定レンジ1g)
  • $1.234×10^0$ g(測定レンジ10g)
  • $1.234×10^1$ g(測定レンジ100g)
  • $1.234×10^2$ g(測定レンジ1kg)
  • $1.234×10^3$ g(測定レンジ10kg)

また,次のように,測定レンジそのものを「×?g」にしてしまう方法も考えられる。(この方法は一つのアイデアであり一般的に認知されている方法ではない。)

  • 0.1234 ×1g(測定レンジ)
  • 0.1234 ×10g(測定レンジ)
  • 0.1234 ×100g(測定レンジ)
  • 0.1234 ×1000g(測定レンジ)
  • 0.1234 × 10000g(測定レンジ)

これらは,JISの定義からも有効桁数が4であることは,明確であるし,見やすく,測定レンジも明らかである。

デジタル計測器による計測の例では,1g以上の測定結果があったので,10gレンジで測定したと考えると,次のようになる。

  • 0.1001 × 10g
  • 0.0003 × 10g

後者に関しては,すばらしく分解能の高い測定器(4桁)だったが,測定器のレンジ選択ミス,あるいは測定器そのものの選択ミスのため,有効数字1桁(測定値に対する誤差の割合は1/3)の測定しか出来なかったことを意味する。

なお,これらの表記は,計測値そのものであるべきである。何らかの式による計算結果の場合は,測定レンジは関係ない。

エンジニアのための二歩進んだ表記

関数電卓にENGキーがあるのを知っているだろうか?これは技術者がよく使う,103n(nは整数)にセットして計算値を表示してくれる。すなわち,キロ,メガ,ギガ,テラ,ミリ,マイクロ,ナノ,ピコといった言葉が単位の前についた表記をエンジニアがよく使うため,それに合わせた表示をしてくれるのである。

この表記では,10の肩に乗るのは,常に3の整数倍である。これまでに紹介した,科学表記,一歩進んだ科学表記,二歩進んだ科学表記をまとめると,次の例ようになる。

  • 科学表記
    • $1.234×10^{-1}$ Hz
    • $1.234×10^0$ Hz
    • $1.234×10^1$ Hz
    • $1.234×10^2$ Hz
    • $1.234×10^3$ Hz
  • 1歩進んだ科学表記エンジニア用
    • 0.1234 × 0.1 Hz
    • 0.1234 × 1 Hz
    • 0.1234 × 10 Hz
    • 0.1234 × 100 Hz
    • 0.1234 × 1000 Hz
  • 2歩進んだ科学表記例
    • 0.01234 Hz,$12.34×10^{-3}$ Hz
    • 0.1234 Hz,$123.4×10^{-3}$ Hz
    • 1.234 Hz,$1234×10^{-3}$ Hz
    • 12.34 Hz,$0.01234×10^3$ Hz
    • $0.1234×10^3$ Hz,$0.1234$ kHz

測定値であれば,レンジが明らかにする1歩進んだ科学表記が望ましいと考えられ,エンジニアが見る計算結果であれば,2歩進んだ科学表記で,G, M, k, m, μなどを使った方がわかりやすい。普通の科学表記はわかりやすさを優先していないが,一般的な書き方である。

デジタル計測器の測定

レンジデジタル電圧計で,次のような測定データを得た。表記は前節に従っている。

1.506 × 1mV

1mVのレンジでは,0から0.999Vまでしか測定できないはずなのに,それを超えてしまっている。

デジタルテスターで,レンジ切り替えがオートでなく,マニュアルで切り替える場合を考えてみる。1Vレンジだったとして,今,電圧表示が,1Vにかなり近い「.9 9 8 」Vだったとする。少し,電圧が変動して,1.000Vを超えてしまうと,「.9 9 9 」V以上の表示はできないので,レンジ切り替えが必要になる。つまり,レンジ値付近の測定では,値が微妙に変化すると,頻繁にレンジ切り替えが必要になってしまう。

もちろん,頻繁にレンジ切り替えをすればいいのであるが,たとえば,レンジ切り替えにより,「.9 9 8 」と「1.0 1 」が測定されたとすると,ほとんど同じ測定値であるのに,小数点以下の表示桁数が異なってくるというややこしさもある。(ただし,有効数字桁数は同じである。)

こういった理由により,デジタルテスターは,通常,最上位桁に,「1」だけ表示できるようになっている。(マニュアル/オートのどちらもそうなっている製品が多い。)つまり,上記の例では,実は2mVレンジで測定した結果なのである。この場合でも,「×2mV」などと表記する必要はない。「×1mV」と表記した場合と比べ,わかりにくくなる。

おわりに

非常に長くなってしまうので、今回はここまでで切って第2弾で実際の有効数字の計算について説明していきたいと思います。

投稿日:20201030

この記事を高評価した人

高評価したユーザはいません

この記事に送られたバッジ

バッジはありません。

投稿者

高専生に向けて大学編入の記事を作成しています。難易度は高めです。編入以外の高専生向けの記事についても書こうとおもってます。

コメント

他の人のコメント

コメントはありません。
読み込み中...
読み込み中