有効数字,誤差,工学63313通報$$$$はじめに今回は編入とは少し離れていますが、工学部や高専の生徒であれば絶対に抑えておきたい有効数字に関する解説をしていきたいと思います。厳密に追求して書いているので、興味ある方は深いところまで勉強できると思います。計測器を用いて何かを計測したときには,その測定値には,いろいろな原因によって真の値からの「ずれ」がある。測定値から真の値を引いたものを測定値の誤差という。計測においては,アナログ表示の測定器の場合,通常,最小目盛の1/10までは目測で読むことになっている。この際,測定者の目盛を読むときのくせとか,計測器を手で持つときの手加減とかが,誤差の原因となる。従って,1mmが最小目盛の物差しで長さ(単位mm)を測った場合は,小数点以下一桁目は誤差を含んでいる。物差しを使い,23.5mm,2.4mm,60.9mmを得たとする。2,3,5,2,4,6,0,9は最小目盛の1/10まで読み取った有意義な数字であるので,有効数字という。この例では,有効数字の桁数は順に,3,2,3桁である。各測定値の最後の桁の値には誤差が含まれている。質量を測定したとして,測定値が21gの場合には,最悪±0.5gの誤差がある。21.4999・・・gから20.5gの間に真の値は存在する。0211により次のように定義されている。「測定結果などを表わす数字のうちで,位取りを示すだけのゼロを除いた意味のある数字」有効数字の桁数を有効桁数と呼ぶ。123.456:有効桁数6桁0.0006:有効桁数1桁0.000450:有効桁数3桁123000:有効桁数不明(ゼロは,位取りのゼロなのか有効数字なのか不明)上の例に示したような有効桁数が不明となる表記をさけるため,有効数字の表記方法には科学表記を使う。ある計測において,350mという測定値を得たとする。有効数字を考えなければ,これを0.35km,35000cmなど,いろいろな表現ができる。cmなどと書かなければ-14ならない。これを科学表記と呼ぶ。$$この科学表記によれば,有効桁数は,「$×10^n$」以外の数字の桁数となる。(電卓では,9.987E3と表記される):有効数字4桁アナログ計測器による計測1mmまで目盛のある物差しで,長さを計測した。12.3mm,10.0mm,4.5mm,1.2mm,0.8mm物差しにはレンジ切り替えがないので,常に「小数点以下1桁までが有効数字である」。有効数字桁数は,JISの規定によれば,順に,3,3,2,2,2,1桁となる。有効数字を明確にするには,科学表記で次のように書く。mm1100-1デジタル計測器による計測デジタル表示の測定器の場合は,すべての桁が有効と考えてよいが,精度が保証できる桁+1桁まで表示している。従って,最も下の桁は,目測で最小メモリの1/10まで読んだ場合と同様,誤差を含んでいる。デジタル表示で1mgまで計測できるはかりがあったとする。そのはかりに次の左側のように「表示」された場合,科学表記では右側のようになる。gJISに従えば,4および1桁の有効数字となる。後者について考えてみよう。1mgの高精度なはかりで,計測したので,最初の3つのゼロも有効ではないか?答えはノーである。その理由は,誤差の範囲を考えてみれば容易に理解できる。3という有効数字に対して最悪±0.5の誤差が考えられることから,測定精度はすごく悪いのである。逆に前者について,測定誤差の測定値に対する割合はすごく低い。有効桁数を増やすにはどうすればよいか?測定レンジを高精度な方に切り替えるか,測定器を交換する。そもそも1mgが最小桁となる測定器で,3mgを測定することに無理がある。レンジ切り替えがある測定器レンジ切り替えがある有効数字4桁のデジタル表示の重量計を考えてみる。測定すれば,4桁の数字が表示され,どこかに小数点が表示される。4.:10000gのレンジ(0-10kgが計測可能)これらをルールに従って表せば,次のようになる。次に様に,測定レンジを明記すると,追試を行う場合に便利であり,また適切な測定が行われたことを示すことにもつながる。g(測定レンジ10kg)また,次のように,測定レンジそのものを「×?g」にしてしまう方法も考えられる。(この方法は一つのアイデアであり一般的に認知されている方法ではない。10000g(測定レンジ)これらは,JISの定義からも有効桁数が4であることは,明確であるし,見やすく,測定レンジも明らかである。デジタル計測器による計測の例では,1g以上の測定結果があったので,10gレンジで測定したと考えると,次のようになる。10g後者に関しては,すばらしく分解能の高い測定器(4桁)だったが,測定器のレンジ選択ミス,あるいは測定器そのものの選択ミスのため,有効数字1桁(測定値に対する誤差の割合は1/3)の測定しか出来なかったことを意味する。これらの表記は,計測値そのものであるべきである。何らかの式による計算結果の場合は,測定レンジは関係ない。関数電卓にENGキーがあるのを知っているだろうか?これは技術者がよく使う,103n(nは整数)にセットして計算値を表示してくれる。キロ,メガ,ギガ,テラ,ミリ,マイクロ,ナノ,ピコといった言葉が単位の前についた表記をエンジニアがよく使うため,それに合わせた表示をしてくれるのである。この表記では,10の肩に乗るのは,常に3の整数倍である。これまでに紹介した,科学表記,一歩進んだ科学表記,二歩進んだ科学表記をまとめると,次の例ようになる。μなどを使った方がわかりやすい。普通の科学表記はわかりやすさを優先していないが,一般的な書き方である。デジタル計測器の測定レンジデジタル電圧計で,次のような測定データを得た。表記は前節に従っている。1mV1mVのレンジでは,0から0.999Vまでしか測定できないはずなのに,それを超えてしまっている。デジタルテスターで,レンジ切り替えがオートでなく,マニュアルで切り替える場合を考えてみる。」V以上の表示はできないので,レンジ切り替えが必要になる。レンジ値付近の測定では,値が微妙に変化すると,頻繁にレンジ切り替えが必要になってしまう。」が測定されたとすると,ほとんど同じ測定値であるのに,小数点以下の表示桁数が異なってくるというややこしさもある。(ただし,有効数字桁数は同じである。)こういった理由により,デジタルテスターは,通常,最上位桁に,「1」だけ表示できるようになっている。(マニュアル/オートのどちらもそうなっている製品が多い。)つまり,上記の例では,実は2mVレンジで測定した結果なのである。この場合でも,「×2mV」などと表記する必要はない。「×1mV」と表記した場合と比べ,わかりにくくなる。おわりに非常に長くなってしまうので、今回はここまでで切って第2弾で実際の有効数字の計算について説明していきたいと思います。向けて大学編入の記事を作成しています。編入以外の高専生向けの記事についても書こうとおもってます。高評価したユーザはいませんこの記事に送られたバッジバッジはありません。バッチを贈って投稿者を応援しようバッチを贈ると投稿者に現金やAmazonのギフトカードが還元されます。高専生に向けて大学編入の記事を作成しています。編入以外の高専生向けの記事についても書こうとおもってます。