有効数字のすゝめ
移転しました。
リダイレクトします。
はじめに
有効数字は多くの人が苦手意識を持つ。それは手法として覚えているからだと私は思う。そのため、物理的観点から理論として理解する。
有効数字(有効桁数)
信じることのできる桁数のことをさす。また、測定器が出せる分解能のことを指して、同様に用いることがある。
数字として信じられる有効桁数は以下の様になる。
測定データ | 20.0 | 1441 | 5.14425 | 0.0004 | 1.342 |
---|---|---|---|---|---|
有効桁数 | 3ケタ | 4ケタ | 6ケタ | 1ケタ | 4ケタ |
次に、測定器の分解能として信じてよい小数点以下の有効桁数は以下の様になる。
測定データ | 20.0 | 1441 | 5.14425 | 0.0004 | 1.342 |
---|---|---|---|---|---|
小数点以下の有効数字 | 1ケタ | 0ケタ | 5ケタ | 5ケタ | 3ケタ |
小数点以下の有効桁数とは、どこまで細かく測定できるかを見る桁数のことだ。
有効数字の四則演算
下のような実験があった場合を想定してやってみる。この緑と青の面積を求める。
O [m] | X [m] | Y [m] |
---|---|---|
0.521 | 157.0 | 156.50 |
横
計算の前と後で扱っている物理量(単位)が変わらない。そのため、測定の分解能の粗さで考えればよいだけだ。よって、小数点以下有効桁数1桁に合わせて
となる。
加算、減算のような物理量(単位)が変わらない計算の場合は、小数点以下の有効桁数が一番粗いものに合わせればよい。物理量が変わらないので、計算後に分解能が高くなるのはおかしいと考えられるはずだ。
面積
計算の前後で物理量(単位)が変わっている。つまり、測定器では直接求められない。そのため、数字の有効桁数で考えればよく、有効桁数を4桁に合わせて、
となる。
物理量(単位)が変わる場合、数字のもつ有効桁数が一番粗いものに合わせればよい。物理量が変わるので、測定器の分解能を考慮する必要はない。
発展
156.0 | 120.4 | 80.3 | 40.9 | 9.0 |
---|
同じ測定器で条件を変えながら測定し、上のようなデータが取れたとする。この場合の有効数字を考える。
同じ測定器なので、小数点以下の有効桁数は変わらない。そこで、以下の様にする。
156.0 | 120.4 | 080.3 | 040.9 | 009.0 |
---|
本来は見えない数字をあえて、露出することで有効桁数を合わせることが出来る。また、その測定器の持つ粗い有効桁数を示すことが出来るため、物理的意味も持った数字として扱うことが出来る。しかし、レポートでは、このように書くことはおかしいので、計算の都合上、表しているだけだということは理解しておきたい。