Surveying

Geodesy

Lesson

  • Surveying
  • Surveying Practice
  • Applied Surveying & Exercise

cancellation of significant digits

計算するとき、例えば平均値などをとると、計算上有効桁数よりも下の桁まで数字が出てくるが、データとしてレポートなどに表示するときはあくまでも有効数字である。しかし、その平均値などを使ってさらに計算を進める過程では、計算の途中で有効桁数まで四捨五入したりせず、桁数の大きな数値のまま計算する。最後に出てきた答えに対して、初めて有効桁数に合わせて四捨五入する。
筆算するとき、計算の途中では有効数字よりも1桁分だけ桁数の大きな数で計算する。電卓などの場合は、計算途中の値は電卓での計算値をそのまま使っていけばよい。
いくつかの測定器で有効桁数が異なるとき、その測定データを組み合わせて計算する場合、和差と積商とで大まかな違いがある。

JIS Z 8401

sample

Reference

Reference 2

Reference 3

Reference 4

Geometry

スクリーンショット(2013-01-16 23.53.00)

Pythagorean theorem

The Law of Sines

The Law of Sines

 

 

 

 

 

 

 

 

Polar Coordinates System

Rectangular Coordinates System