|
|
山中和義さんへ
kikiririより
早速のご返信ありがとうございました。
多少、うれしい興奮気味ですが、すみません
>式はあくまでも理論値ですが、パソコンが扱う数値計算（実数の扱い）は近似値ですか
>ら、
>誤差は発生します。
>この場合、標高の計測値は小数点４桁（301点なら41.7065）ですので、
>計算結果は小数点５桁を四捨五入するのではないでしょうか。
純粋数学（物理学）と工学的な数値計算との違いでしょうか。
41.7065は、有効桁数6桁では？4.17065＊10^1
この辺は僕も疑問なんですが。
高校物理では、小数以下四桁では掛け算は、一桁多い五桁まで計算して四捨五入ですね。
五捨五入かもしれませんが、
他のページをプログラムしてみてください。投稿待っています。に答えがある気もするので
すが
ありがとうございました。
|
|