有効桁数と精度について

 投稿者：kikiriri  投稿日：2009年10月 3日(土)18時27分11秒
  山中和義さんへ

　　kikiririより

有効桁数？１６桁？で計算していますが、
答えは四捨五入すればあっていますが、
偶然の一致では、桁落ちはないのですか？
また、これも初学者の質問だと思いますが。
正規分布図はどの程度精度が信頼出来るのですか。
何桁出しても、精度は気にすることはないとか、
だったら１６桁で計算している今回の計算方法も良いのではないのかとも思いますが、
純粋な理論上は完全に全桁信用して、出来るだけ多桁で計算して。
解答する時に、有効桁数、有効精度を調べるということですか。
この辺はぼかされているようにも見えます？ 		 

Re: 有効桁数と精度について

 投稿者：山中和義  投稿日：2009年10月 3日(土)19時36分30秒
  > No.601[元記事へ]

kikiririさんへのお返事です。

わかる範囲での回答です。

>有効桁数と精度について

式はあくまでも理論値ですが、パソコンが扱う数値計算（実数の扱い）は近似値ですから、
誤差は発生します。
この場合、標高の計測値は小数点４桁（301点なら41.7065）ですので、
計算結果は小数点５桁を四捨五入するのではないでしょうか。


>パソコンで実際に問題と向きあい手を出すことに重みを感じます。

他のページの計算部分をプログラムしてみてください。投稿を待っています。


>プログラムの選択方法

参考本のP.138下～140中。 		 

Re: 有効桁数と精度について

 投稿者：kikiriri  投稿日：2009年10月 6日(火)17時45分6秒
  > No.602[元記事へ]

山中和義さんへのお返事です。

山中和義さんへ

　　kikiririより

　　倍精度、単制度以外で、有効桁数を考慮して計算する方法を知りませんか
　またそのようなプログラムを知りませんか。 		 

Re: 有効桁数と精度について

 投稿者：山中和義  投稿日：2009年10月 7日(水)14時24分55秒
  > No.613[元記事へ]

kikiririさんへのお返事です。

> 　　倍精度、単制度以外で、有効桁数を考慮して計算する方法を知りませんか
> 　またそのようなプログラムを知りませんか。

よくわかりませんが、、、このことですか？

12.34/10*10の計算

!##.##形式の固定小数点数
a=12.34 !12.34
a=a/10 !12.34/10.00=01.23
a=a*10 !01.23*10.00=12.30

!#.###形式の浮動小数点数
a=12.34 !1.234*10^1
a=a/10 !(1.234*10^1)/(1.000*10^1)=1.234*10^0
a=a*10 !(1.234*10^0)*(1.000*10^1)=1.234*10^1 		 

戻る