エラ― メッセイジ 無しの  計算ミス ???

 投稿者:与坂  昇平メール  投稿日:2009年10月 6日(火)09時03分51秒
  t.fem - 3dimension zzzz 6 face comme theory  2 element  trial 2 mit print

プログラム  に 関して


11 x 11 matrix  を  gauss  の  掃きだし方で  解く
プログラムで
計算 途中で  tk2 7  3   から  tk2  7  11
の  間で
コンピュ―タ―の  計算ミス の様な  箇所があり
エラ― メッセイジは  出ませんでした

例えば
print  分で
tk2  7  4    -1.5 E-15  の  回答が   有りますが
手計算では  5.5 E-9
になります

後ほど  手紙で  送ります
 

Re: エラ― メッセイジ 無しの  計算ミス ???

 投稿者:白石 和夫  投稿日:2009年10月 6日(火)09時58分1秒
  > No.608[元記事へ]

手紙でデバッグを依頼されてもお受けすることはできませんので,
あしからずご了承ください。
 

Re: エラ― メッセイジ 無しの  計算ミス ???

 投稿者:山中和義  投稿日:2009年10月 6日(火)10時25分10秒
  > No.608[元記事へ]

与坂  昇平さんへのお返事です。

> 例えば
> print  分で
> tk2  7  4    -1.5 E-15  の  回答が   有りますが
> 手計算では  5.5 E-9
> になります


単精度(有効桁数8桁程度)と倍精度(有効桁数16桁程度)での計算の違いでは?
どちらも、数値計算上での理論値0(近似値)と思います。
 

戻る