投稿者:与坂 昇平
投稿日:2009年10月 6日(火)09時03分51秒
|
|
|
t.fem - 3dimension zzzz 6 face comme theory 2 element trial 2 mit print
プログラム に 関して
11 x 11 matrix を gauss の 掃きだし方で 解く
プログラムで
計算 途中で tk2 7 3 から tk2 7 11
の 間で
コンピュ―タ―の 計算ミス の様な 箇所があり
エラ― メッセイジは 出ませんでした
例えば
print 分で
tk2 7 4 -1.5 E-15 の 回答が 有りますが
手計算では 5.5 E-9
になります
後ほど 手紙で 送ります
|
|
|
投稿者:白石 和夫
投稿日:2009年10月 6日(火)09時58分1秒
|
|
|
投稿者:山中和義
投稿日:2009年10月 6日(火)10時25分10秒
|
|
|
> No.608[元記事へ]
与坂 昇平さんへのお返事です。
> 例えば
> print 分で
> tk2 7 4 -1.5 E-15 の 回答が 有りますが
> 手計算では 5.5 E-9
> になります
単精度(有効桁数8桁程度)と倍精度(有効桁数16桁程度)での計算の違いでは?
どちらも、数値計算上での理論値0(近似値)と思います。
|
|
|
戻る