新しく発言する EXIT インデックスへ

1000桁モードでの数値演算の桁あふれ

　　1000桁モードでの数値演算の桁あふれ 山中和義 2008/07/28 20:24:41 
　　├KK62526です。 KK62526 2008/07/29 22:00:17 
　　│└この件が解決した後、報告しようと思ってい... 山中和義 2008/07/30 10:10:51 
　　│　└的確なご指摘、どうもありがとうございます... KK62526 2008/07/31 08:30:34 
　　├1000桁モードでの数値の指数部の扱いが構文... 山中和義 2008/07/30 10:02:43
Re: 1000桁モードでの数値演算の桁あふれ 返事を書く ノートメニュー
山中和義 <drdlxujciw> 2008/07/30 10:02:43
1000桁モードでの数値の指数部の扱いが構文により異なるようです。

この現象で桁あふれが発生しているようです。



OPTION ARITHMETIC decimal_high

LET a=1e1000


!LET b=1e1009 !定数　仮数と指数


!LET b=a*1000000000 !LET文の式


DEF f(a)=a*1000000000 !関数
!LET b=f(a)


FUNCTION ff(a)
LET ff=a
END FUNCTION
!PRINT ff(a*1000000000) !関数の引数


!SELECT CASE a*1000000000 !CASE文の式
!CASE 1
!CASE ELSE
!END SELECT


SUB g(a)
PRINT a
END SUB
CALL g(a*1000000000) !サブルーチン文の引数


IF a*1000000000>0 THEN LET c=1 !条件式


END
 
　　│└現象の解析、どうもありがとうございました... KK62526 2008/07/31 08:31:32 
　　└再帰的な書き方に慣れるために KK62526 2008/08/01 00:28:51

インデックスへ EXIT
新規発言を反映させるにはブラウザの更新ボタンを押してください。