新しく発言する  EXIT  インデックスへ

Ver.7.2.0での仕様変更予定


  Ver. 7.2.0での仕様変更予定 白石 和夫 2008/04/02 10:16:44 
  Ver.7.2.1での修正 白石 和夫 2008/04/11 18:06:47  (修正1回)
   └Ver.7.2.2での変更 白石 和夫 2008/05/04 21:19:17  (修正3回)
    └Ver.7.2.3での変更 白石 和夫 2008/05/04 21:23:58  (修正2回)
     └Ver7.2.4での変更 白石 和夫 2008/05/10 13:54:06 
Re: Ver.7.2.3での変更  返事を書く  ノートメニュー
白石 和夫 <ynwythjfwu> 2008/05/10 13:54:06
Ver 7.2.4での変更
Ver. 7.2.2で2進モード,複素数モードでRND関数が53ビットの精度を持つように変更しましたが,
計算精度の関係で,n = 2049,4097, 4098, 8193などのときには,
RND関数が最大の値を取るとINT(n*RND)=nとなってしまうことが判明しました。
精度を52ビットに落とし,(つまり,最大数を小さくして)
通常利用の範囲で自然数nに対してINT(n*RND)<nとなるようにしました。


 インデックスへ  EXIT
新規発言を反映させるにはブラウザの更新ボタンを押してください。