浮動小数点を16進数で表示したい チャン 2004/06/10 10:00:12 ├正規化という手法でできます。 哲 2004/06/10 14:02:26 ├正の数を前提として議論します。 白石 和夫 2004/06/10 18:26:26 ├正の数を対象として,整数部と小数部に分け... 白石 和夫 2004/06/10 18:34:56 └これは16進数表示にしたとき、 哲 2004/06/17 14:01:22
浮動小数点を16進数で表示したい チャン 2004/06/10 10:00:12 ツリーへ
浮動小数点を16進数で表示したい |
返事を書く |
チャン 2004/06/10 10:00:12 | |
浮動小数点を16進数(HEX)で表示するプログラムを作りたいが、 その換算法は分からないので、教えていただきませんか。 |
├正規化という手法でできます。 哲 2004/06/10 14:02:26 ツリーへ
Re: 浮動小数点を16進数で表示したい |
返事を書く |
哲 2004/06/10 14:02:26 | |
正規化という手法でできます。 16で割るを繰り返して残りの数値を求めることを繰り返します。 |
├正の数を前提として議論します。 白石 和夫 2004/06/10 18:26:26 ツリーへ
Re: 浮動小数点を16進数で表示したい |
返事を書く |
白石 和夫 2004/06/10 18:26:26 | |
正の数を前提として議論します。 まず,整数部分と小数部分に分割します。 整数部分を16進表示する方法は既知かと思います。 小数部分を16倍して,整数部分を取り出せば,それが小数第1位の数です。 その小数部分だけ取り出して,16倍すれば,その整数部分が小数第2位です。 以下,同様です。 |
├正の数を対象として,整数部と小数部に分け... 白石 和夫 2004/06/10 18:34:56 ツリーへ
Re: 浮動小数点を16進数で表示したい |
返事を書く |
白石 和夫 2004/06/10 18:34:56 | |
正の数を対象として,整数部と小数部に分けてからはじめるのは同じですが,1/16,1/16^2,1/16^3,・・・で順に割っていってもできます。 小数部を1/16で割ったときの商が小数第1位です。 次にその余りを1/16^2で割ったときの商が小数第2位です。 BASICでは,xをyで割った商はINT(x/y)で求まります。 余りは,MOD(x,y)です。 |
└これは16進数表示にしたとき、 哲 2004/06/17 14:01:22 ツリーへ
Re: 浮動小数点を16進数で表示したい |
返事を書く |
哲 2004/06/17 14:01:22 | |
これは16進数表示にしたとき、 16進数の浮動小数点表記にする必要があるのでしょうか? |