Re: double の比較
竹中@狛江.電中研です。
In article <030903172129.M0126274@flame.hirata.nuee.nagoya-u.ac.jp> takao@hirata.nuee.nagoya-u.ac.jp wrote on Wed, 3 Sep 2003 08:21:29 GMT:
> さらに「この条件では 0 と DBL_MIN は『十
>分近い』と判定されないが, それでいいのだろうか」という問題が発生
>して困っています.
計算途中の桁落ち等で0になるのは、どの程度かで決まるので、
計算機には分らないでしょう。人間が決めるしかない?
>そこまで考えると fabs(a - b) <= delta などの条件を追加することに
>なるわけですが, もっとスマートな方法ってないものかなぁ.
こうなるんでしょうけど、仕方ないのでは。
一番いい方法は、基準値が1.0のものをaとかbに選ぶ。
-----------------------------------------------------------------
電力中央研究所 電力システム部 竹中 清
- kiyos - kiyos - kiyos - kiyos - kiyos - kiyos - kiyos - kiyos -
takenaka@criepi.denken.or.jp
Fnews-brouse 1.9(20180406) -- by Mizuno, MWE <mwe@ccsf.jp>
GnuPG Key ID = ECC8A735
GnuPG Key fingerprint = 9BE6 B9E9 55A5 A499 CD51 946E 9BDC 7870 ECC8 A735