Re: double の比較
In article <bj3o18$ik7$1@caraway.media.kyoto-u.ac.jp>,
"Atsushi Hattori" <hattori@sme.kuciv.kyoto-u.ac.jp> writes:
> 服部と申します。
>
> doubleの数値を比較、というより、==の場合を考えたい
> のですが、何かいい方法はありませんでしょうか。
>
> パソコンだと、プラスマイナス10^-14倍ぐらいで==と見る、
> とかでしょうか。
>
> パソコンと大型計算機で仕様を変えなければならない
> でしょうか。
>
> 具体的には、「同じ座標ならば」という条件式を書きたい
> のです。
範囲を絶対値にすると、小さい値が比較できませんね。
方法としては、CPU(コンパイラ)の仕様で変更がある方法なので、賛否あると
思いますが、(指数は同一として)仮数のnビット(doubleの精度により決定)を
比較するというのはいかがでしょう。
--
___ わしは、山吹色のかすてーらが大好きでのぅ
[[o o]] ふぉっふぉっふぉ
'J' 森下 お代官様 MaNMOS 英夫@ステラクラフト
PGP Finger = CD EA D5 A8 AD B2 FE 7D 02 74 87 52 7C B7 39 37
Fnews-brouse 1.9(20180406) -- by Mizuno, MWE <mwe@ccsf.jp>
GnuPG Key ID = ECC8A735
GnuPG Key fingerprint = 9BE6 B9E9 55A5 A499 CD51 946E 9BDC 7870 ECC8 A735