Re: 小数点形式の場合は、
岡本@松山 です.
最初のお仕事はFORTRANでした.
----------------------------------------------------------------------
In article <dtci1l$mtb$1@news511.nifty.com>, dorayama@ka.baynet.ne.jp says...
>
>有効数字の桁数を一定として
> 扱っているため、落ちたけたの部分には 0 が埋められ、
> 実際の値(真値)との間に誤差が生じてしまいます。
>
> わずかな誤差であっても、その後別の乗算を行ったりすると
> 誤差が大きくなってしまい、正しい演算結果が得られなくなります。
浮動小数点だと,加減算に気を使いますよね. できれば使いたくない.
24ビットなコンピュータで12MBとかのメモリでやってた頃は,
倍精度に代入してから計算したり,絶対値の小さ#そうな#奴から処理する
とかやってました.
今だと,IMPLICIT DOUBLE と書いてコンパイルするだけで良さそう
に見えますけど,
EQUIVALENCE(DATA(1),JATA(1))
と書いてたりしてるとダメダメです.
----------------------------------------------------------------------
ぢゃ (^^)/~~ 岡本 祐二 okamotoy@mx36.tiki.ne.jp -[終]-
# 次期fj-NGMC選挙,ただいま投票期間中です!!
## fj.news.policy をご覧下さい.
Fnews-brouse 1.9(20180406) -- by Mizuno, MWE <mwe@ccsf.jp>
GnuPG Key ID = ECC8A735
GnuPG Key fingerprint = 9BE6 B9E9 55A5 A499 CD51 946E 9BDC 7870 ECC8 A735