619. Re: 浮動小数点アレルギー


番号順一覧Top スレッド順一覧Top
作者: Zazel
日時: 2005/10/13(00:08)
Zazelです。
さすがに勘定系でperlを使ったりしないわけで。

=== dune <FZH01112@...> さんが書かれた
=== <200510121343.j9CDhMwi027683@...> にて

> ↑この通貨型とか 10 進型ってのが perl(のモジュール)にも欲しぃ。
> それとも単に自分が量子化誤差アレルギーになってるだけなのかなぁ。

Math::FixedPrecision とか試してみたらどうでしょうか。

私は詳しくないけど、ちょっと試した感じではそれなりでしたよ。
0.1を100回足したら9.999.. ではなく10.0 になったし。

(* SEKI Masatoshi  //  Zazel                      *)
(*  Would you hold my hand? Softly, let's linger. *)
前の発言: 618. 浮動小数点アレルギー [dune] 2005/10/12(22:43)
後の発言: 620. シンボリックリファレンス [Bruce.] 2005/11/16(09:32)
親発言: 618. 浮動小数点アレルギー [dune] 2005/10/12(22:43)
子発言: