623. Re: 浮動小数点アレルギー


番号順一覧Top スレッド順一覧Top
作者: Bruce.
日時: 2005/11/19(16:10)
Bruce.です。

490/4.9=99.99999 - Insider.NET
http://www.atmarkit.co.jp/bbs/phpBB/viewtopic.php?topic=26141&forum=7

で、浮動小数点数の計算誤差の話が盛り上がってます。

いじょ。
前の発言: 622. Re: シンボリックリファレンス [Bruce.] 2005/11/19(15:58)
後の発言: 624. Re: 浮動小数点アレルギー [Bruce.] 2005/12/21(11:08)
親発言: 618. 浮動小数点アレルギー [dune] 2005/10/12(22:43)
子発言: 624. Re: 浮動小数点アレルギー [Bruce.] 2005/12/21(11:08)