作者: Bruce. | |
日時: 2005/10/08(23:33) |
Bruce.です。 藤岡和夫 さんは書きました (2005/10/08 21:41): > printf "\$n = %f -> %s 1/\$n = %.20f \$b = %.20f \n", $n, $eq, 1/$n, $b; さすがに printf は bignum を use してもオーバーライドされていないのでは? といってもデフォルトの精度で文字列化したものを出力しているとも 思えないから、BigFloat→double→printfで出力? で、結果に関してはあくまでも有限精度でやっている以上、無限小数や 循環小数が商で現れると打切り誤差が発生していると思うのですが。 打切り誤差が一回出たものをどういじっても誤差は残ったままと。 -- 木村浩一 I thought what I'd do was, I'd pretend I was one of those deaf-mutes. mail kbk@... web www.kt.rim.or.jp/~kbk/index.html#zakkicho homepage3.nifty.com/farstar/