604. Re: INT 関数の使い方について


番号順一覧Top スレッド順一覧Top
作者: Bruce.
日時: 2005/10/08(23:33)
Bruce.です。

藤岡和夫 さんは書きました (2005/10/08 21:41):

>     printf "\$n = %f -> %s 1/\$n = %.20f \$b = %.20f \n", $n, $eq, 1/$n, $b;

さすがに printf は bignum を use してもオーバーライドされていないのでは?

といってもデフォルトの精度で文字列化したものを出力しているとも
思えないから、BigFloat→double→printfで出力?

で、結果に関してはあくまでも有限精度でやっている以上、無限小数や
循環小数が商で現れると打切り誤差が発生していると思うのですが。
打切り誤差が一回出たものをどういじっても誤差は残ったままと。

-- 
木村浩一
  I thought what I'd do was, I'd pretend I was one of those deaf-mutes.
  mail kbk@...
	web  www.kt.rim.or.jp/~kbk/index.html#zakkicho
	     homepage3.nifty.com/farstar/
前の発言: 603. Re: INT 関数の使い方について [藤岡和夫] 2005/10/08(21:59)
後の発言: 605. Re: INT 関数の使い方について [藤岡和夫] 2005/10/09(00:00)
親発言: 601. Re: INT 関数の使い方について [藤岡和夫] 2005/10/08(21:41)
子発言: 605. Re: INT 関数の使い方について [藤岡和夫] 2005/10/09(00:00)