C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト


(過去ログ 49 を表示中)
■26729 / )  Re[1]: 四捨五入でバグ発見
□投稿者/ 774RR (227回)-(2008/10/20(Mon) 08:55:47)
バグといったら誤解を招きかねないな。
これは Double つまり二進表現による浮動小数点数を使う場合には不可避な
「精度」というか「表現力」の違いでしかない。
555.555 は二進数表現では無限桁が必要な循環小数になり、
プログラムの内部では5.55554999999999949e+002と扱われているわけだ。
四捨五入の結果は正しい。
返信 編集キー/


管理者用

- Child Tree -