C# と VB.NET の質問掲示板
ASP.NET、C++/CLI、Java 何でもどうぞ
C# と VB.NET の入門サイト
(過去ログ 49 を表示中)
掲示板トップ
C# と VB.NET のサンプル
新規作成
利用方法/規約
トピック表示
ランキング
記事検索
過去ログ
■26729
/ )
Re[1]: 四捨五入でバグ発見
□投稿者/ 774RR
(227回)-(2008/10/20(Mon) 08:55:47)
バグといったら誤解を招きかねないな。
これは Double つまり二進表現による浮動小数点数を使う場合には不可避な
「精度」というか「表現力」の違いでしかない。
555.555 は二進数表現では無限桁が必要な循環小数になり、
プログラムの内部では5.55554999999999949e+002と扱われているわけだ。
四捨五入の結果は正しい。
返信
編集キー/
編集
管理者用
-
Child Tree
-