C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト


■84081 / )  Re[9]: 有効桁数3桁まででJIS丸めがしたい
□投稿者/ hihijiji (4回)-(2017/05/13(Sat) 11:40:47)
魔界の仮面弁士さん お世話になってます。
魔界の仮面弁士さんの書き込みには何度も助けられました。
レスを貰えて嬉しいです。

本題ですが、
1.125を小数3位で偶数丸め(JIS丸め)すると1.12になりますが、四捨五入すると1.13になります。
入力桁数が求める桁数より多い場合には、偶数丸めと四捨五入は5%の確率で違いがでます。
もちろん有効数字を扱う以上、5%の確率で最小桁が違っても実用上支障はないはずです。
しかし題意とは違ってしまいます。
そこで2回に分けて変換を行って題意に沿った(偶数丸めを行った)回答しました。
返信 編集キー/


管理者用

- Child Tree -