C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト


■84079 / )  Re[7]: 有効桁数3桁まででJIS丸めがしたい
□投稿者/ hihijiji (3回)-(2017/05/13(Sat) 10:31:46)
いえそうではなく、例えば

1.11495 の入力があった場合
↓   少数5位が四捨五入されて
1.1150e-00
↓   少数3位が偶数丸めされて
1.12
の出力が返ってきます。
題意からは1.11が返ってくるべきですので、このケースでは答えがあいません。
ただし、確率的にはこんなケースは少なく有効数字3桁なら少数2位は誤差を含むため実用上は問題ないはずです。
.ToString("0.00e00")にすると、誤差以前に少数3位が四捨五入されますので題意からは完全に外れます。
返信 編集キー/


管理者用

- Child Tree -