C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト

■84114 / 13階層)  有効桁数3桁まででJIS丸めがしたい
□投稿者/ AI (7回)-(2017/05/16(Tue) 14:39:55)
No84094 (furu さん) に返信
> ■No84093 (AI さん) に返信
>>System.Math.Round(12.251, 1, System.MidpointRounding.ToEven) → 12.3
>>System.Math.Round(12.25 , 1, System.MidpointRounding.ToEven) → 12.2
>
> 12.251は12.2よりも12.3に近いので12.3であってると思います。
> 12.25は12.2と12.3のどっちも0.05だけ違うので
> 偶数である12.2になる。

furu さん、ご回答ありがとうございます!

「JIS丸め」の考え方が、間違っていました。

> System.Math.Round(12.251, 1, System.MidpointRounding.ToEven) → 12.3
> System.Math.Round(12.25 , 1, System.MidpointRounding.ToEven) → 12.2

上記のようになるのが正解ですね。

「12.251」の有効桁数3桁でJIS丸めした結果が
「12.2」が正解だと思い込んでいたのが間違いでした。
正しくは「12.3」ですね。

ご指摘どうもありがとうございました。


編集キー/

前の記事(元になった記事) 次の記事(この記事の返信)
←Re[12]: 有効桁数3桁まででJIS丸めがしたい /furu 返信無し
 
上記関連ツリー

有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 14:53) #84065
Re[1]: 有効桁数3桁まででJIS丸めがしたい / Jitta (17/05/12(Fri) 15:18) #84066
│└ Re[2]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 15:35) #84067
Re[1]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/12(Fri) 16:29) #84069
    └ Re[3]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/12(Fri) 16:17) #84068
      └ Re[4]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 17:24) #84071
        └ Re[5]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/12(Fri) 18:17) #84075
          └ Re[6]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 19:08) #84077
            └ Re[7]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/13(Sat) 10:31) #84079
              └ Re[8]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/13(Sat) 11:14) #84080
                └ Re[9]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/13(Sat) 11:40) #84081
                  └ Re[10]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/13(Sat) 22:04) #84084
                    └ Re[11]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/15(Mon) 18:03) #84093
                      ├ Re[12]: 有効桁数3桁まででJIS丸めがしたい / furu (17/05/15(Mon) 18:25) #84094
                      │└ 有効桁数3桁まででJIS丸めがしたい / AI (17/05/16(Tue) 14:39) #84114 ←Now
                      └ Re[12]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/15(Mon) 19:44) #84097
                        └ Re[13]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/16(Tue) 09:37) #84101
                          └ Re[14]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/16(Tue) 14:41) #84115 解決済み

上記ツリーを一括表示 / 上記ツリーをトピック表示
 
上記の記事へ返信