C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト

■84115 / 14階層)  有効桁数3桁まででJIS丸めがしたい
□投稿者/ AI (8回)-(2017/05/16(Tue) 14:41:32)
2017/05/16(Tue) 14:42:33 編集(投稿者)
2017/05/16(Tue) 14:42:26 編集(投稿者)

魔界の仮面弁士さん、ご回答ありがとうございます!

> (1) JIS Z 8401:1999 の規則 A(偶数丸めとか銀行丸めとか五捨五入と呼ばれる動作)
> (2) JIS Z 8401:1999 の規則 B(いわゆる四捨五入)
> (3) 上記以外

やりたかった処理は、

(1) JIS Z 8401:1999 の規則 A(偶数丸めとか銀行丸めとか五捨五入と呼ばれる動作)

の処理です。

JisRound(12.25 , 3) → 12.2 になるのは理解できていたのですが、
JisRound(12.251, 3) → 12.3 になるのは、

> JIS丸めで例示されている 12.251 →12.3 は規則B(四捨五入)のことですね。

このような記載があったので、規則Aでは結果が「12.2」となるんじゃないかと
勝手に思い込んでしまい、質問させていただきました。

> 12.251 は、規則 A でも B でも「12.3」になります。
> 12.250 は、規則 A では「12.2」、規則 B では「12.3」です。

> 有効桁数 3 桁で丸めたときに「12.3」になる十進小数の範囲:

> 【規則 A (ToEven) の場合】
> 12.250000000000000000000000001D 以上
> 12.349999999999999999999999999D 以下

> 【規則 B (AwayFromZero) の場合】
> 12.250000000000000000000000000D 以上
> 12.349999999999999999999999999D 以下


> 有効桁数 3 桁で丸めたときに「12.2」になる十進小数の範囲:

> 【規則 A (ToEven) の場合】
> 12.150000000000000000000000000D 以上
> 12.250000000000000000000000000D 以下

> 【規則 B (AwayFromZero) の場合】
> 12.150000000000000000000000000D 以上
> 12.249999999999999999999999999D 以下

そもそも規則AのJIS丸めの仕様が把握できていませんでした。
テストを再度実行し、上記のようになる事を確認させていただきました。

今回の件で、丸め処理がたくさんあるという事が分かり、
とても参考になりました。
どうもありがとうございました。


解決済み
編集キー/

前の記事(元になった記事) 次の記事(この記事の返信)
←Re[13]: 有効桁数3桁まででJIS丸めがしたい /魔界の仮面弁士 返信無し
 
上記関連ツリー

有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 14:53) #84065
Re[1]: 有効桁数3桁まででJIS丸めがしたい / Jitta (17/05/12(Fri) 15:18) #84066
│└ Re[2]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 15:35) #84067
Re[1]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/12(Fri) 16:29) #84069
    └ Re[3]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/12(Fri) 16:17) #84068
      └ Re[4]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 17:24) #84071
        └ Re[5]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/12(Fri) 18:17) #84075
          └ Re[6]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 19:08) #84077
            └ Re[7]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/13(Sat) 10:31) #84079
              └ Re[8]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/13(Sat) 11:14) #84080
                └ Re[9]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/13(Sat) 11:40) #84081
                  └ Re[10]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/13(Sat) 22:04) #84084
                    └ Re[11]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/15(Mon) 18:03) #84093
                      ├ Re[12]: 有効桁数3桁まででJIS丸めがしたい / furu (17/05/15(Mon) 18:25) #84094
                      │└ Re[13]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/16(Tue) 14:39) #84114
                      └ Re[12]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/15(Mon) 19:44) #84097
                        └ Re[13]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/16(Tue) 09:37) #84101
                          └ 有効桁数3桁まででJIS丸めがしたい / AI (17/05/16(Tue) 14:41) #84115 解決済み ←Now

上記ツリーを一括表示 / 上記ツリーをトピック表示
 
上記の記事へ返信