C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト

■84069 / 1階層)  有効桁数3桁まででJIS丸めがしたい
□投稿者/ 魔界の仮面弁士 (1273回)-(2017/05/12(Fri) 16:29:42)
No84065 (AI さん) に返信
> JIS丸め
JIS Z 8401 規則 A のことですかね。


> 例2. 1.234 → 1.234
3 桁にするなら、これは 1.23 になるべきなのでは?



> Dim Value as decimal

Decimal 型は、内部的に桁数情報を持っていますが、
それは考慮しないものと考えてよいですか?


'下記の 3 値は、いずれも 2.73 という値になる
'
Dim a As Decimal = CDec("1.230") + CDec("1.5")
Dim b As Decimal = CDec("1.23") + CDec("1.5")
Dim c As Decimal = CDec("1.23") + CDec("1.5000")

'いずれも同一の値として扱われるが、内部表現は異なっており、
'.ToString や .GetBits メソッドを呼び出した場合の結果が異なる
'
Console.WriteLine(a) '2.730  … 内部形式は 2730 * 10 ^ -3
Console.WriteLine(b) '2.73   … 内部形式は 273 * 10 ^ -2
Console.WriteLine(c) '2.7300 … 内部形式は 27300 * 10 ^ -4



> どのように求めれば良いのか分かりません。

手抜き実装:

Function 丸め(ByVal 値 As Decimal, ByVal 丸め桁数 As Byte) As Decimal
Return CDec(値.ToString("E" & (丸め桁数 - 1).ToString()))
End Function


> VB.net2005で開発をしております
蛇足ではありますが、2005 以降では .NET の名を冠さずに、
単に "Visual Basic 2005" のように呼ばれるようになっています。
(2003 までは "Visual Basic .NET 2003" などと呼ばれていましたが)

勿論、VB2005 も VB.NET であることには変わりないのですけれどね。
編集キー/

前の記事(元になった記事) 次の記事(この記事の返信)
←有効桁数3桁まででJIS丸めがしたい /AI 返信無し
 
上記関連ツリー

有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 14:53) #84065
Re[1]: 有効桁数3桁まででJIS丸めがしたい / Jitta (17/05/12(Fri) 15:18) #84066
│└ Re[2]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 15:35) #84067
有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/12(Fri) 16:29) #84069 ←Now
    └ Re[3]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/12(Fri) 16:17) #84068
      └ Re[4]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 17:24) #84071
        └ Re[5]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/12(Fri) 18:17) #84075
          └ Re[6]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/12(Fri) 19:08) #84077
            └ Re[7]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/13(Sat) 10:31) #84079
              └ Re[8]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/13(Sat) 11:14) #84080
                └ Re[9]: 有効桁数3桁まででJIS丸めがしたい / hihijiji (17/05/13(Sat) 11:40) #84081
                  └ Re[10]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/13(Sat) 22:04) #84084
                    └ Re[11]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/15(Mon) 18:03) #84093
                      ├ Re[12]: 有効桁数3桁まででJIS丸めがしたい / furu (17/05/15(Mon) 18:25) #84094
                      │└ Re[13]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/16(Tue) 14:39) #84114
                      └ Re[12]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/15(Mon) 19:44) #84097
                        └ Re[13]: 有効桁数3桁まででJIS丸めがしたい / 魔界の仮面弁士 (17/05/16(Tue) 09:37) #84101
                          └ Re[14]: 有効桁数3桁まででJIS丸めがしたい / AI (17/05/16(Tue) 14:41) #84115 解決済み

上記ツリーを一括表示 / 上記ツリーをトピック表示
 
上記の記事へ返信