C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト

■85970 / 5階層)  指数表記された文字列の数値変換方法について
□投稿者/ Hongliang (578回)-(2017/12/06(Wed) 11:59:52)
> ・BigDecimalの演算はAdd、Subtract、Multiply、Divideのメソッドを使用しないとだめなのでしょうか?
>  下記の結果だと、Subtractを使用すると指数表記無しで、*だと指数表記なのも気になります。

前提として、Decimalと同様に、BigDecimalも有効桁数の概念を持っています。
つまり、100と1.0E+2と1.000E+2はそれぞれ異なる内部表現を持っています。

さて、BigDecimal.Multiply(BigDecimal)は、それぞれの仮数部を乗じ、それに指数部の和をくっつけて演算終了です。
今回の場合、b1, b2はいずれも指数部が0(1)なので、b1.Multiply(b2)も指数部は0のままです。
計算結果の有効桁数(=仮数部の桁数)は10桁になりますね。

一方 * 演算子の場合、内部でBigDecimal.Multiply(BigDecimal, MathContext)を呼び出します。
MathContextは有効桁数などの情報を保持するオブジェクトで、a * bの場合、aの有効桁数が使用されます。
BigDecimal.Multiply(BigDecimal, MathContext)は、まずBigDecimal.Multiply(BigDecimal)を行った後、MathContextで指定された有効桁数に丸める処理を行います。
今回の場合、b1が有効数字3桁なので、演算結果は有効数字3桁に丸められてしまいました。

> ・指数表記の値をToXXで変換するとエラーが発生するのですが、回避策などありますでしょか?

BigDecimalは、実はDecimalへの型変換は明示暗黙問わずサポートしていないようです。
(Int16, Int32, Int64, Single, Double, BigInteger, Stringへの暗黙の型変換が定義されている)
(Decimal)b3 という変換は、実はInt64への暗黙の型変換が間に挟まります。

で、ToDecimalは、指数部が1以上持つ値に対するケアができていない、ただの実装バグに見えますね。
回避策は…UnscaledValue, Scaleとかで自前計算するとか。
編集キー/

前の記事(元になった記事) 次の記事(この記事の返信)
←Re[4]: 指数表記された文字列の数値変換方法について /たかじ →Re[6]: 指数表記された文字列の数値変換方法について /魔界の仮面弁士
 
上記関連ツリー

指数表記された文字列の数値変換方法について / たかじ (17/11/28(Tue) 17:28) #85832
Re[1]: 指数表記された文字列の数値変換方法について / WebSurfer (17/11/28(Tue) 18:07) #85833
Re[1]: 指数表記された文字列の数値変換方法について / 魔界の仮面弁士 (17/11/29(Wed) 09:42) #85853
  └ Re[2]: 指数表記された文字列の数値変換方法について / たかじ (17/11/30(Thu) 16:33) #85904 解決済み
    └ Re[3]: 指数表記された文字列の数値変換方法について / 魔界の仮面弁士 (17/12/01(Fri) 11:13) #85915 解決済み
      └ Re[4]: 指数表記された文字列の数値変換方法について / たかじ (17/12/06(Wed) 10:14) #85967
        ├ Re[5]: 指数表記された文字列の数値変換方法について / 魔界の仮面弁士 (17/12/06(Wed) 13:31) #85971
        └ 指数表記された文字列の数値変換方法について / Hongliang (17/12/06(Wed) 11:59) #85970 ←Now
          └ Re[6]: 指数表記された文字列の数値変換方法について / 魔界の仮面弁士 (17/12/06(Wed) 14:16) #85972
            └ Re[7]: 指数表記された文字列の数値変換方法について / たかじ (17/12/07(Thu) 19:00) #85999 解決済み

上記ツリーを一括表示 / 上記ツリーをトピック表示
 
上記の記事へ返信