C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト


■85970 / )  Re[5]: 指数表記された文字列の数値変換方法について
□投稿者/ Hongliang (578回)-(2017/12/06(Wed) 11:59:52)
> ・BigDecimalの演算はAdd、Subtract、Multiply、Divideのメソッドを使用しないとだめなのでしょうか?
>  下記の結果だと、Subtractを使用すると指数表記無しで、*だと指数表記なのも気になります。

前提として、Decimalと同様に、BigDecimalも有効桁数の概念を持っています。
つまり、100と1.0E+2と1.000E+2はそれぞれ異なる内部表現を持っています。

さて、BigDecimal.Multiply(BigDecimal)は、それぞれの仮数部を乗じ、それに指数部の和をくっつけて演算終了です。
今回の場合、b1, b2はいずれも指数部が0(1)なので、b1.Multiply(b2)も指数部は0のままです。
計算結果の有効桁数(=仮数部の桁数)は10桁になりますね。

一方 * 演算子の場合、内部でBigDecimal.Multiply(BigDecimal, MathContext)を呼び出します。
MathContextは有効桁数などの情報を保持するオブジェクトで、a * bの場合、aの有効桁数が使用されます。
BigDecimal.Multiply(BigDecimal, MathContext)は、まずBigDecimal.Multiply(BigDecimal)を行った後、MathContextで指定された有効桁数に丸める処理を行います。
今回の場合、b1が有効数字3桁なので、演算結果は有効数字3桁に丸められてしまいました。

> ・指数表記の値をToXXで変換するとエラーが発生するのですが、回避策などありますでしょか?

BigDecimalは、実はDecimalへの型変換は明示暗黙問わずサポートしていないようです。
(Int16, Int32, Int64, Single, Double, BigInteger, Stringへの暗黙の型変換が定義されている)
(Decimal)b3 という変換は、実はInt64への暗黙の型変換が間に挟まります。

で、ToDecimalは、指数部が1以上持つ値に対するケアができていない、ただの実装バグに見えますね。
回避策は…UnscaledValue, Scaleとかで自前計算するとか。
返信 編集キー/


管理者用

- Child Tree -