C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.85970 の関連記事表示

<< 0 >>
■85970  Re[5]: 指数表記された文字列の数値変換方法について
□投稿者/ Hongliang -(2017/12/06(Wed) 11:59:52)
    > ・BigDecimalの演算はAdd、Subtract、Multiply、Divideのメソッドを使用しないとだめなのでしょうか?
    >  下記の結果だと、Subtractを使用すると指数表記無しで、*だと指数表記なのも気になります。

    前提として、Decimalと同様に、BigDecimalも有効桁数の概念を持っています。
    つまり、100と1.0E+2と1.000E+2はそれぞれ異なる内部表現を持っています。

    さて、BigDecimal.Multiply(BigDecimal)は、それぞれの仮数部を乗じ、それに指数部の和をくっつけて演算終了です。
    今回の場合、b1, b2はいずれも指数部が0(1)なので、b1.Multiply(b2)も指数部は0のままです。
    計算結果の有効桁数(=仮数部の桁数)は10桁になりますね。

    一方 * 演算子の場合、内部でBigDecimal.Multiply(BigDecimal, MathContext)を呼び出します。
    MathContextは有効桁数などの情報を保持するオブジェクトで、a * bの場合、aの有効桁数が使用されます。
    BigDecimal.Multiply(BigDecimal, MathContext)は、まずBigDecimal.Multiply(BigDecimal)を行った後、MathContextで指定された有効桁数に丸める処理を行います。
    今回の場合、b1が有効数字3桁なので、演算結果は有効数字3桁に丸められてしまいました。

    > ・指数表記の値をToXXで変換するとエラーが発生するのですが、回避策などありますでしょか?

    BigDecimalは、実はDecimalへの型変換は明示暗黙問わずサポートしていないようです。
    (Int16, Int32, Int64, Single, Double, BigInteger, Stringへの暗黙の型変換が定義されている)
    (Decimal)b3 という変換は、実はInt64への暗黙の型変換が間に挟まります。

    で、ToDecimalは、指数部が1以上持つ値に対するケアができていない、ただの実装バグに見えますね。
    回避策は…UnscaledValue, Scaleとかで自前計算するとか。
記事No.85832 のレス /過去ログ147より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -