C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.54264 の関連記事表示

<< 0 >>
■54264  Re[3]: Decimal型の情報落ちについて
□投稿者/ ミラ -(2010/10/12(Tue) 12:28:47)
    解決済みですが
    信頼していたDecimalさんについてなので割り込ませてください

    ・提示されているコードについて
    こちらの環境(Framework2.0)で試したところ

    ans = 1000000000000.0000000000000001D

    となりましたがこれの何が問題となっているのか
    パウさんが提示する問題の本質について詳しく教えてください

    ・Decimal型の情報落ちについて
    私の知ってるものは
    Dim dec3 As Decimal = 1
    dec3 = dec3 / 3
    dec3 = dec3 * 3

    dec3 = 0.9999999999999999999999999999D

    これ以外にもDecimal型で注意しなければいけないものってあれば教えてください
記事No.54243 のレス /過去ログ91より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -