C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.26842 の関連記事表示

<< 0 >>
■26842  Re[18]: 四捨五入でバグ発見
□投稿者/ ラウンドワン -(2008/10/22(Wed) 06:19:20)
    doubleを使った場合に近似値で処理されるのがしょうがないというのが
    プログラマーの常識ということを知れたのは勉強になりましたが

    下記プログラムののdoubleをdecimalに修正すれば、正常に動作するみたいなのですが
    なぜdoubleを使っているのでしょうか
    これには、何か理由があるのでしょうか。



    Public Shared Function ToHalfAdjust(ByVal dValue As Double, ByVal iDigits As Integer) As Double
    Dim dCoef As Double = System.Math.Pow(10, iDigits)

    If dValue > 0 Then
    Return System.Math.Floor ((dValue * dCoef) + 0.5) / dCoef
    Else
    Return System.Math.Ceiling((dValue * dCoef) - 0.5) / dCoef
    End If
    End Function


記事No.26728 のレス /過去ログ49より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -