C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.84093 の関連記事表示

<< 0 >>
■84093  Re[11]: 有効桁数3桁まででJIS丸めがしたい
□投稿者/ AI -(2017/05/15(Mon) 18:03:08)
    No84084 (魔界の仮面弁士 さん) に返信

    魔界の仮面弁士さん、ご回答ありがとうございます!

    > 》 規則 A,B を 2 回以上使って丸めることは,誤差の原因となる。
    > 》 したがって,丸めは,常に 1 段階で 行わなければならない。
    > 》 例 12.251 は,12.3 と丸めるべきであって,まず 12.25 とし,次いで 12.2 としてはならない。
    >
    > 規則 A はいわゆる偶数丸め、規則 B は四捨五入のことです。
    > VB でいえば
    >
    >   規則 A … System.Math.Round(Decimal値, 小数部桁数, System.MidpointRounding.ToEven)
    >   規則 B … System.Math.Round(Decimal値, 小数部桁数, System.MidpointRounding.AwayFromZero)
    >
    > にあたりますので、JIS丸めで例示されている 12.251 →12.3 は規則B(四捨五入)のことですね。
    >
    >
    > ひとまず、規則 A / 規則 B の双方に対応した、
    > 『有効桁数』での丸め処理を作ってみました。
    >
    > No84065 で示された要件は満たしていると思います。
    > (例2 については、 No84069 で指摘したように記載ミスであると想定)
    >
    >
    > ''' <param name="digits">有効桁数(1〜29)</param>
    > Function JisRound(value As Decimal, Optional digits As Byte = 3, Optional mode As MidpointRounding = MidpointRounding.ToEven) As Decimal
    >   digits = Math.Max(1, Math.Min(29, digits))
    >   Dim fmt As String = StrDup(digits - 1, "#"c) & "0." & StrDup(29, "0"c) & "E0"
    >   Dim s() As String = value.ToString(fmt).Split("E"c)
    >   Dim a As Decimal = Math.Round(CDec(s(0)), 0, mode)
    >   Dim b As Integer = CInt(CDec(s(1)))
    >   Return CDec(String.Format("{0:0}E{1:D}", a, b))
    > End Function

    JisRound関数の作成、どうもありがとうございます。

    作成いただいた「JisRound」について、
    テストさせていただいたのですが、少し気になる事がありました。

    1. JisRound(1.11495, 3) → 1.11 ※No84079の値で確認
    2. JisRound(1.125 , 3) → 1.12 ※No84081の値で確認
    3. JisRound(12.251 , 3) → 12.3 ※No84084の値で確認
    4. JisRound(12.25 , 3) → 12.2

    となってしまいます。

    1と2では欲しい結果になっていると思いますが、
    3と4で両方の結果が異なる理由がよく分かりません。
    おそらく「12.2」になれば正解だと思うのですが...
    この値を求める事はできないのでしょうか。

    試しに、以下のコートを実行してみました。
    System.Math.Round(12.251, 1, System.MidpointRounding.ToEven) → 12.3
    System.Math.Round(12.25 , 1, System.MidpointRounding.ToEven) → 12.2

    アドバイスの程、どうぞよろしくお願いします。

記事No.84065 のレス /過去ログ143より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -