C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.84081 の関連記事表示

<< 0 >>
■84081  Re[9]: 有効桁数3桁まででJIS丸めがしたい
□投稿者/ hihijiji -(2017/05/13(Sat) 11:40:47)
    魔界の仮面弁士さん お世話になってます。
    魔界の仮面弁士さんの書き込みには何度も助けられました。
    レスを貰えて嬉しいです。

    本題ですが、
    1.125を小数3位で偶数丸め(JIS丸め)すると1.12になりますが、四捨五入すると1.13になります。
    入力桁数が求める桁数より多い場合には、偶数丸めと四捨五入は5%の確率で違いがでます。
    もちろん有効数字を扱う以上、5%の確率で最小桁が違っても実用上支障はないはずです。
    しかし題意とは違ってしまいます。
    そこで2回に分けて変換を行って題意に沿った(偶数丸めを行った)回答しました。
記事No.84065 のレス /過去ログ143より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -