C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.84079 の関連記事表示

<< 0 >>
■84079  Re[7]: 有効桁数3桁まででJIS丸めがしたい
□投稿者/ hihijiji -(2017/05/13(Sat) 10:31:46)
    いえそうではなく、例えば

    1.11495 の入力があった場合
    ↓   少数5位が四捨五入されて
    1.1150e-00
    ↓   少数3位が偶数丸めされて
    1.12
    の出力が返ってきます。
    題意からは1.11が返ってくるべきですので、このケースでは答えがあいません。
    ただし、確率的にはこんなケースは少なく有効数字3桁なら少数2位は誤差を含むため実用上は問題ないはずです。
    .ToString("0.00e00")にすると、誤差以前に少数3位が四捨五入されますので題意からは完全に外れます。
記事No.84065 のレス /過去ログ143より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -