C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

掲示板トップ C# と VB.NET 入門 新規作成 利用方法 ツリー表示 トピック表示 ランキング 記事検索 過去ログ
ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.89982 の関連記事表示

<< 0 >>
■89982 　Re[3]: クラス内にFunctionを作る方法
□投稿者/ キングダム -(2019/01/27(Sun) 13:56:50)
    ■No89979 (かめかめ さん) に返信

    浮動小数点数を比較するときは有効な最小値を決めて
    比較する2つの値の差が最小値以下だったらその差を誤差として2つの数字を
    同じとみなすというやり方が一般的です

    有効な最小値にはマシンイプシロンがよく使われるので
    Math.Abs(value - 0F) < Single.Epsilon
    こうしました

    しかし、回答後に調べたところでは
    Single.Epsilonとマシンイプシロンは違うものでした

    Single.Epsilonは0より大きい最小値で
    マシンイプシロンは1より大きい最小値と1との差です

    Single.Epsilonは比較の最小値を決めるときに
    これよりは大きな値にしないと意味ないよというもののようで
    これ自体を比較の最小値にするのは不適切みたいです

    Single型は単精度浮動小数点数を表して
    単精度浮動小数点数のマシンイプシロンは2^-23なので

    Math.Abs(value - 0F) < 0.0000001192093F

    でいんじゃないかなと思いました
記事No.89977 のレス /過去ログ155より / 関連記事表示
削除チェック/



<< 0 >>
パスワード/

- Child Tree -