C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.54131 の関連記事表示

<< 0 >>
■54131  Re[2]: VB6.0 Int関数を使用しての切り捨て処理について
□投稿者/ ペケ -(2010/10/06(Wed) 09:20:52)
    No54123 (やじゅ さん) に返信
    やじゅさん、ご回答ありがとうございます。

    > コンピュータは2進数で計算しているので、その誤差ですね。基本情報で習うはず。
    そうなんですか。
    自分、この業界に未経験で入り、その辺りの知識が欠落してるのです。
    ※本来勉強しないといけないと思いますが。


    > ちなみに、少数→小数です。
    ぐふぅ。
    IMEが悪いということにしておいてください。


    > dobule型を使わずに、decimal型を使えば0.085Dという値になります。
    > VB6は、decimal型を指定できないのでCurrency型ですね。
    vb.netではdecimal型を使っていたんですが、なるほど、VB6はCurrency型を
    使うのですね。


    > 第4回 演算誤差の正体
    > http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.shtml
    自分の中でモヤがかかっていた部分の回答をいただけた気がします。
    ありがとうございました。


記事No.54121 のレス /過去ログ91より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -