| ■54131 / ) |
Re[2]: VB6.0 Int関数を使用しての切り捨て処理について |
□投稿者/ ペケ (4回)-(2010/10/06(Wed) 09:20:52)
|
■No54123 (やじゅ さん) に返信
やじゅさん、ご回答ありがとうございます。
> コンピュータは2進数で計算しているので、その誤差ですね。基本情報で習うはず。
そうなんですか。
自分、この業界に未経験で入り、その辺りの知識が欠落してるのです。
※本来勉強しないといけないと思いますが。
> ちなみに、少数→小数です。
ぐふぅ。
IMEが悪いということにしておいてください。
> dobule型を使わずに、decimal型を使えば0.085Dという値になります。
> VB6は、decimal型を指定できないのでCurrency型ですね。
vb.netではdecimal型を使っていたんですが、なるほど、VB6はCurrency型を
使うのですね。
> 第４回 演算誤差の正体
> http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.shtml
自分の中でモヤがかかっていた部分の回答をいただけた気がします。
ありがとうございました。
|
|
