C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト


■92856 / )  FloorとCeilingの有効桁数に関して
□投稿者/ ぬこ (1回)-(2019/11/02(Sat) 23:18:10)

分類:[.NET 全般] 

FloorとCeilingの有効桁数に関して教えてください。



Dim hh2 As Integer = CInt(Math.Floor(4.0! / 2))
Dim hh3 As Integer = CInt(Math.Floor(6.0! / 2))


Dim hh5 As Integer = CInt(Math.Ceiling(4.0! / 2))
Dim hh6 As Integer = CInt(Math.Ceiling(6.0! / 2))


を実行すると、
hh2とhh5は2
hh3とhh6は3
となります。

SingleやDoubleは

Integerとは異なり、
1.99999992
や3.0000002
のような綺麗な整数ではない値をとるはずです。

そのため、FloorとCeilingの値は一致するはずがないと思うのですが、
なぜ、これらの値は一致するのでしょうか?

有効桁数のようなものが設定されているからなのでしょうか?



返信 編集キー/


管理者用

- Child Tree -