C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト


(過去ログ 45 を表示中)
■24314 / )  Re[1]: System.Doubleの取り得る範囲
□投稿者/ 魔界の仮面弁士 (834回)-(2008/09/01(Mon) 14:50:38)
No24305 (まる さん) に返信
> 「おおよその範囲」として次のように紹介されていますが、
有効数字/有効桁数の都合上、浮動小数点では、隣り合うデータの間隔が不均一になっています。

0 に近いエリアでは、.0000000000000005 のような細かい差異も保持されますが、
京や該など(絶対値の大きな値)では、小数点や整数部の下位桁は保持されません。


> ±5.0 × 10^{−324} to ±1.7 × 10^{308}
浮動小数点型では、「±」の部分と「5.0」の部分と「-324」の部分を、
別々に管理しているためです。

Double の場合、符号部 1ビット/小数部 52ビット/指数部 11ビットの
計64ビット(8バイト)で管理されています。

このあたりが参考になるかも。
http://salv.miscnotes.com/1998/03/vb5singledouble.php
http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0
返信 編集キー/


管理者用

- Child Tree -