C# と VB.NET の質問掲示板
ASP.NET、C++/CLI、Java 何でもどうぞ
C# と VB.NET の入門サイト
(過去ログ 45 を表示中)
掲示板トップ
C# と VB.NET のサンプル
新規作成
利用方法/規約
トピック表示
ランキング
記事検索
過去ログ
■24314
/ )
Re[1]: System.Doubleの取り得る範囲
□投稿者/ 魔界の仮面弁士
(834回)-(2008/09/01(Mon) 14:50:38)
■
No24305
(まる さん) に返信
> 「おおよその範囲」として次のように紹介されていますが、
有効数字/有効桁数の都合上、浮動小数点では、隣り合うデータの間隔が不均一になっています。
0 に近いエリアでは、.0000000000000005 のような細かい差異も保持されますが、
京や該など(絶対値の大きな値)では、小数点や整数部の下位桁は保持されません。
> ±5.0 × 10^{−324} to ±1.7 × 10^{308}
浮動小数点型では、「±」の部分と「5.0」の部分と「-324」の部分を、
別々に管理しているためです。
Double の場合、符号部 1ビット/小数部 52ビット/指数部 11ビットの
計64ビット(8バイト)で管理されています。
このあたりが参考になるかも。
http://salv.miscnotes.com/1998/03/vb5singledouble.php
http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0
返信
編集キー/
編集
管理者用
-
Child Tree
-