C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.75943 の関連記事表示

<< 0 >>
■75943  Re[1]: decimal以上の小数部を扱うには?
□投稿者/ しま -(2015/05/20(Wed) 02:25:01)
    No75940 (nobb さん) に返信
    > 現在とある計算ツールを作成しています。
    > その中で、「分数の計算結果を小数点以下31桁目を切り捨て30桁止め」としなければならなくなってしまいました。
    > # この条件はお役所が決めたことですので変更できません。
    > C#においてdecimalの範囲以上の小数部の有効桁を実現するにはどの様な手段がありますでしょうか?
    > 何かいい手立てはありませんでしょうか?
    > 環境:Visual Studio 2013 Update4、.NET Framwork 4.5、C#

    小数点以下30桁の意味するところがどこにあるのかがよく判りません。
    第一、とてつもなく大きい数と、とてつもなく小さい数とを足したり、引いたりすれば
    (1.0E29 - 1.0E-29 など)表現可能な桁数(仮数が) 60 桁以上なければ表現できないと思います。
    更に、分数の結果といっても、絶対値で 1 未満の数値になる保障はないので整数部の桁数も含めて
    有効桁数や、絶対値で最大の数値や絶対値で最小の数値をどこまで表現(又は保持)すべきなのかが
    明らかでないと適切な数値の表現形式は探せないように思いますが、間違っていますか。
記事No.75940 のレス /過去ログ128より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -