C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.88786 の関連記事表示

<< 0 >>
■88786  Re[5]: 大きな数値のcsvファイルへの書き込み
□投稿者/ 魔界の仮面弁士 -(2018/09/27(Thu) 12:44:29)
    No88784 (furu さん) に返信
    > Excelが見やすいように機能としてEの表記にしているだけで
    > 内部のデータは桁落ちしていません。

    Excel も、やはり 15 桁程度で桁落ちします。たとえば、
    12345678901234567890 と書いたとしても、
    12345678901234500000 に丸められたりします。

    ※内部データが倍精度浮動小数点数(計算式では一部多倍長浮動小数点数)らしいです。


    その他の数値型の有効桁数

    16bit 整数型… 約 4.81647993062 桁 (Int16/UInt16)
    32bit 整数型… 約 9.63295986125 桁 (Int32/UInt32)
    64bit 整数型… 約 19.2659197225 桁 (Int64/UInt64)
    Decimal 型…… 約 28.8988795837 桁 (96bit に相当)



    *.csv をダブルクリックして Excel を関連付け起動するのではなく、
    Excel の[データ]-[外部データ取り込み]-[テキストファイル]で読み取り、
    ウィザード内で列のデータ形式を「G/標準」から「文字列」に変更しておくことで、
    元のデータを維持して表示することができます。
    (その代わり、数値として扱える有効桁数が変わるわけでは無いですが)


    *.csv をダブルクリックしたときに、Excel で表示されることを優先するなら
     sr.WriteLine("=""12345678901234567890""")
    のようにするという手もあります。
    CSV データとして扱うには都合が悪くなるので、実用的では無いですが。
記事No.88771 のレス / END /過去ログ153より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -