C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

ログ内検索
  • キーワードを複数指定する場合は 半角スペース で区切ってください。
  • 検索条件は、(AND)=[A かつ B] (OR)=[A または B] となっています。
  • [返信]をクリックすると返信ページへ移動します。
キーワード/ 検索条件 /
検索範囲/ 強調表示/ ON (自動リンクOFF)
結果表示件数/ 記事No検索/ ON
大文字と小文字を区別する

No.78072 の関連記事表示

<< 0 >>
■78072  Re[3]: 演算について(C#)
□投稿者/ とっちゃん -(2015/12/11(Fri) 15:52:15)
    No78071 (タカタ さん) に返信
    > ありがとうございます。加算されていく様子が確認できました。
    >
    > しかし、加算しているはずなので、途中から sumY の値が 下がる現象が見られました、、、
    >
    > fn(Ti) の式がおかしいのですかね、、、 fn(Ti) の値は見ている限りでは、常に + の値を出しているのですが、、、

    sumY の値に、fn(Ti) の結果を足すと、Int32 の扱える最大値(2,147,483,647=0x7FFFFFFF) を超える値になりませんか?
    fn(T) が返す値とその総和が上記の最大値を超えるなら、それを扱える数値型を使う必要があります。

    現在のコンピュータの整数演算は基本的に有限値しか扱えません。
    Int64(9,223,372,036,854,775,807=0x7FFFFFFFFFFFFFFF) を使うか
    さらに大きな値(物理メモリの制限のみ受ける)BigInteger 型を使うことになります。

記事No.77967 のレス /過去ログ132より / 関連記事表示
削除チェック/



<< 0 >>

パスワード/

- Child Tree -