| ■No78071 (タカタ さん) に返信 > ありがとうございます。加算されていく様子が確認できました。 > > しかし、加算しているはずなので、途中から sumY の値が 下がる現象が見られました、、、 > > fn(Ti) の式がおかしいのですかね、、、 fn(Ti) の値は見ている限りでは、常に + の値を出しているのですが、、、
sumY の値に、fn(Ti) の結果を足すと、Int32 の扱える最大値(2,147,483,647=0x7FFFFFFF) を超える値になりませんか? fn(T) が返す値とその総和が上記の最大値を超えるなら、それを扱える数値型を使う必要があります。
現在のコンピュータの整数演算は基本的に有限値しか扱えません。 Int64(9,223,372,036,854,775,807=0x7FFFFFFFFFFFFFFF) を使うか さらに大きな値(物理メモリの制限のみ受ける)BigInteger 型を使うことになります。
|