C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト

Re[6]: 数値の小数点について

分類:[.NET 全般]　

ある値Xを求めるために
long A = 3000;
long B = 2000;
int C = 300;
float X = (float)((A-B)/C));
結果を3.33333....と表示したいのですが
デバックで見たところ3と切り捨てられていたのですが
キチンと小数点以下も反映できますか？

2009/08/14(Fri) 16:24:43 編集(投稿者)

■No39847 (Key さん) に返信
> ある値Xを求めるために
> long A = 3000;
> long B = 2000;
> int C = 300;
> float X = (float)((A-B)/C));
> 結果を3.33333....と表示したいのですが
> デバックで見たところ3と切り捨てられていたのですが

intで結果が出たあとでfloatにキャストしても時すでに遅し。
[追記]↑longのマチガイ。ｻｰｾﾝ

> キチンと小数点以下も反映できますか？

たとえば
float X = (float)(A-B)/C;

> float X = (float)((A-B)/C));

(A-B)/C の計算を long で実施して（この時点の結果はlongなので「３」）
それを float にして（「３」をfloatにしても「３」）Xに代入してます。

float X = ( (float) (A-B) ) / (float) C;

で「３．３３３３…」になります。

時には過去に立ち返るのも悪くないと思うんだ、うん。
http://bbs.wankuma.com/index.cgi?mode=al2&namber=39376#17

■No39847 (Key さん) に返信
> long A = 3000;
> long B = 2000;
> int C = 300;
> float X = (float)((A-B)/C));
括弧の対応がおかしいような…。

> デバックで見たところ
デバッ「グ」かな。＜ Debug

> 3と切り捨てられていたのですが
string s1 = (A - B).GetType().FullName;
を実行してみると分かりますが、「A - B」の結果は、long 型(System.Int64型)です。

そして、「long / int」の結果は、long となります。
string s2 = ((A - B) / C).GetType().FullName;

そのため、演算結果に小数部は存在しません。
それを後から float にキャストしても、小数部は存在しないままです。

> キチンと小数点以下も反映できますか？
「int / int」「long / int」「long / long」などではなく、
「float / float」「decimal / decimal」などにすれば、小数部も得られます。

ですので、(float) へのキャストの位置を変更してみてください。
(または、A～C の各変数を非整数型にしても OK かと)

なお float 型の場合、内部的には 2 進小数で管理されています。

0.5、0.25、0.75、0.125 といった値であれば、誤差無く保持できますが、
0.1、0.3、0.7、0.01 といった値は、微妙な誤差を含む可能性がある点に注意してください。

# やっぱ、επιστημηさんとカブったか…
# 急いで打ちこんだのに(笑)

ありがとうございました。
キャストが計算した値全体におこるものだと思っていました。

> キャストが計算した値全体におこるものだと思っていました。

そうですよ?
((A-B)/C) によって計算結果が long で求まり、
それをfloatにキャストしたんです。

■No39895 (επιστημη さん) に返信
>>キャストが計算した値全体におこるものだと思っていました。
>
> そうですよ?
> ((A-B)/C) によって計算結果が long で求まり、
> それをfloatにキャストしたんです。
>
>

ん～、多分、

(float)((A-B)/C)
と
((float)A-(float)B)/(float)C

が、等しいと考えていた、という意味かと。

ですね。

> (float)((A-B)/C)

これは

long A = 3000;
long B = 2000;
int C = 300;

ですので、このまま計算すると、

(float)((3000-2000)/300)
(float)( 1000/300 )
(float)(3)　　　　　←整数型の割り算結果は小数点以下切り捨てです。
3.0

となります。
解決策はJitta on the way さんのいうとおり、
割る前にfloat型にする。ことですね。

( (float)1000/(float)300 )= 3.333333
( 1000/300 )= 3
(float)( 1000/300 )= 3.0

> と
> ((float)A-(float)B)/(float)C
>
> が、等しいと考えていた、という意味かと。

C# と VB.NET の質問掲示板

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト

Re[6]: 数値の小数点について

過去ログには書き込み不可