C# と VB.NET の質問掲示板

わんくま同盟

ASP.NET、C++/CLI、Java 何でもどうぞ

C# と VB.NET の入門サイト


(過去ログ 57 を表示中)
■32657 / )  Re[3]: べき乗計算の結果
□投稿者/ επιστημη (1702回)-(2009/02/12(Thu) 11:41:00)
επιστημη さんの Web サイト
2009/02/12(Thu) 11:50:39 編集(投稿者)

> じゃあwindowsの電卓とかはどうやって表示してるんでしょうか?
> まぁ、自分でなんとかしとるんでしょうが。

正確な値を表示しているなら、自分でなんとかしとるのでしょう。
内部表現にBCD使ったりとか。あるいは後述する"ごまかし"も考えられます。
なんにせよ無限の桁を表せないかぎり、誤差からは逃れられません。

> 逆に、表示はおかしくても内部で正しい結果を持っているのでしょうか?

無理です。たとえば√2の正しい結果を持つことはできません。
無理数ですから正しい結果の保持には無限のメモリを必要とします。

それに、内部の誤差と表示上の誤差はまた別物。
1を3で割って3倍してぴったり1に戻ったとしても、
適当な丸めをかけて表示しとるかもしれんので。
^^^^^^^^^^^^^^^^^^^^^^
電卓が扱う数値の内部表現として数百桁あったとしても、
表示桁は有限なのでどこかで"ごまかす"しかないわけで。

返信 編集キー/


管理者用

- Child Tree -