[トピック内 6 記事 (1 - 6 表示)] << 0 >>
■No14080 (とも さん) に返信 > aa = 3.0166666666666666 > bb = aa * 825 > dboug.print bb > bbの結果が2488.7499999999999945 > としたいのですが、少数点以下を指定する関数はあるでしょうか？ どういう意味でしょう? それでは計算が合わないと思いますが…。 3.0166666666666666 * 825 は、 2488.749999999999945 ですよね? 3.01666666666666666 * 825 なら、2488.7499999999999945 ですけれども。 Dim aa As Decimal Dim bb As Decimal aa = 3.01666666666666666D bb = aa * 825D Debug.Print("{0:0.0000000000000000}", bb)
■No14084 (とも さん) に返信 > 自動でbbの値が2488.8になってしまいます。 精度が問題になる場合は、(Double ではなく) Decimal を使うようにしてください。 >>aa = 3.01666666666666666D >>bb = aa * 825D > cc = bb / 29000 ' bbは、2488.749999999999945 Double 型の 29000 ではなく、 Decimal 型の 29000D で割りましょう。 > 結果ccも > 0.858189655まで求めたいのですが。 その程度の桁数であれば、Decimal 型で処理できるかと。 (数十桁以上の計算まで必要な場合は、Decimal でも無理ですが…) 3.01666666666666666 * 825 / 29000 = 0.08581 89655 17241 37912 06896 55172 41379 31034 48275 86206 89655 17241 37931 03448 27586 20689 65517 24137 93103 44827 58620 68965 51724 13793 10344 82758 62068 96551 72413 79310 34482 75862 06896 55172 41379 31034 48275 86206 89655 17241 37931 03448 27586 20689 65517 24137 93103 44827 58620 68965 51724 13793 10344 82758 62068 96551 72413 79310 34482 75862 06896 55172 41379 31034 48275 86206 89655 17241 37931 03448 27586 20689 65517 24137 93103 44827 58620 68965 51724 13793 10344 82758 62068 96551 72413 79310 34482 75862 06896 55172 41379 31034 48275 86206 89655 17241 37931 03448 27586 20689 65517 24137 93103 44827 58620 68965 51724 13793 10344 82758 62068 96551 72413 79310 34482 75862 06896 55172 41379 31034 48275 86206 89655 17241 37931 03448 27586 20689 65517 24137 93103 44827 58620 68965 51724 13793 10344 82758 62068 96551 72413 79310 34482 75862 06896 55172 41379 31034 48275 86206 89655 17241 37931 03448 27586 20689 65517 24137 93103 44827 58620 68965 51724 13793 10344 82758 62068 96551 72413 79310 34482 75862 06896 55172 41379 31034 48275 86206 89655 17241 37931 03448 27586 20689 65517 24137 93103 44827 58620 68965 51724 13793 10344 82758 62068 96551 72413 79310 34482 75862 (以下略)
管理者用
- Child Tree -