C# と VB.NET の質問掲示板

■No85807 (ちゃんころ さん) に返信
> Public Const diele As Single = 8.85418782E-12#
> というのが
> Public Const diele As Single = 0.00000000000885418782
> というのに変わってしまいます。

VB のエディタは、極力、小数表記で記述しようとするためです。
その境目となるのは、おそらく指数部の桁数でしょう。

Double 型リテラルの場合、E+14〜E-16 の範囲は小数表記、その範囲外が指数表記になり、
Single 型リテラルの場合、E+6〜E-8 の範囲が小数表記、その範囲外が指数表記になります。
Decimal 型リテラルはの場合は、すべて小数表記にフォーマットされます。


> どうすれば良いですか？

今回の「8.85418782E-12」という表現からして、有効桁数 9 桁の値を表現したいようですが、
Hongliang さんから指摘のあるとおり、Single 型ではこの精度の値を扱うことはそもそも出来ません。
どう修正すべきかは、求める要件によって変わりますが、有効桁数 9 桁が本当に必要なら、
As Double にするか、As Decimal にする必要があるでしょう。

より正確に言えば、
Double 型の仮数部の幅は、53+1ビット≒15.95 桁分であるのに対し、
Single 型の仮数部の幅は、23+1ビット≒7.225 桁分しかないということです。
ちなみに Decimal 型の場合は 96 ビット幅なので、約 28.89888 桁です。

有効桁数 9 桁の値を Single 型で管理するには有効桁数が不足してしまい、
どうあっても、格納時には近似値に丸められることになるでしょう。

確認のため、「8.85418782E-12」相当の近似値を Single 型で表現してみましょうか。
先に言っておくと、誤差が最小になるのは 3 番です。

《Single のバイナリ表現》
1: 0b00101101000110111100001110110110
2: 0b00101101000110111100001110110111
3: 0b00101101000110111100001110111000
4: 0b00101101000110111100001110111001
5: 0b00101101000110111100001110111010

《上記を 10進小数で表現した値》
1: 0.00000000000885418648122193729932405403815209865570068359375
2: 0.000000000008854187348583675287727601244114339351654052734375
3: 0.000000000008854188215945413276131148450076580047607421875
4: 0.000000000008854189083307151264534695656038820743560791015625
5: 0.00000000000885418995066888925293824286200106143951416015625


ちなみに上記を diele.ToString("R") でラウンドトリップ出力した場合、
1: 8.85418648E-12
2: 8.854187E-12
3: 8.854188E-12
4: 8.854189E-12
5: 8.85419E-12
となります。

いずれも E-8 を下回る指数表現であるため、この場合は自動変換が起こりません。
　Public Const Sample1 As Single = 8.85418648E-12F
　Public Const Sample2 As Single = 8.854187E-12F
　Public Const Sample3 As Single = 8.854188E-12F
　Public Const Sample4 As Single = 8.854189E-12F
　Public Const Sample5 As Single = 8.85419E-12F

もともと扱おうとしていた「8.85418782E-12F」という値は、
2 番と 3 番の間になり、Single の精度では表現しきれません。
そのため、より近い値である 3 番の表記に変換されたということです。
（有効桁数ってそういうものですよね）


> Doubleでも試してみたのですが

同様に、「8.85418782E-12」の Double 値による近似値表現を見てみます。
こちらの場合は、3 番が同一値となります。（格納誤差はありません）


《Double のバイナリ表現》
1: 0b0011110110100011011110000111011011110001011001000110011010111010
2: 0b0011110110100011011110000111011011110001011001000110011010111011
3: 0b0011110110100011011110000111011011110001011001000110011010111100
4: 0b0011110110100011011110000111011011110001011001000110011010111101
5: 0b0011110110100011011110000111011011110001011001000110011010111110

《上記を 10進小数で表現した値》
1: 0.0000000000088541878199999971451928483766392647021092887626991796423681080341339111328125
2: 0.00000000000885418781999999876077998226927144218532939046184537801309488713741302490234375
3: 0.000000000008854187820000000376367116161903619668549492160991576383821666240692138671875
4: 0.00000000000885418782000000199195425005453579715176959386013777475454844534397125244140625
5: 0.0000000000088541878200000036075413839471679746349896955592839731252752244472503662109375

《R 書式によるラウンドトリップ出力》
1: 8.8541878199999971E-12
2: 8.8541878199999988E-12
3: 8.85418782E-12
4: 8.854187820000002E-12
5: 8.8541878200000036E-12


そして先述した通り、Double 型で E-12 の範囲は小数表記されるため、
　Public Const Sample1 As Double = 8.8541878199999971E-12R
　Public Const Sample2 As Double = 8.8541878199999988E-12R
　Public Const Sample3 As Double = 8.85418782E-12R
　Public Const Sample4 As Double = 8.854187820000002E-12R
　Public Const Sample5 As Double = 8.8541878200000036E-12R
と書いても
　Public Const Sample1 As Double = 0.0000000000088541878199999971R
　Public Const Sample2 As Double = 0.0000000000088541878199999988R
　Public Const Sample3 As Double = 0.00000000000885418782R
　Public Const Sample4 As Double = 0.000000000008854187820000002R
　Public Const Sample5 As Double = 0.0000000000088541878200000036R
に変換される結果になりますね。

例えば、以下のコードに関してなのですが

    Private Async Sub NumericUpDown29_ValueChanged(sender As Object, e As EventArgs) Handles NumericUpDown29.ValueChanged

        CType(sender, NumericUpDown).Enabled = False

        Await Task.Run(Sub()

                           Call FileExport()

                       End Sub)

        CType(sender, NumericUpDown).Enabled = True

    End Sub

FileExportは一カ所ではなく複数箇所で出てくるため、
上記のようにすると、
コードが長くなってしまいます。

そのため、



    Private Sub NumericUpDown29_ValueChanged(sender As Object, e As EventArgs) Handles NumericUpDown29.ValueChanged

        CType(sender, NumericUpDown).Enabled = False

	Call FileExportAsync()

        CType(sender, NumericUpDown).Enabled = True

    End Sub



    Private Async Sub FileExportAsync()


        Await Task.Run(Sub()

                           Call FileExport()

                       End Sub)


    End Sub

のようにしたいのですが、

Await Task.Run(Sub()
が終了するまえに、

Call FileExportAsync()
から抜けて
CType(sender, NumericUpDown).Enabled = True
が実行されてしまいます。

それぞれのコードで、毎回、


        Await Task.Run(Sub()


                       End Sub)

を書く必要があるのでしょうか？