如何在小数点后修整零值

问题描述 投票:0回答:5

[当我尝试调试时,我发现:就像我键入]一样>

Dim value As Double
value = 0.90000

然后按Enter,它会自动转换为0.9

不是

为了计算,我绝对需要显示精度

[当我尝试调试时,我发现:就像我键入Dim value作为Double value = 0.90000然后按Enter一样,它会自动转换为0.9,不应该在视觉上将精度保持两倍...

vb6
5个回答
2
投票
如果需要精度,则要使用Currency数据类型。

2
投票
至少有两种表示您的价值的表现。一个是您在屏幕上看到的值-一个字符串-一个是内部表示形式-二进制值。在处理分数值时,这两个值通常不相等,而在不相等的情况下,这是因为它们不可以。

2
投票
您将在屏幕上看到的内容与Double中设置的位数相混淆,以得出该数字。

1
投票
不,它不应该保持精度。二进制浮点值不会保留此信息...并且这样做有点奇怪,因为即使您用一个基数表示该值,即使它用另一基数表示也是如此。

0
投票
您也可以将值输入为

0.9#

。这有助于避免表达式中的隐式强制转换可能截断您期望的精度。在大多数情况下,编译器将不需要此提示,因为浮点字面量默认为Double(实际上,IDE通常会删除#符号,除非该值是整数,例如9#
© www.soinside.com 2019 - 2024. All rights reserved.