我正在objective-c中进行计算,由于双精度值未返回准确值,因此我的结果不匹配小数点后的位数。
例如我将314除以100。在理想情况下,314/100应该为3.14,但我得到的是3.140000000001,在某些情况下,结果是3.139999999999。由于一种计算的结果用于另一种计算,因此最终结果不正确。我什至尝试使用float,但是精度甚至更低。
有什么可以做的,还是我在这里干的事。请帮忙。在此先感谢
我在Objective-C中进行计算,由于双精度值未返回精确值,因此我的结果与小数位数不匹配。例如。我将314除以100。在理想情况下,314/100应该...
您可能想参考这篇较早的文章,并尝试使用这些NSNumber方法之一