a=floor(6/1) b=floor(0.6/0.1)
为什么a产生值6而b产生5?
a
b
将.6转换为IEEE-754 binary64格式时,结果为0.59999999999999997779553950749686919152736663818359375。转换.1时,结果为0.1000000000000000055511151231257827021181583404541015625。他们的商在6以下,所以它的下限是5。
.6
.1