math.floor((1.16-1.0)*100) = 15
math.floor(0.16*100) = 16
考虑到可能是lua中数字都是double类型的原因 所以实验了下以下
math.floor(1.9999999999999999) = 2
math.floor(0.9999999999999999) = 1
又疑惑了 为什么判断出这种结果
目前用了规避方式就是做这种运算的时候先保留6位有效数字 然后再做math.floor
本文通过几个具体的示例探讨了Lua语言中使用math.floor进行取整操作时出现的异常现象,并提出了一种可能的解决方案——即在进行取整前先保留六位有效数字。
math.floor((1.16-1.0)*100) = 15
math.floor(0.16*100) = 16
考虑到可能是lua中数字都是double类型的原因 所以实验了下以下
math.floor(1.9999999999999999) = 2
math.floor(0.9999999999999999) = 1
又疑惑了 为什么判断出这种结果
目前用了规避方式就是做这种运算的时候先保留6位有效数字 然后再做math.floor

被折叠的 条评论
为什么被折叠?
