保留任意整数位、小数位万能算法

原创已于 2022-02-24 16:30:30 修改 · 497 阅读

0 ·

本内容遵循CC 4.0 BY-SA版权协议

标签

#算法

收录于

于 2022-02-19 12:03:04 首次发布

算法专栏收录该内容

3 篇文章

订阅专栏

本文介绍了一个名为Precision的本地函数，用于四舍五入数值并处理不同精度需求。通过实例展示了如何使用该函数调整小数点后的位数，以解决整数计算中的bug问题。适用于数值处理和精度控制的场景。

local function Precision(value, decimalDigits)
    value = value + 0.000000000001
    decimalDigits = decimalDigits or 0 
    local removed = 0  
    if decimalDigits > 0 then
        removed = value % (1 / (10 ^ decimalDigits))
    elseif decimalDigits < 0 then
        removed = value % (10 ^ -(decimalDigits + 1))
    else
        return value
    end
    return value - removed
end

-- For Example
local value = 89.15487
local result = 0
result = Precision(value) // result = 89.15487
result = Precision(value, 1) // result = 89.1
result = Precision(value, 2) // result = 89.15
result = Precision(value,-1) // result = 89.0
result = Precision(value,-2) // result = 80.0
result = Precision(value,-3) // result = 0.0

修复整数计算错误BUG