如何处理JavaScript中的浮点数精度？

我有以下虚拟测试脚本：

函数测试（）{变量x=0.1*0.2；document.write（x）；}测试（）；

这将打印结果0.020000000000000004，而它应该只打印0.02（如果您使用计算器）。据我所知，这是由于浮点乘法精度的错误。

有没有人有一个好的解决方案，在这种情况下，我得到了正确的结果0.02？我知道还有一些函数，比如toFixed或舍入，这是另一种可能，但我真的希望在不进行任何切割和舍入的情况下打印整个数字。我只是想知道你们中的一个人是否有一些好的、优雅的解决方案。

当然，否则我会舍入到10位数左右。

当前回答

我找不到使用内置的Number.EPSILON来解决这类问题的解决方案，因此我的解决方案如下：

function round(value, precision) {
  const power = Math.pow(10, precision)
  return Math.round((value*power)+(Number.EPSILON*power)) / power
}

这使用1和大于1的最小浮点数之间的已知最小差值来修正EPSILON舍入误差，结果仅比舍入阈值低一个EPSILON。

64位浮点的最大精度为15，32位浮点的最高精度为6。您的javascript可能是64位。

其他回答

当添加两个浮点值时，它永远不会给出精确的值，因此我们需要将其固定为有助于我们进行比较的某个数字。

console.log（（parseFloat（0.1）+parseFlat（0.2））.toFixed（1）==parseFloat（0.3）.toFixed（1））；

Use

var x = 0.1*0.2;
 x =Math.round(x*Math.pow(10,2))/Math.pow(10,2);

如果需要进行任意精度浮点计算，可以使用我的NPM库gmp-wasm，它基于gmp+MPFR库。您可以轻松设置所需的任何精度，并以固定精度返回结果。

我通常用这样的东西。

function pf(n) {
    return Math.round(n * 1e15) / 1e15;
}

我并不认为这在任何方面都是最佳的，但我喜欢它的简单性。它将数字四舍五入到小数点后15位左右。我没有看到它返回不准确的浮点数，但奇怪的是，当我在末尾使用*1e-15时，它已经这样做了，但没有使用这种方法。

这种解决方案可能更适合于随意使用，而不是精确的数学使用，因为精确错误会扰乱代码。

您得到的结果是正确的，并且在不同语言、处理器和操作系统中的浮点实现之间相当一致——唯一改变的是当浮点实际上是双倍（或更高）时的不准确程度。

二进制浮点中的0.1与十进制中的1/3相似（即永远为0.333333333333333…），只是没有准确的方法来处理它。

如果您处理的是浮点数，那么总是会出现小的舍入误差，因此您也必须将显示的结果舍入到合理的值。作为回报，您可以得到非常快速和强大的算法，因为所有计算都是在处理器的本地二进制中进行的。

大多数情况下，解决方案不是切换到定点运算，主要是因为它速度慢得多，99%的时间你不需要精度。如果你处理的东西确实需要这样的准确性（例如金融交易），那么无论如何，Javascript可能不是最好的工具（因为你想要强制执行定点类型，静态语言可能更好）。

您正在寻找一个优雅的解决方案，但恐怕就是这样：浮点运算速度很快，但舍入误差很小-在显示结果时总是舍入到合理的值。

推荐文章