我有以下虚拟测试脚本:

函数测试(){变量x=0.1*0.2;document.write(x);}测试();

这将打印结果0.020000000000000004,而它应该只打印0.02(如果您使用计算器)。据我所知,这是由于浮点乘法精度的错误。

有没有人有一个好的解决方案,在这种情况下,我得到了正确的结果0.02?我知道还有一些函数,比如toFixed或舍入,这是另一种可能,但我真的希望在不进行任何切割和舍入的情况下打印整个数字。我只是想知道你们中的一个人是否有一些好的、优雅的解决方案。

当然,否则我会舍入到10位数左右。


当前回答

您可以使用正则表达式检查数字是否以0的长字符串结尾,后跟一个小余数:

// using max number of 0s = 8, maximum remainder = 4 digits
x = 0.1048000000000051
parseFloat(x.toString().replace(/(\.[\d]+[1-9])0{8,}[1-9]{0,4}/, '$1'), 10)
// = 0.1048

其他回答

使用编号(1.234443)。至固定(2);它将打印1.23

function test(){
    var x = 0.1 * 0.2;
    document.write(Number(x).toFixed(2));
}
test();

我发现BigNumber.js符合我的需求。

用于任意精度十进制和非十进制算术的JavaScript库。

它有很好的文档记录,作者对反馈非常认真。

同一作者还有其他两个类似的库:

Big.js

一个用于任意精度十进制运算的小型快速JavaScript库。bignumber.js的小妹妹。

和Decimal.js

JavaScript的任意精度Decimal类型。

下面是一些使用BigNumber的代码:

$(函数){var product=BigNumber(.1).times(.2);$('#product').text(product);var sum=BigNumber(.1).加号(.2);$('#sum').text(sum);});<script src=“https://ajax.googleapis.com/ajax/libs/jquery/1.11.1/jquery.min.js“></script><!-- 1.4.1不是当前版本,但适用于本示例。--><script src=“http://cdn.bootcss.com/bignumber.js/1.4.1/bignumber.min.js“></script>.1&次。2=<span id=“product”></span><br>.1加上。2=<span id=“sum”></span><br>

您得到的结果是正确的,并且在不同语言、处理器和操作系统中的浮点实现之间相当一致——唯一改变的是当浮点实际上是双倍(或更高)时的不准确程度。

二进制浮点中的0.1与十进制中的1/3相似(即永远为0.333333333333333…),只是没有准确的方法来处理它。

如果您处理的是浮点数,那么总是会出现小的舍入误差,因此您也必须将显示的结果舍入到合理的值。作为回报,您可以得到非常快速和强大的算法,因为所有计算都是在处理器的本地二进制中进行的。

大多数情况下,解决方案不是切换到定点运算,主要是因为它速度慢得多,99%的时间你不需要精度。如果你处理的东西确实需要这样的准确性(例如金融交易),那么无论如何,Javascript可能不是最好的工具(因为你想要强制执行定点类型,静态语言可能更好)。

您正在寻找一个优雅的解决方案,但恐怕就是这样:浮点运算速度很快,但舍入误差很小-在显示结果时总是舍入到合理的值。

我的回答可能会迟到,但我的解决方案是:

函数浮点(方程式,精度=9){return Math.floor(公式*(10**精度))/(10**精确度);}console.log(浮点(0.1*0.2));//=>0.02console.log(浮点(0.2+0.4));//=>0.6console.log(浮点(1/3));//=>0.333333333console.log(浮点(1/3,2));//=>0.33

问题

浮点不能精确存储所有十进制值。因此,当使用浮点格式时,输入值将始终存在舍入错误。输入端的错误当然会导致输出端的错误。在离散函数或运算符的情况下,函数或运算符离散的点附近的输出可能存在很大差异。

浮点值的输入和输出

因此,在使用浮点变量时,您应该始终注意这一点。并且,在显示之前,无论您希望从带有浮点的计算中获得什么输出,都应该在显示之前进行格式化/调整。当只使用连续函数和运算符时,舍入到所需的精度通常是可行的(不要截断)。用于将浮点数转换为字符串的标准格式功能通常会为您提供这一功能。由于舍入增加了一个误差,该误差可能导致总误差超过所需精度的一半,因此应根据输入的预期精度和输出的预期精度对输出进行校正。你应该

将输入舍入到预期精度,或确保不能输入精度更高的值。在舍入/格式化输出之前,为输出添加一个小值,该值小于或等于所需精度的1/4,并且大于输入和计算期间舍入误差导致的最大预期误差。如果不可能,则所用数据类型的精度组合不足以为计算提供所需的输出精度。

这两件事通常都没有做,在大多数情况下,不做它们所造成的差异太小,对大多数用户来说都不重要,但我已经有了一个项目,如果没有这些更正,输出不会被用户接受。

离散函数或运算符(如模)

当涉及离散运算符或函数时,可能需要额外的校正以确保输出符合预期。舍入和在舍入之前添加小的修正并不能解决这个问题。应用离散函数或运算符后,可能需要立即对中间计算结果进行特殊检查/校正。对于特定的情况(模运算符),请参阅我对问题的回答:为什么模运算符在javascript中返回小数?

最好避免出现问题

通过使用数据类型(整数或定点格式)进行这样的计算,通常可以更有效地避免这些问题,这样可以存储预期的输入,而不会出现舍入误差。这方面的一个例子是,您永远不应该在财务计算中使用浮点值。