浮点值编程缺乏精度

在不同的编程语言中，浮点值编程缺乏精度是一个已知的问题。Javascript是使用浮点值进行数学运算时遇到问题的一种。这种问题主要是由于这些编程语言实现的浮点数的内存二进制表示。

让我们希望编程语言、编译器、硬件开发人员和工程师能够一次性解决这些问题，至少解决1024个浮点数字。。。也许这将足以让99.999%的其他开发人员在下一个世纪的编程中感到安心。。。

一种可能的解决方案：转换为整数，计算，然后返回

一种可能的解决方案是将浮点数转换为整数，执行计算，然后将结果转换回浮点数。这似乎在大多数时候都有效。原则上：

函数测试（）{变量x=0.1*0.2；//原始方法变量y=（（0.1*10）*（0.2*10））/100；//可行的解决方案document.write（x+'<br>'+y）；}测试（）；

当然，在需要的情况下，可以相应地调整功能，例如：

函数测试（）{变量x=0.12*0.23；//原始方法变量y=（（0.12*100）*（0.23*100））/10000；//可行的解决方案document.write（x+'<br>'+y）；}测试（）；

它也可以是自动化的：

函数myToInt（v）{设i=1；设r；而（r%1！=0）{i=i*10；r=v*i；}返回[r，i]；}函数测试（）{设x=0.11111111；设y=0.22222222；设a=x*y；//原始方法[x，i]=myToInt（x）；[y，j]=myToInt（y）；设d=i*j；设b=x*y/d；//另一种可行的解决方案console.log（a+'\n'+b）document.write（a+'<br>'+b）；}测试（）；

考虑到这一点，我们可以这样做：

函数myToInt（v）{设i=1；设r；而（r%1！=0）{i=i*10；r=v*i；}返回[r，i]；}函数测试（）{设x=14898设y=10.8设z=100设a=x*y/z；//原始方法[y，i]=myToInt（y）；设b=（x*y）/（z*i）；//另一种可行的解决方案console.log（a+'\n'+b）document.write（a+'<br>'+b）；}测试（）；

你是对的，原因是浮点数的精度有限。将有理数存储为两个整数的除法，在大多数情况下，您可以存储数字而不损失任何精度。在打印时，您可能希望将结果显示为分数。有了我提出的表示法，它就变得微不足道了。

当然，这对非理性数字没有太大帮助。但您可能希望优化您的计算，使其产生的问题最少（例如，检测sqrt（3）^2等情况）。

问题

浮点不能精确存储所有十进制值。因此，当使用浮点格式时，输入值将始终存在舍入错误。输入端的错误当然会导致输出端的错误。在离散函数或运算符的情况下，函数或运算符离散的点附近的输出可能存在很大差异。

浮点值的输入和输出

因此，在使用浮点变量时，您应该始终注意这一点。并且，在显示之前，无论您希望从带有浮点的计算中获得什么输出，都应该在显示之前进行格式化/调整。当只使用连续函数和运算符时，舍入到所需的精度通常是可行的（不要截断）。用于将浮点数转换为字符串的标准格式功能通常会为您提供这一功能。由于舍入增加了一个误差，该误差可能导致总误差超过所需精度的一半，因此应根据输入的预期精度和输出的预期精度对输出进行校正。你应该

将输入舍入到预期精度，或确保不能输入精度更高的值。在舍入/格式化输出之前，为输出添加一个小值，该值小于或等于所需精度的1/4，并且大于输入和计算期间舍入误差导致的最大预期误差。如果不可能，则所用数据类型的精度组合不足以为计算提供所需的输出精度。

这两件事通常都没有做，在大多数情况下，不做它们所造成的差异太小，对大多数用户来说都不重要，但我已经有了一个项目，如果没有这些更正，输出不会被用户接受。

离散函数或运算符（如模）

当涉及离散运算符或函数时，可能需要额外的校正以确保输出符合预期。舍入和在舍入之前添加小的修正并不能解决这个问题。应用离散函数或运算符后，可能需要立即对中间计算结果进行特殊检查/校正。对于特定的情况（模运算符），请参阅我对问题的回答：为什么模运算符在javascript中返回小数？

最好避免出现问题

通过使用数据类型（整数或定点格式）进行这样的计算，通常可以更有效地避免这些问题，这样可以存储预期的输入，而不会出现舍入误差。这方面的一个例子是，您永远不应该在财务计算中使用浮点值。

令人惊讶的是，这个函数还没有发布，尽管其他函数也有类似的变体。它来自MDN web docs for Math.rround（）。它简洁，允许不同的精度。

function precisionRound(number, precision) {
    var factor = Math.pow(10, precision);
    return Math.round(number * factor) / factor;
}

console.log(precisionRound(1234.5678, 1));
// expected output: 1234.6

console.log(precisionRound(1234.5678, -1));
// expected output: 1230

var inp=document.querySelectorAll（'input'）；var btn=document.querySelector（'按钮'）；btn.onclick=函数（）{inp[2].value=precisionRound（parseFloat（inp[0].value）*parseFlat（inp[1].value，5）；};//MDN功能函数精度Round（数字，精度）{var因子=数学功率（10，精度）；return数学舍入（number*factor）/factor；}按钮{显示：块；}<输入类型=“文本”值=“0.1”><输入类型=“文本”值=“0.2”><button>获取产品</button><input-type='text'>

更新日期：2019年8月20日

刚刚注意到这个错误。我认为这是由于Math.rround（）的浮点精度错误造成的。

precisionRound(1.005, 2) // produces 1, incorrect, should be 1.01

这些条件正常工作：

precisionRound(0.005, 2) // produces 0.01
precisionRound(1.0005, 3) // produces 1.001
precisionRound(1234.5, 0) // produces 1235
precisionRound(1234.5, -1) // produces 1230

Fix:

function precisionRoundMod(number, precision) {
  var factor = Math.pow(10, precision);
  var n = precision < 0 ? number : 0.01 / factor + number;
  return Math.round( n * factor) / factor;
}

这只是在舍入小数时向右加一个数字。MDN已经更新了Math.rround（）页面，所以也许有人可以提供更好的解决方案。

首先将两个数字都设为整数，执行表达式，然后对结果进行除法运算，以返回小数点：

function evalMathematicalExpression(a, b, op) {
    const smallest = String(a < b ? a : b);
    const factor = smallest.length - smallest.indexOf('.');

    for (let i = 0; i < factor; i++) {
        b *= 10;
        a *= 10;
    }

    a = Math.round(a);
    b = Math.round(b);
    const m = 10 ** factor;
    switch (op) {
        case '+':
            return (a + b) / m;
        case '-':
            return (a - b) / m;
        case '*':
            return (a * b) / (m ** 2);
        case '/':
            return a / b;
    }

    throw `Unknown operator ${op}`;
}

几个操作的结果（排除的数字是eval的结果）：

0.1 + 0.002   = 0.102 (0.10200000000000001)
53 + 1000     = 1053 (1053)
0.1 - 0.3     = -0.2 (-0.19999999999999998)
53 - -1000    = 1053 (1053)
0.3 * 0.0003  = 0.00009 (0.00008999999999999999)
100 * 25      = 2500 (2500)
0.9 / 0.03    = 30 (30.000000000000004)
100 / 50      = 2 (2)

看看固定点算法。如果你想操作的数字范围很小（例如货币），它可能会解决你的问题。我会将其舍入为几个十进制值，这是最简单的解决方案。