浮点值编程缺乏精度

在不同的编程语言中，浮点值编程缺乏精度是一个已知的问题。Javascript是使用浮点值进行数学运算时遇到问题的一种。这种问题主要是由于这些编程语言实现的浮点数的内存二进制表示。

让我们希望编程语言、编译器、硬件开发人员和工程师能够一次性解决这些问题，至少解决1024个浮点数字。。。也许这将足以让99.999%的其他开发人员在下一个世纪的编程中感到安心。。。

一种可能的解决方案：转换为整数，计算，然后返回

一种可能的解决方案是将浮点数转换为整数，执行计算，然后将结果转换回浮点数。这似乎在大多数时候都有效。原则上：

函数测试（）{变量x=0.1*0.2；//原始方法变量y=（（0.1*10）*（0.2*10））/100；//可行的解决方案document.write（x+'<br>'+y）；}测试（）；

当然，在需要的情况下，可以相应地调整功能，例如：

函数测试（）{变量x=0.12*0.23；//原始方法变量y=（（0.12*100）*（0.23*100））/10000；//可行的解决方案document.write（x+'<br>'+y）；}测试（）；

它也可以是自动化的：

函数myToInt（v）{设i=1；设r；而（r%1！=0）{i=i*10；r=v*i；}返回[r，i]；}函数测试（）{设x=0.11111111；设y=0.22222222；设a=x*y；//原始方法[x，i]=myToInt（x）；[y，j]=myToInt（y）；设d=i*j；设b=x*y/d；//另一种可行的解决方案console.log（a+'\n'+b）document.write（a+'<br>'+b）；}测试（）；

考虑到这一点，我们可以这样做：

函数myToInt（v）{设i=1；设r；而（r%1！=0）{i=i*10；r=v*i；}返回[r，i]；}函数测试（）{设x=14898设y=10.8设z=100设a=x*y/z；//原始方法[y，i]=myToInt（y）；设b=（x*y）/（z*i）；//另一种可行的解决方案console.log（a+'\n'+b）document.write（a+'<br>'+b）；}测试（）；

你只需要决定你实际想要多少个小数位数-不能既吃蛋糕又吃蛋糕：-）

随着每一次进一步的操作，数值误差都会累积，如果你不及早切断它，它只会增长。数值库显示的结果看起来很干净，只需在每一步中删除最后2位数字，数值协处理器也有“正常”和“完整”长度，原因相同。对于一个处理器来说，截断是便宜的，但对于脚本（乘法、除法和使用pov（…））来说非常昂贵。好的数学库将提供floor（x，n）来为您进行截断。

因此，至少您应该使用pov（10，n）使全局var/常量-这意味着您决定了所需的精度：-）然后执行：

Math.floor(x*PREC_LIM)/PREC_LIM  // floor - you are cutting off, not rounding

你也可以继续做数学运算，只在最后截止——假设你只显示结果而不做if-s。如果你能做到这一点，那么.toFixed（…）可能会更有效率。

如果您正在进行If-s/比较，并且不想截断，那么还需要一个小常数，通常称为eps，它比最大预期误差高一个小数位。假设你的截止值是最后两位小数，那么你的eps在倒数第三位（第三位最不重要）有1，你可以用它来比较结果是否在预期的eps范围内（0.02-eps<0.1*0.2<0.02+eps）。

phpjs.org中的round（）函数工作得很好：http://phpjs.org/functions/round

num = .01 + .06;  // yields 0.0699999999999
rnum = round(num,12); // yields 0.07

使用以下功能输出：

var toFixedCurrency = function(num){
    var num = (num).toString();
    var one = new RegExp(/\.\d{1}$/).test(num);
    var two = new RegExp(/\.\d{2,}/).test(num);
    var result = null;

    if(one){ result = num.replace(/\.(\d{1})$/, '.$10');
    } else if(two){ result = num.replace(/\.(\d{2})\d*/, '.$1');
    } else { result = num*100; }

    return result;
}

function test(){
    var x = 0.1 * 0.2;
    document.write(toFixedCurrency(x));
}

test();

注意FixedCurrency（x）的输出。

我的回答可能会迟到，但我的解决方案是：

函数浮点（方程式，精度=9）{return Math.floor（公式*（10**精度））/（10**精确度）；}console.log（浮点（0.1*0.2））；//=>0.02console.log（浮点（0.2+0.4））；//=>0.6console.log（浮点（1/3））；//=>0.333333333console.log（浮点（1/3，2））；//=>0.33

首先将两个数字都设为整数，执行表达式，然后对结果进行除法运算，以返回小数点：

function evalMathematicalExpression(a, b, op) {
    const smallest = String(a < b ? a : b);
    const factor = smallest.length - smallest.indexOf('.');

    for (let i = 0; i < factor; i++) {
        b *= 10;
        a *= 10;
    }

    a = Math.round(a);
    b = Math.round(b);
    const m = 10 ** factor;
    switch (op) {
        case '+':
            return (a + b) / m;
        case '-':
            return (a - b) / m;
        case '*':
            return (a * b) / (m ** 2);
        case '/':
            return a / b;
    }

    throw `Unknown operator ${op}`;
}

几个操作的结果（排除的数字是eval的结果）：

0.1 + 0.002   = 0.102 (0.10200000000000001)
53 + 1000     = 1053 (1053)
0.1 - 0.3     = -0.2 (-0.19999999999999998)
53 - -1000    = 1053 (1053)
0.3 * 0.0003  = 0.00009 (0.00008999999999999999)
100 * 25      = 2500 (2500)
0.9 / 0.03    = 30 (30.000000000000004)
100 / 50      = 2 (2)