浮点值编程缺乏精度

在不同的编程语言中，浮点值编程缺乏精度是一个已知的问题。Javascript是使用浮点值进行数学运算时遇到问题的一种。这种问题主要是由于这些编程语言实现的浮点数的内存二进制表示。

让我们希望编程语言、编译器、硬件开发人员和工程师能够一次性解决这些问题，至少解决1024个浮点数字。。。也许这将足以让99.999%的其他开发人员在下一个世纪的编程中感到安心。。。

一种可能的解决方案：转换为整数，计算，然后返回

一种可能的解决方案是将浮点数转换为整数，执行计算，然后将结果转换回浮点数。这似乎在大多数时候都有效。原则上：

函数测试（）{变量x=0.1*0.2；//原始方法变量y=（（0.1*10）*（0.2*10））/100；//可行的解决方案document.write（x+'<br>'+y）；}测试（）；

当然，在需要的情况下，可以相应地调整功能，例如：

函数测试（）{变量x=0.12*0.23；//原始方法变量y=（（0.12*100）*（0.23*100））/10000；//可行的解决方案document.write（x+'<br>'+y）；}测试（）；

它也可以是自动化的：

函数myToInt（v）{设i=1；设r；而（r%1！=0）{i=i*10；r=v*i；}返回[r，i]；}函数测试（）{设x=0.11111111；设y=0.22222222；设a=x*y；//原始方法[x，i]=myToInt（x）；[y，j]=myToInt（y）；设d=i*j；设b=x*y/d；//另一种可行的解决方案console.log（a+'\n'+b）document.write（a+'<br>'+b）；}测试（）；

考虑到这一点，我们可以这样做：

函数myToInt（v）{设i=1；设r；而（r%1！=0）{i=i*10；r=v*i；}返回[r，i]；}函数测试（）{设x=14898设y=10.8设z=100设a=x*y/z；//原始方法[y，i]=myToInt（y）；设b=（x*y）/（z*i）；//另一种可行的解决方案console.log（a+'\n'+b）document.write（a+'<br>'+b）；}测试（）；

如果需要进行任意精度浮点计算，可以使用我的NPM库gmp-wasm，它基于gmp+MPFR库。您可以轻松设置所需的任何精度，并以固定精度返回结果。

<script src=“https://cdn.jsdelivr.net/npm/gmp-wasm“></script><脚本>gmp.init（）.then（（｛getContext｝）=>{const ctx=getContext（｛precisionBits:100｝）；常量结果=ctx.Float（'0.1'）.mul（ctx.Flat（'0.2'））；document.write（`0.1*0.2=`+result.toFixed（2））；ctx.destroy（）；});</script>

您正在寻找JavaScript的sprintf实现，这样您就可以以期望的格式写出带有小错误的浮点数（因为它们是以二进制格式存储的）。

试试javascript sprintf，你可以这样称呼它：

var yourString = sprintf("%.2f", yourNumber);

将数字打印为带有两个小数点的浮点数。

如果您不希望仅为浮点舍入到给定精度而包含更多文件，也可以使用Number.toFixed（）进行显示。

不优雅，但能完成任务（删除尾随零）

var num = 0.1*0.2;
alert(parseFloat(num.toFixed(10))); // shows 0.02

我通常用这样的东西。

function pf(n) {
    return Math.round(n * 1e15) / 1e15;
}

我并不认为这在任何方面都是最佳的，但我喜欢它的简单性。它将数字四舍五入到小数点后15位左右。我没有看到它返回不准确的浮点数，但奇怪的是，当我在末尾使用*1e-15时，它已经这样做了，但没有使用这种方法。

这种解决方案可能更适合于随意使用，而不是精确的数学使用，因为精确错误会扰乱代码。

看看固定点算法。如果你想操作的数字范围很小（例如货币），它可能会解决你的问题。我会将其舍入为几个十进制值，这是最简单的解决方案。