我有以下虚拟测试脚本：
函数测试（）{变量x=0.1*0.2；document.write（x）；}测试（）；
这将打印结果0.020000000000000004，而它应该只打印0.02（如果您使用计算器）。据我所知，这是由于浮点乘法精度的错误。
有没有人有一个好的解决方案，在这种情况下，我得到了正确的结果0.02？我知道还有一些函数，比如toFixed或舍入，这是另一种可能，但我真的希望在不进行任何切割和舍入的情况下打印整个数字。我只是想知道你们中的一个人是否有一些好的、优雅的解决方案。
当然，否则我会舍入到10位数左右。
当前回答
从我的角度来看，这里的想法是将fp数舍入，以便获得一个漂亮/简短的默认字符串表示。
53位有效位精度提供15到17位有效小数位数精度（2−53≈1.11×10−16）。如果具有最多15个有效数字的十进制字符串被转换为IEEE 754双精度表示，然后转换回具有相同位数的十进制字符串，最终结果应与原始字符串匹配。如果IEEE 754双精度数字被转换为具有至少17个有效数字的十进制字符串，然后转换回双精度表示，最终结果必须与原始数字匹配。...由于分数（F）有效位的52位出现在内存格式中，因此总精度为53位（约16位小数，53 log10（2）≈15.955）。。。维基百科
(0.1).toPrecision(100) ->
0.1000000000000000055511151231257827021181583404541015625000000000000000000000000000000000000000000000
(0.1+0.2).toPrecision(100) ->
0.3000000000000000444089209850062616169452667236328125000000000000000000000000000000000000000000000000
然后，据我所知，我们可以将值四舍五入到15位，以保持良好的字符串表示。
10**Math.floor(53 * Math.log10(2)) // 1e15
eg.
Math.round((0.2+0.1) * 1e15 ) / 1e15
0.3
(Math.round((0.2+0.1) * 1e15 ) / 1e15).toPrecision(100)
0.2999999999999999888977697537484345957636833190917968750000000000000000000000000000000000000000000000
功能如下：
function roundNumberToHaveANiceDefaultStringRepresentation(num) {
const integerDigits = Math.floor(Math.log10(Math.abs(num))+1);
const mult = 10**(15-integerDigits); // also consider integer digits
return Math.round(num * mult) / mult;
}
其他回答
从我的角度来看，这里的想法是将fp数舍入，以便获得一个漂亮/简短的默认字符串表示。
53位有效位精度提供15到17位有效小数位数精度（2−53≈1.11×10−16）。如果具有最多15个有效数字的十进制字符串被转换为IEEE 754双精度表示，然后转换回具有相同位数的十进制字符串，最终结果应与原始字符串匹配。如果IEEE 754双精度数字被转换为具有至少17个有效数字的十进制字符串，然后转换回双精度表示，最终结果必须与原始数字匹配。...由于分数（F）有效位的52位出现在内存格式中，因此总精度为53位（约16位小数，53 log10（2）≈15.955）。。。维基百科
(0.1).toPrecision(100) ->
0.1000000000000000055511151231257827021181583404541015625000000000000000000000000000000000000000000000
(0.1+0.2).toPrecision(100) ->
0.3000000000000000444089209850062616169452667236328125000000000000000000000000000000000000000000000000
然后，据我所知，我们可以将值四舍五入到15位，以保持良好的字符串表示。
10**Math.floor(53 * Math.log10(2)) // 1e15
eg.
Math.round((0.2+0.1) * 1e15 ) / 1e15
0.3
(Math.round((0.2+0.1) * 1e15 ) / 1e15).toPrecision(100)
0.2999999999999999888977697537484345957636833190917968750000000000000000000000000000000000000000000000
功能如下：
function roundNumberToHaveANiceDefaultStringRepresentation(num) {
const integerDigits = Math.floor(Math.log10(Math.abs(num))+1);
const mult = 10**(15-integerDigits); // also consider integer digits
return Math.round(num * mult) / mult;
}
我有一个变通办法。例如，仅与10E^x相乘不适用于1.1。
function sum(a,b){
var tabA = (a + "").split(".");
var tabB = (b + "").split(".");
decA = tabA.length>1?tabA[1].length:0;
decB = tabB.length>1?tabB[1].length:0;
a = (tabA[0]+tabA[1])*1.0;
b = (tabB[0]+tabB[1])*1.0;
var diff = decA-decB;
if(diff >0){
//a has more decimals than b
b=b*Math.pow(10,diff);
return (a+b)/Math.pow(10,decA);
}else if (diff<0){
//a has more decimals than b
a=a*Math.pow(10,-diff);
return (a+b)/Math.pow(10,decB);
}else{
return (a+b)/Math.pow(10,decA);
}
}
可怕但有效：）
当添加两个浮点值时，它永远不会给出精确的值，因此我们需要将其固定为有助于我们进行比较的某个数字。
console.log（（parseFloat（0.1）+parseFlat（0.2））.toFixed（1）==parseFloat（0.3）.toFixed（1））；
我找不到使用内置的Number.EPSILON来解决这类问题的解决方案，因此我的解决方案如下：
function round(value, precision) {
const power = Math.pow(10, precision)
return Math.round((value*power)+(Number.EPSILON*power)) / power
}
这使用1和大于1的最小浮点数之间的已知最小差值来修正EPSILON舍入误差，结果仅比舍入阈值低一个EPSILON。
64位浮点的最大精度为15，32位浮点的最高精度为6。您的javascript可能是64位。
您可以使用正则表达式检查数字是否以0的长字符串结尾，后跟一个小余数：
// using max number of 0s = 8, maximum remainder = 4 digits
x = 0.1048000000000051
parseFloat(x.toString().replace(/(\.[\d]+[1-9])0{8,}[1-9]{0,4}/, '$1'), 10)
// = 0.1048
