js中精度丢失问题

Posted on

JavaScript 精度丢失问题通常指的是浮点数精度丢失的情况，这是由于 JavaScript 中的浮点数采用 IEEE 754 标准表示，而该标准无法准确表示一些十进制小数。这可能导致在进行浮点数运算时出现意外的结果或精度损失。

0.1 + 0.2 // 返回0.30000000000000004

这种情况的出现是因为 0.1 和 0.2 的二进制表示无法精确地表示为有限位数的浮点数，因此在进行加法运算时会产生微小的误差。

为了解决 JavaScript 中的精度丢失问题，可以采用以下方法之一：

  1. 避免直接比较浮点数：在比较浮点数时，尽量避免直接使用相等运算符（例如 ==），而是使用一个误差范围来比较，例如：
1
2
const epsilon = 0.000001;
Math.abs(0.1 + 0.2 - 0.3) < epsilon; // true

  1. 使用专门的库：一些专门的 JavaScript 库（例如 BigNumber.js）提供了高精度的数学运算，可以避免浮点数精度丢失的问题。

  2. 转换为整数处理：在一些情况下，将浮点数转换为整数处理可以避免精度丢失问题，例如乘以一个适当的倍数后进行整数运算，然后再将结果转换回浮点数。

1
2
3
4
5
6
7
8
9
10
11
12
13
const floatNumber = 0.1 + 0.2;
// 定义一个倍数（可以是 10 的幂，根据需要调整）
const multiplier = 1000000;

// 将浮点数乘以倍数并转换为整数
const integerNumber = Math.round(floatNumber * multiplier);

const result = integerNumber + 12345;

// 将结果再除以相同的倍数来还原为原始的浮点数
const finalResult = result / multiplier;

console.log(finalResult); // 0.300012345
  1. 使用 toFixed()方法：在显示浮点数时，可以使用 toFixed() 方法将浮点数转换为指定小数位数的字符串，以避免精度丢失问题：
1
2
3
const number = 0.1 + 0.2;
const fixedNumber = (0.1 + 0.2).toFixed(2); // 将结果四舍五入到小数点后两位
console.log(fixedNumber); // 输出 "0.30"